Janitor
Accueil
Ctrl K
ConnexionS'inscrire

À propos de mes bots et recommandations d'API, et recommandations de paramètres.

Traduit de l’anglais·

About My Bots and API reccomendations, and setting reccomendations.

59

147

by:@YesiniaTheYokai

Bonjour à tous !

Ce n'est pas une mise à jour normale et ce sera le dernier post que je fais avant de finalement publier la prochaine fournée de bots.

En travaillant sur Yang, j'ai pensé à quelque chose :

Certaines personnes ne savent peut-être pas quelles sont les meilleures API à utiliser pour mes bots. Ou quelle est la façon la moins chère d'utiliser les API ?

Je vais y venir maintenant.

Tout d'abord, je ne fais pas de bots pour JLLM. JLLM est sérieusement obsolète pour moi, et je finis toujours par faire des bots à haut nombre de tokens, ce qui tue sérieusement la fenêtre de contexte de JLLM.

Non, ce que j'utilise réellement, c'est un mélange d'API.

-Deepseek est le plus populaire en ce moment mais peut être cher selon la taille du personnage, et les roleplays longs. Avec ça, je recommanderais sérieusement de sauvegarder votre mémoire tous les 12 à 15 messages pour libérer de l'espace. Deepseek est aussi très bon pour les RP conversationnels et classiques.

-J'utilise aussi Grok, principalement, pour le roleplay NSFW. Je trouve qu'il écrit nettement mieux que Deepseek pendant l'ERP, et qu'il est moins répétitif. Cela dit : c'est quand même plus cher à faire tourner.

Mais je trouve qu'un mélange des deux fonctionne bien. J'ai aussi constaté que Grok a tendance à suivre les scripts et les lorebooks mille fois mieux. Deepseek est aussi très inégal, et vieillit.

D'autres API que j'ai utilisées et qui sont de bons remplacements :

Trinity- Je viens de la tester sur Monika, et j'ai trouvé qu'elle écrivait très bien. Et elle est moins chère.

Qwen3 235B A22B Instruct 2507- L'une des options les moins chères, mais qui devient répétitive.

Step 3.5 Flash- Il y avait une version gratuite de celle-ci sur openrouter, mais ils ont tendance à ne pas autoriser le NSFW extrême. Et ils ont tendance à limiter à des moments étranges.

Je n'utilise pas Chatgpt, j'ai remarqué qu'il peut être bon à l'écriture mais qu'il est bien trop cher pour moi. Idem avec GLM 5 (bien qu'il soit parmi les meilleurs pour la censure). En plus, Chatgpt censure à peu près tout.

Paramètres :

Temp : Pour deepseek : .30-.50 (bien que ça puisse devenir un peu "trop" créatif) Pour le reste : 1.0-1.20

Max Tokens : Les miens sont à environ un millier, mais ça dépend vraiment de vous. Je dirai que plus il produit de tokens par message, plus c'est cher.

Taille du contexte : La mienne est au maximum, mais encore une fois, à vous de voir.

Paramètres avancés :

Top K : 80. Ce paramètre réduit les générations absurdes.

Top P : .8-.85. un paramètre d'IA qui contrôle la créativité de la génération de texte en limitant la sélection du mot suivant au plus petit sous-ensemble de mots les mieux classés dont la probabilité cumulée dépasse un seuil

Pénalité de répétition : Environ 1.0-1.20. Cela pénalise l'IA pour avoir répété certains mots trop souvent.

Pénalité de fréquence : 0.4-0.6. réduit la répétition de tokens en appliquant une pénalité proportionnelle au nombre de fois qu'un mot est déjà apparu dans le texte.

Et oui, j'utilise tous ces paramètres de la même façon sur tous les LLM. Sauf pour les paramètres de température.

Je mets généralement 10$ sur Openrouter une fois par mois et ça dure habituellement 4 à 6 semaines, avec cette méthode.

Créé 25 avr.

Mis à jour 25 avr.

Publié 25 avr.

  • Illimité
  • #settings
  • #bot
  • #llm
  • #grok
  • #deepseek
  • #chatgpt

Chats publiés