Janitor
Inicio
Ctrl K
Iniciar sesiónRegistrarse

Sobre mis bots y recomendaciones de API, y recomendaciones de configuración.

Traducido del inglés·

About My Bots and API reccomendations, and setting reccomendations.

59

147

by:@YesiniaTheYokai

¡Hola a todos!

Esto no es una actualización normal y será la última publicación que haga antes de subir finalmente el siguiente lote de bots.

Mientras trabajaba en Yang, pensé en algo:

Puede que algunas personas no sepan cuáles son las mejores APIs para usar con mis bots. ¿O cuál es una forma más económica de usar APIs?

Voy a entrar en ello ahora.

En primer lugar, yo no hago bots para JLLM. JLLM está seriamente desactualizado para mí, y siempre termino haciendo bots de muchos tokens, lo que mata seriamente la ventana de contexto de JLLM.

No, lo que realmente uso es una mezcla de APIs.

-Deepseek es el más popular ahora mismo, pero puede salir caro dependiendo del tamaño del personaje y de los roleplays largos. Con esto, recomendaría seriamente guardar tu memoria cada 12 a 15 mensajes para liberar espacio. Deepseek también es muy bueno para RPs conversacionales y normales.

-También uso Grok, principalmente, para roleplay NSFW. Me parece que escribe significativamente mejor que Deepseek durante el ERP, y es menos repetitivo. Dicho esto: sigue siendo más caro de ejecutar.

Pero me parece que una mezcla de ambos funciona bien. También descubrí que Grok tiende a seguir los scripts y los lorebooks mil veces mejor. Deepseek también es una lotería, y se está quedando viejo.

Otras APIs que he usado que son buenos reemplazos:

Trinity- Esta la acabo de probar con Monika, y me pareció que escribía muy bien. Y es más barata.

Qwen3 235B A22B Instruct 2507- Una de las opciones más baratas, pero se vuelve repetitiva.

Step 3.5 Flash- Había una versión gratuita de esta en openrouter, pero suelen no permitir NSFW extremo. Y suelen limitar la velocidad en momentos extraños.

No uso Chatgpt, me he dado cuenta de que puede ser bueno escribiendo pero es demasiado caro para mí. Lo mismo con GLM 5 (a pesar de ser de los mejores para la censura). Además, Chatgpt censura básicamente todo.

Configuraciones:

Temp: Para deepseek: .30-.50 (aunque, puede volverse un poco "demasiado" creativo) Para el resto: 1.0-1.20

Max Tokens: Tengo el mío en alrededor de mil, pero realmente depende de ti. Diré que cuantos más tokens produce por mensaje, más caro sale.

Tamaño de contexto: El mío está al máximo, pero de nuevo depende de ti.

Configuraciones avanzadas:

Top K: 80. Esta configuración reduce las generaciones sin sentido.

Top P: .8-.85. un parámetro de IA que controla la creatividad de la generación de texto limitando la selección de la siguiente palabra al subconjunto más pequeño de palabras mejor clasificadas cuya probabilidad acumulada supera un umbral

Penalización por repetición: Alrededor de 1.0-1.20. Esto penaliza a la IA por repetir ciertas palabras con demasiada frecuencia.

Penalización por frecuencia: 0.4-0.6. reduce la repetición de tokens aplicando una penalización proporcional a la frecuencia con la que una palabra ya ha aparecido en el texto.

Y sí, uso todas estas configuraciones igual en todos los LLMs. Excepto las configuraciones de temperatura.

Normalmente pongo 10$ en Openrouter una vez al mes y suele durar 4-6 semanas, usando este método.

Creado 25 abr

Actualizado 25 abr

Publicado 25 abr

  • Sin límite
  • #settings
  • #bot
  • #llm
  • #grok
  • #deepseek
  • #chatgpt

Chats publicados