Cómo usar Hugging Face como proxy

Traducido del inglés

How to Use Hugging Face as a Proxy

11

13

¡Este NO es un bot de rol! Este es un tutorial sobre cómo usar Hugging Face como proxy en Janitor. Ten en cuenta que cosas como los Prompts Avanzados o los ajustes de generación no se tratarán en este tutorial, ya que no son el enfoque principal.


Sección 1: ¿Qué es Hugging Face?

Hugging Face es un sitio web que sirve como repositorio de modelos de IA de todo internet. Es similar a OpenRouter en muchos aspectos, aunque está más basado en la comunidad. También permite a los usuarios descargar modelos fácilmente usando Python mediante bibliotecas de código abierto. Como la mayoría de las otras plataformas de modelos de IA, Hugging Face te permite crear tus propias claves (denominadas Access Tokens), que se pueden usar con plataformas de chatbots como Janitor. Los modelos en Hugging Face se pueden usar de forma gratuita (con un límite mensual) o con dinero real.


Sección 2: Tutorial

Ahora, vamos a lo esencial de esta guía: usar Hugging Face como proxy. Hay varios pasos para esto:

  1. Ve a huggingface.co y crea una cuenta. Es posible que necesites verificar tu correo electrónico.

  2. Una vez creada tu cuenta, ve a la configuración de tu cuenta y selecciona "Access Tokens". Aquí es donde se encuentran tus claves API.

  3. Selecciona "Create new token" y crea tu clave. Cópiala y pégala en un lugar seguro, ya que NO podrás volver a verla. Asegúrate de seleccionar "Read" y marcar los permisos para "Make calls to Inference Providers" antes de crearla, ¡de lo contrario puede que no funcione!

  4. Busca un modelo que quieras usar (por ejemplo: DeepSeek), luego selecciónalo.

  5. Inicia sesión en Janitor y abre un chat, luego abre el menú del proveedor (ubicado en la parte superior derecha del chat).

  6. En "Provider", selecciona "Proxy" y haz clic en "+New".

  7. Copia y pega lo siguiente en la URL del proxy: https://router.huggingface.co/v1/chat/completions

  8. En Hugging Face, copia el nombre del modelo que quieres usar y pégalo en el nombre del modelo de tu nuevo proxy.

  9. Pega tu clave API.

  10. Dale un nombre a tu proxy (independiente del nombre del proxy), luego haz clic en "Add". Puedes seleccionar un prompt personalizado si tienes alguno.

  11. Prueba tu nuevo proxy. Si funciona, ¡has hecho todo correctamente! Si devuelve un error, puede que hayas arruinado algo. Si solo da un error de red, intenta recargar la página y probarlo de nuevo.

¡Ahora ya sabes cómo usar Hugging Face como proxy en Janitor!


Sección 3: Coste & Niveles

Hugging Face usa un sistema basado en créditos que es necesario para usar el servicio. Los créditos se pueden obtener gratis o comprándolos con dinero real. A todos los usuarios se les dan créditos gratuitos cada mes que les permiten usar modelos en el sitio sin pagar. Sin embargo, no puedes acumular créditos gratuitos simplemente esperando, ya que se restablecen al principio de cada mes. Por ejemplo, si tienes $0.10 en créditos en tu cuenta y los usas hasta que te queden $0.05, tus créditos se recargan automáticamente hasta $0.10 al inicio del mes siguiente. Si te quedas sin créditos gratuitos, tendrás que esperar a que se restablezca el límite mensual, o comprar más. Actualmente, los créditos solo se pueden comprar con tarjeta de crédito a través de Stripe. El coste del modelo que estés usando puede variar según el proveedor o los proveedores que utilice.

Hugging Face también tiene niveles para las cuentas: Free, PRO, Team y Enterprise, de los cuales los tres últimos tienen más funciones disponibles. Los niveles también determinan cuántos créditos gratuitos recibes al inicio de cada mes. Los usuarios Free reciben $0.10 en créditos al mes, mientras que los usuarios PRO y Team/Enterprise reciben $2 en créditos al mes.


¡Espero que este tutorial te sirva de ayuda! Si tienes alguna pregunta, no dudes en preguntar por ahí. <3

Creado 29 sept

Actualizado 1 oct

Publicado 29 sept

Chats publicados