Wie man Hugging Face als Proxy verwendet

Aus dem Englischen übersetzt

How to Use Hugging Face as a Proxy

11

13

Dies ist KEIN Rollenspiel-Bot! Dies ist eine Anleitung, wie man Hugging Face als Proxy auf Janitor verwendet. Bitte beachte, dass Dinge wie Advanced Prompts oder Generierungseinstellungen in dieser Anleitung nicht behandelt werden, da sie nicht im Mittelpunkt stehen.


Abschnitt 1: Was ist Hugging Face?

Hugging Face ist eine Website, die als Repository für KI-Modelle aus dem gesamten Internet dient. Sie ist in vielerlei Hinsicht ähnlich wie OpenRouter, allerdings stärker community-basiert. Außerdem können Nutzer Modelle mithilfe von Open-Source-Bibliotheken einfach über Python herunterladen. Wie die meisten anderen KI-Modellplattformen ermöglicht Hugging Face es dir, eigene Schlüssel zu erstellen (als Access Tokens bezeichnet), die mit Chatbot-Plattformen wie Janitor verwendet werden können. Modelle auf Hugging Face können kostenlos (mit einem monatlichen Limit) oder mit echtem Geld verwendet werden.


Abschnitt 2: Anleitung

Nun zum Kern dieser Anleitung: Hugging Face als Proxy zu verwenden. Dafür gibt es mehrere Schritte:

  1. Gehe zu huggingface.co und erstelle ein Konto. Möglicherweise musst du deine E-Mail-Adresse bestätigen.

  2. Sobald dein Konto erstellt ist, gehe zu deinen Kontoeinstellungen und wähle "Access Tokens". Hier befinden sich deine API-Schlüssel.

  3. Wähle "Create new token" und erstelle deinen Schlüssel. Kopiere ihn und füge ihn an einem sicheren Ort ein, denn du wirst ihn NICHT erneut ansehen können! Stelle sicher, dass du "Read" auswählst und die Berechtigungen für "Make calls to Inference Providers" aktivierst, bevor du ihn erstellst, sonst funktioniert er möglicherweise nicht!

  4. Suche nach einem Modell, das du verwenden möchtest (zum Beispiel: DeepSeek), und wähle es aus.

  5. Melde dich bei Janitor an und öffne einen Chat, dann öffne das Anbietermenü (befindet sich im oberen rechten Bereich des Chats).

  6. Wähle unter "Provider" die Option "Proxy" und klicke auf "+New".

  7. Kopiere Folgendes und füge es in die Proxy-URL ein: https://router.huggingface.co/v1/chat/completions

  8. Kopiere auf Hugging Face den Namen des Modells, das du verwenden möchtest, und füge ihn in den Modellnamen deines neuen Proxys ein.

  9. Füge deinen API-Schlüssel ein.

  10. Gib deinem Proxy einen Namen (getrennt vom Proxy-Namen) und klicke dann auf "Add". Du kannst einen benutzerdefinierten Prompt auswählen, falls du einen hast.

  11. Teste deinen neuen Proxy. Wenn er funktioniert, hast du alles richtig gemacht! Wenn er einen Fehler zurückgibt, hast du möglicherweise etwas vermasselt. Wenn er nur einen Netzwerkfehler anzeigt, versuche, die Seite neu zu laden, und teste ihn erneut.

Jetzt weißt du, wie man Hugging Face als Proxy auf Janitor verwendet!


Abschnitt 3: Kosten & Stufen

Hugging Face verwendet ein guthabenbasiertes System, das für die Nutzung des Dienstes erforderlich ist. Guthaben können kostenlos erhalten oder mit echtem Geld gekauft werden. Allen Nutzern werden jeden Monat kostenlose Guthaben zur Verfügung gestellt, mit denen sie Modelle auf der Website nutzen können, ohne zu bezahlen. Allerdings kannst du kostenlose Guthaben nicht einfach durch Warten anhäufen, da sie zu Beginn jedes Monats zurückgesetzt werden. Wenn du zum Beispiel 0,10 $ Guthaben auf deinem Konto hast und es verbrauchst, bis nur noch 0,05 $ übrig sind, wird dein Guthaben zu Beginn des nächsten Monats automatisch wieder auf 0,10 $ aufgestockt. Wenn dir die kostenlosen Guthaben ausgehen, musst du warten, bis das monatliche Limit zurückgesetzt wird, oder mehr kaufen. Derzeit können Guthaben nur mit einer Kreditkarte über Stripe gekauft werden. Die Kosten des Modells, das du verwendest, können je nach Anbieter(n) variieren.

Hugging Face hat außerdem Stufen für Konten: Free, PRO, Team und Enterprise, wobei die letzten drei mehr Funktionen bieten. Die Stufen bestimmen auch, wie viele kostenlose Guthaben du zu Beginn jedes Monats erhältst. Free-Nutzer erhalten 0,10 $ Guthaben pro Monat, während PRO- und Team/Enterprise-Nutzer 2 $ Guthaben pro Monat erhalten.


Ich hoffe, diese Anleitung hilft! Wenn du Fragen hast, scheue dich nicht, dich umzuhören. <3

Erstellt 29. Sept.

Aktualisiert 1. Okt.

Veröffentlicht 29. Sept.

Veröffentlichte Chats