Venice.aiDie Venice-API ermöglicht es Ihnen, die Kerninfrastruktur von Venices über das Standard-OpenAI-API-Format zu verwenden. Die API bietet Zugriff auf modernste KI-Modelle sowohl für Text- als auch für Bildinferenzen mit einer einzigartigen Kostenstruktur „VCUs“ durch Staking VVV oder direkt mit USD bezahlen. Mehr über die Venice API erfahren Sie hier.
Inhaltsverzeichniss
So greifen Sie auf die Venice-API für private, unzensierte KI-Inferenz zu
Benutzer können auf drei verschiedene Arten auf die Venice API zugreifen:
Pro-Konto: Benutzer mit einem PRO-Konto erhalten innerhalb der „Explorer-Stufe“ Zugriff auf die Venice API. Diese Stufe hat niedrigere Ratenlimits und ist für die einfache Interaktion mit der API vorgesehen.
VCUs: Mit Venice's Einführung des VVV-Tokens, Benutzer, die Token innerhalb des Venices-Protokolls einsetzen, erhalten Zugriff auf eine tägliche KI-Inferenzzuweisung (sowie auf eine laufende Staking-Rendite). Beim Staking erhalten die Nutzer VCUs, die einen Teil der gesamten Rechenkapazität von Venice ausmachen. Sie können VVV-Token einsetzen und Ihr VCU-Kontingent finden Sie hier. Nutzer mit positivem VCU-Saldo haben Anspruch auf Tariflimits im Rahmen der „kostenpflichtigen Stufe“.
USD: Benutzer können sich auch dafür entscheiden, USD auf ihr Konto einzuzahlen, um für API-Inferenzen auf die gleiche Weise zu bezahlen, wie sie es auf anderen Plattformen wie OpenAI oder Anthropic tun würden. Nutzer mit einem positiven USD-Guthaben haben Anspruch auf Tariflimits im Rahmen der „kostenpflichtigen Stufe“.
API-Kostenstruktur in Venices
Die API verwendet tokenbasierte Standardpreise, die sowohl in USD als auch in VCU angegeben sind.
Diese variieren je nach ausgewähltem Modell und finden Sie hier. Bitte beachten Sie, dass für die API-Nutzung derzeit Tarifbeschränkungen gelten, getrennt durch „Explorer-Stufe“ und „Kostenpflichtige Stufe“. Diese gelten laufend evaluiert.
Bitte kontaktieren Sie uns, wenn Sie an einem Onboarding interessiert sind, die Ratenlimits jedoch ein Problem für Sie darstellen.
So generieren Sie einen Venice API Key
Sobald wir die API-Stufe „Explorer“ oder „Bezahlt“ erreicht haben, beginnen wir mit der Generierung unseres API-Schlüssels.
Gehen Sie rüber zum API-Dashboard für Venice
Scrollen Sie nach unten zu API-Schlüsseln und klicken Sie auf „Neuen API-Schlüssel generieren“
Geben Sie die entsprechenden Informationen ein, klicken Sie auf „Generieren“ und speichern Sie dann Ihren API-Schlüssel
Hinweis: Für detailliertere Anweisungen zur Generierung von API-Schlüsseln geh hier hin.
Auswahl eines Modells mit Venice API
Nachdem wir unseren API-Schlüssel haben, wählen wir das Modell aus, das wir verwenden möchten. Venice verfügt über ein integriertes Tool, mit dem einfache Anfragen direkt über die Website unter bearbeitet werden können.
Die Basis-URL für das Auflisten von Modellen lautet:
https://api.venice.ai/api/v1/models
1. Suchen Sie den Abschnitt, in dem „GET /models“ angezeigt wird, und klicken Sie auf „Testen“
2. Fügen Sie Ihren API-Schlüssel in den Abschnitt Autorisierung ein und wählen Sie dann aus, ob Sie nach Bild- oder Textmodellen abfragen möchten
3. Sie werden sehen, dass das Feld oben rechts mit dem zugehörigen Befehl gefüllt ist, der für den API-Aufruf verwendet werden kann. Für dieses Beispiel verwenden wir cURL, aber Sie können Python, JavaScript, PHP, Go oder Java von diesem Tool aus verwenden
4. Geben Sie die Anfrage in ein Terminalfenster ein oder klicken Sie direkt auf der Webseite auf „Senden“, um die Anfrage auszuführen
5. Sie werden die 200-HTTP-Antwort mit allen Modellen sehen, die in Venice erhältlich sind (das obere Bild ist über die Website, das untere Bild über das Terminal)
6. Wählen Sie das Modell aus der Liste aus, das Sie verwenden möchten, und kopieren Sie die „ID“. Diese ID wird für die Auswahl Ihres Modells verwendet, wenn Sie Chat- oder Bildanfragen erstellen
Erstellen einer Chat-Aufforderung mit der Venice API
Für diesen Abschnitt senden wir unsere erste Chat-Aufforderung an das Model. In diesem Abschnitt können verschiedene Optionen und Einstellungen verwendet werden. In diesem Handbuch zeigen wir das einfachste Beispiel einer einfachen Textaufforderung
Die Basis-URL für den Text-Chat lautet:
https://api.venice.ai/api/v1/chat/completions
1. Gehe zu: https://docs.venice.ai/api-reference/endpoint/chat/completions
2. Suchen Sie den Abschnitt „POST /chat/completions“ und klicken Sie auf „Ausprobieren“
3. Geben Sie Ihren API-Schlüssel ein, den Sie im vorherigen Abschnitt identifiziert haben
4. Geben Sie die Modell-ID ein, die Sie im vorherigen Abschnitt identifiziert haben
5. Jetzt fügen wir die „Nachrichten“ hinzu, die dem LLM Kontext bieten. Die wichtigsten Auswahlmöglichkeiten sind hier die „Rolle“, die als „Benutzer“, „Assistent“, „Tool“ und „System“ definiert ist. Die erste Systemmeldung lautet in der Regel „Sie sind ein hilfreicher Assistent“.
Wählen Sie dazu „Systemnachricht - Objekt“ und setzen Sie die „Rolle“ auf „System“. Fügen Sie dann den Text in „Inhalt“ ein
6. Nach der Systemmeldung fügen Sie die erste „Benutzer“ -Eingabeaufforderung hinzu. Sie können dies tun, indem Sie auf „Objekt hinzufügen“ klicken und dann die Option auf „Benutzernachricht — Objekt“ setzen. Wählen Sie die „Rolle“ und den „Benutzer“ aus und fügen Sie die Benutzeraufforderung, die Sie verwenden möchten, in den „Inhalt“ ein
7. Wenn Sie den Chat-Kontext angeben, fügen Sie Benutzeraufforderungen und LLM-Antworten hinzu. Klicken Sie dazu auf „Objekt hinzufügen“ und setzen Sie dann die Option auf „Assistentennachricht — Objekt“. Stellen Sie die „Rolle“ auf „Assistent“ ein und geben Sie dann die LLM-Antwort im „Inhalt“ ein. Wir werden dies in unserer Beispielaufforderung nicht verwenden.
8. Wenn alle Ihre Eingaben abgeschlossen sind, wird oben rechts der zugehörige cURL-Befehl generiert. Dies ist der Befehl, der mit unseren Einstellungen generiert wurde
curl --request POST \
--url https://api.venice.ai/api/v1/chat/completions \
--header 'Authorization: Bearer <your api key> ' \
--header 'Content-Type: application/json' \
--data '{
"model": "llama-3.3-70b",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "Tell me about AI."
}
]
}'
9. Sie können wählen, ob Sie in der oberen rechten Ecke auf „Senden“ klicken oder dies in ein Terminalfenster eingeben möchten. Sobald das System den Befehl ausführt, erhalten Sie eine http200-Antwort mit den folgenden Angaben:
{
"id":"chatcmpl-3fbd0a5b76999f6e65ba7c0c858163ab",
"object":"chat.completion",
"created":1739638778,
"model":"llama-3.3-70b",
"choices":[
{
"index":0,
"message":{
"role":"assistant",
"reasoning_content":null,
"content":"AI, or Artificial Intelligence, refers to the development of computer systems that can perform tasks that would typically require human intelligence, such as learning, problem-solving, and decision-making. These systems use algorithms and data to make predictions, classify objects, and generate insights. AI has many applications, including image and speech recognition, natural language processing, and expert systems. It can be used in various industries, such as healthcare, finance, and transportation, to improve efficiency and accuracy. AI models can be trained on large datasets to learn patterns and relationships, and they can be fine-tuned to perform specific tasks. Some AI systems, like chatbots and virtual assistants, can interact with humans and provide helpful responses.",
"tool_calls":[]
},
"logprobs":null,
"finish_reason":"stop",
"stop_reason":null
}
],
"usage":{
"prompt_tokens":483,
"total_tokens":624,
"completion_tokens":141,
"prompt_tokens_details":null
},
"prompt_logprobs":null
}
10. Sie haben gerade Ihre erste Textaufforderung mit der Venice-API abgeschlossen!
Erstellen einer Bildaufforderung mit der Venice API
Für diesen Abschnitt senden wir unsere erste Bildanfrage an das Modell. In diesem Abschnitt gibt es verschiedene Bildoptionen und Einstellungen, die verwendet werden können, sowie Optionen zum Generieren oder Hochskalieren. In diesem Beispiel zeigen wir das einfachste Beispiel für eine Bildaufforderung, ohne dass Stile ausgewählt wurden.
Die Basis-URL für die Bildgenerierung lautet:
https://api.venice.ai/api/v1/image/generate
Die Basis-URL für das Bild-Upscaling lautet:
https://api.venice.ai/api/v1/image/upscale
1. Gehe zu https://docs.venice.ai/api-reference/endpoint/image/generate
2. Suchen Sie den Abschnitt „POST /image/generate“ und klicken Sie auf „Testen“
3. Geben Sie Ihren API-Schlüssel ein, den Sie im vorherigen Abschnitt identifiziert haben
4. Geben Sie die Modell-ID ein, die Sie im vorherigen Abschnitt identifiziert haben
5. Jetzt fügen wir die „Eingabeaufforderung“ hinzu, die das LLM zum Generieren des Images verwenden soll.
6. Es gibt eine Vielzahl anderer Einstellungen, die in diesem Abschnitt konfiguriert werden können. Wir zeigen das einfachste Beispiel. Wenn alle Ihre Eingaben abgeschlossen sind, wird der zugehörige cURL-Befehl oben rechts generiert. Dies ist der Befehl, der mithilfe unserer Einstellungen generiert wurde
curl --request POST \
--url https://api.venice.ai/api/v1/image/generate \
--header 'Authorization: Bearer <your api key> ' \
--header 'Content-Type: application/json' \
--data '{
"model": "fluently-xl",
"prompt": "Generate an image that best represents AI"
}'
7. Sie können wählen, ob Sie in der oberen rechten Ecke auf „Senden“ klicken oder dies in ein Terminalfenster eingeben möchten. Sobald das System den Befehl ausführt, erhalten Sie eine http200-Antwort mit den folgenden Angaben:
{
"request": {
"width":1024,
"height":1024,
"width":30,
"hide_watermark":false,
"return_binary":false,
"seed":-65940141,
"model":"fluently-xl",
"prompt":"Generate an image that best represents AI"
},
"images":[ <base64 image data>
Wichtiger Hinweis: Wenn Sie es vorziehen, nur das Bild und nicht die Base64-Bilddaten zu haben, können Sie die Einstellung „return_binary“ auf „true“ ändern. Wenn Sie diese Auswahl ändern, erhalten Sie nur das Bild und nicht die vollständige JSON-Antwort.
8. Sie haben gerade Ihre erste Bildaufforderung mit der Venice-API abgeschlossen!
Fangen Sie jetzt an, mit der Venice API zu bauen
In der API gibt es eine Vielzahl von Einstellungen sowohl für die Text- als auch für die Bildgenerierung, mit deren Hilfe Sie die Antwort genau auf Ihre Bedürfnisse zuschneiden können.
Wir empfehlen erfahrenen Benutzern, diese Einstellungen zu überprüfen und Änderungen vorzunehmen, um Ihre Ergebnisse zu optimieren. Informationen zu diesen Einstellungen sind hier erhältlich.
Bitte wenden Sie sich an [email protected] oder im #api -Kanal in unser Discord bei Fragen!
Volver a todas las publicaciones