Was sind Credits und Tokens?
Einheiten zur Messung und Abrechnung der Nutzung von KI-Diensten, basierend auf verarbeiteten Textmengen oder API-Aufrufen.
Definition
Credits und Tokens sind Einheiten zur Messung und Abrechnung der Nutzung von KI-Diensten. Tokens repräsentieren Textfragmente (Wörter, Wortteile oder Zeichen), die von KI-Modellen verarbeitet werden, während Credits oft als Währungseinheiten für verschiedene KI-Operationen fungieren.
Zweck
Credits und Tokens ermöglichen eine faire und transparente Abrechnung von KI-Diensten basierend auf tatsächlicher Nutzung, wodurch sowohl Input als auch Output bei der Kostenberechnung berücksichtigt werden.
Funktion
Das System funktioniert durch die Tokenisierung von Text in kleinere Einheiten, wobei verschiedene Sprachen und Modelle unterschiedliche Token-zu-Text-Verhältnisse haben können. Credits werden dann basierend auf Token-Verbrauch berechnet.
Beispiel
OpenAI berechnet GPT-4-Nutzung in Tokens: etwa 750 Wörter entsprechen 1000 Tokens. Ein einfacher Chatbot-Dialog könnte 100-500 Tokens verbrauchen, während die Analyse eines langen Dokuments Tausende von Tokens benötigt.
Verwandt
Credits und Tokens sind eng mit API Pricing, Usage Metering, Cost Management und verschiedenen Billing-Modellen für Cloud-basierte KI-Dienste verbunden.
Vuoi saperne di più?
Se vuoi approfondire Credits/Tokens —o portare questo tipo di formazione nel tuo team— parliamone. Aiuto i team a comprendere e applicare questi concetti. Mi farebbe piacere sentirti!
Was ist ein KI-Agent?
Ein Agent ist eine Software-Entität, die autonom Aktionen im Namen eines Be...
Was ist One-Shot Learning?
One-Shot Learning ist eine Technik des maschinellen Lernens, bei der ein KI...
Was ist Middleware in KI-Systemen?
Middleware in KI-Systemen ist eine Software-Schicht, die als vermittelnde B...
Was ist Personifizierung in der KI?
Personifizierung in der KI ist der bewusste Designansatz, KI-Systeme mit me...
Was ist KI-Erklärbarkeit?
KI-Erklärbarkeit ist die Fähigkeit, die Entscheidungsprozesse, Logik und Au...