Test access with donation selection

Test access is possible with a donation of €2.50 to one of the organisations listed below. Please click on the button next to the desired organisation to pay.  (for organisational reasons I collect the donations and forward them quarterly. To check, please click on the counters, only once, and then use the general PayPal button next to Greenpeace On the Donations page I publish the receipt of the number, amount and receipts). You will then be redirected to PayPal.  You do not need a PayPal account as it is also possible to pay as a guest. After successful payment you will be redirected to the chat. The chat is set up for a one-time use of approx. 10000 tokens (see description of tokens). This is rounded to 5 minutes. A counter shows the usage.

By using the chat, you agree to our privacy policy and terms and conditions. No personal data is collected except during the payment process via PayPal.

.

Tokens are the building blocks that make up texts in AI language processing. A Token can be a word, part of a word or a character (e.g. a full stop or comma). The exact number of tokens depends on the text.
Beispiel:
  • Der Satz „Hallo, wie geht es dir?“ consists of 6 tokens:
    • „Hallo“, „,“, „wie“, „geht“, „es“, „dir?“.
AI models such as GPT process texts as sequences of tokens. There are limits to the number of tokens that a model can process in a request (input + response). With GPT-4 for example, the maximum number of tokens is 4096 Tokens.
Why are tokens important?
  1. ChargesThe utilisation of a model is calculated based on the number of tokens.
  2. LeistungToo many tokens can lead to API errors if the limit is exceeded.
  3. Kürzen von NachrichtenWhen the limit is reached, older tokens must be removed to make room for new ones.
In short, tokens are a technical way of breaking down texts into smaller units that can be processed by AI models.
Die Kosten für die Nutzung eines Modells wie GPT-4 (z. B. über die OpenAI API) setzen sich aus mehreren Faktoren zusammen. Hier ist eine Übersicht, wie die Kosten berechnet werden:

1. Anzahl der Tokens
  • Tokens werden für Eingaben und Antworten berechnet:
    • Eingabe-Tokens: Alle Tokens, die an das Modell gesendet werden (z. B. Systemnachricht, Nachrichtenverlauf, Benutzereingaben).
    • Antwort-Tokens: Alle Tokens, die das Modell als Antwort generiert.
Beispiel:
  • Sie senden eine Anfrage mit 100 Tokens, und das Modell gibt eine Antwort mit 50 Tokens.
  • Gesamtkosten = 150 Tokens.

2. Preis pro 1.000 Tokens
  • OpenAI berechnet die Kosten basierend auf der Anzahl der verwendeten Tokens pro Modell

3. Modellversion
  • Kosten variieren je nach Modell:
    • GPT-4 ist teurer, liefert aber bessere Ergebnisse.
    • GPT-3.5 ist günstiger und schneller, aber weniger leistungsstark.

4. Optimierung der Anfrage
  • Die Länge der Systemnachricht und der Nachrichtenverlauf beeinflussen die Gesamtkosten:
    • Kürzere Nachrichten = Weniger Tokens = Niedrigere Kosten.
    • Längere Konversationen können durch das Kürzen alter Nachrichten optimiert werden.

Formel für die Kostenberechnung
Gesamtkosten = (Eingabe-Tokens × Eingabe-Preis/1.000) + (Antwort-Tokens × Antwort-Preis/1.000)

Zusätzliche Überlegungen
  1. API-Limits:
    • OpenAI setzt monatliche Limits für Tokens, basierend auf Ihrem Abonnement.
  2. Netzwerkkosten:
    • Zwar gering, aber API-Aufrufe selbst können zusätzliche Kosten verursachen (z. B. Datenübertragung).
  3. Verwaltungskosten:
    • Wenn Sie eine Anwendung hosten, fallen Serverkosten oder Gebühren für Infrastruktur an (z. B. für den Webserver, auf dem Ihr Tool läuft).

Zusammengefasst: Die Kosten hängen von der Anzahl der verarbeiteten Tokens (Eingabe + Antwort), dem verwendeten Modell und der Länge der Anfragen und Antworten ab. Optimierungen wie kürzere Nachrichten und das richtige Modell können helfen, die Kosten zu reduzieren.
cards
Powered by paypal
Zähler: 0
Mehrere Zähler

Organisationen

Zähler: 0
Zähler: 0
Zähler: 0
Zähler: 0
Zähler: 0
Zähler: 0
Zähler: 0
Zähler: 0
Zähler: 0
Zähler: 0
en_GBEN