LLM

---

📘 Dokumentation: Nutzung des melibo LLM-Endpunkts (erweiterte Version)

Diese Dokumentation erklärt, wie der melibo LLM-Endpunkt zur Textgenerierung verwendet werden kann – inklusive der Verwendung von dynamischen Variablen, Tags und der @var{}-Syntax zur Einbindung von Kontextdaten.

---

🔗 API-Endpunkt

https://api.melibo.de/whale/v1/llm/chat

⚠️ Bitte beachten: Die tatsächliche URL kann je nach Projekt variieren.

---

🔐 Authentifizierung

Alle Anfragen müssen mit einem gültigen API-Key im Header erfolgen:

x-api-key: Bearer <YOUR_API_KEY>

---

📤 Beispiel-Anfrage mit vollständigem Payload

{
  "chatbotKey": "f2e001c2-18b8-48c6-8b6d-22e935c0f106",
  "model": "gpt-4o-mini",
  "tags": [
    "ticket-automation"
  ],
  "temperature": 0,
  "messages": [
    {
      "role": "system",
      "content": "@var{guidelines}"
    },
    {
      "role": "system",
      "content": "The user wants a order status. Use this input to answer var{json}"
    },
    {
      "role": "user",
      "content": "Subject: @var{subject} Email: @var{description}"
    }
  ],
  "variables": {
    "guidelines": "Always be friendly and professional.",
    "subject": "Order status",
    "description": "whats the status of my mail"
  }
}

---

🧩 Erklärung der Felder

Feld	Beschreibung
chatbotKey	Eindeutiger Schlüssel des Bots (zur Trennung verschiedener Umgebungen oder Anwendungsfälle).
model	Das zu verwendende LLM-Modell (z. B. gpt-4o-mini, gpt-4, gpt-3.5-turbo).
tags	Freie Schlagwörter, um Anfragen zu kategorisieren (z. B. „ticket-automation“, „faq“, „email-reply“).
temperature	Kreativitätsgrad der Antwort (0 = deterministisch, 1 = kreativ).
messages	Konversationsverlauf – bestehend aus mehreren role-basierten Nachrichten (system, user, assistant).
@var{}	Platzhalter für dynamische Inhalte, die durch das variables-Feld ersetzt werden.
variables	Ein JSON-Objekt mit Key-Value-Paaren, das zur Laufzeit in die Nachrichten eingefügt wird.

---

🛠️ Verwendung von @var{} in Nachrichten

Die Platzhalter-Syntax @var{} erlaubt es, dynamische Inhalte in Nachrichten einzubetten. Dies ist besonders hilfreich für:

• Benutzeranfragen mit personalisiertem Inhalt (z. B. E-Mail, Name, Bestellnummer)

• Einbindung externer Richtlinien, Guidelines oder Systemdaten

• Mehrsprachige oder kontextbezogene Antworten

Beispiel:

{
  "content": "Hello @var{name}, your ticket with number @var{ticketId} is being processed."
}

→ wird durch:

Hello Anna, your ticket with number #234567 is being processed.

---

🔄 Dynamische Steuerung im Chatflow

Diese Art von API-Aufruf ist ideal für automatisierte Szenarien, wie:

• E-Mail-Antwort-Generierung

• Support-Tickets

• Dokumentenklassifizierung

• Anfragen an CRM oder Backend-Systeme

Dabei kann über Tags und Modellwahl individuell auf den Use Case abgestimmt werden.

---

🧠 Tipps zur effektiven Nutzung

• Verwende @var{} nur für vertrauenswürdige Inhalte – sie werden ohne Validierung ersetzt.

• Nutze system-Nachrichten für Regeln, Tonalität oder Stilvorgaben.

• Tags können genutzt werden, um die Antwortstrategie zu ändern (z. B. „reklamation“, „first-contact“, „follow-up“).

• Teste die Konfiguration vor dem Rollout in einer sicheren Umgebung.