Wenn heute von KI die Rede ist, denken die meisten an Chatbots, die ganze Absätze schreiben. In echten Anwendungen ist die eigentliche Frage aber oft viel kleiner: Welche Abteilung ist zuständig? Wie dringend ist das? Darf dieser Kommentar online gehen?

Das Problem mit Freitext

Ein generatives Sprachmodell antwortet zunächst mit Text. Damit eine Software weiterarbeiten kann, muss dieser Text erst wieder in eine feste Form gebracht werden, etwa in eine Kategorie aus einer Liste. Das geht, zum Beispiel mit JSON-Ausgaben nach einem festen Schema. Trotzdem bleibt eine Lücke: Wie sicher war sich das Modell eigentlich?

Typisierte Antworten

Ein anderer Ansatz stellt dem Modell typisierte Fragen und bekommt typisierte Antworten zurück:

  • Auswahl: eine Option aus einer festen Liste, mit Wahrscheinlichkeit pro Option
  • Skala: ein Wert auf einer geordneten Stufenleiter, etwa von „kann warten“ bis „sofort“
  • Ja/Nein: eine Wahrscheinlichkeit für „ja“

Die Anwendung entscheidet dann selbst, zum Beispiel: Ab 80 % Wahrscheinlichkeit für „Rechnung“ automatisch an die Buchhaltung, sonst an einen Menschen. Diese Regel steht im Code, ist testbar und lässt sich jederzeit anpassen.

Ein Beispiel

Eine Support-Mail lautet: „Mir wurde doppelt abgebucht, bitte sofort erstatten.“ Statt einer formulierten Antwort braucht das System drei Dinge:

FrageTypsinnvolles Ergebnis
Kategorie?AuswahlRechnung
Dringlichkeit?Skalahoch
Erstattung gewünscht?Ja/Neinsehr wahrscheinlich ja

Erst danach kann ein generatives Modell sinnvoll ins Spiel kommen, etwa um eine freundliche Antwort zu formulieren.

Wann was?

  • Typisierte Entscheidung: Routing, Triage, Moderation, Auswahl aus Kandidaten
  • Generatives Modell: Texte schreiben, zusammenfassen, erklären
  • Klassischer Code: harte Regeln wie Budgets, Anzahlen und Ausschlüsse

Oft ist die beste Lösung eine Kombination. Wie das konkret mit Jev aussieht, zeigt das Stammtisch-Topic TypeSafe AI & Jev hier im Hub.