maxence KI-Assistent – Technische Informationen

Der maxence KI-Assistent ist eine flexible und einfach zu installierende, im Bedarfsfall aber auch hochgradig anpassbare Lösung, die moderne Sprachmodelle direkt in Ihr Znuny oder OTOBO Ticketsystem einbindet. Mit ihm können Service-Agenten auf eine Vielzahl von Daten zugreifen, ohne aufwändige Trainingsprozesse durchzuführen.

Dank einer offenen Schnittstellenarchitektur lassen sich zahlreiche Modelle einbinden – vom cloud-basierten GPT-Modell bis hin zu lokal gehosteten Lösungen. Im Folgenden erhalten Sie einen detaillierten Überblick über die technischen Aspekte und Voraussetzungen des Assistenten.

Kompatibilität

  • Der maxence KI-Assistent ist kompatibel mit Znuny, OTOBO und der ((OTRS)) Community Edition.
  • Anbindung an beliebige KI-Modelle, die die Chat-Completion-API von OpenAI oder kompatible Endpoints unterstützen (z. B. Ollama für Self-Hosting).

  • Bisher getestete Modelle:

  • OpenAI: gpt-4o, gpt-4o-mini

  • Meta: Llama 3.3 70B (noch in der Erprobung)

  • Für gute Ergebnisse sollte das KI-Modell eine gewisse „Mindest-Intelligenz“ aufweisen.

  • Empfohlene Kontextlänge: mindestens 128.000 Tokens
    Die angegebene Kontextlänge bezieht sich auf die volle Nutzung aller Features des KI-Assistenten. Sollen nur bestimmte Funktionen genutzt werden, kann u.U. eine kürzere Kontextlänge ausreichend sein. Bitte sprechen Sie uns dazu bitte an.

Bedeutung der Kontextlänge

Wenn die Kontextlänge des genutzten Modells geringer als benötigt ist, werden Teile der Eingabe oder bereits generierter Konversation abgeschnitten (sogenanntes „Context Truncation“).

Dadurch kann das Modell nicht mehr auf alle relevanten Informationen zugreifen und liefert unter Umständen unvollständige, widersprüchliche oder unpassende Antworten. Insbesondere bei längeren Tickets oder umfangreichen Wissensdokumenten steigt so das Risiko von Fehlinterpretationen oder fehlenden Inhalten.

Effiziente Datenaufbereitung

  • Artikel und Inhalte werden vor der Übergabe an das Modell automatisch bereinigt (z. B. Entfernen von Zitaten oder Signaturen).
  • Einsparung von Tokens reduziert Kosten und steigert Performance.

Retrieval-Augmented Generation (RAG)

  • Kein Training des KI-Modells erforderlich: Aktuelle Informationen werden per RAG bereitgestellt.
  • Vorteile: geringere Halluzinationsrate, stets aktuelle Daten, kein teures Fine-Tuning.
  • Das Modell ruft eigenständig zusätzliche Daten ab, indem es Funktionen ausführt (z. B. FAQ-Abfragen, Ticketsuche).

Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation (RAG) ist ein Ansatz in der Künstlichen Intelligenz, bei dem ein Sprachmodell nicht ausschließlich auf seinem internen Trainingswissen basiert, sondern aktiv externe Informationen aus einer Datenquelle (z. B. Wissensdatenbank, Suchindex oder Dokumentenspeicher) abruft und in die Antwort einfließen lässt.

So lässt sich das Modell mit aktuellen, spezifischen oder besonders umfangreichen Daten füttern, ohne dafür ein kostspieliges Training (Fine-Tuning) durchführen zu müssen.

In-Context Learning (ICL)

  • Das Modell lernt den Funktionsaufruf durch vorgegebene Beispiele (ICL) und nutzt vorhandene Schnittstellen automatisch.
  • Standard-Funktionen (erweiterbar):

  • Datum/Uhrzeit abfragen

  • Tickets suchen und abrufen

  • FAQs finden und lesen

  • Kunden oder Benutzer suchen

  • Internetseiten durchsuchen

  • Spezifische Informationen aus Ticket-Listen extrahieren

  • Kundenspezifische Erweiterungen sind unkompliziert realisierbar.

In-Context Learning (ICL)

In-Context Learning (ICL) bezeichnet die Fähigkeit moderner Sprachmodelle, allein durch Beispiele im Prompt zu lernen, wie eine bestimmte Aufgabe gelöst wird – ohne ein zusätzliches Training oder Fine-Tuning des Modells.

Statt die Parameter der KI zu verändern, wird das Modell mit konkreten Anwendungsbeispielen und Instruktionen im Eingabekontext gefüttert. So erkennt es Muster und Struktur der gewünschten Aufgabe und überträgt diese auf neue Eingaben.

Der große Vorteil von ICL: Anpassungen an neue Szenarien oder Anwendungstypen lassen sich schneller und kostengünstiger durchführen, weil man lediglich den Prompt-Inhalt anpasst oder erweitert. Das ist besonders nützlich bei Aufgaben, die häufig wechseln oder hohe Flexibilität erfordern, ohne dass jedes Mal ein spezielles KI-Modell trainiert werden muss.

Sicherheit und Zugriffsrechte

  • Das Modell sieht nur Daten, auf die der entsprechende Agent auch zugreifen darf.
  • ACL/Berechtigungen für die Nutzung durch bestimmte Gruppen.
  • Chats sind agentenbasiert: Nur der Ersteller eines Chats kann diesen einsehen.
  • Token-Limit zur Kostenkontrolle (einstellbar im System und durch den API-Anbieter).

Ausgabe und Formatierung

  • Antworten werden formatiert dargestellt, inklusive Tabellen.

  • Verweise auf Tickets und FAQ-Einträge in Antworten sind direkt klickbare Links.

Bringen auch Sie Künstliche Intelligenz in Ihr Ticketsystem!

Der maxence KI-Assistent kombiniert modernste Sprachmodelle mit effizienten Datenzugriffsmethoden. Dank RAG, In-Context Learning und standardisierten Funktionsaufrufen entfallen aufwendige Trainingsprozesse. Mit maxence KI profitieren Sie gleichzeitig von maximaler Datenaktualität und hoher Sicherheit.

Sie möchten mehr über den maxence KI-Assistenten und seine Erweiterungen erfahren oder ein konkretes Angebot erhalten?Kontaktieren Sie uns gerne – wir beraten Sie individuell und finden gemeinsam die optimale KI-Lösung für Ihr Ticketsystem.

Ihre Ansprechpartnerin

Gabriele Hein
Gabriele HeinGeschäftsführerin
Tel: +49-2133-2599-12

Gabi Hein verantwortet bei maxence das operative Geschäft. Sie ist Ihre erste Ansprechpartnerin und steht Ihnen während der Zusammenarbeit jederzeit praxisnah und lösungsorientiert beratend zur Seite.