Abschluss der Masterarbeit: KI-gestützter technischer Kundensupport

Nach monatelanger Forschungsarbeit ist die Masterarbeit "KI-gestützter technischer Kundensupport: Lokale Open-Source LLMs im Vergleich" erfolgreich abgeschlossen. Die Arbeit widmet sich der spannenden Frage, ob und wie große Sprachmodelle (LLMs) effizient zur Automatisierung von Supportanfragen genutzt werden können.

Der Fokus liegt dabei auf Open-Source-LLMs, die lokal betrieben werden können. Diese Lösung minimiert Datenschutzrisiken und ermöglicht eine flexible Anpassung an individuelle Anforderungen. Durch die gezielte Modellwahl und eine systematische Zuordnung von Supportanfragen zu festen Antworten kann der Datenschutz zusätzlich verbessert werden. Weiterhin kann der Lösungsansatz mit dem RAG-Modell (Retrieve, Answer, Generate) kombiniert werden, um die Antwortqualität zu steigern.

Ein weiteres Highlight ist die Entwicklung einer Testumgebung, mit der verschiedene LLMs verglichen werden können. Dabei wurde ein automatisiertes Verfahren zur Leistungsbewertung entwickelt, das zukünftige Anpassungen und Erweiterungen erleichtert.

Das Projekt zeigt eindrucksvoll, wie moderne KI-Technologien in Unternehmen eingesetzt werden können, um Arbeitsabläufe zu optimieren. Wer tiefer in die Anwendung zum Testen von LLMs schauen möchte, findet die dazugehörige GitHub-Repository unter: GitHub Repository.

👉 Mehr dazu in der Ausarbeitung: Link zur Masterarbeit

Eingesetzte Technologien

• C#/.NET
• Python
• Open-Source LLMs (z. B. Mistral, LLaMA, OpenAI API)
• Docker, docker-compose