E-Rechnungschatbot
Beschreibung:
Für den E-Rechnungschatbot, der Kunden beim Verwalten, Versenden und Empfangen von Rechnungen unterstützt, wurde eine Supportlösung ohne Personaleinsatz benötigt. Ein Service-Chatbot wurde entwickelt, der aktuell tausende Kunden betreut. Der Chatbot wurde als Proof of Concept (PoC) für den Livegang vorbereitet und in einer optimierten Infrastruktur hinsichtlich Sicherheit, Performance und Skalierbarkeit als Software-as-a-Service betrieben.
Einsatzbereich:
Externe Kunden eines Steuersoftwareherstellers.
Technologie:
EU-Datenschutzkonforme Infrastruktur mit Microsoft Azure Cloud, LLMs und selbst programmiertes FastAPI Backend.
Funktionsweise:
Siehe Beschreibung – der Chatbot wurde optimiert und in einer skalierbaren Infrastruktur betrieben, um hohe Nutzerzahlen zuverlässig zu bewältigen.
Herausforderungen & Bewältigung dieser:
Es musste sichergestellt werden, dass viele Nutzer gleichzeitig schnelle Antworten erhalten. Dazu wurde die Infrastruktur skaliert und verschiedene Load-Balancing-Verfahren implementiert. Zudem war der Schutz gegen Angriffe eine Herausforderung, da es sich um ein Live-Produkt mit realen Anwendern handelt, die versuchen könnten, den Chatbot zu manipulieren. Sicherheitsmaßnahmen wurden gezielt verstärkt.