Moderne Chatbots: Mehr als nur eine Suchfunktion

Chatbots gibt es schon länger auf Webseiten. Bis vor wenigen Jahren reagierten sie aber oft nur auf Schlüsselwörter in den Anfragen, wie zum Beispiel „Öffnungszeiten“ oder „Adresse“, und gaben dann eine vorgefertigte Antwort aus. Im Grunde waren sie nur eine interaktive Suchfunktion.

Mit den Durchbrüchen im Bereich der Künstlichen Intelligenz und dem Aufkommen von großen Sprachmodellen (Large Language Models, LLM) wie ChatGPT änderte sich dies. Chatbots, die mit Millionen von Texten trainiert wurden, können nun deutlich flexibler und zielgerichteter antworten.

Die Herausforderung bei den neuen, „klügeren“ Chatbots ist es, sicherzugehen, dass sie immer korrekte Antworten geben und nicht auf falsche Informationen aus ihren riesigen Trainingsdaten zurückgreifen.

In der Südwestpfalz hat man dafür eine Lösung gefunden.

Beschreibung des Projektes

In der Verwaltung des Landkreises Südwestpfalz arbeitet der Chatbot Findus des Unternehmens H24. Der Chatbot nutzt die Technologie von ChatGPT und kann dadurch flexibel und genau antworten. Er wurde aber speziell mit den Daten der Webseite der Kreisverwaltung trainiert. Ihm ist es verboten, für die Beantwortung von Fragen auf sein allgemeines Weltwissen zuzugreifen. So wird sichergestellt, dass er wirklich korrekt antwortet.

Der Chatbot ist flexibel einstellbar. Das zugrunde liegende Sprachmodell kann getauscht werden, falls eine andere Technologie bessere Ergebnisse verspricht. Sein Spezialwissen, also die Trainingsdaten von der Kreisverwaltung, bleiben davon unberührt.

Das Projekt wurde durch den Pakt für den öffentlichen Gesundheitsdienst (ÖGD) gefördert. Die vorherige Förderrunde hatte der Landkreis Südwestpfalz bereits genutzt, um interne Abläufe zu automatisieren. Für 2024 rückte das Thema Außenkommunikation in den Fokus. Durch einen Chatbot sollen die Menschen im Landkreis einfacher und schneller relevante Daten finden. Gleichzeitig werden die Mitarbeitenden von Routineaufgaben wie Telefonauskünften entlastet. So haben sie mehr Zeit für komplexe Themen.

Wie funktioniert es?

Auf der Webseite des Landkreises begrüßt der Chatbot Findus die Nutzer in Form eines blauen Eichhörnchens. Ein Klick auf das Symbol startet den Chat. Nutzer können dann ihre Anliegen formulieren, Nachfragen stellen oder ihre Anfrage im Gespräch verfeinern. Der Grundsatz lautet: Je genauer die Anfrage, desto besser das Ergebnis.

Für eine möglichst hohe Barrierefreiheit können Nutzer ihre Fragen auch per Mikrofon stellen oder sich die Antworten vorlesen lassen. Der Chatbot kann zudem in Leichter Sprache antworten.

Die Fähigkeit, verschiedene Sprachen zu verstehen, stammt aus dem Training des zugrundeliegenden Sprachmodells. Die Inhalte seiner Antworten schöpft der Chatbot aber ausschließlich aus den Informationen der Kreisverwaltung. Damit ergänzt er das Angebot des Landkreises, der bereits Anträge in verschiedenen Sprachen wie Ukrainisch online zur Verfügung stellt.

Zwei wichtige Einstellungen sichern die Qualität der Antworten: Erstens greift der Chatbot nur auf die freigegebenen Informationen der Kreis-Webseite zu. Zweitens verfügt er nur über ein „Kurzzeitgedächtnis“. Sobald ein Nutzer die Seite verlässt, beginnt ein neuer Chat. Die Informationen aus dem vorherigen Gespräch werden nicht gespeichert. Dies verhindert, dass der Chatbot Informationen „herbeifantasiert“ oder durch lange Dialoge verwirrt wird.

Einblick in einen Chat mit Findus: Hier beantwortet der Chatbot Findus Fragen zum Thema Sperrmüll.

Was hat sich durch das Projekt geändert?

Der Chatbot wird rege genutzt. Seit seinem Start im August 2025 gingen über 2.000 Chatanfragen ein. Die Themen reichten dabei vom Elterngeld über die Müllentsorgung bis zu Fragen aus dem Bereich Kinder und Jugend.

Die Verwaltung wertet die Anfragen und Antworten im Hintergrund regelmäßig aus. Auf dieser Grundlage verfeinert sie die Trainingsdaten und die Systemanweisungen des Chatbots. Das Ziel ist, die Antworten kontinuierlich zu verbessern und noch präziser zu machen.

Dabei zeigt sich ein wichtiger Nebeneffekt: Die Analyse hilft auch, Fehler auf der Webseite schneller zu entdecken. So fielen bei ersten, internen Tests zum Beispiel veraltete Adressen von Außenstellen auf. Diese konnten dadurch umgehend korrigiert werden.

Die Wissensbasis des Chatbots wird zudem laufend erweitert. Aktuelle Schwerpunkte sind die Bereiche Migration, Integration und Jagdrecht. Zukünftig soll der Chatbot auch Informationen von Service RLP und dem Robert-Koch-Institut einbinden können. Zudem ist geplant, das Design an den Webauftritt des Landkreises anzupassen.

So wurde es gemacht

Ziel

Das Projekt verfolgte zwei Hauptziele. Zum einen sollten die Bürgerinnen und Bürger bei einfachen Anfragen schneller eine Antwort erhalten und nicht mehr in Warteschleifen warten müssen. Gleichzeitig sollte verhindert werden, dass sie sich an die falsche Stelle wenden und dadurch Zeit verlieren.

Zum anderen sollten die Mitarbeitenden in der Verwaltung von wiederkehrenden Standardanfragen entlastet werden. Die frei werdenden Ressourcen können so für die Bearbeitung komplexerer Anliegen genutzt werden.

Die Einführung eines Chatbots wurde als passendes Werkzeug für diese Aufgabe identifiziert.

Vorgehen

Am Anfang stand eine Marktrecherche, um den aktuellen Stand der Technik zu sichten. Anschließend erstellte die Verwaltung eine detaillierte Leistungsbeschreibung für die Ausschreibung. Dabei arbeitete sie auch mit anderen Gesundheitsämtern zusammen, um von deren Erfahrungen zu profitieren.

Wichtige Kriterien für die Auswahl waren der Einsatz eines modernen Sprachmodells (LLM) für verständliche, natürliche Antworten und das Hosting des Systems in Europa, um die Datenschutzvorgaben zu erfüllen. Zudem sollte die Technologie-Plattform offen sein, damit die Verwaltung bei Bedarf auf ein neueres, besseres LLM umsteigen kann.

Den Zuschlag erhielt das Unternehmen H24 mit dem Chatbot Findus. Für die erste Wissensbasis las der Anbieter die Webseite der Kreisverwaltung aus und verwendete die Inhalte als Trainingsdaten. In Zusammenarbeit mit der IT-Abteilung wurde der Chatbot anschließend in die Systeme der Kreisverwaltung eingebunden.

Vor der Freischaltung lief der Chatbot in einer internen Test-Umgebung. Dabei zeigte sich, dass die Trainingsdaten optimiert werden mussten, da zum Beispiel veraltete Informationen von der Webseite übernommen wurden. Nach der Überarbeitung dieser Punkte startete der Chatbot im August 2024 in einer öffentlichen Beta-Version auf der Webseite des Landkreises.

Auch nach dem Start wird das Projekt kontinuierlich weiterentwickelt. Die Anfragen und Antworten werden laufend ausgewertet, um die Trainingsdaten zu optimieren. Schrittweise werden zudem weitere Themenbereiche hinzugefügt und eine Anbindung an externe Dienste wie Service RLP vorbereitet. Auch eine Anpassung des Designs an den Webauftritt des Kreises ist geplant.

Aufwand

Der Personalaufwand für die Einführung war umfassend. Er umfasste die Recherche zu Technik und Zertifikaten, die Erstellung des Leistungsverzeichnisses sowie die Abstimmung mit der IT und den Fachabteilungen. Auch die Erstellung der Beschlussvorlagen für die politischen Gremien gehörte dazu. Insgesamt belief sich der Arbeitsaufwand auf rund 100 Stunden bei den Verantwortlichen.

Der finanzielle Aufwand liegt bei einem mittleren fünfstelligen Betrag, der gefördert wurde. Diese Summe schließt die Dienstleistungen zum Start sowie die Lizenz- und Servicegebühren für 24 Monate ein. Die jährlichen Kosten liegen im niedrigen vierstelligen Bereich.

Zum laufenden Aufwand gehört die regelmäßige Kontrolle des Chatbots. Dabei wird zum einen der Datenschutz sichergestellt, indem geprüft wird, dass der Chatbot keine personenbezogenen Daten verarbeitet. Zum anderen werden die Qualität der Antworten und die Aktualität der Datengrundlage auf der Webseite überwacht.

Verantwortliche

Für den technischen Betrieb und die Implementierung des Chatbots ist der Dienstleister H24 verantwortlich. Er arbeitet dabei eng mit der IT-Abteilung der Kreisverwaltung zusammen.

Die Koordination innerhalb der Verwaltung ist aufgeteilt. Da das Projekt aus Mitteln des öffentlichen Gesundheitsdienstes gefördert wurde, war für die Vorarbeiten der Digitalisierungsverantwortliche des Gesundheitsamtes federführend. Der Digitalisierungsbeauftragte des Kreises übernimmt die Abstimmung mit den weiteren Abteilungen der Verwaltung.

Für die sachliche Richtigkeit der Antworten sorgen die jeweiligen Fachabteilungen. Sie kontrollieren die Qualität der Trainingsdaten und stellen so sicher, dass der Chatbot korrekte Informationen liefert.

Erfolgsfaktoren

Ein entscheidender Faktor war die breite Beteiligung aller relevanten Akteure. Die Digitalisierungsverantwortlichen, der Datenschutzbeauftragte, die IT-Abteilung und die Öffentlichkeitsarbeit arbeiteten eng zusammen. Durch diese gute Vorbereitung und die Verknüpfung mit bestehenden Digitalisierungsprojekten waren viele Arbeitsschritte bereits bekannt. So ließen sich Aufgaben gut verteilen und schnell erste Erfolge erzielen.

Der wichtigste Faktor für die Qualität des Chatbots ist die Qualität der Daten. Die intensive Testphase vor dem Start war daher entscheidend. Auch die stetige Kontrolle und Überarbeitung der Webseite und damit der Trainingsdaten im laufenden Betrieb sind unerlässlich. Stimmen die Daten, ist ein Chatbot ein Selbstläufer.

Stolpersteine

Die Zusammenarbeit der vielen Akteure war eine Herausforderung. Einige Beteiligte hatten anfangs eine gewisse Scheu, sich auf ein solches KI-Projekt einzulassen. Hier half das bereits weitgehend digitalisierte Gesundheitsamt, das als eine Art interner Leuchtturm fungierte und Bedenken abbauen konnte.

Auch die Sicherstellung der Datenqualität war eine Hürde. Die Testphase war hier entscheidend. In dieser Phase konnten doppelte oder veraltete Daten, wie zum Beispiel bei den Adressen von Außenstellen, frühzeitig gefunden und korrigiert werden. Inzwischen wird der Chatbot sogar intern genutzt, um die Aktualität der Webseite zu kontrollieren.

Ansprechpartner

Sollten Sie Fragen zum Projekt haben, können Sie sich an folgende Ansprechpartner wenden:

M. Lang
Digitalisierungsbeauftragter der Kreisverwaltung Südwestpfalz
E‑Mail: m.lang@lksuedwestpfalz.de

F. Henßler
Gesundheitsamt des Landkreises Südwestpfalz
E‑Mail: f.henssler@lksuedwestpfalz.de

Für die Redaktion des Digital-Newsletters ist die Entwicklungsagentur Rheinland-Pfalz e. V. verantwortlich.

Der „Digital-Newsletter“ wird unterstützt von:

Teile dieses Artikels wurden auf Basis von Änderungsvorschlägen einer KI-Assistentin überarbeitet, um den Text präziser und lesefreundlicher zu gestalten.

^{(Illustration: EA/msc, KI-generiert)}
Auf der Webseite der EA beantwortet die Maschine experimentell Fragen zu Projekten und Aufgaben. Dabei speist sich die KI nicht nur aus dem Weltwissen von ChatGPT, das im Hintergrund genutzt wird; der Assistent wurde speziell mit Informationen über die Aktivitäten der Entwicklungsagentur trainiert. So kann er auch Fragen beantworten wie „Was weißt Du über die Dorf-Büros?“.

Solche Assistenten können prinzipiell an unterschiedliche Wissensdatenbanken angeschlossen und damit trainiert werden. Zu 100 Prozent zuverlässige Antworten können die KI-Systeme allerdings nicht garantieren. Außerdem gilt es, die Gesprächsverläufe von KI und Menschen zu protokollieren, um falsche Antworten durch verbesserte Trainingsdaten zu vermeiden.

• Entwicklungsagentur experimentiert mit Künstlicher Intelligenz (Chatbot der EA)

Diese Technologien können komplexe Aufgaben bewältigen und kreativ tätig werden, was Fragen zu ihrer Auswirkung auf die Arbeitswelt, das Informationsmanagement und neue Beschäftigungsfelder aufwirft. Ein vierwöchiger, kostenloser Online-Kurs auf der Lernplattform openHPI vom Hasso-Plattner-Institut ermöglicht nun, in die Welt der generativen KI einzutauchen. Der Kurs richtet sich an Interessierte aller Berufsfelder und benötigt keine Vorkenntnisse in Programmierung oder Technik.

Der Kurs erläutert, wie generative KI-Systeme funktionieren und welche Anwendungsbeispiele es gibt. Ferner werden die Chancen und Herausforderungen dieser Technologien, wie zum Beispiel die Verbreitung von Falschinformationen, diskutiert und aufgezeigt, wie sie verschiedene Berufsgruppen und Aspekte unseres täglichen Lebens beeinflussen könnten. Offiziell ist der Kurs zwar bereits beendet, sodass Prüfungsfragen nicht mehr gestellt werden. Der Kurs ist jedoch weiterhin zugänglich, besonders leichtverständlich und strukturiert. Mehr als 16.000 Teilnehmerinnen und Teilnehmer verzeichnete der Anbieter.

In dem Kurs kommt unter anderem Tobias Lütke kurz zu Wort, ausgewanderter Unternehmenschef aus Koblenz, der mittlerweile von Kanada aus als Milliardär die Verkaufssoftware Shopify herausbringt.  „Heute war ein großartiges Jahr bei der KI“, schrieb er, als von ChatGPT die Version 4 erschien – und verdeutlichte so die Rasanz der Entwicklung. Vor Kurzem demonstrierte er eine Shop-Erweiterung, mit der seine Kundschaft nun mithilfe von KI ihren Shop umgestalten kann: durch menschliche Sprachangaben, ohne Programmierkenntnisse. 

• ChatGPT: Was bedeutet generative KI für unsere Gesellschaft? (Kursus)
• Demo: KI gestaltet Shop-Software um (englisches Video von Tobias Lütke)

Durch Antrainieren von Milliarden von Dokumenten sind die Maschinen in der Lage, textliche Anfragen zu so gut wie jedem Thema zu beantworten – häufig in einer sprachlichen und inhaltlichen Qualität, die beeindruckt. 

Eine wissenschaftliche Studie des Massachusetts Institute of Technology (MIT) hat nun untersucht, wie gut ausgebildete Wissensarbeiterinnen und Wissensarbeiter in der Verwaltung, im Marketing, in der Personalabteilung oder der Beratung von der KI profitieren können. Das Ergebnis: Sie erhöhten ihre Produktivität im Durchschnitt um 35 Prozent, brauchten also ein Drittel weniger Zeit. Dazu mussten 450 akademisch gebildete Menschen ihre regelmäßigen Aufgaben mal mit und mal ohne Unterstützung der KI erledigen. Zum Einsatz kam dabei die Webanwendung ChatGPT. 80 Prozent der Teilnehmenden entschieden sich im zweiten Durchgang, den Chatbot für die Aufgabe zu verwenden. Die Qualität der Ergebnisse war nach Meinung vieler Teilnehmender durch die KI verbessert. Gleichzeitig stieg jedoch die Besorgnis, von den Maschinen ersetzt werden zu können.

ChatGPT war bisher nur der erste schillernde Vertreter solcher Anwendungen. Microsoft hat einen ähnlichen Chatbot in seine Suchmaschine Bing eingebaut, der auch tagesaktuelle Ereignisse berücksichtigt und zu journalistischen Quellen verlinkt. Google arbeitet ebenfalls an einem solchen digitalen Gesellen. Fast täglich kommen mittlerweile neue KI-Anwendungen auf den Markt. 

Auch an Schulen in Rheinland-Pfalz sind die Chatbots bereits ein wichtiges Thema – versetzen sie Schülerinnen und Schüler doch in die Lage, Aufsätze ohne besonderes Fachwissen herzustellen, sei es auf Deutsch oder in Fremdsprachen. Die Tücke im Detail sind allerdings auch Fehler, die die Maschinen einbauen können. Und eigentlich darf ChatGPT nicht von unter 18-Jährigen genutzt werden. Des Weiteren werden die Daten zumeist auf Servern in den USA verarbeitet – mit Folgen für den Datenschutz und auch eine gewisse kulturelle Einseitigkeit. Auf dem Bildungsserver des Landes gibt das Bildungsministerium Handreichungen für Lehrerinnen und Lehrer. 

• ChatGPT erhöht Produktivität der Wissensarbeiter um 35 Prozent (Beitrag des Netzökonomen Holger Schmidt)
• Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence (Studie des MIT)
• Künstliche Intelligenz kennen und für den Unterricht nutzen (Seite des Bildungsministeriums)
• KI-Anwendungen: ChatGPT, You, Bing, Perplexity, Midjourney

Anlass und Zielsetzung

Die Online-Informationen von Kommunalverwaltungen sind oftmals allumfassend. Bürgerinnen und Bürgern oder Gästen einer Gemeinde reicht aber manchmal eine einfache Antwort aus, wenn sie schnell Informationen benötigen. Das hat Heidenheim an der Brenz erkannt und will ihnen lange Recherchen ersparen. Die kommunale Rathausassistentin Kora soll als Alternative für eine telefonische Nachfrage beim Bürgeramt angeboten werden. Sie steht rund um die Uhr zur Verfügung.

Vorgehensweise

Kora entstand im Rahmen des Change-Management-Prozesses „Digitale Stadt Heidenheim“. Bei Kora handelt es sich um einen Chatbot. Er kann textbasierte Fragen mithilfe künstlicher Intelligenz beantworten. Das Pilotprojekt wurde in Zusammenarbeit der Stadt Heidenheim an der Brenz mit dem kommunalen Rechenzentrum ITEOS und IBM entwickelt. Kora kann über den Link www.heidenheim.io sowohl auf Desktop-PCs als auch mobil aufgerufen werden. Öffnet man den Link, erscheint eine Seite, auf der man seine Frage in ein Textfeld eintippen kann. Die Oberfläche ist sehr benutzerfreundlich.

Genutzt wird für den Chatbot Kora der IBM Watson Assistant – ein Kommunikationssystem, das auf verschiedene Datenquellen zurückgreifen und gleichzeitig neue Daten generieren kann. Dieses System steht für genau solche Vorhaben zur Verfügung und muss lediglich an die vorliegenden Gegebenheiten angepasst werden.

Noch gibt es Kora nur als eine offene Beta-Version, die nicht abschließend fertiggestellt ist. Die regelmäßige Nutzung der Beta-Version führt zu weiteren Anpassungen.

Ergebnisse

Fragen kann man Kora nach so ziemlich allem, was mit der Stadt und ihrer Verwaltung zu tun hat: Kontakte, Öffnungszeiten, genaue Ortsangaben (durch Verknüpfung mit Google Maps sichtbar, u. a. Wildpark, Spielplätze, Grillplätze, Bäder), Ehrenbürger, Partnerstädte, zuständige Stellen, Veranstaltungslisten mit weiterführenden Links und viele Dinge mehr können erfragt werden.

Besonders häufig wird Kora nach Öffnungszeiten verschiedener Ämter und Einrichtungen gefragt. Aber auch Veranstaltungen und das Wetter am Wochenende, gelbe Säcke und der Reisepass sind häufige Themen. Gelegentliche Fragen nach ihrem Lieblingsessen (sie empfiehlt natürlich schwäbische Maultaschen) oder Witzen beantwortet sie ebenfalls.

Projektlaufzeit

Seit 2017

• Homepage: www.heidenheim.io
• Ansprechpartner: Manuel Schlegel, Stadt Heidenheim an der Brenz, Grabenstraße 15, 89522 Heidenheim, Tel. 07321 327 10 34, Mail online@heidenheim.de