Köln | Heute tagt der Digitalisierungsausschuss der Stadt Köln (22. April 2024). Einer der ersten Punkte auf der Tagesordnung ist das Thema eines Chatbots für die städtische Internetseite. Die Stadt will damit auch KI, also Künstliche Intelligenz einsetzen.
Die Stadt Köln will den Chatbot allerdings nicht selbst betreiben, sondern über einen Dienstleister auf ihrer Seite implementieren. Der Fokus soll zunächst auf Services und Dienstleistungen liegen, später wäre es vorstellbar, dass der Chatbot auch Texte mit Informationen für die städtische Internetseite generiert. Die Stadt rechnet mit jährlichen Kosten von rund 40.000 Euro. Immerhin steht im Verwaltungsvorschlag, dass der Chatbot „modernen IT-Sicherheitsstandards“ entsprechen solle und konform mit der DSGVO betrieben werde. Ein Betreiben außerhalb der DSGVO wäre für die Stadt rechtlich gar nicht möglich.
Kölnerinnen und Kölner sprechen in Zukunft mit KI
Der Chatbot soll mit den Kölnerinnen und Kölnern selbstständig freitextliche Dialoge führen. Dies basiert auf einem Large Language Model. Trainiert werden soll die KI mit den Website-Inhalten, die die Stadt Köln schon vorhält. Zur Fehleranfälligkeit schreibt die Stadt Köln: „Da LLMs Sprache auf Basis von statistischen Wahrscheinlichkeiten generieren, kann es zu geringfügen Fehlern in der Wiedergabe von Informationen kommen. Es muss daher möglich sein, solche Fehler systemseitig zu korrigieren bzw. die korrekte Antwort vorzuschreiben. Für Einzelfälle soll es möglich sein, feste Antworten und Gesprächsabläufe zu definieren.“ Der Chatbot soll mehrsprachig agieren.
Stadt als amtliche Informationsquelle
Die Vorlage diskutiert allerdings nicht die Frage nach der Rechtssicherheit. Immerhin sind die Informationen, die die Stadt Köln veröffentlicht amtliche Informationen und die Stadt agiert in diesem Zusammenhang als Primärquelle. Wer haftet, wenn der Chatbot des Drittanbieters Fehlinformationen im Namen der Stadt Köln veröffentlicht und wie ist gesichert, dass die digitalen Antworten rechtssicher archiviert sind? Fragen auf die, die städtische Vorlage zur Verbesserung des Bürgerservice mittels generativer KI, keine Antwort gibt. Eine Kommentierung sei gestattet: Es ist zu befürchten, dass sich die Debatte in Fragen, ob der Chatbot Kölsch spricht, verheddert, anstatt die rechtlichen Fragen oder Fragen nach amtlicher und rechtssicherer Auskunft zu klären. Denn, ist die Antwort einer KI eines Drittanbieters eine amtliche Auskunft, auf die sich die Bürgerinnen und Bürger Kölns verlassen können?
