Wenn KI dabei hilft, KI zu finden

Seit Monaten steht Thüringens Regierungschef Mario Voigt wegen seines aberkannten Doktortitels unter Druck - nun gibt es den Vorwurf, seine Reden und Gastbeiträge oder Teile davon könnten mit Hilfe von KI entstanden sein. Voigt selbst macht kein Geheimnis darum, dass er ein Befürworter des Einsatzes generativer KI ist. Das Online-Portal «Frag den Staat» hatte mehrere Beiträge unter die Lupe genommen - und dafür KI-Analyse-Werkzeuge verwendet. Künstliche Intelligenz (KI) ist im Politikbetrieb weit verbreitet. Doch wie viel Transparenz braucht es, und wo liegen Grenzen? Inzwischen gibt es auch eine Reihe von KI-Werkzeugen, die dabei helfen sollen, KI-generierte Texte zu entlarven. 

Wie hat das Portal «Frag den Staat» Voigts Reden und Gastbeiträge analysiert? 

Es gibt zahlreiche Programme und Internetseiten, die damit werben, KI-generierte Texte zu erkennen, wie etwa das von «Frag den Staat» genutzte «GPTZero». Diese Services werden unter anderem auch in Schulen oder an Universitäten genutzt, um KI-generierte Inhalte zu erkennen. Solche Software wird ohne KI-Funktionen schon seit Jahren eingesetzt, um an Hochschulen etwa Plagiate zu erkennen. Bei der Erkennung von KI-generierten Texten gibt es verschiedene technische Ansätze: Von statistischen Modellen bis zu selbst trainierten Modellen, die auf der Grundlage großer menschlicher und KI-generierter Datensätze arbeiten.

Wie zuverlässig sind diese Analyse-Werkzeuge?

Die Anbieter werben mit einer erstaunlichen Genauigkeit von bis zu 99,3 Prozent. Wissenschaftliche Untersuchungen kamen in der Vergangenheit jedoch zu anderen - teils deutlich schlechteren - Ergebnissen. So heißt es in einer Veröffentlichung einer Forschungsgruppe von der Universität Maryland in den USA etwa, dass viele automatische Detektoren unter geringen Entdeckungsraten leiden würden und wenig robust gegen Versuche seien, technisch einen menschlichen Tonfall zu imitieren. Dazu kommt, dass solche Dienste häufig mit überwiegend englischsprachigem Material trainiert worden sind und politische Sprache strukturell oft hochgradig formelhaft ist. 

Hätte Voigts Team die KI-generierten Beiträge kennzeichnen müssen?

Eine gesetzliche Pflicht zur Kennzeichnung von KI-generierten Beiträgen gibt es nicht. Zwar treten am 2. August dieses Jahres die Transparenzpflichten des von der EU beschlossenen AI Acts in Kraft, nach denen offengelegt werden muss, wenn ein Text «künstlich generiert oder manipuliert wurde». Diese Verpflichtung entfällt aber, wenn KI-generierte Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden. Hier trägt dann derjenige die Verantwortung, der den Text geprüft und bearbeitet hat. 

Eine Dienstanweisung des Thüringer Digitalministeriums bescheinigt dem KI-Einsatz enorme Potenziale. Allerdings steht dort auch: «Mit generativer KI ist durch die Beschäftigten bewusst und sensibel umzugehen.» Aus der Dienstanweisung geht auch hervor, dass auf die Verwendung von KI hinzuweisen sei, wenn beispielsweise für Textbeiträge und für Bausteine für Reden und Antworttexte generative KI genutzt «und das Ergebnis übernommen oder in relevanten Anteilen genutzt wird». 

Voigts Sprecherin wies darauf hin, dass es auch in der Staatskanzlei eine Dienstanweisung zum Umgang mit KI gibt. Sie enthalte «verbindliche Vorgaben» zum Umgang mit Daten und zur Qualitätssicherung. «Dabei gilt ein klarer Grundsatz: KI kann unterstützen, die Verantwortung verbleibt stets beim Menschen.»