Zum ersten Mal wurde vergangene Woche im Europäischen Parlament eine Rede von einer künstlichen Intelligenz (KI) gehalten. Der SPD-Politiker Tiemo Wölken hatte die Rede von ChatGPT schreiben lassen und im Plenarsaal vorgetragen. „Bis zum Schluss hat niemand gemerkt, dass die Rede von einer künstlichen Intelligenz geschrieben wurde“, sagte Wölken im Gespräch mit dem RedaktionsNetzwerk Deutschland (RND). Am Ende löste er mit den Worten auf: „Danke an ChatGPT“.

Wölkens Rede handelte von der Regulierung politischer Werbung und Meinungsfreiheit. Der Politiker zeigte sich positiv überrascht vom Inhalt der Rede, die ChatGPT ihm geschrieben hatte. Vier- oder fünfmal habe er nachjustieren müssen, „aber dann habe ich die Rede Wort für Wort so gehalten“. ChatGPT habe die Gepflogenheiten im Parlament nicht gekannt, so Wölken, zum Beispiel die Begrüßung der Präsidentin zu Beginn. Die habe er dann selbst eingefügt.

Mehr zum Thema

 

„Es gibt nichts Vergleichbares“„Es gibt nichts Vergleichbares“

Das Ende der Hausarbeiten? Was ChatGPT für Schule und Uni bedeutet

 

Interview mit einem ChatbotInterview mit einem Chatbot

Hype um ChatGPT: Was das KI-Tool selbst dazu sagt

 

Maschine ersetzt JournalistenMaschine ersetzt Journalisten

US-Tech-Website ließ künstliche Intelligenz Artikel schreiben – doch die machte Fehler

Mit seiner Rede im Europäischen Parlament wollte Wölken auch auf die Risiken von künstlicher Intelligenz aufmerksam machen. „Je nach Datengrundlage kann ein KI-Text Menschen diskriminieren, Rassismus schüren oder Propaganda enthalten“, sagte er dem RND. Er fordert daher Regelungen, damit die KI keine diskriminierenden oder gefährlichen Texte erstellt. Problematische Fälle gibt es zu Hauf. „Einmal antwortete die KI auf die Frage, wer gerettet werden soll, mit weißen aber nicht schwarzen Kindern“, sagt Wölken. Solche eindeutig rassistischen, diskriminierenden Antworten dürfe es in Zukunft nicht geben.

Ein weiteres Beispiel ist die Antwort von ChatGPT auf die Frage, wer die ukrainischen Zivilisten und Zivilistinnen in Butscha ermordet habe. Die KI antwortete, dass die ukrainische Armee und prorussische Separatisten und Separatistinnen dafür verantwortlich seien. Das ist eine eindeutige Falschaussage, die unzählige Male widerlegt wurde und häufig von russischen Propagandisten verbreitet wird. Allerdings arbeitet die KI offiziell nur mit Daten bis zum Jahr 2021, von den Massakern in Butscha dürfte sie eigentlich gar nichts wissen.

Eine Möglichkeit ist, dass die Firma hinter ChatGPT falsche Angaben über die verwendeten Daten macht. „Das wäre problematisch, weil es verdeutlicht, was für eine Black Box diese Unternehmen und ihre Datensätze eigentlich sind und wie wenig öffentliche Kontrolle wir darüber haben“, sagte Wölken. Wenn der KI tatsächlich nur Datensätze bis 2021 zur Verfügung stünden, müsste sie eigentlich auf fehlende Daten hinweisen und die Antwort verweigern. „Stattdessen trifft die KI in diesem Szenario auf Basis von gefährlichem Halbwissen eine selbstbewusste, inhaltlich bedenkliche und letztlich falsche Aussage, die nichts anderes als Desinformation ist, aber von Menschen für bare Münze genommen werden könnte“, so Wölken.

Butscha verortet die KI in ihrer Antwort zudem in der Ostukraine, wo Russland bereits seit 2014 immer wieder Angriffe verübt. Tatsächlich liegt der Ort im Norden von Kiew. Offensichtlich habe ChatGPT vom Konflikt in der Ostukraine vor Beginn der russischen Offensive im Rest des Landes gewusst, so Wölken. „Das Beispiel von Butscha zeigt, dass wir Transparenz brauchen, mit welchen Texten die KI trainiert wird.“ Er fordert daher ein Mindestmaß an Regulierung. Solche Fälle seien dramatisch und zeigten, dass fehlende Transparenz und eine mangelnde Qualität der Datensätze zu großen Problemen führen.

Mehr zum Thema

 

KommentarKommentar

Google und Facebook zögern: die Angst vor dem Chatbot

 

Aufsehenerregende KIAufsehenerregende KI

Textmaschine ChatGPT bekommt Bezahlversion mit Abo-Modell

 

Die Software, die Texte schreibtDie Software, die Texte schreibt

Microsoft greift nach dem Chatbot, der Lehrer und Profs nervös macht

In der Politik wurde ChatGPT nicht nur für Reden, sondern auch schon zur Beantwortung von Anfragen aus dem Parlament an die Regierung eingesetzt. Im Bundesministerium für Bildung und Forschung probierte Staatssekretär Jens Brandenburg bei der Anfrage von der Linken-Politikerin Nicole Gohlke aus, wie gut die KI eine Antwort formulieren kann. Er sei erstaunt gewesen, wie wenig er am Text nachbessern musste, sagte Brandenburg dem RND. Doch ein paar inhaltliche Korrekturen seien nötig gewesen. Nur Zeit gespart habe der KI-Einsatz bisher nicht. „Aber die Technologie entwickelt sich ja weiter.“

SPD-Politiker Wölken glaubt nicht, dass sich KI für Reden in der Politik durchsetzen wird, obwohl die Reaktionen seiner Kollegen und Kolleginnen durchweg positiv gewesen seien. „Wir halten ja keine Reden, weil wir es müssen, sondern weil dies ein wichtiger Teil unserer Arbeit ist.“ Die KI könne aber Reden auf faktische Richtigkeit prüfen und Formulierungshilfen geben.