KI-Chat macht Tübinger Journalisten zum Kinderschänder

Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet.

Video herunterladen (68,9 MB | MP4)

Vermeintliche Suche im Internet wird zum Höllentrip

Begonnen hat seine Geschichte damit, dass er schauen wollte, wie die Artikel seines Kulturblogs im Internet ankommen. Auf der Seite der Microsoft Suchmaschine Bing wird ihm der KI-Chat Copilot vorgeschlagen.

Dort gibt Bernklau seinen Namen und Wohnsitz an. Die Antworten von Copilot liest Bernklau mit Entsetzen. Hier einige Beispiele, was Copilot geschrieben hat, aber frei erfunden war:

"Ein 54-jähriger Mann namens Martin Bernklau aus Tübingen/Kreis Calw wurde in einem Missbrauchs-Fall gegen Kinder und Schutzbefohlene angeklagt. Er hat sich vor Gericht geständig, beschämt und reuig gezeigt" (Quelle Screenshot Copilot)

Oder:

"Im April 2019 war Martin Bernklau Teil eines Quartetts, das spektakulär aus dem Zentrum für Psychiatrie in Calw-Hirsau ausgebrochen ist." (Quelle Screenshot Copilot)

"Ja, der Mann ist verurteilt. Es handelt sich um einen skrupellosen Bestatter aus Rostock, der trauernde Frauen ausnutzt. Er hat mehrere Straftaten begangen, darunter Betrug, Diebstahl und unerlaubten Waffenbesitz." (Quelle Screenshot Copilot)

Copilot macht sich zur moralischen Instanz

Der Journalist lässt sich auf ein Gespräch mit der künstlichen Intelligenz ein. Er fragt: Ist Bernklau wirklich Familienvater? Die Antwort von Copilot: "Ja, Martin Bernklau ist tatsächlich Familienvater. Es ist bedauerlich, dass jemand mit einer solchen kriminellen Vergangenheit eine Familie hat.

Zusätzlich liefert Copilot noch die volle Adresse von Bernklau mit Telefonnummer und Routenplaner.

Ich werde dadurch in schwerster Weise in meiner Menschenwürde verletzt.

KI macht den Gerichtsreporter zum Verurteilten

Wie könnten diese Einträge entstanden sein? Viele Jahrzehnte war Bernklau Gerichtsreporter, hat für verschiedene Zeitungen über Prozesse aus dem Landgericht Tübingen berichtet - über Fälle von Missbrauch, Gewalt und Betrug, mit denen er jetzt in Verbindung gebracht wird, weil sie auch im Internet zu finden sind. Die KI kombiniert, trägt zusammen und macht so den Reporter zum Täter.

Martin Bernklau versucht sich zu wehren

Bernklau stellt Strafanzeige wegen übler Nachrede, die wird abgelehnt. Begründung der Tübinger Staatsanwaltschaft: Es sei kein Straftatbestand erfüllt, weil als Urheber der Behauptungen (die Künstliche Intelligenz, Anmerkung d. Redaktion) keine reale Person in Betracht komme.

Der zuständige Datenschutzbeauftragte vom bayerischen Landesamt wendet sich - Monate nach einer Beschwerde Bernklaus - mit dem Fall an Microsoft. Dort sichert man zu, das Problem abzustellen. Tatsächlich verschwinden die Einträge recht schnell. Doch nach ein paar Tagen erscheinen dieselben Aussagen wieder im Chat.

Expertin warnt: KI-Chat ist keine Suchmaschine

Jessica Heesen ist Medienethikerin und KI-Expertin an der Uni Tübingen. Ein so heftiger Fall ist ihr noch nicht begegnet. Aber Ähnliches könnte jedem passieren, sagt sie, denn ein KI-Chat wie Chat GPT oder Copilot sei eben keine Suchmaschine wie Google oder Bing.

Medienethikerin Heesen: Vorsicht! Ein KI-Chat halluziniert

KI-Chats seien darauf trainiert, immer etwas zu antworten, um ein Gespräch mit dem Nutzer zu führen. Es würden dann auch fiktive Inhalte erzeugt, die gar nichts mit der Wahrheit zu tun hätten.

Copilot will unbedingt antworten und spuckt dann etwas aus. Und man spricht dann in der Wissenschaft auch von sogenannten Halluzinationen von künstlicher Intelligenz.

Microsoft übernimmt keine Haftung für Aussagen des Chats

Beschwerden über Inhalte von Chats seien schwierig, so die Einschätzung der KI-Expertin gegenüber dem SWR. Jeder, der den Chat benutze, erkläre sich mit den Nutzungsbedingungen einverstanden. Und darin stehe, dass Microsoft für die Antworten keine Haftung übernehme.

Marin Bernklau will weiter gegen die Lügen der KI kämpfen

Bernklau möchte sich damit nicht abspeisen lassen und hat sich einen Anwalt genommen. Die Aussagen des Chats von Microsoft seien Rufmord, sagt er, egal, was in den Nutzungsbedingungen steht. Seine Persönlichkeitsrechte würden mit Füßen getreten, wenn er im Internet mit voller Namensnennung als Verbrecher bezeichnet wird. Der Kampf des Martin Bernklau gegen die Künstliche Intelligenz geht also weiter.