Mythos Super-KI

Bedroht KI die Menschheit?

Stand
Autor/in
Lena Bergmann
Profilbild der Volontärin Lena Bergmann
Onlinefassung
Lilly Zerbst
Portraitbild der Reporterin Lilly Zerbst.

Die Vorstellung, dass Künstliche Intelligenz (KI) ein Bewusstsein entwickelt und die Menschheit auslöscht, ist ein bekanntes Szenario in Science-Fiction-Filmen. Wie realistisch ist das Szenario heute?

KI-Experten machen sich Sorgen

Zahlreiche Forschende warnen inzwischen vor den Gefahren einer Super-KI, die den Menschen in allen Bereichen übertreffen könnte. Beim Tech-Unternehmen Open AI, das ChatGPT entwickelt hat, sorgte ein neuer Meilenstein für interne Differenzen: Die Forscher verzeichneten angeblich Fortschritte bei der Entwicklung einer Superintelligenz, einer KI, die ähnlich intelligent oder sogar intelligenter als der Mensch ist. In einem internen Warnbrief äußerten sie ihre Sorgen darüber, dass eine solche KI auch die Fähigkeit entwickeln könnte, Verteidigungssysteme zu steuern, politische Propaganda zu verbreiten oder Waffen zu produzieren.

Was genau hinter dem Warnbrief steckt, ist nicht klar. Fest steht aber, dass viele Menschen, die sich mit KI beschäftigen, davor warnen, eine Technologie zu entwickeln, die „die Fähigkeit hat, den Menschen zu übertreffen und unkontrollierbar zu werden“, so Connor Leahy, Chef der KI-Firma Conjecture AI.

Ist KI böse?

Warum sollte eine KI aber die Motivation entwickeln, die Weltherrschaft an sich zu reißen? Und warum sollte eine superintelligente KI dem Menschen ähneln? Die Medienethikerin Dr. Jessica Heesen von der Univeristät Tübingen vermutet, dass der Mensch eine Veranlagung hat, Maschinen und Künstliche Intelligenzen zu vermenschlichen, ihnen Eigenschaften wie Gut und Böse zuzuschreiben. Ein Grund dafür könnte sein, dass der Mensch sich von der möglichen Überlegenheit der Maschinen eingeschüchtert fühlt, erklärt sie:

Wir Menschen fühlen uns ertappt durch so eine Maschine, die (...) vermeintlich immer zu den besten Entscheidungen kommt (...) Wir schreiben der künstlichen Intelligenz dann eine gewisse Bösartigkeit und Vernichtungswillen zu. Aber warum sollte sie nicht gut sein, die KI?

Gedankenexperiment: Darum könnte KI "böse" handeln

Eine KI muss aber nicht unbedingt böse Absichten haben, und könnte trotzdem gefährlich werden. Denn es gibt einen sehr großen Unterschied, ob eine Aufgabe einem Menschen oder einer KI gestellt wird.

Wird ein Mensch zum Beispiel darum gebeten, eine Tasse Kaffee zu holen, ist das nicht dessen Lebensmission. Er versteht den Kontext und wird niemanden umbringen, um eine Tasse Kaffee zu bekommen. Er kann einschätzen, ab wann ein Kaffee im Verhältnis vielleicht zu teuer ist und fragt nochmal nach.

Erhält eine KI einen Auftrag, wie zum Beispiel Kaffee zu holen, führt sie diesen aus, ohne mögliche Umstände und Konsequenzen abzuwägen. Das könnte auch gefährlich sein.
Erhält eine KI einen Auftrag, wie zum Beispiel Kaffee zu holen, führt sie diesen aus, ohne mögliche Umstände und Konsequenzen abzuwägen. Das könnte auch gefährlich sein.

Eine KI hingegen ist nicht dazu in der Lage, in Kontexten zu denken, Nachfragen zu stellen und zu klugen Abwägungen zu kommen, erklärt Heesen. Ein Ziel, zum Beispiel der Kauf eines Kaffees, kann zwar harmlos klingen, aber Teilziele, die eine KI erstellt und als logisch betrachtet, könnten für den Menschen gefährlich werden.

Dass eine KI eines Tages doch so intelligent würde, dass sie die ganzen Kontextbedingungen mitbedenkt und zu einer moralisch hervorragenden Lösung kommt, hält Heesen für unwahrscheinlich. Denn moralische Lösungen sind oft nicht eindeutig. Genau das ist für sie die Bedrohung einer Super-KI: nicht etwa deren hohe Intelligenz, sondern das kalte "Durchdeklinieren" von Prinzipien ohne Einbezug des Kontexts.

Lässt sich KI kontrollieren?

Viele befürchten, dass eine KI außer Kontrolle geraten könnte. Für Entwickler sind einige KI-Systeme schon jetzt eine echte Blackbox. Das hat auch heute schon reale Gefahren: KI könnte verändern, wie Menschen Wissen miteinander austauschen und welchen Informationen sie ausgesetzt sind, befürchtet Fritz Espenlaub, Wissenschaftsjournalist des Bayerischen Rundfunks und Host des KI-Podcasts der ARD.

Der Wissensaustausch könnte immer stärker über KI-Schnittstellen verlaufen, sagt er, und somit über Filter, die sich selbst verstärken - rassistische oder sexistische Filter beispielsweise. Sie würden dafür sorgen, dass weiße Menschen oder Männer ungewollt bevorzugt werden. Solche Filter und Vorannahmen zu erkennen und zu minimieren, ist gar nicht so einfach.

Künstliche Intelligenz Kommentar: Was taugt der AI-Act zur Regulierung von KI?

Der AI-Act ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Was taugt das KI-Gesetz? Eine Einschätzung von David Beck.

Doch zu einem gewissen Grad ließe sich KI sehr wohl regulieren, nämlich über die Trainingsdaten, meint Jessica Heesen:

Bestimmte Aspekte im maschinellen Lernen sind nicht nachvollziehbar, also (...) wie bestimmte Ergebnisse erstellt werden, das kann man nicht im Detail nachvollziehen. Aber das heißt noch lange nicht, dass es nicht kontrollierbar ist.

Für Jessica Heesen geht es darum, dass schon ganz am Anfang in der Produktentwicklung darüber nachgedacht wird, was schief gehen könnte, sodass nicht einfach superfunktionale KIs entstehen, bei denen viele Nebeneffekte nicht mitgedacht wurden. Um eine KI unter Kontrolle zu haben, seien ihr zufolge die Qualität der Trainingsdaten wichtig. Solche Dinge könne man sehr wohl kontrollieren.

Die wahre Gefahr: Entwicklung von KI liegt in den Händen weniger mächtiger Konzerne

Wer diese Trainingsdaten bestimmt, hat viel Macht. Und genau darin sieht Jessica Heesen die größte Gefahr: Große Plattformbetreiber, wie Google und Amazon, könnten ihre Macht durch eine erfolgreiche KI-Forschung noch einmal sehr stark ausbauen, gerade weil sie schon viele Daten haben, so Heesen. Bei diesen KI-Anwendungen wäre es nicht transparent, wie zum Beispiel die Trainingsdaten aussehen, warnt sie.

Das hat dann nichts damit zu tun, dass die KI so geheimnisvoll ist, sondern dass tatsächlich einfach Schranken vorgeschoben werden und die Gesellschaft nicht demokratisch partizipativ an solchen Anwendungen mitwirken kann gemäß ihrer eigenen Wertvorstellungen.

Gefährlicher als die Entwicklung einer Super-KI selbst könnte deshalb der Weg dahin sein, wenn die Datenmacht in den Händen einzelner großer Unternehmen liegt und die Regulierung langsamer vorangeht als das Wettrennen Richtung Super-KI. Dann kann die Entwicklung kaum sicher, transparent und wertorientiert passieren.

Warnbrief von Open AI nur ein Marketing Trick?

Viele Wirtschaftsexperten warnen außerdem davor, davon auszugehen, dass große Technologieunternehmen sich selbst regulieren. Das hat spätestens das Chaos bei Open AI gezeigt, dem Unternehmen, dessen Entwickler vor einem bahnbrechenden Fortschritt im KI Bereich warnten und ihrem Geschäftsführer feuerten, nur um ihn wenige Tage später zurückzuholen.

Open AI hatte sich aus einer Bewegung heraus gegründet, die die gemeinsame, transparente und sichere Forschung an KI "zum Wohle der Menschheit" fördern wollte. Das Unternehmen inszeniert sich immer wieder als Hüter einer brisanten Technologie für die Menschheit.

So gesehen kann ein Warnbrief vor einer bahnbrechenden Entdeckung auch als eine ziemlich kluge Marketing-Aktion gesehen werden, um Geldgeber davon zu überzeugen, in eine Technologie zu investieren, die unweigerlich kommen wird und auch davon, dass sie bei Open AI somit an der richtigen Adresse sind, wenn es um Transparenz und Rückgrat in Sachen KI-Sicherheit geht.

Die Bedrohung durch KI wird also, wie so oft, wahrscheinlich weniger von der KI selbst abhängen, als von der Entscheidung ihrer Entwickler.

Zurück zur Hauptseite

Achtung KI

Freiburg

Neurowissenschaftler Dr. Joachim Bauer | 19.7.2023 Künstliche Intelligenz: Chance oder Risiko?

Künstliche Intelligenz spaltet: Über Gefahren, Chancen, Regulierung & ungenutztes Potential wird heftig diskutiert. Wohin führen uns ChatGPT & Co.?

Leute SWR1 Baden-Württemberg

Was geht - was bleibt? Zeitgeist. Debatten. Kultur Düstere Science-Fiction: Führt uns die KI wirklich in die Apokalypse?

Warum so negativ? Warum zeichnet Science-Fiction immer ein eher dystopisches Bild von der Zukunft? Die Künstliche Intelligenz spielt dabei selten die Rolle des romantischen Helden. Können wir über KI also nur im Apokalypse-Modus nachdenken?

Isabella Hermann ist Politikwissenschaftlerin und Speakerin auf dem Gebiet der Science-Fiction. Sie meint, die düsteren Geschichten voller Weltzerstörung hätten mit Sehgewohnheiten zu tun: “Vor allem bei Kinofilmen und Blockbustern ist es eine Erwartungshaltung.” Das falle in die Kategorie “disaster porn” und sage mehr über uns Menschen aus als über die Technik selbst.
Mit welchen Folgen? “Bestimmte Bilder sacken ins kollektive Gedächtnis ein”, sagt Hermann. Da sei zum einen das rote Auge von HAL 9000, dem Bordcomputer aus Stanley Kubricks Film “2001: Odyssee im Weltraum” oder auch die Terminator-Fratze des von Arnold Schwarzenegger verkörperten Androiden.

Problematisch sei auch, dass die KIs im Trainingsprozess selbst wieder mit den Mensch-gegen-Maschine-Plots gefüttert werden. “Es liegt genau an diesen fiktiven Geschichten, die jetzt real werden, weil die KI-Systeme sie wiederholen.” Der problematischen Silicon-Valley-Ideologie “move fast and break things” könne man nur Bildung und Aufklärung entgegensetzen. Insgesamt appelliert Hermann aber daran, pragmatisch zu bleiben: “Vielleicht ist wirklich das Problem, dass uns die KI irgendwann einmal auslöschen möchte. Dann lag ich falsch. Oder wir gucken lieber, um was ich mich jetzt kümmern muss, denn wir leben ja schon mit KI.”

Zum Glück gibt es Ausnahmen! Isabella Hermann hat einen Lesetipp für uns, mit einer positiven KI-Figur. Sie empfiehlt den Roman “Pantopia” von Theresa Hannig.

Welche KI-Figur gefällt euch am besten? Habt ihr weitere Themen oder Feedback? Schreibt uns an kulturpodcast@swr.de.

Links zur Folge:
Theresa Hannigs Roman “Pantopia”:
https://www.fischerverlage.de/buch/theresa-hannig-pantopia-9783596706402

Isabella hat eine Einführung in das Science-Fiction-Genre geschrieben: https://www.junius-verlag.de/Programm/Zur-Einfuehrung/Science-Fiction-zur-Einfuehrung.html

Isabella Hermanns Science-Fiction-Hörspielpodcast "Das was Morgen": https://1.ard.de/das_war_morgen_cp

Hosts: Christian Batzlen und Pia Masurczak
Showrunner: Philine Sauvageot

Kommentar Experten warnen vor Auslöschung der Menschheit durch KI

Eine Reihe führender Experten für Künstliche Intelligenz sieht in der Technologie eine potenzielle Gefahr für die Menschheit und hat dazu aufgerufen, die Risiken ernst zu nehmen. Gefahr oder Marketingstrategie?