Wir müssen lernen, dass eine KI halluziniert. Sie formuliert einen wahrscheinlichen Satz, der aber nicht richtig sein muss. Die KIs dürfen nicht den Anschein erwecken, dass die Infos seriös sind.
Würdet ihr nach dem Tod als Avatar weiterleben wollen?
Die Medienethikerin Prof. Jessica Heesen von der Uni in Tübingen leitet verschiedene Forschungsprojekte mit ethischen und philosophischen Debatten im Bereich Medien und Digitalisierung.
Ich kann mir für mich selber oder meine Angehörigen keinen digitalen Avatar nach dem Tod vorstellen. Trotzdem ist es ein neuer Teil der Trauerkultur.
So funktioniert die digitale Unsterblichkeit durch KI
Für Menschen, die nach dem Tod weiter präsent sein wollen, gibt es verschiedene Dienste, die sie nutzen können, so Jessica Heesen. Bei einem seriösen Dienst müssten sie zunächst viele Fragen beantworten – auf dieser Basis erstelle die Künstliche Intelligenz denn einen Avatar.
Dieser gebe den Angehörigen dann realitätsnahe Antworten, etwa zum Leben des Verstorbenen oder dessen politischen Ansichten. Bei einem Avatar, der auf einem solchen festgelegten Datensatz basiert, kämen aber irgendwann immer die gleichen Antworten.
Opfer der Künstlichen Intelligenz KI-Chat macht Tübinger Journalisten zum Kinderschänder
Der Journalist Martin Bernklau ist Opfer des KI-Chats Copilot geworden. Die Künstliche Intelligenz von Microsoft macht aus dem unbescholtenen Tübinger einen Kinderschänder.
Künstliche Intelligenz: Wenn der Verstorbene up-to-date bleibt
Die zweite Variante: eine KI, die sozusagen "frei läuft". Insbesondere kostenlose Diensten nutzen diese, so Heesen. Dabei erstellt die Künstliche Intelligenz ein Stereotyp einer ähnlichen Person, die dann auf Grundlage von Daten aus dem Internet antwortet.
Bei einem offenen Avatar kann die verstorbene Person beispielsweise auch zu aktuellen politischen Ereignissen oder zu Tipps für den Sommerurlaub befragt werden.
Heesen macht deutlich, dass solche Antworten ganz ohne Gewähr seien: Die KI antworte nur auf Basis einer Wahrscheinlichkeitsrechnung – wie hätte der Verstorbene mutmaßlich geantwortet?
Künstliche Intelligenz Verstorbene als digitale Avatare auferstehen lassen
Nach dem Tod mit Verstorbenen sprechen können – das will die sogenannte Digital Afterlife Industry mit künstlicher Intelligenz möglich machen. Doch es gibt viele ethische Fragen.
Weiterleben nach dem Tod – ob ich will oder nicht?
Über einen Vertrag könnten Angehörige die Bestimmungshoheit über die geschaffene KI behalten, sagt Jessica Heesen: "Wenn aber eine Art Umsonst-Dienst genutzt wird, oder einer, der frei läuft, haben Sie keine Möglichkeiten mehr, darauf Einfluss zu nehmen." Zudem sei es nicht nur den Menschen selbst oder den Angehörigen überlassen, einen digitalen Avatar zu schaffen, warnt sie.
Sie sind Moment nicht davor geschützt, dass eine wildfremde Person einen Avatar von ihnen erstellt.
SWR Science Talk Wir brauchen Regeln im Umgang mit Künstlicher Intelligenz
Kann es sein, dass künstliche Intelligenz sich verselbständigt? Dazu forscht die Medienethikerin Dr. Jessica Heesen, Universität Tübingen.
Wer schützt uns vor Missbrauch beim digitalen Weiterleben?
Das erst kürzlich erlassene neue EU-Gesetz zur Künstlichen Intelligenz (AI-Act) nehme die Unternehmen bereits mehr in die Pflicht, so Heesen. Der Beschluss wird nach und nach umgesetzt und beinhaltet unter anderem eine Kennzeichnungspflicht für KI-generierte Inhalte.
Dennoch bleiben Fragen ungeklärt. Was fehlt, ist beispielsweise eine Regelung, wer über Avatare von Verstorbenen entscheiden darf. Bis dahin könne man im Testament festhalten, ob von der eigenen Person ein Avatar erstellt werden darf, so Heesen. Die Medienethikerin rät außerdem in Zusammenhang mit KI zu einer gewissen Skepsis, ob Inhalte immer richtig und seriös sind.