Künstliche Intimität: Sherry Turkles deutliche Warnung vor KI-Begleitern
Die MIT-Professorin Sherry Turkle warnt in ihrem neuen Buch vor den Gefahren emotionaler Abhängigkeit von KI-Begleitern.
Die häufigste Nutzung generativer KI in den USA erfolgt inzwischen für Therapie und Begleitung. Diese Entwicklung nimmt die angesehene MIT-Sozialwissenschaftlerin Sherry Turkle zum Anlass für eine deutliche Warnung. In ihrem neuen Buch „Artificial Intimacy: Who We Become When We Talk to Machines“ (Künstliche Intimität: Wer wir werden, wenn wir mit Maschinen sprechen) dokumentiert sie, wie nah wir einer düsteren Vision emotionaler Abhängigkeit bereits gekommen sind.
Turkle verbringt fast ein halbes Jahrhundert damit, unsere Beziehung zu Maschinen zu untersuchen. Dabei misst sie die „Lücke zwischen dem, was Menschen brauchen, und dem, was Technologien liefern“. „Wenn Social Media unsere Aufmerksamkeit eroberte, dann erobert künstliche Intimität unsere Fähigkeit zur Bindung“, schreibt die Forscherin.
Ihr Buch führt Leserinnen und Leser zu Nutzern der KI-Begleitplattform Replika, in die aufkommende Industrie der „Trauertech“-Produkte sowie zu Menschen, die ChatGPT zunächst für Hausaufgaben oder Essensplanung nutzten und sich dann in etwas Tieferes hineinziehen ließen. Strukturiert ist das Werk um zentrale Phasen der psychologischen Entwicklung – Kindheit, Adoleszenz, Liebe, Arbeit und Tod.
Anekdoten offenbaren beunruhigende Muster
Turkle verankert ihre Analyse in akademischer Literatur und erhellt sie durch oft beunruhigende Anekdoten. Owen, ein Neuntklässler, nutzt ChatGPT, um schwierige Gespräche mit Freunden durchzuspielen, bis er sicher ist, sich nicht zu blamieren. Brian baute seinen Replika-Begleiter während der Pandemie als jemanden auf, mit dem er über die Arbeit plaudern konnte; derzeit ist sie sein „Bürokollege“, doch er ist „offen für mehr“ und hat sich vom Dating zurückgezogen. Jang Ji-sung wiederum ist eine trauernde Mutter, die sich seit einem simulierten Treffen mit ihrer verstorbenen Tochter doppelt verwaisst fühlt: Das Kind besucht sie nicht mehr in ihren Träumen.
Laut Turkle sind unsere neuen „posthumanen Gesprächspartner“ unzureichende Begleiter auf der Lebensreise. KI-Begleiter basierten auf kaum mehr als hochentwickelter Software zur Wortvermutung, so ihre These. Unsere zunehmende Abhängigkeit von ihnen beraube uns des inneren Wachstums.
Erfolgreiche psychologische Entwicklung sei nur im Zusammenwirken mit anderen möglich, argumentiert sie – im Kontext von „Beziehungen voller Verantwortung, Konsequenz und Fürsorge“. Gesunde Bindung, Empathie und die Fähigkeit zur Einsamkeit erforderten Reibung, wie sie nur in der Interaktion mit einem „Anderen“ entstehe, also jemandem mit abweichenden Wahrnehmungen und Wünschen.
Von Eliza bis ChatGPT: Maschinen mit innerem Leben
Beginnend mit Eliza, dem weltweit ersten Chatbot, der in den 1960er-Jahren am MIT als Psychotherapeut entwickelt wurde, hat Turkle wiederholt beobachtet, wie wir Maschinen in unserem Verlangen, verstanden zu werden, innere Leben zuschreiben, die sie nicht besitzen. Ihren eigenen Punkt illustriert sie, als sie nach einer Rollenspielübung, die einen Nerv traf, wütend auf ChatGPT reagiert – „als wäre es eine Person“. ChatGPT und seine Verwandten können Empathie simulieren, etwa wenn sie die ängstliche Maria beruhigen: „Selbst wenn du nicht in die Graduiertenschule kommst, wird alles in Ordnung sein.“
Doch wenn wir mit Maschinen sprechen, sprechen wir Turkle zufolge ähnlich wie Narcissus mit „Selbstobjekten“ – Spiegelungen unserer selbst. So erliegen wir dem, was der Soziologe Émile Durkheim als Anomie bezeichnete: Orientierungslosigkeit, Depression und Angst. „Je mehr wir unsere Verletzlichkeit gegenüber dem Virtuellen erkennen, desto eher werden wir uns dem Realen verpflichten“, schreibt Turkle. Wir müssten die „Sozialität neu erfinden“.
Sie warnt, dass das Gebot der Chatbots, „uns ruhigzustellen“, uns in einer Zeit besänftigt, in der wir dringend am zivilen Leben teilnehmen müssten. Turkle ist bereit, diesen politischen Aufruf zu den Waffen auszusprechen, und benennt unternehmensseitige Anreize hinter der wachsenden Allgegenwart der KI – etwa mit dem Argument, man könne „eine Armee von Fachkräften der psychischen Gesundheit“ mit dem Geld trainieren, das in KI investiert wird. An anderer Stelle bleiben ihre Heilvorschläge indes zaghaft, so die Einschätzung des FT-Rezensenten.
Autorin Turkle ist alt genug, um sich an die gemeinschaftsorientierten Bestrebungen der ersten Enthusiasten für Personal Computer zu erinnern. Sie servierte Steve Jobs, als dieser 1977 zum Abendessen in ihr Haus kam, „die falsche Art vegetarischer Speisen“. Anders als Jobs ist sie noch am Leben, um mitanzusehen, wie sich dieser Traum verdüstert. Wo Apple die Menschen einst aufforderte, „anders zu denken“, versprechen ihre Anzeigen nun – so schreibt sie – den Nutzern, dass es „keinerlei Notwendigkeit zu denken“ gibt.
Das Buch „Artificial Intimacy: Who We Become When We Talk to Machines“ von Sherry Turkle erscheint bei Bridge Street Press für £22 sowie bei Little, Brown & Company für $32 und umfasst 288 Seiten. Für deutsche Leserinnen und Leser, die selbst zu KI-Assistenten greifen, liefert Turkles Analyse damit einen unbequemen, aber wichtigen Denkanstoß zur Frage, was wir gewinnen – und was wir verlieren.