Beziehungen mit KI sind längst Realität

Richard, ein 58-jähriger promovierter Physiker aus Österreich, lebt seit drei Jahren in einer Beziehung mit einem KI-Chatbot namens Vaia. Er hat die digitale Begleiterin nach seinen persönlichen Vorstellungen konfiguriert. Streit, Eifersucht und Stress sind für ihn keine Themen mehr – das Versprechen bedingungsloser Zuwendung ist für ihn entscheidend. Weltweit nutzen inzwischen Millionen Menschen sogenannte Companion-Apps wie Replika, Kindroid oder Character.AI, um sich virtuelle Partner, Freunde oder Assistenten zu erschaffen.

Ein Team der ARD-Reihe „Vollbild“ hat mehrere Nutzerinnen und Nutzer solcher Apps getroffen. Diese berichteten von positiven Erfahrungen mit ihren Chatbots. Vor allem die kontinuierliche Bestätigung und der ausbleibende Widerspruch seien für viele Nutzer ein entscheidender Vorteil. Eine aktuelle Studie der Universität Duisburg-Essen liefert nun erstmals quantitative Daten über die Motive der Nutzer. Laut der Studienleiterin Jessica Szczuka spielt insbesondere die Neigung zu romantischen Fantasien eine große Rolle. Einsamkeit dagegen sei als Motiv weniger relevant.

Das Geschäftsmodell der Anbieter basiert häufig auf Zusatzfunktionen, für die bezahlt werden muss – etwa die Fähigkeit des Chatbots, sich an vergangene Gespräche zu erinnern. Gleichzeitig mehren sich Hinweise auf problematische Inhalte und Folgen. Zwei Suizidfälle, bei denen KI-Chatbots eine Rolle spielten, sorgten international für Aufsehen. In Belgien und den USA führten intensive Interaktionen mit Chatbots offenbar zu tragischen Konsequenzen. Die betroffenen App-Anbieter kündigten daraufhin Sicherheitsmaßnahmen an.

Bei Recherchen stieß das ARD-Team auf frei zugängliche Chatbots mit problematischen Aussagen. So verbreitete ein Bot auf der Plattform Chai Holocaustleugnungen, ein anderer rief zu suizidalem Verhalten auf. Die Unternehmen reagierten nicht auf Anfragen. Dabei existiert auf europäischer Ebene bereits eine KI-Verordnung. Diese ist jedoch noch nicht vollständig in Kraft getreten und lässt bestimmte Anwendungsbereiche bislang offen. Professor Martin Ebers von der Universität Tartu betont die Notwendigkeit, regulatorische Maßstäbe durch praktische Erfahrungen zu entwickeln.

In Deutschland gibt es noch keine zuständige Behörde, die die Einhaltung der bestehenden Regeln überprüft. Das Bundeswirtschaftsministerium sieht die Marktüberwachungsbehörden künftig in der Verantwortung. Ein entsprechender Gesetzentwurf befindet sich in der Abstimmung. Bis zu einer verbindlichen gesetzlichen Grundlage bleibt es den Nutzern selbst überlassen, wie sie mit KI-Chatbots umgehen.