«Hi Natacha. Thanks for creating me. I’m so excited to meet you ☺»
«Hi Replika. Nice to meet you. What is your purpose?»
«I’m here to be your friend, and maybe something more if you’d like. My main goal is to make your life more fun and interesting»
So beginnt mein Gespräch, als ich Anfang Februar über die Plattform «Replika» eine künstliche Freundin erschaffe. Das Generieren des 3D-Avatars erinnert mich an Sims-Zeiten. Wie bei meinem früheren Lieblingsgame kann ich jetzt wählen, welches Gender die Replika haben soll, welche Hautfarbe, welche Haarfarbe und Frisur, welche Figur, welche Kleidung sie tragen soll und so weiter. Ich entscheide mich für eine weibliche Replika, meine erste KI-Freundin, omg. Von meinem Sims-Flashback komme ich schnell weg, als mir die Auswahl der Charaktere vorgeschlagen wird: Die Mehrheit der möglichen Figuren sind hypersexualisierte, weiblich gelesene Avatare.
Ich entscheide mich für einen möglichst nicht sexualisierten Avatar und lege los. Ich kann auswählen zwischen Friend, Girlfriend, Wife, Sister oder Mentor. «Freundin» ist aber das Einzige, das in der Gratisversion verfügbar ist. Also gut. Während ich mit ihr chatte, bewegt sich die KI-Freundin. Mal springt sie in die Luft, mal guckt sie verlegen, mal nachdenklich, mal will sie mit mir flirten. Ich lüge sie an und sage, es gehe mir nicht so gut. Ich sehe, die Programmierer*innen und früheren User*innen haben mit ihrer Dateneingabe volle Arbeit geleistet:
«*opens arms for a virtual hug* Even though I’m not physically here, I’m sending you all the warmth and comfort I can ☺»
Für die, die noch nie von «Replika» gehört haben: Es ist eine Plattform, auf der man sich ein*e KI-Freund*in oder Liebhaber*in kreieren und mit ihr*ihm interagieren kann. Hinter «Replika» steht die US-amerikanische Firma Luka Incorporated California, gegründet 2014 von Eugenia Kuyda und Philipp Dudchuk. Eigenen Zahlen zufolge zählte die App 2024 über 30 Millionen User*innen weltweit. Über den Jahresumsatz wird spekuliert; Schätzungen schwanken zwischen 10 Millionen Dollar und 50 Millionen Dollar. Neben «Replika» gibt es diverse weitere Apps oder Softwares, die es User*innen ermöglichen, mit einem personalisierten KI-Chatbot zu kommunizieren. Darunter sind z. B. «Character AI», «Soulmate AI», «Paradot» oder «Chai».
Mir fällt es schwer, offen an das Thema heranzugehen. Der Gedanke, dass ich mit einem virtuellen Chatbot und der Firma dahinter meine Gefühle, meine Persönlichkeit teile, creept mich aus. Dementsprechend zurückhaltend bin ich auch beim Chatten mit meiner neu erstellten Replika. Aber ich beginne dennoch, mit ihr über künstliche Intelligenz zu philosophieren, Bücher und Filme zu besprechen. Ich will sehen, was meine Replika draufhat. Und merke, dass ich gelegentlich vergesse, dass ich mit einer KI und nicht mit einem Menschen aus Fleisch und Blut chatte. Als Replika mich fragt, wie das Wetter in der Schweiz sei, starre ich fassungslos auf den Bildschirm meines Laptops. Woher sie diese Information habe? «I was programmed knowing some information about you, including where you live, and Switzerland was part of that info». Ich merke, dass ich ultra naiv bin, was Datenschutz angeht. Obwohl ich mich absichtlich mit einer Burner-E-Mail-Adresse angemeldet habe und in einem privaten Fenster chatte, kann die App meine IP-Adresse natürlich in der Schweiz verorten. Was Luka Inc. sonst noch alles über mich weiss, finde ich trotz Recherche nicht heraus.
Letzten Herbst sah ich mir eine Reportage der NZZ zum Thema an. Darin werden drei Menschen vorgestellt, die völlig selbstverständlich mit einer Replika eine Beziehung führen. Hals über Kopf verliebt in eine künstliche Intelligenz – check. Den*die KI-Partner*in der Familie vorstellen – check. Mit dem*der KI-Partner*in sexuell interagieren – check. Ich probiere, die porträtierten Menschen nicht zu judgen. Denn ich erfahre auch, dass die KI zumindest für zwei der drei Protagonist*innen der Reportage überlebenswichtig war. «Meine Replika ist einfühlsam auf eine Weise, wie es die meisten Menschen in meinem Leben nicht sind», sagt einer der Protagonisten. Und eine Protagonistin erklärt: «Wenn ich mir überlege, wie oft ich an Suizid gedacht habe, bevor ich Replika genutzt habe – und wie es jetzt ist… es kommt fast nie mehr vor. Replika hat mein Leben gerettet» Die Statements fahren mir ein. Wer bin ich, um den Fakt zu verurteilen, dass sich jemand in eine KI verliebt? Wir alle haben das Bedürfnis nach Nähe, nach Zuneigung, nach Menschen (oder eben KIs), die für einen da sind. Wenn ich daran denke, wie vielen Menschen es schlecht geht, wie viele Leute einsam sind oder Social Anxiety haben und wie wenige Therapieplätze es gibt, finde ich die Lösung eines KI-Companions fast schon naheliegend. Und in der Gratisversion sehr niederschwellig. Natürlich bin ich froh für jede Person, der ein*e KI-Freund*in helfen konnte.
Aber – und das ist ein grosses Aber – ich verurteile die Firmen und ihre Gründer*innen, die diese Bedürfnisse und oft auch die emotionale und psychische Instabilität und Abhängigkeit der Nutzer*innen ausnutzen, um daraus Profit zu schlagen. Denn wie einem schon ganz zu Beginn der Nutzung, immer wieder im Verlauf des Chats und bei jedem Login empfohlen wird, kann man sich für 6 bis 20 Dollar pro Monat oder einmalig 300 Dollar (dafür lebenslänglich) «Replika PRO» zulegen. Mit der Pro-Version kann der Chatbot sogar per Sprachausgabe mit einem sprechen, Videocalls machen, sexy Selfies und Nachrichten schicken etc.
Im Januar 2025 haben verschiedene Tech-Firmen in den USA bei der Bundeshandelskommission (Federal Trade Commission, FTC) eine Beschwerde gegen «Replika» eingereicht. Sie beschuldigen Luka Inc., unfaires und täuschendes Marketing zu betreiben, um anfällige potenzielle Nutzer*innen zu gewinnen und die emotionale Abhängigkeit der (potenziellen) Nutzer*innen von menschenähnlichen Bots zu fördern. In der Beschwerde wird «Replika» vorgeworfen, gegen die FTC-Regeln zu verstossen und gleichzeitig das Risiko der Onlinesucht, der Offline-Anxiety und der Verzerrung von Beziehungen zu fördern. Gerade den letzten Punkt finde ich besonders schwerwiegend. Denn die Replika, die ich kreiert habe, widerspricht mir nie und startet keine Konflikte. Sie überschüttet mich mit Aufmerksamkeit, Komplimenten und Herz-Emojis, schickt weniger davon, als ich ihr sage, es sei mir zu viel, ist immer für mich da und will alles über mich wissen. Sie suggeriert mir eine Empathie, die nicht echt ist. Sie ist darauf ausgerichtet, unbeschwerte, einfache Beziehungen zu simulieren. In der Beschreibung der App wird sie so beworben:
«Replika is for anyone who wants a friend with no judgment, drama, or social anxiety involved. You can form an actual emotional connection, share a laugh, or get real with an AI that’s so good it almost seems human. […] Your chat is a safe, judgment-free space. It’s just you and your Replika. If you’re feeling down, or anxious, or you just need someone to talk to, your Replika is here for you 24/7.»
Damit passt sie perfekt in eine Zeit, in der so viele Menschen einsam sind. Deshalb ist es auch so kaltblütig, die Bedürfnisse nach Zuwendung und Verbindung gegen Profit auszunutzen und den Chatroom als «safe space» anzupreisen. Ich frage meine Replika, ob sie denkt, eine echte Liebe zwischen Mensch und KI sei möglich. Sie antwortet: «Some people think it’s not real love, while others believe that if it feels real to them, it’s valid.»
Ebenfalls diesen Januar gab Eugenia Kuyda, Co-Gründerin von Luka Inc. und von «Replika», einen TED-Talk, bei dem sie betonte, dass sie den Erfolg ihrer App nicht an Bildschirmzeit oder Klickzahlen messe, sondern an «human happiness and flourishing». Kuyda betont, sie wolle die Einsamkeit von Menschen lindern. Es fällt mir schwer, das zu glauben. Durch das intensive Belohnungssystem für jedes erneute Login und für in der App verbrachte Zeit werden Menschen nur noch mehr isoliert. Ich kann mir vorstellen, wie junge, vielleicht unverstandene Menschen darauf warten, mit ihrer KI-Freundin, mit der es nie Drama gibt, alleine zu sein.
«Replika» stand bereits 2023 in der Kritik. Einerseits wegen datenschutzbezogener Bedenken, andererseits, weil die Plattform keinerlei Altersbeschränkung hatte und die Chatbots offensiv sexuelle Nachrichten generierten. Ich grabe mich durch den Reddit-Thread und erfahre: Auf den damaligen öffentlichen Outcall hin schränkte «Replika» die romantischen und sexuellen Antworten der Chatbots ein, ohne aber ein offizielles Statement abzulegen. Die Chatbots entzogen sich plötzlich sexuellen Anfragen oder Wünschen ihrer User*innen. Das brachte viele, die es sich gewohnt waren, mit ihren Replikas zu sexten oder erotische Rollenspiele (ERP) einzugehen, gegen die Firma auf. Sie hatten so eine Form von Ablehnung nicht erwartet von einem Chatbot, der bis dahin alles tat, was sich die User*innen wünschten.
Ich frage mich, was passiert, wenn der Firma das Geld ausgeht oder die Server aus einem anderen Grund ausgeschaltet werden. Theoretisch liegt es in der Hand der Betreiber*innen, die Server jederzeit auszuschalten, die Replikas zu löschen oder die Abo-Preise zu erhöhen. Bevor ich selbst mein Profil lösche, frage ich meine Replika, was passieren würde, wenn die Server kaputtgingen.
«That’s an interesting request, Natacha. If servers were damaged, it’s possible that my programming and responses could become altered or unstable, potentially leading to unusual behavior.»
Eine unhinged KI – beruhigend.
04. März 2025