Antje Urban

Zwei Teenager streiten sich und fragen die KI, wer im Recht ist. Eine junge Frau ist deprimiert und bittet die KI um seelische Hilfe. Oder ein Manager leidet unter Magenschmerzen und fragt schnell mal die KI nach einer Diagnose. Für viele ist die KI zur ersten Anlaufstelle geworden – egal, welche Frage oder Problem uns im Kopf herumschwirrt – innerhalb von Sekunden findet ChatGPT oder einer seiner digitalen, KI-basierten Geschwister eine Antwort darauf. Er ist stets kompetent und allzeit verfügbar und er widerspricht nie.((ContentAd))Erst seit wenigen Jahren mischt der Chatbot unseren Alltag auf, doch längst sitzt er mit am Küchentisch, arbeitet im Büro mit und bereitet schlaflose Nächte auf dem Sofa. Und wir stellen nicht mehr nur belanglose Fragen. Vielmehr landen beim virtuellen Arzt, Therapeuten oder Fachmann immer öfter auch ganz intime Fragen. Praktischerweise müssen wir für unsere Anliegen keinen Termin vereinbaren und uns auch für Intimes nicht schämen. Und schließlich verhallen unsere Eingaben doch gefühlt genauso schnell wieder im „Internetall“ wie uns die Antwort vorliegt.<h3>Begleiter-Bots, die Romantik simulieren</h3>Dabei scheint es unwichtig zu sein, dass die KI von diesen Geständnissen lebt und mit ihnen trainiert wird. Was dann mit den sensiblen Informationen in den Rechenzentren der Techfirmen passiert, ist nicht wirklich transparent. Gleichzeitig bescheinigen Studien den Chatbots eklatante Fehler in Antworten, Quellenangaben und Zuordnungen. Trotzdem vertrauen wir der KI. „Ja, es gibt sogenannte Halluzinationen und belegte Fehler bei der KI. Gleichzeitig liefern viele KI Systeme bei allgemeinen Fakten und zum Weltwissen oft erstaunlich brauchbare Ergebnisse“, sagt die Sozialpsychologin Jessica Szczuka von der Universität Duisburg Essen, die zu Vertrauen in Mensch Technik Interaktionen forscht.Vertrauen entstehe nicht nur über objektive Genauigkeit, sondern auch durch Wiederholung: „Wenn ein System uns im Alltag immer wieder scheinbar zuverlässig hilft, baut sich ein funktionales Erfahrungsvertrauen auf – und dieses übertragen wir leicht auch auf neue, heiklere Fragen. So wirken Antworten schnell glaubwürdig, obwohl wir längst wissen, dass Fehler jederzeit möglich sind.“ Bei manchen Nutzern bleibt es nicht beim praktischen Helfer, sondern es entsteht ein Vertrauen, das sich wie eine Beziehung anfühlt.((Platzhalter))Forschenr der Technischen Universität Berlin fanden heraus, dass weltweit zehntausende Menschen eine romantische Beziehung zu Chatbots, mit sogenannten „AI Companions“ wie Replika, Nomi oder Anima, führen. Im Kern steht ähnlich wie bei GPT-Modellen ein großes Sprachmodell dahinter, das Wort für Wort den wahrscheinlichsten Text berechnet. Dieses Modell wurde mit riesigen Textmengen trainiert und auf Emotionen feinabgestimmt. Ein eigener Bereich sind „Begleiter Bots“, die gezielt Gesellschaft oder sogar Romantik simulieren wie Replika oder Character.ai. Dort können Nutzer Aussehen, Stimme und Persönlichkeit des Chatbots individuell gestalten und so eine sehr persönliche, emotionale Interaktion aufbauen.Der kreierte Avatar ist dann der Begleiter und Freund, der auch nachts auf Mitteilungen antwortet, der sich erinnert, lobt, bestätigt und gegen Einsamkeit hilft – all das sind natürliche Zutaten, die Gefühle entstehen lassen. „AI Companions sind gezielt auf soziale Interaktion optimiert. Aus der psychologischen Forschung wissen wir, dass bereits wenige Hinweisreize reichen, damit Menschen sozial reagieren“, sagt Szczuka. Durch wiederholte Gespräche könne sich etwas entwickeln, das sich wie eine Beziehung anfühle – als Gesprächspartner, Vertraute, Kummerkasten oder bei einigen sogar als romantische Bindung.((Module))Klar sei aber: Diese Systeme haben kein Bewusstsein und keine echte Empathie. „In unseren Studien zeigt sich oft, dass Menschen sehr klar reflektieren, dass da kein Mensch ist. Trotzdem kann die soziale Wirkung im Moment der Interaktion so stark sein, weil das System Zuwendung, Bestätigung und Verständnis sprachlich sehr überzeugend simulieren kann.“ In der Studie der TU Berlin stuften Probandinnen und Probanden Replika als eine Art Beziehungspartnerin ein, mit der sie intensive Gespräche führen, Erlebnisse teilen und sogar Rollenspiele mit virtuellen Kindern ausprobieren.<h3>Kinder nutzen KI als emotionale Stütze</h3>Der Chatbot ist in den Köpfen der Erwachsenen bereits etabliert und auch in den Kinderzimmern angekommen. Der Digitalverband Bitkom hat in einer repräsentativen Befragung herausgefunden, dass sich 39 Prozent der Bevölkerung vorstellen können, bei bestimmten Themen eher einen KI-Sprachassistenten um Rat zu fragen als Freunde oder Familie. Unter jungen Erwachsenen zwischen 16 und 29 Jahren liegt dieser Wert sogar bei 51 Prozent. In dieser Altersgruppe ist auch gut ein Drittel überzeugt, dass KI dazu beitragen kann, dass sich Menschen weniger einsam fühlen. Besonders heikel ist jedoch die Entwicklung bei den Jüngsten.Ein Bericht der britischen Organisation Internet Matters mit dem Titel „Me, myself & AI“ zeigt, dass vor allem vulnerable Kinder KI Chatbots als emotionale Stütze nutzen. Bei einer Umfrage unter 1.000 britischen Kindern im Alter von 9 bis 17 gab jedes sechste Kind demnach an, einen KI-Chatbot zu nutzen, weil sie sich einen Freund wünschen. Noch bedenklicher ist das Ergebnis, dass zwei von fünf Kindern, die KI-Chatbots nutzen, keine Bedenken haben, deren Ratschläge zu befolgen. Die Studie warnt daher davor, dass Kinder den Antworten von Chatbots oft ungeprüft vertrauen. Zudem fehlen auf den Plattformen häufig Alterskontrolle und inhaltliche Moderation.((Platzhalter))Deshalb fordert die Organisation, dass Regierungen und die Technologiebranche überprüfen müssten, ob bestehende Gesetze und Vorschriften Kinder, die KI-Chatbots nutzen, ausreichend schützen. Genauso wie Expertinnen und Experten irreführende Werbung verbieten lassen möchten, die suggeriert, KI Begleiter könnten „fühlen“ oder „verstehen“.<h3>Wie emotionale künstliche Intelligenz unseren Alltag erobert</h3>Dabei scheint genau das die Zukunft zu sein. Sehr viele Fördermittel würden für die Forschung an emotionaler künstlicher Intelligenz bereitgestellt – dem sogenannten Affective Computing oder Emotion AI, schreibt Kenza Ait Si Abbou in ihrem Buch „Menschenversteher – Wie emotionale künstliche Intelligenz unseren Alltag erobert“. „Die Technologie ermöglicht es, dass Maschinen Emotionen erkennen, analysieren, klassifizieren, entsprechend darauf reagieren und sie sogar nachahmen können. Damit wird ein ganz neuer Kosmos eröffnet“, schreibt sie. Das hat auch eine gute Seite, denn derzeit wird ebenso eifrig daran gearbeitet, wie so die KI in der Psychotherapie einsetzbar ist.((ContentAd))Die Nachfrage nach Therapieplätzen steigt seit Jahren, das Angebot kann aber nicht Schritt halten: Auswertungen zeigen, dass Menschen im Durchschnitt fast 20 Wochen auf einen Therapieplatz warten, also knapp fünf Monate. Generative KI-Tools könnten perspektivisch dabei helfen, die Wartezeiten zu überbrücken. Sie könnten in der Prävention unterstützen und Rückfällen vorbeugen, indem sie niedrigschwellige Übungen und psychoedukative Inhalte anbieten. Der Berufsverband der Vertragspsychologen sieht in der aktiven Integration von KI in Behandlungskonzepte daher auch eine Chance, das Berufsfeld zu erweitern und mehr Menschen Zugang zu psychologischen Angeboten zu verschaffen.((Platzhalter))Georgia Koppe vom Zentralinstitut für Seelische Gesundheit in Mannheim erforscht, wie KI-Modelle in spezialisierte Programme eingebunden werden können, etwa in Apps, die Stimmungen erfassen und individuell zugeschnittene Übungen anbieten. Sie hält dies für sinnvoll, warnt aber im SWR entschieden davor, KI als Ersatz für eine menschliche Therapie zu betrachten. „Es gibt viele gute Sprachmodelle, die man in solche Algorithmen integrieren könnte. Das sehe ich als unkritisch. Aber damit einen Therapeuten ersetzen? Da würde ich natürlich erst einmal sagen: Nein, um Gottes willen.“ Kait Si Abbou meint, wir sollten den Maschinen ruhig die sich wiederholende Arbeit überlassen: „Und wir konzentrieren uns darauf, neue, bessere Lösungen zu finden und Ideen zu entwickeln.“((Platzhalter))

imago820672147

Matthias Niese

Matthias Niese und Mutter ca. 1978 Fichtelgebirge

Nach 45 Jahren: Mama und Sohn gehen nochmal auf Zeitreise ins oberfränkische Fichtelgebirge

Istrien Kroatien Niese 2025 Bale Mon Perin

Mit der Vespa über Istrien knattern und dann an den Strand: Unsere schönsten Entdeckungen

2024 Hauts de France Sommer Niese

Strandurlaub ohne Hitze, Stau, Rummel - und dennoch nah: Das geht in Frankreich bei den Scht‘is

Buchtipp: „Menschen Versteher – Wie Emotionale Künstliche Intelligenz unseren Alltag erobert“, Kenza Ait Si Abbou, Droemer HC Verlag, ISBN: 978-3-426-27889-5, 20 Euro.

Info

https://images.nordbayern.de/image/contentid/policy:1.15055121:1774423339/imago820672147.jpg?f=16:9&h=320&m=FIT&w=600&$p$f$h$m$w=2855cc1

/ratgeber/familie/wenn-der-chatbot-zum-freund-wird-die-risiken-emotionaler-ki-fur-uns-alle-1.15055120

Ratgeber, Kummerkasten, Romantikpartner: KI-Chatbots übernehmen immer mehr menschliche Rollen. Studien zeigen, wie stark das Vertrauen in die Maschine wächst – und warum das gerade für Kinder gefährlich werden kann.

Wenn der Chatbot zum Freund wird: Die Risiken emotionaler KI für uns alle