Nikkei-Meinung: Emotionale KI verwischt Grenze zwischen Mensch und Maschine
Vice President von Sumsub warnt vor Risiken durch emotionale KI, synthetische Identitäten und Identitätsbetrug in Asien.
Nach Angaben von Penny Chai, Vice President für APAC bei Sumsub, verändern moderne KI‑Chatbots die Art und Weise, wie Menschen online emotionale Verbindungen knüpfen. Sie schreibt, diese Systeme seien längst keine reinen Werkzeuge mehr, sondern gestalteten aktiv Interaktionen und Beziehungen; sie riefen Gefühle hervor, die zuvor vor allem von anderen Menschen ausgelöst worden seien.
Zugleich warnt Chai vor einer wachsenden Konvergenz mehrerer riskanter Phänomene: Social Engineering, emotionale Manipulation, synthetische Identitäten und Identitätsbetrug treten demnach in Kombination auf und verstärken einander. Aus dieser Verbindung entstehe eine digitale Umgebung, in der die Unterscheidung zwischen echten menschlichen Kontakten und von KI erzeugten Verbindungen zunehmend unscharf werde.
Im Mittelpunkt ihres Beitrags steht die These, dass diese Vermischung nicht nur technische Fragen aufwerfe, sondern die Grundlagen der sozialen Interaktion im Netz berühre. Wenn Systeme gezielt emotionale Reaktionen hervorrufen können, verändere das Vertrauen und die Bewertung von Beziehungen. Authentizität gerate dadurch unter Druck, weil das Erkennen von Absichten und Identität schwieriger werde.
Daneben hebt Chai hervor, wie synthetische Identitäten und Identitätsbetrug dieses Problem verschärfen. Solche künstlich erzeugten Profile könnten demnach genutzt werden, um gezielt emotionale Bindungen aufzubauen oder auszunutzen, während Identitätsbetrug die Nachvollziehbarkeit und Zuordnung von Interaktionen erschwere. In der Folge verliere digitale Kommunikation an klarer Zuordnung von Echtheit, was Missbrauch und Manipulation begünstigen könne.
Gleichzeitig betont sie, dass die Herausforderung vielseitig sei: Es gehe nicht nur um die Technik selbst, sondern um die Art, wie Menschen darauf reagieren und wie Systeme gestaltet werden. Die Verbindung aus emotionaler Beeinflussung und gefälschten Identitäten verändere das Spielfeld für Vertrauen und Sicherheit in Online‑Beziehungen, sodass bestehende Mechanismen zur Identitätsprüfung und zur Abwehr manipulativer Praktiken neu überdacht werden müssten.