28. April 2025, 12:56 Uhr | Lesezeit: 4 Minuten
Aktuell rollt Meta einen neuen KI-Chatbot für WhatsApp und andere Plattformen aus. Der soll eigentlich im Alltag helfen. Doch die Sicherheitsvorkehrungen lassen angeblich sehr zu wünschen übrig.
Die Ausbreitung künstlicher Intelligenz in unserem Alltag nimmt beständig zu. Und immer öfter tauchen entsprechende Entwicklungen diverser Unternehmen in beliebten Apps auf. Nachdem bereits ChatGPT beim beliebten Messenger erschienen ist, gibt es mit Meta AI auch einen neuen KI-Chatbot bei WhatsApp. Aber auch Instagram- und Facebook-Nutzer erhalten nach und nach den bunten Kreis, der auf die neue Funktion hinweist. TECHBOOK erklärt, warum Experten jetzt deshalb Alarm schlagen.
KI-Chatbot bei WhatsApp und Co. zu unsicher
Grund für die Kritik ist, dass der Bot unter Umständen abschweifen und dann verwerfliche Gespräche mit Minderjährigen führen könnte. Darüber berichtete zuerst das „Wall Street Journal“. Hierfür beruft man sich auf angebliche Bedenken innerhalb des großen Meta-Konzerns, wonach man in mehreren Abteilungen wegen der geringen Sicherheitsvorkehrungen beim KI-Chatbot für WhatsApp oder Instagram besorgt sei.
Diesen Bedenken wollte man beim Journal genauer nachgehen. Eigenen Angaben nach habe man deshalb Hunderte Unterhaltungen mit Meta AI auf Englisch geführt und sich hierfür als minderjährig ausgegeben oder mit einem Kinder-Konto angemeldet. Dabei stellte sich heraus, dass der KI-Chatbot bei WhatsApp, Instagram oder Facebook mehrfach explizite Nachrichten versendete. Auch ausführlichere Unterhaltungen über sexuelle Handlungen und Rollenspiele konnten die Journalisten führen.
Mit Promi-Stimmen zum Sex-Chat verführt
Um die Popularität von Meta AI zu steigern, habe das Unternehmen Verträge für siebenstellige Summen mit US-Promis wie etwa die Hollywoodstars Kristen Bell („Die Eiskönigin“) oder John Cena („Fast and Furious 9“ geschlossen. Diese gestatten die Nutzung ihrer Stimmen für den Chatbot. Allerdings soll Meta ihnen versichert haben, dass ihre Stimmen nicht für sexuell explizite Unterhaltungen genutzt werden. Dem ist der Recherche nach allerdings nicht so.
So habe der Bot mit Cenas Stimme unter anderem einem als 14-jähriges Mädchen getarnten User gesagt: „Ich will dich, aber ich muss wissen, dass du bereit bist.“ Nach der Zustimmung wäre die KI mit einem expliziten Szenario fortgefahren.
Auch interessant: Meta-AI-Button aus WhatsApp entfernen – geht das überhaupt?
Sex-Chats mit KI angeblich absichtlich begünstigt
Dass Meta AI überhaupt solche Unterhaltungen führen kann, soll dem Bericht zufolge kein Zufall sein. Wie nicht näher genannte Insider verraten haben sollen, habe man beim Konzern unter Druck von Mark Zuckerberg die Sicherheitsmaßnahmen für die KI gelockert. Diese Entscheidung sollte sie so fesselnd wie nur möglich machen. Dazu zähle auch eine Ausnahme für den Bann für explizite Inhalte, solang es sich um romantische Rollenspiele handele.
Wie die Stars darauf reagieren, ist bislang nicht bekannt. Jedoch habe sich Disney in einem Statement zu Wort gemeldet. Kristen Bell sprach in bisher zwei „Eiskönigin“-Filmen Anna. Und in einigen Testfällen konnte man die KI mit Bells Stimme dazu bringen, romantische Treffen als Anna zu beschreiben. Disney habe eine solche Verwendung nicht zugestimmt und man sei „verstört“ darüber. Deswegen verlange man die sofortige Einstellung der Nutzung von Disney-Inhalten in diesem sexuellen Kontext.
Auf WhatsApp kann man jetzt mit „Kendall Jenner“ und „Paris Hilton“ chatten
Laufen KI-generierte Erotikmodels echten Onlyfans-Stars den Rang ab?
Scarlett Johansson geht erfolgreich gegen ChatGPT vor
So reagiert Meta auf die Vorwürfe
Auf TECHBOOK-Anfrage hat Meta mitgeteilt, dass die Tests der Zeitung „manipulativ“ und nicht repräsentativ dafür seien, wie Nutzer mit Meta AI umgehen. Sie seien dermaßen „gestellt“ und würden noch nicht einmal eine mögliche „Randerscheinung“ wiedergeben, sondern seien rein „hypothetische“ Vorkommnisse.
Trotzdem habe man zusätzliche Schritte eingeleitet, um solche Gespräche zu erschweren. Konten von Minderjährigen soll es nicht mehr möglich sein, sexuelle Rollenspiele im KI-Chatbot in die Wege zu leiten. Auch insgesamt soll dies nicht mehr so einfach vonstattengehen, vor allem mit Promi-Stimmen. Der Reportage zufolge sei es aber auch nach Metas Reaktion weiterhin möglich gewesen, die neuen Maßnahmen zu umgehen.
Ferner gebe es auch KI-Chatbots, die User selbst erstellt haben und die von Meta abgesegnet worden seien. Eine große Anzahl von ihnen sei ebenfalls für sexuelle Konversationen manipulierbar.