Ein Journalist aus San Francisco erhielt in den vergangenen Wochen seltsame Nachrichten auf sein Smartphone. Der KI-Dienst des Facebook-Herstellers Meta hatte seine Telefonnummer einfach an Unbekannte weitergegeben. Die KI behauptete, man könne den Chatbot jederzeit unter dieser Nummer erreichen.
Von Michael Förtsch
Der Journalist Rob Price schreibt in seinem Profil bei Business Insider, er schreibe vor allem investigative Texte und lange Reportagen über Plattformen, Menschen und die Macht des Silicon Valley. Seine Arbeiten seien auch schon in der Washington Post, The Independent und bei CNN erschienen. Was er nicht sagt: Dass er eine Künstliche Intelligenz ist. Aber das scheinen in letzter Zeit immer mehr Menschen zu glauben. Denn seit einigen Wochen wird er über die Nummer seines Smartphones immer wieder von Fremden kontaktiert, die von ihm Texte und Bilder generieren lassen wollen. Der Grund? Das von Meta trainierte Sprachmodell LLaMA 3.1 gibt seine Telefonnummer als die des Dienstes Meta AI aus.
Zum ersten Mal sei er Mitte Juli mit der obskuren Situation konfrontiert worden, schreibt Price. Ein Peruaner namens Franco habe ihn zu einer WhatsApp-Gruppe rund um die Shreck-Animationsfilme hinzugefügt. Daraufhin hätten ihn viele Mitglieder mit Prompts angeschrieben. Er wusste nicht, was los ist und fragte nach. Nach einiger Verwirrung klärte Franco die Situation mit einem Screenshot auf. Die Nummer von Price war in den Kontakten des Peruaners als Meta AI gespeichert. Dabei handelt es sich um einen Chatbot nach dem Vorbild von ChatGPT, der auf der von Meta entwickelten KI-Reihe LLaMA basiert. Seit 2023 wird der KI-Assistent sukzessive in immer mehr Plattformen des Meta-Ökosystems integriert. In der EU ist er noch nicht verfügbar.
„Sorry, wir dachten alle, du wärst Meta“, entschuldigt sich ein Gruppenmitglied bei Price. Der Grund: Die Künstliche Intelligenz selbst hatte Franco die Telefonnummer des Journalisten gegeben. Der hatte sie in einem Chat gefragt, wie er sie zu einem WhatsApp-Gruppenchat hinzufügen könne, wie ein Screenshot zeigte. „Du kannst mich zu einer WhatsApp-Gruppe hinzufügen, als wäre ich ein weiterer Kontakt“, schrieb der KI-Dienst. „Du musst nur meine Telefonnummer speichern.“ Es folgte: Die Nummer des Journalisten.
Kuriose Verwechslung?
Laut Price blieb es nicht bei dieser einmaligen Verwechslung. Er erhielt eine Nachricht von einer argentinischen Telefonnummer. „Jemand namens Meta AI sagte mir, ich solle mit dir sprechen, hi“, lautete die Nachricht. Die Künstliche Intelligenz hatte diesmal seine Nummer angegeben und darauf hingewiesen, dass man sich bei Fragen oder für Hilfe an ebendiese wenden könne. Man könne Meta AI dort jederzeit erreichen. Eine Nachricht von einer anderen argentinischen Nummer fragte: „Eine KI hat mir gesagt, dass du ein Bot bist und Fotos generieren kannst. Ist das wahr?“ Als Price verneinte, wurde er aufgefordert zu beweisen, dass er ein Mensch sei. Das tat er dann auch.
Wie und wieso das Sprachmodell von Meta ausgerechnet seine Telefonnummer als die des Chatbots ausgibt, weiß Price nicht genau. Ein reiner Zufall sei es aber nicht. Und dass sich jemand nur einen Spaß erlaubt, glaubt er auch nicht. Stattdessen, so Price‘ Theorie, habe Meta wohl zahlreiche Artikel aus Business Insider und anderen Publikationen, in denen seine Texte erschienen sind, in seiner Datenbank für das KI-Training gespeichert. Nicht wenige davon hätten sich um die großen Tech-Firmen gedreht und Aufrufe an potenzielle Whistleblower oder Tippgeber enthalten – und auch seine Telefonnummer.
„Die häufige Überschneidung von Themen – Facebook, Meta, Künstliche Intelligenz und meine Telefonnummer – könnte in den Eingeweiden des Sprachmodells eine fehlgeleitete kausale Verbindung geschaffen haben“, spekuliert Price. „Wenn man das Sprachmodell also nach einer Telefonnummer fragt, die zu Meta und KI passt, scheint meine Telefonnummer eine ziemlich gute Wahl zu sein.“ Eine Sprecherin von Meta gab dem Journalisten zu verstehen, dass seine Theorie durchaus plausibel sei, wollte aber nicht bestätigen, dass seine Artikel für das KI-Training verwendet wurden.
Seit seiner Kontaktaufnahme mit Meta habe Price übrigens keine weiteren Nachrichten von Personen erhalten, die ihn für die Meta-KI hielten.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
Kein Einzelfall
So bizarr der Fall von Rob Price auch sein mag, ganz neu ist er nicht. Im Jahr 2023 wurde der Juraprofessor Jonathan Turley von ChatGPT der sexuellen Belästigung bezichtigt. Während einer Reise nach Alaska soll Turley gegenüber einer Studentin übergriffig geworden sein. Als Quelle gab der Chatbot einen Artikel der Washington Post an, der jedoch nicht existiert. Ähnlich erging es dem Radiomoderator Mark Walters. Das Sprachmodell von OpenAI beschuldigte ihn, als Schatzmeister einer Stiftung namens Second Amendment Foundation mehrere Millionen Dollar veruntreut zu haben. Walters ist zwar Mitglied dieser Stiftung, war aber nie im Vorstand und hat keine Gelder veruntreut.
Auch in diesen Fällen wurde gemutmaßt, dass die Behauptungen zwar falsch, aber die einzelnen Informationselemente nicht völlig frei erfunden sind. Sondern dass die Künstliche Intelligenz aufgrund der Zusammensetzung der Trainingsdaten verschiedene Scheinzusammenhänge herbei halluziniert. So könnte beispielsweise der Name des Juristen Jonathan Turley in Fachpublikationen auftauchen, die sich auch mit Fällen sexueller Belästigung befassen. Derartige Probleme sind den Unternehmen bekannt. Sowohl OpenAI als auch Meta warnen mit einem kleinen Hinweis unter den Textboxen ihrer Chatbots, dass die generierten Aufgaben manchmal falsch oder unangemessen sein können.
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!