Ampeln markieren, Zebrastreifen und Hydranten auswählen – das sind einige der gängigsten CAPTCHAs. Doch die kleinen Rätsel, die Menschen von Bots unterscheiden sollen, könnten bald aussterben. Denn KIs werden immer besser darin, sie zu lösen und auch sonst Menschen nachzuahmen. Forscher plädieren deshalb für einen Menschlichkeitsnachweis.
Von Michael Förtsch
Fast jeder ist schon einmal mit einem sogenannten CAPTCHA konfrontiert worden. Dahinter verbirgt sich der Begriff Completely automated public Turing test to tell computers and humans apart – also: vollständig automatisierter öffentlicher Turing-Test zur Unterscheidung von Computern und Menschen. Solche Tests gibt es in verschiedenen Ausprägungen. Mal müssen verzerrte Buchstaben- und Zahlenreihen entziffert werden. Mal müssen auf einem in Felder unterteilten Bild bestimmte Objekte wie Autos, Briefkästen oder auch Ampeln markiert werden. Denn damit ließ sich seit Jahren recht zuverlässig bestätigen, dass jemand, der auf einen bestimmten Internetdienst zugreifen will, tatsächlich ein Mensch ist und nicht etwa ein Computerprozess, der zum Beispiel automatisiert Daten abfragt oder einen Hackerangriff durchführt. Doch genau diese Aufgabe erfüllen solche CAPTCHAs immer weniger gut.
Wie Forscher verschiedener US-Universitäten und Firmen wie Microsoft und OpenAI jetzt in einer Studie darlegen, könnten CAPTCHAs in einigen Jahren nahezu nutzlos werden. Findige Entwickler hätten seit Jahren immer wieder Methoden gefunden, um die kleinen Rätsel zu knacken. Doch moderne KI-Systeme hätten nun Fähigkeiten entwickelt, die den Sinn von CAPTCHAs grundsätzlich in Frage stellen. „Insbesondere die multimodale KI, die das Sehen mit kognitiven Fähigkeiten kombiniert, um verschiedene Aufgaben zu erfüllen, stellt eine große Herausforderung dar“, so die Autoren. Klassische CAPTCHAs seien für große KI-Modelle wie GPT-4o, Claude 3 Sonnet, aber auch Open-Source-Modelle wie InternVL-Chat keine Herausforderung.
Heutige KIs sind teilweise sogar besser im Lösen von solchen Aufgaben als viele Menschen. Das war ironischerweise auch irgendwie das Ziel der CAPTCHAs. Denn die Lösungen menschlicher Nutzer wurden genutzt, um KI-Systeme zu trainieren. Vor allem Entwickler von Fahrerassistenz- und Selbstfahrsystemen für moderne Fahrzeuge haben die Daten genutzt, um KI-Modellen beizubringen, andere Fahrzeuge, Radfahrer, Zebrastreifen oder auch Hindernisse wie Mülltonnen und Straßenlaternen zu erkennen. Aber auch die Bilderkennung multimodaler Sprachmodelle basiert zum Teil auf CAPTCHAs, die Millionen von Menschen immer wieder genervt gelöst haben.
Bist du ein Mensch?
Zahlreiche Technologieunternehmen arbeiten bereits an der Entwicklung neuer CAPTCHA-Systeme, die die derzeitigen Inkonsistenzen und Unzulänglichkeiten von KI-Systemen ausnutzen. Statt visueller Rätsel sollen Menschen künftig Logikrätsel oder kleine Spiele lösen, schlägt etwa das Unternehmen Arkose Labs vor. Die Autoren der Studie halten solche Bestrebungen allerdings nicht für zielführend. Denn am Ende könnte das Internet dadurch unzugänglicher und schwerer nutzbar werden, weil es menschliche Nutzer unnötig behindert und Zeit kostet. Zudem entwickeln sich KI-Modelle rasant weiter und könnten bereits in wenigen Monaten CAPTCHAs mit Leichtigkeit lösen, die für sie bisher eine Hürde darstellen.
Wie die Autoren der Studie betonen, geht es bei CAPTCHAs natürlich nicht nur darum, Bots und andere automatisierte Systeme auszuschließen, sondern auch darum, das Überwinden solcher Sperren für Angreifer teuer zu machen. Zum Beispiel dadurch, dass Systeme und Modelle zum Lösen von CAPTCHAs angepasst oder trainiert werden müssen. „Da KI [und ihre Nutzung] jedoch immer billiger wird, werden die wirtschaftlichen Hürden von CAPTCHAs immer niedriger, während es für Menschen immer schwieriger wird, die anspruchsvolleren Tests zu lösen“, so die Autoren. Die Forscher warnen vor weiteren Gefahren.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
KI-Systeme werden auch immer besser darin, Menschen zu emulieren. Beispielsweise können sie Texte verfassen, die nicht von denen eines Menschen zu unterscheiden seien, sie mit einer glaubwürdigen Stimme vortragen oder als digitaler Avatar in einem Videochat auftreten, der in Echtzeit auf sein Gegenüber reagieren könne. Dies würde neuartige Phishing-Angriffe und andere Betrugsmaschen ermöglichen. Die Lösung für das Problem der immer schwieriger werdenden Authentifizierung als Mensch sehen die Autoren der Studie daher in einem Personhood-Credential-System.
Es soll ein System sein, das einen digitalen Nachweis des eigenen Menschseins darstellt. Ein Nachweis, der dennoch Anonymität garantiert und ohne die Preisgabe persönlicher Daten funktioniert. Diese Idee ist keineswegs neu, sondern existiert in Form des Proof of Personhood bereits seit einigen Jahren. Ein Versuch der Umsetzung ist Teil des Kryptowährungsprojekts Worldcoin, bei dem sich die Nutzer für die Teilnahme am Zahlungsnetzwerk einmalig mit einem Iris-Scan authentifizieren müssen – und dafür eine World ID erhalten. Ein Konzept, das wiederholt auf Kritik gestoßen ist und von Datenschutzbehörden untersucht wird.
Die Autoren der Studie weisen selbst darauf hin, dass die Idee eines Personhood-Credential-Systems einige Herausforderungen mit sich bringt. Unter anderem müsse sichergestellt werden, dass die Identifikatoren, die eine Person als Mensch ausweisen, keine Rückschlüsse auf die Person zulassen. Es bestünde aber auch die Möglichkeit, dass Menschen ihre Identifikatoren verkaufen oder dass sie ihnen gestohlen werden. Ebenso stelle sich die Frage, wer ein solches System sowohl vertrauenswürdig als auch sicher betreiben könne. „Eine große Herausforderung für ein PHC-Ökosystem ist die Konzentration der Macht auf eine kleine Anzahl von Institutionen“, schreiben die Forscher. Die Autoren der Studie argumentieren daher, dass hier nicht privatwirtschaftliche Initiativen, sondern eher Regierungen gefragt wären.
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!