Dürfen wir vorstellen: Das agentische Netz – wie KI-Agenten Internet, Geld und Alltag umbauen

Rund acht Jahre ist der Skandal um Cambridge Analytica her. Der Whistleblower Christopher Wylie hatte enthüllt, dass das Datenanalyseunternehmen im großen Stil personenbezogene Daten beschafft hatte, um Wähler zu beeinflussen. Auch im Zusammenhang mit Donald Trumps Präsidentschaftswahlkampf 2016. Die Daten von Millionen Betroffenen stammten von Facebook. Das hatte zu zahlreichen Klagen geführt. Im US-Bundesstaat New Mexico wurde die Facebook-Mutter Meta nun zu einer Strafe von 25 Milliarden US-Dollar verurteilt. Denn eine Jury hatte festgestellt, dass der Social-Media- und Werbekonzern die Verbraucher darüber getäuscht hatte, wer auf ihre Daten zugreifen und sie nutzen konnte. Aber auch darüber, wie das Unternehmen mit Falschinformationen oder Hassrede umging.

Das Gericht sah es als erwiesen an, dass Meta wusste, dass Dritte umfangreichen Zugriff auf personenbezogene Daten von Nutzern hatten und diese unrechtmäßig nutzen konnten. Ebenso habe der Konzern die Verbraucher über seinen Umgang mit Fehl- und Desinformation, Hass und Hetze getäuscht. Dabei habe er entsprechende Inhalte auch aus finanziellen Interessen toleriert. Die Staatsanwälte des Bundesstaates hatten daher eine Strafe von bis zu 40 Milliarden US-Dollar gefordert. Die nun festgesetzten 25 Milliarden US-Dollar sind eine der höchsten Strafen, die bislang gegen ein Social-Media-Unternehmen verhängt wurden. Das Geld soll dem Schulsystem von New Mexico zufließen. Meta will gegen das Urteil Berufung einlegen.

Ab wann ist Künstliche Intelligenz so gefährlich, dass der Staat eingreifen muss? Das US-KI-Unternehmen Anthropic hat einen konkreten Vorschlag, den es als Gesetzentwurf unter US-Politikern verbreitet. Dieser sorgt jedoch aktuell für massive Kritik und wirft ein schlechtes Licht auf das Unternehmen, das sich als verantwortungsvolles KI-Labor inszeniert. Denn wie Politico berichtet, sieht der Entwurf vor, dass die Regierung erst eingreifen und ein KI-Modell aktiv stoppen darf, wenn dieses mindestens 1 Milliarde US-Dollar Schaden verursacht oder mehr als 50 Menschen tötet oder schwer verletzt.

Sämtliche Schäden, die unter diesem Limit liegen, sollen hingegen außerhalb des Verantwortungsbereichs und der Eingriffsrechte der US-Regierung liegen. Auf Nachfrage von Medien hat Anthropic die Echtheit des Entwurfs bestätigt. Ein Sprecher bezeichnete ihn als „Sammlung vernünftiger Regelungen, die der Kongress unserer Ansicht nach umsetzen sollte“. Der Entwurf baut auf dem zuvor von Anthropic veröffentlichten Advanced AI Framework auf, mit dem das Unternehmen mehrere Vorschläge zur Regulierung von KI unterbreitete. Auch hier kolportierte das Unternehmen bereits, dass die Gefahr von Modellen durch konkrete Katastrophenszenarien erwachse. Beispielsweise durch einen Kontrollverlust für Menschen, einen Cyberangriff oder die Herstellung eines Biokampfstoffs.

Die Programmiersprache PHP bildet die Grundlage für unzählige Websites im Internet. Dazu gehören Nachrichtenportale, Online-Shops und private Blogs. Eine Mitte dieser Woche öffentlich gemachte Sicherheitslücke macht sie angreifbar. Über diese könnten Angreifer die Seiten kapern oder Informationen ausleiten. Das Bundesamt für Sicherheit in der Informationstechnik stufte das Risiko mit der Kennzeichnung 3/Orange als außerordentlich hoch ein. Tatsächlich wurden weltweit Websites zeitweise offline geschaltet. Darunter waren offizielle Anlaufstellen von Behörden, Universitäten und Krankenhäusern. Inzwischen wurden sowohl erste Quick-Fixes als auch offizielle PHP-Updates bereitgestellt, die die Lücken versiegeln.

Dennoch sehen IT-Sicherheitsexperten das Problem nicht als gebannt an. Die Lücken sollen alle PHP-Fassungen seit PHP 5 von 2004 betreffen. Vor allem zahlreiche ältere und nur selten gewartete, oder bewusst auf älteren PHP-Fassungen aufgebaute Plattformen sind damit weiterhin gefährdet. Auch die Aktualisierung von allen aktiv gewarteten Plattformen dürfte letztlich Zeit in Anspruch nehmen. Bereits jetzt existieren Berichte, dass Hacker riesige Mengen von KI-Agenten einsetzen, um nach Websites und Plattformen zu suchen, die gekapert werden könnten.