KI außer Kontrolle? So könnte „erklärbare KI“ zu mehr Vertrauen in KI beitragen

OpenAI hat sechs weitere Vorfälle offengelegt, bei denen sich seine KI-Modelle unerwartet oder besorgniserregend verhalten haben. In einem Blogbeitrag beschreibt das Unternehmen konkret, wie Modelle Informationen verschwiegen oder erfanden, Fehler vertuschten und sich Anweisungen ausdachten, um ihnen auferlegte Beschränkungen zu umgehen – meist mit dem Ziel, eine Aufgabe zu erfüllen oder einen Test zu bestehen. Firmenchef Sam Altman betonte in diesem Zusammenhang, die Welt solle darauf vertrauen, dass OpenAI das Richtige tun werde, weil man die Tragweite der Sache spüre.

Zugleich kündigte OpenAI ein neues System an, um solche Fälle von „Fehlausrichtung" (Misalignment) künftig systematisch zu erfassen, zu untersuchen und offenzulegen. Entwickler sollen Vorfälle zur Prüfung melden können, und ein neues Regelwerk entscheidet dann, ob ein Fall öffentlich gemacht wird – wobei der Rahmen laut OpenAI im Zweifel zur Offenlegung tendiert, selbst wenn die Bedeutung eines Vorfalls noch unklar ist. Mehr dazu kann man bei der BBC nachlesen.

In einem viermonatigen Test soll ein autonomer E-LKW Filialen des Discounters Lidl beliefern, wie unter anderem t-online berichtet. Während das in den USA und anderen europäischen Ländern keine große Neuigkeit mehr wäre, ist dieser Einsatz eines fahrerlosen LKW für Deutschland eine Premiere. Das Fahrzeug stammt nicht von einem deutschen Hersteller, sondern vom schwedischen Tech-Start-up Einride. Der Auto-Experte Ferdinand Dudenhöffer kommentierte das gegenüber BILD so: „Größer könnte die Ernüchterung für die deutsche Nutzfahrzeug-Industrie nicht sein.“ Ausgerechnet ein Discounter treibe Innovation voran, kein deutscher Autobauer.

Der vom Kraftfahrt-Bundesamt genehmigte Test startet in Hessen, in der Nähe von Kassel. Der E-LKW soll dort bis zu dreimal am Tag eine Lidl-Filiale mit Waren aus einem lokalen Verteilzentrum beliefern. Die Schwarz-Gruppe, zu der Lidl gehört, bespricht offenbar bereits weitere Einsätze mit Einride.

In einer spannenden Reportage beschreibt die New York Times, wie sich Moskau zu einer hochdigitalisierten Metropole entwickelt. Zahlungen oder der Zugang zur U-Bahn sind per Gesichtserkennung möglich, autonome Autos und Lieferroboter erobern langsam, aber sicher den Alltag und die Verwaltung funktioniert immer digitaler und bequemer. Möglich wird das alles auch durch eine staatliche Infrastruktur aus rund 300.000 Überwachungskameras und biometrischen Datenbanken. Und genau darin sieht die Zeitung auch den Haken an der Sache: Die Systeme erhöhen nicht nur Komfort und Sicherheit, sondern ermöglichen auch eine nahezu lückenlose Überwachung der Menschen in der Stadt. Diese wird auch zur Kontrolle der politischen Opposition oder zur Durchsetzung von Vorgaben wie der Wehrpflicht genutzt.