Das OpenAI-Video-Werkzeug Sora wurde geleaked

Am Dienstag war das KI-Videomodell Sora für mehrere Stunden für jedermann zugänglich. Eine Künstlergruppe hatte den Zugang über eine Schnittstelle freigegeben. Sie wollte damit gegen den Umgang von OpenAI mit Kreativen protestieren. Diese würden als kostenlose Tester und Marketinginstrumente missbraucht.

Von Michael Förtsch

Erstmals im Februar dieses Jahres hatte OpenAI das Video-KI-Modell Sora angekündigt und damit beeindruckt. Denn die Demonstrationsvideos zeigten verblüffend realistische Szenen, die die Erzeugnisse bisherige Werkzeuge in den Schatten stellten. Öffentlich zugänglich gemacht hat OpenAI sein KI-Modell trotz der inzwischen aufkommenden Konkurrenz etwa in Form von Kling, Gen-3 und Hailuo bislang jedoch nicht. Am gestrigen Dienstag hat jedoch offenbar eine Gruppe von Künstlern das KI-Video-Tool geleakt. Und zwar aus Protest gegen das Verhalten des milliardenschweren KI-Unternehmens. Denn die Künstler fühlen sich von OpenAI ausgenutzt und missbraucht.

Auf der Plattform Huggingface machte die Gruppe, die sich selbst als PR Puppets bezeichnet, das Modell in einem sogenannten Space über eine Schnittstelle zu OpenAI öffentlich zugänglich. Über mehrere Stunden hinweg war es möglich, über Prompts bis zu zehn Sekunden lange Videos in einer Auflösung von bis zu 1024 mal 768 Pixeln zu generieren. Jedoch war der Dienst schnell überlastet. Die Ästhetik der Videos sowie ihre visuelle Qualität entsprechen weitgehend den Videos, die OpenAI bei der Enthüllung präsentiert hatte. Allerdings scheint das Modell, wie einige Beobachter anmerken, seither weiterentwickelt worden zu sein. Sowohl die Darstellung von Details als auch die Konsistenz von Umgebungen und Charakteren erscheinen deutlich besser als noch vor einigen Monaten.

Als Grund für den Leak gibt die Gruppe von – wie sie selbst sagt – „frühen Testern, Red Teamern und kreativen Partnern“ an, gegen die Praktiken von OpenAI protestieren zu wollen. Die Firma habe sie für unbezahlte Entwicklungs- und Marketingarbeit missbraucht. Die Corporate AI Overlords hätten hunderte von Kreativen angeheuert, um für die Firma unentgeltlich nach Bugs zu suchen, Verbesserungsvorschläge zu machen und Werbung zu machen. Als Gegenleistung durften sie ihre Arbeiten lediglich bei einem kleinen Wettbewerb einreichen, um öffentliche Wahrnehmung zu erhaschen.

Druck auf OpenAI

Die Gruppe sieht in der Art und Weise, wie OpenAI mit Künstlern und Entwicklern umgeht, einen ernsten und vielschichtigen ethischen Konflikt, der angesprochen und behandelt werden müsse. Die KI-Firma von Sam Altman benutze Künstler für Art Washing und instrumentalisiere sie, „um der Welt zu signalisieren, dass Sora ein nützliches Werkzeug für Künstler ist“.

Die Gruppe erklärte, sie sei „nicht gegen den Einsatz von KI-Technologie als Werkzeug für die Kunst“, sondern dagegen, wie die Zusammenarbeit mit Künstlern gehandhabt wurde und wie sich Sora im Vorfeld der Veröffentlichung entwickelt habe. Unter anderem habe OpenAI die künstlerische Freiheit eingeschränkt, da jedes generierte Video vor der Veröffentlichung von OpenAI genehmigt werden musste. Ziel des Protests ist es daher, OpenAI zu einer offeneren und künstlerfreundlicheren Praxis zu bewegen.

Bisher wollte OpenAI die Echtheit des Leaks nicht explizit bestätigen. Die KI-Firma hat jedoch eine Stellungnahme gegenüber The Verge veröffentlicht, in der sie die Anschuldigungen der Gruppe zurückweist. Jeder Teilnehmer an Soras sogenannter Research Preview habe freiwillig teilgenommen und sei nicht verpflichtet gewesen, Feedback zu geben oder für das KI-Tool zu werben. Die einzige Auflage sei gewesen, Sora verantwortungsvoll zu nutzen und keine vertraulichen Informationen preiszugeben.

Ob und wann Sora der Öffentlichkeit zugänglich gemacht werden kann, ist noch unklar. Die ehemalige OpenAI-Technikchefin Mira Murati hatte im März dieses Jahres angekündigt, dass Sora Ende 2024 starten könnte. Zuletzt hatte Produktmanager Kevin Weil diese Ankündigung jedoch relativiert. Das KI-Videomodell solle erst veröffentlicht werden, wenn OpenAI die nötige Rechenleistung für einen breiten Einsatz garantieren und Missbrauch effektiv verhindern könne.