Das vom US-Unternehmen OpenAI entwickelte KI-Chat-Programm ChatGPT sorgt bei Lehrkräften weiterhin für Sorge. Erste Schulen und Universitäten haben das KI-Werkzeug bereits verboten. OpenAI reagiert daher nun. Es hat ein Werkzeug veröffentlicht, das KI-Texte enttarnen soll. Dazu ruft OpenAI dazu auf, Feedback zu geben.
Von Michael Förtsch
Seit seinem Start am 30. November des letzten Jahres sorgt der Chatbot ChatGPT für eine anhaltende und hitzige Debatte. Und das nicht von ungefähr. Das GPT-3 getaufte KI-Modell hinter dem Bot wurde mit Milliarden von Texten trainiert und verfügt dadurch über ein immenses Wissen. Aber ebenso über viele Wissenslücken, die das Textwerkzeug mit Halluzinationen kaschiert – falschen Informationen also, die aber als Fakten vorgetragen werden. Dennoch ist ChatGPT fähig, Texte für Lieder und Gedichte zu verfassen. Auch komplexere Abhandlungen zu vorgebenden Themen und Programmiercode kann es liefern. Das sorgt neben Begeisterung für viel Sorge und Kritik – auch am Entwickler OpenAI, der das Werkzeug ohne große Hürden und Hinweise der Welt zugänglich gemacht hat.
Nur Tage nach der Veröffentlichung von ChatGPT äußerten Lehrkräfte an Schulen und Universitäten, dass der Textgenerator missbraucht werden könnte. Es könnten damit Hausaufgaben oder sogar Abhandlungen verfasst werden, die nicht oder nur schwer als KI-Produkt enttarnt werden könnten. Sogar von einem Ende der Hausaufgaben war die Rede. Erste Schulen und Universitäten untersagen bereits die Nutzung von ChatGPT. Mittlerweile hat OpenAI auf diese Sorgen reagiert. Am 31. Januar stellte das Non-Profit-Unternehmen mit dem sogenannten Classifier ein Werkzeug online, das „von Menschen geschriebene Texte von KI-geschriebenen Texten unterscheiden“ könne. Die Erkennung sei dabei nicht nur auf ChatGPT- beziehungsweise GPT-3-Texte beschränkt. Es sollen „verschiedene Anbieter“ erkannt werden. Dafür müssen dem Classifier mindestens 1.000 Zeichen an Text vorgelegt werden.
Wie OpenAI einschränkt, sei das Werkzeug nicht „vollständig zuverlässig“. In einem Test seien 26 Prozent der englischen KI-geschriebene Texte als „wahrscheinlich von der KI geschrieben“ ermittelt worden. In neun Prozent der Fälle seien von Menschen geschriebene Texte fälschlicherweise einer KI zugeordnet worden. Je länger ein Text sei, umso zuverlässiger könne er identifiziert werden. Bei nicht englischen Texten könne der Classifier auch eingesetzt werden. Aber empfohlen wird das von OpenAI nicht. Er würde in diesen Fällen „signifikant schlechter“ funktionieren.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
Bitte Feedback
OpenAI sieht den Classifier nicht als Allheilmittel. „Er sollte nicht als primäres Entscheidungsinstrument verwendet werden, sondern als Ergänzung zu anderen Methoden, um die Quelle eines Textes zu bestimmen“, so die Firma. Aber er könne ein Werkzeug sein, das einen breiten Nutzen finden könnte – nicht nur durch Lehrkräfte, sondern auch durch Journalisten und Wissenschaftler. Zusätzlich wendet sich OpenAI direkt an Bildungseinrichtungen und ruft im Ankündigungstext zum Classifier dazu auf, in Kontakt zu treten und Erfahrungen mit ChatGPT im Bildungskontext zu teilen.
In den USA ist OpenAI schon im aktiven Austausch mit Pädagogen und will diesen nach und nach ausbauen. „Diese Gespräche sind wichtig, da es zu unserem Auftrag gehört, große Sprachmodelle sicher und in direktem Kontakt mit den betroffenen Gemeinschaften einzusetzen“, schreibt Open AI. Das Unternehmen wolle sowohl Kritik als auch Informationen und Ideen sammeln, wie ChatGPT und andere Systeme in Lehrsituationen integriert werden können und auf welche Ressourcen hierbei von Lehrern und Bildungseinrichtungen zurückgegriffen werden muss.
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!