Schutz vor Plagiaten

ChatGPT versieht Texte heimlich mit Wasserzeichen

OpenAI verwendet vor allem das Zeichen Narrow No-Break Space (Unicode U+202F), das visuell dem Standard-Leerzeichen entspricht.

(Bild: youtube.com/Rumi)

Im Kampf gegen Plagiarismus setzt OpenAI neuerdings offenbar auf Wasserzeichen. Wie der KI-Dienstleister Rumi entdeckte, fügen die neueren Sprachmodelle GPT-o3 und o4-mini generierten Texten unsichtbare Sonderzeichen hinzu. Das Entfernen dieser sei jedoch relativ einfach, so Rumi, „sodass dies eher eine kurzfristige Maßnahme als eine langfristige Lösung zu sein scheint“.

Wie das Unternehmen in einem Blogeintrag berichtet, wurden die Wasserzeichen nur längeren Antworten hinzugefügt, beispielsweise bei der Aufforderung an GPT-o3, „einen vollständigen Aufsatz über das Bildungsministerium zu schreiben“. Die Wasserzeichen bestehen demnach aus speziellen Unicode-Zeichen, die wie normale Leerzeichen aussehen, aber unterschiedliche ASCII-Codes haben. In älteren Modellen wie GPT-4o konnte Rumi keine Wasserzeichen entdecken.

OpenAI hat diese Funktion bisher nicht offiziell angekündigt – wahrscheinlich, wie Rumi mutmaßt, „weil eine Veröffentlichung ihre Wirksamkeit bei der Plagiatserkennung beeinträchtigen würde“. Dem Unternehmen nach seien die Wasserzeichen zwar „potenziell nützlich für die Identifizierung KI-generierter Inhalte“, ließen sich jedoch „relativ leicht“ durch eine „einfache Suchen-und-Ersetzen-Operation“ mit einem Texteditor wie etwa Notepad++ entfernen. Wie das geht, demonstriert Rumi in einem Video auf YouTube (siehe unten).

Keine dauerhafte Lösung
„Im Gegensatz zu KI-Detektoren, die sich als ungenau erwiesen haben, besteht der Hauptvorteil dieses Ansatzes darin, dass Sonderzeichen auf aus ChatGPT kopierten Text hinweisen können“, erläuterte Rumi. Die Wahrscheinlichkeit falscher Positivmeldungen – also die ungerechtfertigte Anschuldigung des Betrugs – liegt dabei praktisch bei null, da Studierende in wissenschaftlichen Arbeiten derlei Sonderzeichen normalerweise nicht verwendeten.

„Der Hauptnachteil besteht jedoch darin, dass es sich wahrscheinlich nur um eine vorübergehende Maßnahme handelt, da die Studierenden die Methode schnell erkennen und sie leicht umgehen können, indem sie Tools verwenden, die alle Wasserzeichen durch Standardzeichen ersetzen. Außerdem kann dies bei den Dozenten ein falsches Vertrauen in ihre Fähigkeit wecken, KI-generierte Inhalte zu erfassen“, so das Unternehmen abschließend.