Entwickler, die die API von OpenAI überall auf der Welt nutzen, können das Wasserzeichen ab heute für ausgewählte Modelle aktivieren; standardmäßig ist es deaktiviert, berichtet TechCrunch. Laut The Verge können API-Kunden weltweit wasserzeichenversehene Textausgaben für ausgewählte Modelle opt-in aktivieren. OpenAI macht das Wasserzeichen zum Start nicht zum globalen Standard.
Die Transparenzregeln des EU AI Act, die am 2. August in Kraft traten, verlangen von KI-Unternehmen, KI-generierte Inhalte so zu kennzeichnen, dass andere Systeme sie erkennen können, berichtet TechCrunch. In den kommenden Wochen will OpenAI in der Europäischen Union einen unsichtbaren Wasserzeichen in eligible ChatGPT- und Codex-Textausgaben einfügen.
Die Wasserzeichen-Technologie von OpenAI heißt textGrain und fügt den Wortwahlen des Modells ein unsichtbares statistisches Signal hinzu. Das Wasserzeichen ist kein sichtbares Symbol, sondern funktioniert, indem es die Wortwahl des Modells subtil formt und ein für Leser unsichtbares, für einen Detektor jedoch erkennbares Muster hinterlässt, so TechCrunch. Das Wasserzeichen ist beim Lesen oder Kopieren des Textes nicht sichtbar, berichtet BleepingComputer. Da das Wasserzeichen in den Wörtern selbst liegt, bleibt es beim Kopieren und Einfügen des Textes erhalten, so TechCrunch.
OpenAI gibt an, dass ein Wasserzeichen weder die Nutzeridentität offenlegt noch die Genauigkeit des Textes bestätigt und dass das Fehlen eines erkannten Wasserzeichens keine menschliche Urheberschaft beweist. Das Fehlen eines erkannten Wasserzeichens beweist keine menschliche Urheberschaft: Mit OpenAI-Werkzeugen erzeugter Text kann zu kurz, bearbeitet oder übersetzt sein, um zuverlässig erkannt zu werden, oder von einem nicht unterstützten Modell stammen, vor der Wasserzeichen-Einführung entstanden sein oder von Werkzeugen eines anderen Unternehmens erzeugt worden sein, so OpenAI. OpenAI weist laut The Verge darauf hin, dass textGrain keine zuverlässige Erkennung garantiert. Nach Angaben von OpenAI bestätigen Textwasserzeichen nicht die Richtigkeit, bestimmen nicht, wem der Text gehört, messen nicht, wie viel ein Mensch beigetragen hat, und beweisen keine menschliche Urheberschaft, berichtet The Verge.
OpenAI erklärte, das Wasserzeichen identifiziere den Nutzer nicht und es habe keine bedeutende Veränderung der Modellleistung bei aktiviertem Wasserzeichen festgestellt, so TechCrunch. Laut OpenAI zeigten die Benchmarks für das Frontier-Modell Astra keine bedeutenden Leistungsunterschiede mit und ohne Wasserzeichen. OpenAI legte auch Ergebnisse aus KI-Benchmarks vor, die eine ähnliche Leistung bei wasserzeichenversehenem und nicht wasserzeichenversehenem Text zeigen, berichtet The Verge.
OpenAI führt Text-Wasserzeichen in der EU nur für geeignete ChatGPT- und Codex-Nutzer aller Tarife ein und macht sie zum Start nicht zum globalen Standard. OpenAI begründet den regionalen Ansatz damit, dass er Raum lässt, aus realer Nutzung und Feedback zu lernen, so The Verge. OpenAI startet das textGrain-Wasserzeichen in der EU, aber nach eigenen Angaben noch nicht als globalen Standard, berichtet The Verge.
OpenAI arbeitet mit Cloud-Partnern daran, Wasserzeichen in den kommenden Wochen für OpenAI-Modellausgaben verfügbar zu machen, auf die über deren Dienste zugegriffen wird. OpenAI arbeitet mit Cloud-Partnern daran, Wasserzeichen für über deren Dienste abgerufene OpenAI-Modellausgaben in den kommenden Wochen verfügbar zu machen, ergänzt The Verge. OpenAI bereitet vor, unsichtbare Wasserzeichen in Text einzufügen, der von ChatGPT und Codex in der Europäischen Union erzeugt wird, berichtet BleepingComputer. OpenAI erklärte, in den kommenden Wochen ein unsichtbares Wasserzeichen zu geeigneten Textausgaben von ChatGPT und Codex in der Europäischen Union hinzuzufügen, so BleepingComputer.