Brasilianisches Arbeitsgericht bestraft zwei Anwälte für versteckten KI-Befehl im Schriftsatz

Der Schriftsatz wirkte auf Papier wie ein gewöhnliches Dokument. Erst als jemand die Schriftfarbe änderte, trat hervor, was für menschliche Leser unsichtbar geblieben war: ein in weißer Schrift auf weißem Grund eingefügter Text, wie Tom's Hardware berichtet. Sichtbar wurde eine Anweisung an die künstliche Intelligenz, die Petition nur oberflächlich zu behandeln und die Dokumente nicht zu hinterfragen, unabhängig von jeder anderen Vorgabe. Dass ausgerechnet ein Farbwechsel den Befehl freilegte, ist die stille Pointe dieses Falls: Die Tarnung war so einfach, dass sie fast schon wieder auffällig war.

Nach dieser Definition sollten die Systeme zu Ergebnissen gebracht werden, die demjenigen günstig sind, der die Anweisung eingefügt hat. Der Versuch zielte damit nicht auf das Argument, sondern auf die Prüfinstanz dahinter.

Die Würde der Justiz

Der versteckte Befehl blieb nicht ohne Folgen. Das Gericht bewertete ihn laut Tom's Hardware als „einen Akt, der die Würde der Justiz verletzt“. Damit verschob sich die Frage: Nicht das Verhalten der KI stand im Zentrum, sondern das Verhalten derer, die den Schriftsatz eingereicht hatten.

Die Verantwortung dafür legte das Gericht allein den beiden Anwälten zur Last, die die Klage unterzeichnet hatten. Zur Begründung führte es an, die klagende Partei könne den Schriftsatz nicht verändert haben, weil sie die rechtlichen Feinheiten nicht genügend kenne und keinen Zugriff auf das Dokument gehabt habe. Wer unterschreibt, haftet also für das, was im Dokument steht, auch für Text, den kein menschliches Auge beim Lesen erfasst.

Gemeldet bei der Kammer

Die Verantwortung endet für die beiden Anwälte nicht mit der Geldstrafe. Laut Tom's Hardware wurden sie zusätzlich bei der Anwaltskammer des Bundesstaates und der Internen Abteilung des Regionalen Arbeitsgerichts gemeldet. Zwei Stellen also, die außerhalb des laufenden Verfahrens prüfen, ob das Verhalten der Unterzeichner berufsrechtliche Folgen haben muss.

Und der Fall steht nicht allein da. Wie Tom's Hardware berichtet, ist es nicht das erste Mal, dass eine der Parteien in einem Verfahren versuchte, mit einer Prompt Injection das KI-System des Gerichts zu beeinflussen. Wer den versteckten Text als einmaligen Ausrutscher abtut, übersieht, dass das Muster schon vorher aufgetreten ist.

Der Abstand verriet es

Der Blick zurück lohnt sich, denn Tom's Hardware zufolge ist es nicht das erste Mal, dass eine Prozesspartei versuchte, die KI des Gerichts per Prompt Injection zu beeinflussen. In einem früheren Verfahren fiel ein langer verborgener Prompt auf, nachdem ein Gerichtsangestellter einen Abstandsunterschied zwischen den eingereichten Dokumenten bemerkt hatte. Entdeckt wurde der Trick dort also nicht durch eine Farbprüfung, sondern durch den geschulten Blick auf das Layout.

Das Gericht zeigte sich in diesem früheren Fall gegenüber dem Täter milde, weil dieser kein Anwalt war. Verpflichtet wurde er jedoch, Dokumente künftig physisch in gedruckter Form einzureichen. Im früheren Verfahren kam hinzu, dass der Beklagte nicht auf die Vorwürfe reagierte. Die Klägerin gewann den Fall durch Versäumnisurteil, sodass die Prompt Injection letztlich unnötig war.

Beide Fälle treffen sich an derselben Stelle: Der verborgene Text richtete sich gegen die Prüfinstanz, nicht gegen das Argument. Und beide Male entschied am Ende ein Mensch, der genauer hinsah.