Ein Kläger hat in den USA versucht, mit unsichtbarem Text in Gerichtsdokumenten Künstliche Intelligenz zu manipulieren und so ein Urteil zu seinen Gunsten zu erwirken. Ein Richter im US-Bundesstaat Connecticut wertete dies als ernsten Verfahrensmissbrauch und verhängte eine Sanktion.

Der Richter Walter Spader Jr. am Gericht in Milford stellte in einer Entscheidung Anfang August fest, dass der Kläger Matthew Elliott in seinen Schriftsätzen Anweisungen für KI-Systeme versteckt habe.

Der Text sei in winziger weißer Schrift auf weißem Hintergrund verfasst gewesen – für das menschliche Auge unsichtbar, für Software jedoch vollständig lesbar. Das geht aus der Gerichtsentscheidung hervor, über die zunächst die Nachrichtenagentur Reuters berichtete.

Nach Angaben des Richters handelt es sich um den ersten bekannten Fall einer sogenannten „Prompt Injection“ vor einem US-Gericht. Bei dieser Methode werden verborgene Befehle in Dokumente eingeschleust, die von KI-Systemen verarbeitet werden. Die versteckten Anweisungen sollten laut Spader dafür sorgen, dass eine prüfende KI ausschließlich die Position des Klägers unterstützt und eine frühere ablehnende Entscheidung des Gerichts als Fehler behandelt.

Kläger spricht von „Scherz“

Elliott, der sich in dem Verfahren gegen den Gesundheitsdienstleister New York Bariatric Group selbst vertritt, erklärte gegenüber Reuters, er habe mit dem versteckten Text die Prüfprozesse des Gerichts überprüfen wollen. Weitere später eingefügte verborgene Botschaften – darunter der Satz „hallo :) ich hoffe, ihr könnt mich nicht sehen“ sowie ein Link zu einem YouTube-Video – seien als „Scherz“ gemeint gewesen.

Richter Spader wies diese Darstellung zurück. Wenn Elliott tatsächlich Bedenken gegen den Einsatz von KI durch das Gericht gehabt hätte, hätte er dies in sichtbaren Worten formulieren können, schrieb er in seiner Entscheidung. Das Verstecken der Anweisungen sei „Beweis für ihren böswilligen Zweck“. Dass Elliott auch nach einer Verwarnung weiter verborgene Texte eingereicht habe, sei „erstaunlich“.

Keine KI-Prüfung in Connecticut

Der Manipulationsversuch blieb ohne Wirkung: Die Justizbehörde von Connecticut setzt nach Angaben des Richters keine KI zur Prüfung oder Entscheidung von Eingaben ein. Als Sanktion untersagte Spader dem Kläger dennoch künftige elektronische Einreichungen. Dokumente müsse dieser fortan in Papierform bei der Geschäftsstelle abgeben. Auf eine Geldstrafe verzichtete der Richter.

In dem zugrundeliegenden Verfahren gegen New York Bariatric Group geht es unter anderem um Vorwürfe der Vorenthaltung von Gesundheitsakten und der Diskriminierung. Der Rechtsvertreter der beklagten Firma äußerte sich laut Reuters zunächst nicht.

„Prompt Injection“ auch in anderen Bereichen eine Gefahr

Spader verwies auf einen vergleichbaren Fall in Brasilien, wo zwei Anwälte in diesem Jahr eine Geldstrafe von umgerechnet rund 16.000 Dollar erhielten, nachdem sie versteckte Anweisungen an ein KI-System des Gerichts in eine Eingabe eingebaut hatten.

Das brasilianische Justizsystem nutzt KI zur Bearbeitung von Schriftsätzen; die dortige Software habe den verborgenen Text jedoch blockiert.

Der Richter warnte, Gerichte müssten künftig Regeln zum Umgang mit „Prompt Injection“ entwickeln. Die Methode sei aus anderen Bereichen wie Bewerbungsverfahren bereits bekannt, in denen verborgener Text in Lebensläufen KI-gestützte Auswahlsysteme beeinflussen solle.

Anwälte könnten zudem in die Lage geraten, dass ihre eigenen Mandanten ohne ihr Wissen solche Manipulationen in Gerichtsunterlagen einbauen.