Das jüngste Sanktionspaket der Europäischen Union – wir zählen mittlerweile Nummer 21 –, das am 12. Oktober verabschiedet wurde, weist deutliche Spuren einer automatisierten Textgenerierung auf. Das ergab eine Untersuchung von The Insider.
Das Dokument ist demnach "gespickt mit Fehlern, die sofort ins Auge fallen". Zu den zahlreichen Fehlern zählt das als kremlkritisch geltende Webportal mit Sitz in Lettland zum Beispiel "Verweise auf längst geschlossene Unternehmen, Personen ohne Geburtsdatum und die Verwendung von Pseudonymen anstelle von echten Namen" sowie eine Mischung aus lateinischen und kyrillischen Schriftzeichen (etwa bei dem Ausdruck "Акcionерное общество" – "Aktiengesellschaft").
Zwar seien technische Fehler in einem Dokument, das 1.500 Einzelpersonen und juristische Personen umfasst, kaum zu vermeiden, doch der Text des aktuellen Sanktionspaketes weise "eine auffällige Sorglosigkeit bei seiner Erstellung auf". Eines der deutlichsten Indizien dafür sei der mutmaßliche Einsatz von großen, KI-basierten Sprachmodellen (Large Language Models, LLMs) bei der Ausarbeitung von Teilen des Textes, so das Fazit von The Insider.
Das Portal weist in diesem Zusammenhang auf einen wichtigen Unterschied zu vorherigen Sanktionspaketen hin: "Der Ratsbeschluss Nr. 2026/2279 stützt sich jedoch auf lediglich zwei Standardphrasen, um die Sanktionen gegen 1.569 Einzelpersonen und Organisationen zu begründen. Dies stellt einen deutlichen Bruch mit früheren Sanktionspaketen dar, die in der Regel für jede neu sanktionierte Person oder Einheit eine spezifische Begründung enthielten."
Zudem verwende die EU erstmals für alle juristischen Personen eine reine Transliteration aus dem Russischen – anstatt die Bezeichnungen so zu übernehmen, wie sie im offiziellen russischen Register für juristische Personen geführt werden. Im aktuellen Sanktionsdokument wurden die Firmennamen jedoch offenbar "mechanisch und ohne nennenswerte Qualitätskontrolle" transliteriert, wobei auf eine korrekte Großschreibung "durchgehend verzichtet" worden sei. "Während ähnliche Formatierungsfehler in früheren EU-Sanktionslisten vereinzelt vorkamen, weist im aktuellen Paket nahezu jede juristische Person denselben Fehlertyp auf", heißt es in dem Bericht.
Fehler wie die Vermischung von lateinischen und kyrillischen Schriftzeichen seien bereits in früheren Sanktionsdokumenten aufgetreten. Dabei habe es sich jedoch meist um Buchstaben gehandelt, die im lateinischen und kyrillischen Alphabet identisch aussehen – etwa A, B, T und E. In diesen Fällen waren die Fehler für das menschliche Auge unsichtbar, konnten aber von Software erkannt werden. Sie entstanden höchstwahrscheinlich dadurch, dass jemand tippte, ohne das Tastaturlayout zu wechseln.
Das aktuelle Dokument unterscheide sich davon. "Die Vermischung von Schriftzeichen innerhalb eines Wortes ist eher typisch für Fehler, wie sie bei Texten auftreten, die von neuronalen Netzen generiert wurden – insbesondere dann, wenn bei einer Aufgabe mehrere Sprachen gleichzeitig verarbeitet werden müssen." Die nachlässige Transliteration habe sich auch auf Webadressen ausgewirkt.
Und während in dem Dokument Firmen aufgelistet sind, die wie das "Nowosibirsker Versuchswerk für Messinstrumente" seit Jahren nicht mehr existieren, wurde bei keinem der 743 auf der aktuellen Sanktionsliste aufgeführten Individuen ein Geburtsdatum oder eine Passnummer angegeben. Dafür wurden jedoch Steuernummern (INN) aufgeführt – ein Vorgehen, das bei Sanktionslisten bisher eher unüblich war.
Das Fehlen von Geburtsdaten und Passnummern erhöhe bei automatisierten Sanktionsprüfungen "erheblich das Risiko von Fehlidentifikationen oder verpassten Treffern", gibt The Insider zu bedenken. So prüften Konsularbeamte bei der Bearbeitung etwa eines Schengen-Visums in der Regel die Passdaten und das Geburtsdatum des Antragstellers, nicht jedoch eine russische Steuernummer.
Wozu das in der Praxis führen kann, musste The Insider am eigenen Leib erfahren: Ein Mitarbeiter der Redaktion konnte "vorübergehend sein Gehalt nicht erhalten, weil er denselben Nachnamen trägt wie eine Person, die auf die jüngste Sanktionsliste gesetzt wurde – was die Bank dazu veranlasste, die Zahlung einzufrieren".
Mehr zum Thema ‒ Medienbericht: EU befürchtet, nächste Russland-Sanktionen könnten die letzten sein