Ich finde diesen Fund aus der Security-Welt ziemlich brisant: Ein Sicherheitsforscher hat gezeigt, wie eine manipulierte Schriftdatei KI-Systeme in Rechtsdokumenten gezielt täuscht. Die Schrift sieht für Menschen völlig normal aus, liefert der KI aber Zeichensalat, oder sogar einen anderen Vertragsinhalt. Besonders der sogenannte „Replacement“-Angriff, bei dem „Maryland“ für die KI als „Delaware“ erscheint, macht deutlich, wie fragil die Legal-Tech-Pipelines noch sind. Wer KI zur Dokumentenprüfung nutzt, sollte das kennen.
