Wie lassen sich KI-Modelle gegen Manipulation und Datenabfluss absichern?

KI-Systeme können über verschiedene Angriffsvektoren manipuliert werden, darunter Data-Poisoning, Adversarial-Attacks oder Supply-Chain-Angriffe. Bei generativer und insbesondere agentischer KI kommen Prompt-Injections hinzu, die direkt über Nutzereingaben oder indirekt über verarbeitete Inhalte wie Dokumente oder Webseiten eingeschleust werden können. Die Folgen reichen von manipuliertem Systemverhalten und dem Abfluss sensibler Informationen bis hin zu unerlaubten Aktionen über angebundene Tools und Systeme. Wirksamer Schutz erfordert daher eine durchgängige Absicherung über den gesamten Lebenszyklus – von sicheren Daten-, Modell- und Softwarepipelines über konsequente Zugriffskontrollen bis hin zu kontinuierlichem Monitoring und Sicherheitstests im Betrieb.