Wie lässt sich Künstliche Intelligenz in sicherheitskritischen Umgebungen einsetzen?
Der Einsatz von KI-Technologie in sicherheitskritischen Umgebungen erfordert mehr als ein leistungsfähiges Modell. Das Stichwort hierzu lautet: Vertrauenswürdige KI (engl. Trustworthy AI). In Abhängigkeit vom Anwendungsfall gehören dazu u. a. die Interpretierbarkeit und die Nachvollziehbarkeit von generierten Ergebnissen sowie Verarbeitungspipelines, welche sensible Daten inhärent schützen und bereits im Entwicklungsprozess berücksichtigt werden. Gleichermaßen sind Zuverlässigkeit und Robustheit zu nennen, welche mit steigendem Autonomiegrad der KI-Systeme entscheidend sind und die Voraussetzung für einen nachhaltigen Betrieb bei Verteidigung, öffentlichem Sektor und Betreibern Kritischer Infrastrukturen bilden.