Europäische Gesetzesanforderungen für vertrauenswürdige Künstliche Intelligenz: Herausforderungen und Chancen

Das Themengebiet der Künstlichen Intelligenz (KI) ist ein altes und zugleich auch immer wieder neues digitales Grenzland. Es ist eine treibende Kraft für Innovation und verspricht Annehmlichkeiten in Form von smarter Funktionalität, welche einen Mehrwert liefert. Teilweise medial angeheizt und als Marketinginstrument gewinnbringend ausgeschöpft, rückt dieses Narrativ nicht zuletzt wegen der verblüffenden Resultate von ChatGPT zusehends in unser Bewusstsein. Aber auch weniger spektakuläre Anwendungsszenarien verdeutlichen, dass Technologie basierend auf KI auf dem Vormarsch ist und Einzug in das digitale Leben hält. So vergrößern sich auch rasant die Berührungspunkte mit dem Menschen – mit subtilen, stellenweise allerdings auch erheblichen Auswirkungen, wie Zwischenfälle aus der jüngeren Vergangenheit offenbaren.

Diese Umstände bieten genügend Anlass, Eckpfeiler in Form gesetzlicher Rahmenwerke zu manifestieren. Als weltweiter Vorreiter legte die Europäische Union (EU) im Jahr 2021 einen Verordnungsvorschlag zur Festlegung harmonisierter Vorschriften für vertrauens­würdige KI vor. Mit der Bestrebung, eine einheitliche begriffliche Abgrenzung für KI zu etablieren und sektorübergreifend angemessene Rahmenbedingungen bezüglich der Einhaltung europäischer Werte aufzustellen, steht dieser Gesetzesentwurf kurz vor seiner Verabschiedung. Ein besonderer Fokus liegt dabei auf der sogenannten Hochrisiko-KI, von der eine beträchtliche Gefährdung für Gesundheit und Sicherheit, sowie für Grundrechte von Personen ausgehen kann. Bei Verstößen gegen die gesetzlichen Bestimmungen drohen horrende administrative Strafen. Diese sind wirksam, verhältnismäßig und abschreckend und verleihen der richtungsweisenden Bedeutung des Verordnungsvorschlags seitens der EU Nachdruck. Unser Whitepaper befasst sich inhaltlich mit den Kernpunkten dieser geplanten Regulatorik.

Ausgehend von der Definition eines KI-Systems und der zugrundeliegenden Risikomodellierung, werden die essenziellen Anforderungen, die an solche Systeme gestellt werden, formuliert. Auf dieser Grundlage werden Herausforderungen für Unternehmen und Organisationen samt ihren Auswirkungen kritisch beleuchtet. Mit diesen Hürden gehen allerdings auch Chancen einher. Sie werden ebenfalls konkret benannt und zeigen, dass mit einigen Korrekturen im Gesetzesentwurf und einem strategischen Umdenken von Unternehmen und Organisationen das Potenzial von KI nachhaltig ausgeschöpft werden kann.

Mit langjähriger Erfahrung in IT Consulting und IT Security Consulting im behördlichen, militärischen sowie wirtschaftlichen Umfeld, bietet infodas die notwendige Kompetenz, um Sie beim Anforderungsmanagement und bei sicherheitsrelevanten Fragestellungen hinsichtlich eines geplanten oder sich in der Entwicklung befindlichen KI-Systems zu begleiten. Darüber hinaus unterstützen wir Sie mit unserem breiten Technologiewissen über KI, welches unsere Datenwissenschaftler und -ingenieure seit Jahren sehr erfolgreich in datengetriebenen Projekten aufgebaut haben. So können praxisnah die nötigen Maßnahmen ergriffen werden, um vertrauenswürdige KI zu entwickeln und zu etablieren, welche die Erwartungshaltung seitens der EU – und vor allem Ihre – nachhaltig erfüllt.

Das vollständige Whitepaper finden Sie hier: