12.02.2024
Anfang Februar stimmte die Bundesregierung zum EU AI Act zu und beendete Befürchtungen, Deutschland würde bei der Regulierung auf den letzten Metern nicht mitziehen. Ein historisches Ereignis, dem ein jahrelanges Ringen um Gesetzesentwürfe und Revisionen zuvor ging, doch die EU schafft mit der Novellierung in der Regulierung des Digitalen Raums das erste umfassende KI-Gesetz der Welt. Welche Versprechen und Auswirkungen die europäische Pionierleistung auf Projekte wie KIPSDM hat, möchten wir in diesem Blogbeitrag genauer betrachten.
Risiko im Zentrum
Bereits im Vorfeld vielfach aus juristischer Perspektive kritisiert, folgt das neue Gesetz einem defensiven, Risiko-basierten Ansatz. KI-Produkte und Anwendungsfälle sollen künftig in vier Risikogruppen eingeteilt werden, je nach Gruppe fallen unterschiedliche Auflagen an. Es gibt Bereiche, wo KI gänzlich verboten wird, beim Rest unterscheidet der Act je nach Höhe des Risikos drei weitere Gruppen (Hoch – Mittel – Tief). Das Gesetz zielt darauf ab, als “Blaupause” für weitere Regulierungsbestrebungen zu dienen und Europa im internationalen Wettbewerb zu KI zum attraktiven Standort zu machen. Die Bestrebungen sollen...
— Transparenz schaffen
Insbesondere die Offenlegung von Trainingsdaten wird künftig einforderbar sein. Die technische und administrative Ausgestaltung bleibt bislang noch offen. Fest steht, dass Open-Source-Lizenzen grundsätzlich von einer Transparenzpflicht befreit sind. Die Transparenzpflicht betrifft daher zunächst Organisationen, die bislang Daten in isolierten Silos verwenden. Auch Endnutzer:innen werden darüber informiert, dass sie mit KI interagieren.
— KI in Extremfällen verbieten
Das Gesetz klärt, in welchen Anwendungsszenarien KI niemals benutzt werden darf, wie beispielsweise die systematische biometrische Massenüberwachung im öffentlichen Raum oder das Erfassen von Emotionen am Arbeitsplatz. Der Teufel liegt bekanntlich im Detail – diese sind nämlich noch weitestgehend ungeklärt, sodass Regierungen und Organisationen mit juristischen Schlupflöchern arbeiten können. Medizinische Anwendungsfälle fallen zwar nicht in diese Kategorie, die Einteilung von Menschen im Sinne eines “social scoring” ist jedoch grundsätzlich untersagt.
KI in der Pflege ist Kategorie Hochrisiko
KI in der Pflege ist vielseitig einsetzbar. Die Anwendungsfelder reichen von neuen Medizinprodukten hin zu einfachen Chat Systemen zur Unterstützung von ambulanter Pflege, von Robotik, hin zu Vorhersagemodellen wie z.B. zum Thema Sturz. Der AI-Act kategorisiert jegliche Anwendungen, die personenbezogene Daten nutzen oder Individuen profilieren als Hochrisiko ein, auch im Bereich Gesundheit. Mit dieser Einteilung kommen vielseitige Dokumentationspflichten einher zu Data Governance, Technischer Dokumentation, Risiko Management, Instruktionen zur Nutzung. KI-Organisationen sind somit künftig zu noch mehr Auflagen zuzüglich zum Medizinproduktegesetzt verpflichtet, die Chancen für Unternehmen bestehen darin, die regulatorische Vielfalt gut zusammenzufass@@en und Skaleneffekte zu nutzen.
Mehr Open Source wagen
Die Pionierleistung der EU zeigt vor allem, dass sich eine Fokussierung auf Open Source durchaus lohnen kann. So werden Open-Source Lizenzen weitestgehend von Transparenzpflichten ausgenommen. Auch andere Regulierungen, an denen derzeit getüftelt wird, sollen Open Source und Open Data künftig stärken, sei es bei der Harmonisierung im Europäischen Health Data Space oder in Datenökosystemen der Verwaltungen. Die EU schafft mit diesem Präzedenzfall die Möglichkeit, den großen Amerikanischen und Chinesischen KI Tech Konzernen einen Riegel vorzuschieben. Gleichzeitig wird beabsichtigt, den eigenen Wirtschaftsraum zu stärken. KI Start Ups wie Aleph Alpha aus Heidelberg und Mistral AI aus Paris sollen den rasanten Aufstieg in die allseits geliebte Einhorn – Liga schaffen.
Wie es weiter geht
Es bleibt weiterhin offen, wer sich um die Einhaltung der Standards zu Governance oder Technischer Dokumentation kümmern soll. Es soll zunächst eine europäische KI-Behörde geschaffen werden. Die Umsetzung des Gesetzes erfolgt sukzessive, auch hier wird wieder mit der höchsten Risikostufe begonnen. Hochrisiko Dienstleistungen werden ab Februar 2026 ihrer Transparenz- und Dokumentationspflicht nachkommen müssen.
Weitere Literatur und Quellen zum Thema:
https://eu-digitalstrategie.de/ai-act/
https://www.linkedin.com/feed/update/urn:li:activity:7156777638148104192/
Bild via Unsplash @Christian Lue