Der EU AI Act: Ein Standard für Künstliche Intelligenz

Jeder der im Internet arbeitet und die Zeit mitgemacht hat, als wir alle in der Faszination durch das WWW gefangen waren und die vielen Erwartungen, die wir an diese Technologie hatten, weiß, dass nicht alles Gold ist, was glänzt. Ich erinnere mich noch daran, dass ich die Hoffnung auf eine informierte Gesellschaft hatte, die gute Entscheidungen treffen kann, weil es viel Wissen hat. Spätestens mit dem Aufkommen von Social Media, den Katzenvideos und den Fokus auf die Akquise von Daten durch möglichst viel Ablenkung, war diese Erwartung gestorben. Und die Tatsache, dass plötzlich Unternehmen mehr Wissen über die Bevölkerung eines Landes hatten, als das Land selbst- hat uns alle erschüttert. Dass es möglich ist, dass Menschen andere Menschen verfolgen, nur weil es in Facebook propagiert wird, ist etwas, das viele erschüttert hat und gleichzeitig wenige nur gehört haben. Wer es nicht mitbekommen hat: 2017 Myanmar kann hier nachlesen.

Wichtig ist, dass es nicht wieder so weit kommt, dass die Technologie schneller sich entwickelt als die Regelungen überhaupt erdacht werden können. Und obwohl es hier noch einige Probleme aufkommen werden und wir noch keine Lösung für Urheberrechtsverletzungen oder Fake News haben - so sehe ich den EU AI Act sehr wohl als ein Schritt in die richtige Richtung. Ein Schritt.

Was beinhaltet aber nur der EU AI Act?

Grundsätzlich kann man sagen, dass es um folgende Themen geht:

• Verbotene KI-Anwendungen - wie z. B.: biometrische und Gesichtserkennung bei sensiblen Merkmalen, soziale Bewertung und KI, die Verhalten manipuliert oder Schwachstellen ausnutzt, um zu mobilisieren.

• Hochrisiko-KI - wie in Infrastruktur, Bildung und Beschäftigung, wird strengen Verpflichtungen wie Risikobewertung, Transparenz und menschlicher Aufsicht gegenüberstehen.

• Generative KI - wie ChatGPT, Gemini & Co - wie damit umgegangen wird.

Was heißt das genau?

Das Gesetz beinhaltet verschiedene Themen, die für uns alle wichtig sein sollten. Auch wenn viele Unternehmen gleich aufgeschrien haben, ist die Technologie doch so neu und womöglich mächtig, dass es gut ist, wenn man Vorsicht walten lässt. Vor allem, wenn es um die Verbots-Themen geht, denke ich, dass es kaum jemanden geben kann, der sich dagegen ausspricht.

Verboten sind:

• Kognitive Verhaltensmanipulation von Menschen oder speziellen gefährdeten Gruppen

• Social Scoring - Also die soziale Bewertung und Klassifizierung von Menschen aufgrund von Verhalten, sozioökonomischem Status oder persönlichen Merkmalen

• Biometrische Identifizierung und Kategorisierung von Menschen

• Echtzeit- und Fern-Biometrie-Identifikationssysteme, wie Gesichtserkennung.

Du kannst damit nichts anfangen? Ich lade dich ein deine Kreativität mit dem Vortarg von Trendforscherin Amy Webb bei der SXSW 2024 zu pushen. Danach solltest du wissen warum diese Dinge thematisiert werden müssen.

Hochrisiko -KI

Neben den verbotenen Cases für die Künstliche Intelligenz, gibt es natürlich auch hoch riskante Themen denen besondere Beachtung geschenkt werden müssen. Bei Hochrisiko Themen müssen bestimmte Dinge beachtet werden, als auch die Systeme einer vor Markteinführung und laufend Überprüfungen unterzogen werden. Hier fallen die Themen wie:

• Kritische Infrastrukturen (z.B. Verkehr, Bahn, Gas), die das Leben und die Gesundheit der Bürger gefährden könnten

• Bildungs- oder Berufsausbildung, die den Zugang zur Bildung und den beruflichen Werdegang eines Menschen bestimmen könnten (z.B. Prüfungsbewertung)

• Sicherheitskomponenten von Produkten (z.B. KI-Anwendung in roboterassistierter Chirurgie)

• Beschäftigung, Personalverwaltung und Zugang zur Selbstständigkeit (z.B. CV-Sortiersoftware für Bewerbungsverfahren oder Gewerbeprüfung)

• Wesentliche private und öffentliche Dienstleistungen (z.B. Kreditbewertung, die Bürgern die Möglichkeit verwehrt, einen Kredit zu erhalten)

• Strafverfolgung, die in die Grundrechte der Menschen eingreifen kann (z.B. Bewertung der Zuverlässigkeit von Beweisen)

• Migrations-, Asyl- und Grenzkontrollmanagement (z.B. automatisierte Prüfung von Visaanträgen)

• Verwaltung der Justiz und demokratische Prozesse (z.B. KI-Lösungen zur Suche nach Gerichtsurteilen).

Wichtig ist hier, dass auch Menschen das Recht haben, Beschwerden über KI-Systeme bei den zuständigen nationalen Behörden einzureichen und diese auch beachtet werden müssen.

Was ist mit generativer KI? Was muss man da beachten?

Bei der Nutzung von generativer KI, wie ChatGPT, Gemini, Copilot, etc - geht es vor allem um Transparenzanforderungen. Vor allem wenn du z.B: einen KI getriebenen Chatbot anbietest, könnte dich das ebenfalls betreffen.

• Offenlegung, dass der Inhalt von KI generiert wurde

• Gestaltung des Modells, um die Erzeugung illegaler Inhalte zu verhindern

• Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden.

Wann wird der EU AU Act in Kraft treten?

Grundsätzlich wird erwartet, dass das KI-Gesetz im Mai oder Juni 2024 offiziell Gesetz wird. Die Bestimmungen werden in Stufen in Kraft treten,

• Nach 6 Monaten: Die Länder werden verpflichtet, verbotene KI-Systeme zu verbieten

• Nach 1 Jahr : Die Regeln beginnen für allgemeine KI-Systeme zu gelten

• Nach 2 Jahren: Das gesamte KI-Gesetz wird durchsetzbar sein.

Wenn 2 Jahre im Internetzeitalter so wie 6 Monate waren, so sind 2 Jahre im KI-Zeitalter meiner Meinung nach so 6 Wochen. Aber anscheinend konnte man sich auf keine andere Zeit einigen oder befürchtet wohl der Pflicht der Prüfung und Strafe nicht nachkommen zu können.

Bei Nichterfüllung können Geldstrafen von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes verhängt werden. Ob das dann wirklich so sein wird, werden wir wohl dann sehen.

Du möchtest mehr wissen?

Alle Infos zum EU AI Act