Neues KI Gesetz vom Europäischen Parlament beschlossen…

Das Europäische Parlament hat am vergangenen Donnerstag das KI Gesetz mit 523 zu 46 Stimmen bei 49 Enthaltungen beschlossen.

Der angenomme Text ist hier zu finden: KI Gesetz

Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt. Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von den jeweiligen möglichen Risiken und Auswirkungen.

Für Hochrisiko-KI-Systeme sind bestimmte Verpflichtungen vorgesehen, denn sie können eine erhebliche Gefahr für Gesundheit, Sicherheit, Grundrechte, die Umwelt, Demokratie und den Rechtsstaat darstellen. Als hochriskant werden unter anderem KI-Systeme eingestuft, die in den Bereichen kritische Infrastruktur, allgemeine und berufliche Bildung oder Beschäftigung eingesetzt werden.

In der Anlage III sind bereits bestimmte Hochrisiko-KI-Systeme klassifiziert, u.a. auch

KI-Systeme, die bestimmungsgemäß für die Kreditwürdigkeitsprüfung und Kreditpunktebewertung natürlicher Personen verwendet werden sollen, mit Ausnahme von KI-Systemen, die zur Aufdeckung von Finanzbetrug verwendet werden…

Das finde ich im Verhältnis zu einer KI, die u.a. für die Rettungsleitplanung für Feuerwehr, Polizei und Rettungskräfte verwendet werden soll, erstaunlich. Denn das so genannte Scoring findet nicht nur im Bankwesen statt, sondern bei allen Unternehmen, die mit einem kreditorischen Risiko liefern (z.B. auf Rechnung); insbesondere auch im online-Handel. Und die Bewertung, ob jemand seinen Pullover auf Rechnung geliefert bekommt, ist m.E. nicht damit gleichzusetzen, wer zuerst die medizinische Hilfe bekommt. Art. 6 Abs. 3 des Gesetzes sieht hier zwar eine Ausnahme vor, wenn es u.a. kein erhebliches Risiko (wie wahrscheinlich beim Pullover) darstellt, aber dies wird im selben Art. wieder verneint, wenn es um Profiling an sich geht.

M.E. ist auch ein KI-Tool ein Hochrisiko-Tool, wenn Anwälte als Organe der Rechtspflege die KI

bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte unterstützen, oder die auf ähnliche Weise für die alternative Streitbeilegung genutzt werden soll...

nutzen.

Was ich auch erstaunlich finde, ist, dass gerade das Thema mit Hochrisiko erst 36 Monate nach Inkrafttreten wirksam wird. Bis dahin dürfen die Tools unkrontolliert benutzt werden?!?!

Das sind nur die ersten Kommentare… Fortsetzung folgt…

Stephanie Iraschko-Luscher

18.03.2024

MGDS – Ihre Unternehmensberatung für Datenschutz in Hamburg