In den letzten Wochen haben wir uns damit beschäftigt, welche Gefahren Künstliche Intelligenz mit sich bringen kann. Da das Europäische Parlament gerade erst am 14. Juni Verhandlungen über mögliche Regulationen für KIs innerhalb der EU – den Articifial Intelligence Act – geführt hat, wollen wir uns diesmal ansehen, was darin denn eigentlich so alles enthalten ist.

Es ist gar nicht so einfach, Künstliche Intelligenz zu kontrollieren. Einerseits will man selbstverständlich potentielle Gefahren, die von KIs ausgehen, so gering wie möglich halten, andererseits möchte man aber auch, dass der Markt attraktiv für Entwickler:innen bleibt. Bislang gab es noch kaum Regulationen in Bezug auf KIs – das soll der Artificial Intelligence Act der EU in Zukunft ändern.

Foto von CDC auf Unsplash

Dem AI Act zufolge sollen KIs zukünftig in vier verschiedene Risikogruppen eingeteilt werden: minimales Risiko, begrenztes Risiko, hohes Risiko und unannehmbares Risiko. Wie man aufgrund der Namen der Risikokategorien schon vermuten kann, steigt mit der Kategorienhöhe auch die Anzahl der Regulationen für die betroffenen KIs. Ein besonders hohes Risikopotential bergen beispielsweise solche KIs, die am Arbeitsmarkt, im schulischen Kontext oder in der Strafverfolgung eingesetzt werden, weswegen für diese strengere Regeln bestehen als für andere Arten von KIs. So sollen diese beispielsweise ausschließlich mit hochwertigen Daten gefüttert werden, deren Anwendung auch dokumentiert werden soll, um eine ungefähre Ahnung darüber zu erlangen, was in der Blackbox der betroffenen KIs vor sich geht. Zudem sollen die Nutzer:innen auch darüber aufgeklärt werden, wie KIs dieser Art in etwa arbeiten und wo ihre Schwächen und Gefahren liegen.

Ganz besonders manipulative KIs, wie etwa die Echtzeit-Erkennung von Gesichtern im öffentlichen Raum oder auch soziale Ratingsysteme, wie es sie in China gibt, werden generell verboten. Andere KIs, wie etwa ChatGPT, dürfen auch weiterhin bestehen bleiben, müssen aber einiger Überarbeitung unterzogen werden, um in Zukunft keine illegalen Inhalte mehr zu produzieren.

Foto von Tingey Injury Law Firm auf Unsplash

Auch was die Haftung in KI-bezogenen Schadenfällen angeht, soll der AI Act neue Klarheit verschaffen, besonders für die Opfer. Die Betroffenen sollen sich zukünftig sicher sein können, dass sie für von KIs verursachten Schäden in der gleichen Weise entschädigt werden, wie es unter anderen Umständen der Fall gewesen wäre.

Die größte Aufgabe, vor der der AI Act und auch alle zukünftigen Regulationen, die KIs betreffen, stehen, ist das rasante Tempo, in dem technische Fortschritte im Bereich Künstlicher Intelligenz gemacht werden. Sämtliche Regulationen müssen hierbei flexibel genug sein, um sicherzustellen, dass man nicht zu große legale Graubereiche offen lässt und rechtzeitig eingreifen kann, falls eine (neue) Art von KIs sich in eine bedenkliche Richtung entwickelt, die nicht von vornherein absehbar war.

Quellen:
https://www.derstandard.at/story/2000141511432/ai-act-der-eu-soll-die-gefahren-kuenstlicher-intelligenz-minimieren
https://www.artificial-intelligence-act.com/
https://artificialintelligenceact.eu/