This browser is not actively supported anymore. For the best passle experience, we strongly recommend you upgrade your browser.
viewpoints
Welcome to Reed Smith's viewpoints — timely commentary from our lawyers on topics relevant to your business and wider industry. Browse to see the latest news and subscribe to receive updates on topics that matter to you, directly to your mailbox.
| 1 minute read

Die Ausnahme von der Regel: EU verbietet automatisierte Gesichtserkennung. Oder doch nicht?

Die EU Kommission hat am 21. April 2021 einen Verordnungsentwurf für die Regulierung künstlicher Intelligenz (KI) vorgelegt. Die Verordnung stellt einen Bestandteil eines Straußes an Maßnahmen dar, die die EU ins Leben rufen wird, um den Einsatz von KI grundrechtskonform, ethisch und vertrauenswürdig auszugestalten. Es soll dabei eine "zukunftssichere" Definition von KI zu Grunde gelegt werden, die nicht nur bekannte Anwendungen wie maschinelles Lernen und neuronale Netzwerke umfasst, sondern auch auf Algorithmen beruhende Entscheidungs- und Empfehlungssysteme. Die Verordnung folgt einem risikobasierten Ansatz, bei dem Anwendungen mit unannehmbarem Risiko, also solche, die den freien Willen beeinflussen und Social Scoring ermöglichen, verboten werden. Anwendungen mit hohem Risiko, für die die EU eine umfangreiche Beispielliste vorlegt, unterliegen strengen Vorgaben, wie u. a. einer Risikobewertung, einer Loggingpflicht, besonderen Sicherheitsmaßnahmen und einer angemessenen menschlichen Aufsichtspflicht. Aufgrund des hohen Risikos biometrischer Erkennungssysteme für die Grundrechte sollen diese grundsätzlich verboten werden. Allerdings sieht die EU "strikt definierte" Ausnahmen vor wie beispielsweise die Suche nach vermissten Kindern, die Abwehr terroristischer Bedrohungen oder die Identifizierung und das Auffinden von Tätern schwerer Straftaten. Bei Vorliegen einer Ausnahme ist zudem eine behördliche Genehmigung erforderlich. Im Ergebnis ist also wohl damit zu rechnen, dass entsprechende Systeme dennoch im öffentlichen Raum wie zum Beispiel an Bahnhöfen (wie bereits seit Jahren in Berlin Südkreuz im Testbetrieb) oder sogar Stadien zum Einsatz kommen werden. Bei KI Anwendungen mit niedrigem Risiko (z. B. Chatbots) setzt die EU Kommission in der Verordnung auf Transparenz, damit Nutzer wissen, dass sie es mit einem nicht-menschlichen System zu tun haben und sich ggf. gegen eine Nutzung entscheiden können. In dem Großteil der aktuell genutzten KI Anwendungen sieht die EU nur ein minimales Risiko (z. B. KI-gestützte Videospiele oder Spamfilter) und nimmt diese von der Verordnung aus. Die Einhaltung der Verordnung soll von noch final zu determinierenden lokalen Behörden überwacht werden. Verstöße können gemäß Entwurf mit bis zu 30 Millionen Euro oder 6 % des weltweiten Jahresumsatzes geahndet werden. Eine finale Verabschiedung der Verordnung wird nicht vor 2022 erwartet.

Margrethe Verstager: "Bei künstlicher Intelligenz ist Vertrauen ein Muss, kein Beiwerk." Die neue KI-Verordnung wird sicherstellen, dass die Europäerinnen und Europäer dem vertrauen können, was die KI zu bieten hat.

Tags

ai, artificial intelligence, video, european union, künstliche intelligenz, surveillance, überwachung, gesichtserkennung, facial recognition, biometric, biometrie, europäische union, eu

Latest Insights