Am 9. Dezember 2023 gab die Europäische Union die zwischen dem Rat und dem Parlament erzielte Einigung über die Regulierung der künstlichen Intelligenz bekannt. Ziel ist es, dem Bedarf an harmonisierten Regeln in diesem Bereich gerecht zu werden, damit die künstliche Intelligenz auf sichere Art und Weise genutzt werden kann, wobei die Grundrechte der Bürger und die Werte der EU geachtet werden und gleichzeitig Investitionen und Innovationen erleichtert werden.
Die Einigung, die auf den Verordnungsvorschlag der Kommission aus dem Jahr 2021 zurückgeht, hat vorläufigen Charakter, da noch verschiedene Phasen zur Festlegung der technischen und formalen Aspekte der Verordnung erforderlich sind. Nach der Genehmigung durch das Parlament und den Rat wird es zwei Jahre nach seinem Inkrafttreten anwendbar sein, so dass es voraussichtlich ab dem Jahr 2026 in Kraft treten wird.
Es werden verschiedene Kriterien zur Unterscheidung künstlicher Intelligenz von anderen Systemen herkömmlicher Software eingeführt und eine klare Definition künstlicher Intelligenz gegeben, nämlich „ein System, das für den Betrieb mit Elementen der Autonomie konzipiert ist und das auf der Grundlage von Daten und Informationen, die von Maschinen oder Menschen erzeugt werden, ableitet, wie eine Reihe von Zielen zu erreichen ist, und zu diesem Zweck automatische Lernstrategien verwendet, die auf Logik und Wissen beruhen, und das vom System erzeugte Informationen produziert ….“.
Es werden Kriterien für das Verbot verschiedener Praktiken festgelegt, die gegen die Grundrechte verstoßen können. Zu diesen Praktiken gehören
(i) die Einführung eines Systems, das das Verhalten von Personen wesentlich verändern und physische oder psychische Schäden verursachen kann,
(ii) die Verwendung eines Systems, das die Schwächen bestimmter Personengruppen ausnutzen kann,
(iii) die Einstufung von Personen aufgrund ihres sozialen Verhaltens oder ihrer persönlichen Merkmale, die eine schädliche oder ungünstige Behandlung bestimmter Personen oder Gruppen zur Folge hat,
(iv) die Verwendung biometrischer Identifizierungssysteme in öffentlichen Räumen in Echtzeit, außer in geprüften Situationen, und,
(v) die Analyse und Erkennung von Emotionen von Personen in der Arbeitswelt und in Bildungseinrichtungen.
In Bezug auf Situationen, in denen die Verwendung von biometrischen Echtzeit-Fernerkennungssystemen im öffentlichen Raum zulässig ist, wird festgelegt, dass „dies von der Erteilung einer vorherigen Genehmigung durch eine Justizbehörde oder eine von dem Mitgliedstaat, in dem das System verwendet werden soll, unabhängige Verwaltungsbehörde abhängt, die diese Genehmigung auf begründeten Antrag und nach den Modalitäten des nationalen Rechts erteilt […]. In hinreichend begründeten dringenden Fällen kann die Verwendung des Systems jedoch auch ohne Genehmigung erfolgen, sofern diese Genehmigung unverzüglich beantragt wird, während das AI-System in Betrieb ist, und die Verwendung des Systems im Falle der Verweigerung der Genehmigung unverzüglich eingestellt wird. “
Es werden Bedingungen für die Sanktionen festgelegt, die „wirksam, verhältnismäßig und abschreckend“ sein müssen und die Größe der Unternehmen und ihre wirtschaftliche Lebensfähigkeit berücksichtigen müssen. Es obliegt den Mitgliedstaaten, das Sanktionssystem festzulegen und seine wirksame Anwendung zu gewährleisten, und sie müssen der Kommission das System und die festgelegten Maßnahmen mitteilen. Die Nichteinhaltung der Vorschriften kann mit Sanktionen in Höhe von bis zu 35 Mio. EUR geahndet werden, wobei Größe und Umsatz des betreffenden Unternehmens berücksichtigt werden und die Sanktionen bis zu 6 % des Umsatzes betragen können, bei KMU und Start-ups bis zu 3 %. Natürliche und juristische Personen können bei den Behörden, die die Einhaltung der Verordnung überwachen, Beschwerde einlegen.
Zur Unterstützung von Innovationen werden kontrollierte Testräume für KI eingeführt, in denen Forscher ihre Systeme in einem Raum entwickeln und testen können, der realen Bedingungen nachempfunden ist. Außerdem werden verschiedene Hilfen für kleinere Unternehmen und Start-ups eingeführt, um den Verwaltungsaufwand für sie zu verringern.
Da die Europäische Union weltweit Vorreiter bei der Einführung von Vorschriften für diese Technologie ist, wird es interessant sein, die Reaktion von Unternehmen und Investoren zu beobachten, die entscheiden müssen, ob sie in den europäischen Markt eintreten oder dort bleiben, oder ob sie auf andere Märkte ausweichen, auf denen die fehlende Regulierung größere Entwicklungsmöglichkeiten bietet.
Oscar Vilá
Vilá Abogados
Für weitere Informationen wenden Sie sich bitte an:
22. Dezember 2023
