{"id":13682,"date":"2024-08-23T07:17:48","date_gmt":"2024-08-23T07:17:48","guid":{"rendered":"https:\/\/vila.es\/?p=13682"},"modified":"2024-09-02T08:19:36","modified_gmt":"2024-09-02T08:19:36","slug":"eu-verschaerft-den-einsatz-von-ki-neue-verpflichtungen-je-nach-risikostufe","status":"publish","type":"post","link":"https:\/\/vila.es\/de\/gemeinschaftsrecht\/eu-verschaerft-den-einsatz-von-ki-neue-verpflichtungen-je-nach-risikostufe\/","title":{"rendered":"EU VERSCH\u00c4RFT DEN EINSATZ VON KI: NEUE VERPFLICHTUNGEN JE NACH RISIKOSTUFE"},"content":{"rendered":"

ES<\/a><\/span>|EN<\/a><\/span>|\u65e5\u672c\u8a9e<\/a><\/span>|DE<\/strong><\/p>\n

Am 1. August 2024 trat die europ\u00e4ische Verordnung \u00fcber k\u00fcnstliche Intelligenz<\/a><\/span> (El Reglamento Europeo de Inteligencia Artificial<\/em> \u2013 \u201eRIA<\/em>\u201c) in Kraft. Ziel der RIA<\/em> ist es, in allen Mitgliedstaaten der Europ\u00e4ischen Union (im Folgenden die \u201eEU\u201c) einen einheitlichen Rechtsrahmen zu schaffen, der die Entwicklung und Anwendung von k\u00fcnstlicher Intelligenz (im Folgenden \u201eKI\u201c) regelt und die mit ihrem Einsatz verbundenen Risiken abmildert.<\/p>\n

Die EU war ein Vorreiter bei der Regulierung dieser Technologie. Der Regulierungsprozess begann im April 2021 mit dem Vorschlag der Europ\u00e4ischen Kommission f\u00fcr den ersten EU-Regulierungsrahmen und der Einigung von Rat und Parlament \u00fcber dessen parlamentarische Verordnung (mehr zu diesem Thema finden Sie in unserem Artikel \u201eNEUE EU-VEREINBARUNG ZUR REGULIERUNG DER K\u00dcNSTLICHEN INTELLIGENZ<\/span><\/a>\u201c), der Vorschlag wurde schlie\u00dflich im M\u00e4rz 2024 mit der Verabschiedung der Europ\u00e4ischen Verordnung \u00fcber k\u00fcnstliche Intelligenz durch das Europ\u00e4ische Parlament, ihrer Billigung durch den Rat im Mai 2024 und schlie\u00dflich mit ihrem Inkrafttreten umgesetzt.<\/p>\n

Im Folgenden werden der Anwendungsbereich der Verordnung, die wichtigsten rechtlichen Verpflichtungen, die sie den (\u00f6ffentlichen und privaten) Unternehmen in der Europ\u00e4ischen Union auferlegt, die Bestimmungen, die seit ihrem Inkrafttreten gelten, sowie die Bestimmungen, die in den kommenden Monaten in Kraft treten werden, beschrieben.<\/p>\n

Umfang der Anwendung<\/strong><\/p>\n

Wie die Allgemeine Datenschutzverordnung (DSGVO) hat der RIA<\/em> einen extraterritorialen Anwendungsbereich, d. h. ihre Anwendung h\u00e4ngt nicht nur vom Standort der KI-Vermarkter ab, sondern auch von der Art des KI-Systems oder -Modells sowie vom Standort der durch das KI-System erzeugten Informationen oder Produkte.<\/p>\n

Gem\u00e4\u00df Artikel 2 gilt der RIA<\/em> insbesondere f\u00fcr (i) Anbieter, die in der EU allgemein genutzte KI-Systeme oder KI-Modelle vermarkten oder in Betrieb nehmen, unabh\u00e4ngig davon, ob diese Anbieter in einem EU-Mitgliedstaat ans\u00e4ssig sind oder nicht; (ii) Implementierer von KI-Systemen, die in der EU niedergelassen oder ans\u00e4ssig sind; (iii) Anbieter und Implementierer<\/u> von KI-Systemen, deren durch KI generiertes Produkt in der EU genutzt wird (unabh\u00e4ngig davon, ob sie in einem Drittland niedergelassen oder ans\u00e4ssig sind oder nicht); (iv) Importeure und H\u00e4ndler<\/u> von KI-Systemen; (v) Hersteller<\/u>, die ein KI-System zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr bringen oder in Betrieb nehmen; (vi) bevollm\u00e4chtigte Vertreter von Anbietern von KI-Systemen<\/u>, die nicht in einem EU-Mitgliedstaat niedergelassen sind; (iv) betroffene Personen<\/u>, die sich in der EU befinden.<\/p>\n

Risikoniveaus von KI-Systemen<\/strong><\/p>\n

Das Inkrafttreten des RIA<\/em> bedeutet f\u00fcr \u00f6ffentliche und private Einrichtungen die Einhaltung spezifischer Verpflichtungen, die haupts\u00e4chlich vom Risikoniveau des von ihnen verwalteten KI-Systems oder -Modells abh\u00e4ngen, mit entsprechenden Sanktionen, die haupts\u00e4chlich von der Gr\u00f6\u00dfe des KI-Systemanbieters abh\u00e4ngen.<\/p>\n

Der RIA<\/em> definiert ein System der k\u00fcnstlichen Intelligenz zun\u00e4chst als ein System mit einem gewissen Grad an Autonomie, das anhand von Daten und Eingaben, die von Menschen oder Maschinen bereitgestellt werden, ableitet, wie vorgeschlagene Ziele oder Reaktionen erreicht werden k\u00f6nnen. Dazu verwendet es Techniken, die auf maschinellem Lernen, Schlussfolgerungen oder Modellierung beruhen, und dies ist sein Hauptmerkmal, das es von einem blo\u00dfen Computerprogramm, einem Softwaresystem oder einem traditionellen Programmieransatz unterscheidet. Der RIA<\/em> legt dann 3 Risikostufen fest, die von der Nutzung der KI durch das System abh\u00e4ngen, sowie eine vierte Kategorie f\u00fcr inakzeptable Risiken oder verbotene Praktiken. In diesem Artikel konzentrieren wir uns auf die Kategorie des inakzeptablen Risikos und auf Systeme mit hohem Risiko, da die letztgenannte Kategorie ihren \u201eAnwendern\u201c, d. h. der Person oder dem Unternehmen, die bzw. das diese Art von System zu beruflichen Zwecken einsetzt, mehr Verpflichtungen auferlegt.<\/p>\n

Unannehmbare Risiken oder verbotene Praktiken<\/strong><\/p>\n

Des RIA<\/em> verbietet alle KI-Systeme oder -Modelle mit \u201einakzeptablem Risiko\u201c, einschlie\u00dflich solcher Systeme, die unterschwellige, manipulative oder betr\u00fcgerische Techniken anwenden, um das Verhalten einer Person oder Gruppe zu beeinflussen und ihr zu schaden, oder die die Schw\u00e4chen einer bestimmten Gruppe oder eines bestimmten Personenkreises ausnutzen, um ihr Verhalten mit sch\u00e4dlichen Folgen zu ver\u00e4ndern. Ausdr\u00fccklich verboten sind auch \u201eSocial Scoring\u201c-Systeme, d. h. KI-Systeme, die Einzelpersonen oder Gruppen u. a. nach ihrem Sozialverhalten bewerten oder klassifizieren.<\/p>\n

Hochriskante Systeme<\/strong><\/p>\n

Der RIA stuft ein KI-System als hochriskant ein, wenn sein Einsatz eine erhebliche Gefahr f\u00fcr die Gesundheit, die Sicherheit oder die Grundrechte darstellt. Au\u00dferdem wird zwischen zwei Unterkategorien von Systemen mit hohem Risiko unterschieden: (i) Systeme, die an harmonisierte Produktsicherheitsvorschriften gebunden sind und die aufgrund ihrer sektoralen Regulierung einer besonderen Bewertung unterzogen werden m\u00fcssen (Anhang I des RIA<\/em>), und (ii) Systeme, die aufgrund des Sektors, in dem sie eingesetzt werden, oder des spezifischen Verwendungszwecks, f\u00fcr den sie bestimmt sind, nach Ansicht des RIA<\/em> ein hohes Risiko darstellen (Anhang III des RIA<\/em>).<\/p>\n

Unter diesen Systemen k\u00f6nnen wir aufgrund ihres Anwendungsbereichs (Anhang III der RIA<\/em>) die KI-Systeme zur biometrischen Identifizierung, die KI-Systeme, die f\u00fcr die Sicherheit und das Management kritischer Infrastrukturen, die allgemeine und berufliche Bildung, die Verwaltung von Arbeitnehmern, wesentliche \u00f6ffentliche und private Dienstleistungen, die Systeme im Zusammenhang mit der Strafverfolgung und der Rechtspflege und andere hervorheben.<\/p>\n

Auch wenn ein bestimmter Fall unter ein Hochrisikosystem f\u00fcr KI fallen kann, z. B. die Verwendung biometrischer Identifikatoren, wird er nicht als Hochrisiko angesehen, wenn der Einsatz von KI kein erhebliches Risiko der Beeintr\u00e4chtigung eines Grundrechts, der Gesundheit oder der Sicherheit mit sich bringt. Daher scheint es a priori, dass der RIA <\/em>eine Reihe von Problemen bei der Bestimmung der Bedingungen aufwirft, unter denen ein echtes Risiko f\u00fcr die Verursachung von Sch\u00e4den besteht. Im RIA<\/em> wird zun\u00e4chst vorgeschlagen, dass die Kommission eine ersch\u00f6pfende Liste mit konkreten Beispielen f\u00fcr KI-Systeme mit hohem und niedrigem Risiko erstellen sollte, um die Einstufung von KI-Systemen zu erleichtern.<\/p>\n

Verpflichtungen f\u00fcr Unternehmen, die hochriskante KI-Systeme einsetzen.<\/u><\/p>\n

Zu den wichtigsten Verpflichtungen, die den RIA<\/em> den Anbietern von KI-Systemen mit hohem Risiko auferlegt, geh\u00f6ren:<\/p>\n