Grundlagen

istock.com/sharrocks

AI Act der EU: Bitkom - KI-Entwicklung darf nicht ausgebremst werden   

Der Rat Europäischen Union hat am 6. Dezember seine Position zum Artificial Intelligence Act (AI Act) verabschiedet. Die EU-Kommission hatte ihren ersten Entwurf zum AI Act im April 2021 veröffentlicht. Die Behörde will mit dem Gesetz einen einheitlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa schaffen. Dazu erklärte Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung: „Der Rat der Europäischen Union hat mit seinen Vorschlägen zum AI Act den Entwurf der Kommission an entscheidenden Stellen verbessert. Zugleich besteht aber weiterhin die Gefahr, dass durch eine zu starke Fokussierung auf Risiken die KI-Entwicklung in Europa ausgebremst wird.“ KI sei eine Technologie, der eine entscheidende Bedeutung für die Zukunftsfähigkeit zukomme. Zwei Drittel der Unternehmen in Deutschland sähen in KI vor allem eine Chance. Dehmel: „Damit kommt dem AI Act mit Blick auf die Wettbewerbsfähigkeit der europäischen Wirtschaft und unseren künftigen Wohlstand eine bedeutende Rolle zu.“

Der Bitkom begrüße, dass der Rat die Definition eines KI-Systems nachgeschärft habe, so Dehmel weiter. Es müsse sichergestellt werden, dass nur solche Systeme reguliert würden, die durch KI-spezifische Eigenschaften neue Risiken mit sich brächten. Allerdings bleibe die Risikoklassifizierung weiterhin zu vage. Damit der risikobasierte Ansatz der EU-Kommission erfolgreich sein könne, müsse präzise erfasst werden, wo ein hohes Risiko entstehe und wie dieses abzugrenzen sei, hieß es. Dabei dürften nicht pauschal Anwendungsfälle eingestuft werden, sondern es müsse eine auf die konkrete Anwendung bezogene Einschätzung des Risikos erfolgen. Auch bei der geplanten zusätzlichen Regulierung für Systeme mit vielen möglichen Einsatzwecken („General Purpose AI“), wie Bild- oder Spracherkennung, bleiben demnach noch viele offene Fragen. Hier sollte der Fokus sollte darauf liegen, die Zusammenarbeit zwischen allen an der Entwicklung eines KI-Systems Beteiligten zu fördern, um auf diese Weise das Ziel der Risikominimierung zu erreichen.

Dehmel: „Im anstehenden Trilog von Rat, Parlament und Kommission sollte der vorliegende Vorschlag noch praxistauglicher gestaltet werden. Es dürfe dabei auch nicht zu Widersprüchen mit bestehenden Vorgaben und damit zu neuen Unsicherheiten kommen, denn in Bereichen wie Medizinprodukte oder Finanzen ergänzt die KI-Verordnung bereits bestehende umfangreiche Regulierung.“

Pop: Rat schwächt Verbraucherrechte und Vertrauen in KI-Systeme
Ramona Pop, Vorständin des Verbraucherzentrale Bundesverbands (vzbv), erklärte: „Künstliche Intelligenz greift immer stärker in den Verbraucheralltag ein. KI kann den Alltag erleichtern, aber birgt auch Diskriminierungspotenzial. Es ist daher erfreulich, dass Europa verbindliche Regeln anstrebt.“ Die Bundesregierung habe viele wichtige Verbraucherschutzpunkte in die Verhandlungen im Rat eingebracht. Pop: „Umso bedauerlicher ist es, dass die Vorschläge nur unzureichend Eingang in die nun vorliegende Position des Rats gefunden haben. Damit schwächt der Rat die Verbraucherrechte und somit auch das nötige Vertrauen in KI-Systeme.“

In der Auflistung hochriskanter KI-Systeme fehlten etwa Systeme, die in der Lage seien, Emotionen zu erkennen und zu verarbeiten. Auch KI-Systeme, die sich an Kinder richteten oder den Zugang zu Wohnraum regelten, müssten als hochriskant eingestuft werden. Ebenso fehlten in der nun vorliegenden Position des EU-Rats wichtige Betroffenenrechte, etwa das Recht für Verbraucher, sich die Entscheidungen hochriskanter KI-Systeme von Anbietern erklären zu lassen.

Pop forderte, dass das Europäische Parlament sich in seiner für Anfang 2023 erwarteten Positionierung für die Verbraucher stark machen müsse. „Das ist wichtig, damit in den dann folgenden Trilog-Verhandlungen zwischen Europäischem Parlament, Rat und Europäischer Kommission ein verbraucherfreundlicher Kompromiss erzielt wird.“

+++

Was versteht man unter „Data Science“ und wie ist dies in den Themenkomplex KI einzuordnen? Wozu benötigt eine Bank einen Data Scientist und mit welchen Daten und Tools wird hier gearbeitet? Diese und weitere Fragen stellen wir Torsten Nahm, der das Kompetenzzentrum für Data Science bei der DKB leitet. Hören Sie hier weitere Episoden aus der Reihe „durch die bank“.

Melden Sie sich bei Interesse zu unserem Web-Seminar „Robotic Process Automation (RPA) in Kreditinstituten – Technik und Use Cases“ an.

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge