Grundlagen News

iStock.com/Liountmila Korelidou

EU-Kommission: Strenge Regeln für den Umgang mit KI vorgelegt

„Durch die Kombination aus dem weltweit ersten Rechtsrahmen für KI und einem neuen mit den Mitgliedstaaten koordinierten Plan sollen die Sicherheit und die Grundrechte der Menschen und Unternehmen gewährleistet und gleichzeitig die KI-Verbreitung gefördert sowie Investitionen und Innovationen im Bereich der KI in der gesamten EU verstärkt werden“, teilte die Kommission mit. Die neuen Vorschriften sollen den Angaben zufolge auf einer zukunftssicheren Definition der KI beruhen und in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden. 

Die Vorschriften folgen laut Kommission einem risikobasierten Ansatz, hieß es. KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten würden, sollten verboten werden. Dazu gehörten KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren würden, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermunterten könnte), sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens ermöglichen könnten.


Strikte Vorgaben für KI-Systeme mit hohem Risiko
Die Kommission nannte unter anderem folgende Bereiche, in denen ein hohes Risiko bei KI-Einsatz bestehe: Kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet werden könnten; Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen) sowie Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie). Für KI-Systeme mit hohem Risiko sollten strenge Vorgaben gelten, bevor sie auf den Markt gebracht würden, hieß es: Genannt wurden etwa angemessene Risikobewertungs- und Risikominderungssysteme sowie eine hohe Qualität der für diese Systeme verwendeten Datensätze, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten, hieß es.

Margrethe Vestager, die für das Ressort „Ein Europa für das digitale Zeitalter“ zuständige Exekutiv-Vizepräsidentin, erklärte: „Bei Künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist. Der für den Binnenmarkt zuständige EU-Kommissar Thierry Breton fügte hinzu: „KI ist kein Ziel für sich, sondern ein Mittel, das schon seit Jahrzehnten eingesetzt wird. Aber mit der heutigen Rechenleistung hat sie nun ganz neue Fähigkeiten. Dies bietet ein riesiges Potenzial in so verschiedenen Bereichen wie Gesundheit, Verkehr, Energie, Landwirtschaft, Tourismus oder Cybersicherheit. KI birgt aber auch eine Reihe von Risiken. Die heutigen Vorschläge sollen die Position Europas als globales Zentrum für Exzellenz in der KI vom Labor bis zum Markt stärken.“

„Europäischer Rechtsrahmen muss Innovationsanreize setzen“
Tobias Tenner, Leiter Digitalisierung beim Bankenverband, sagte: „Künstliche Intelligenz ist für die langfristige Wettbewerbsfähigkeit und digitale Souveränität Europas von entscheidender Bedeutung. Ein europäischer Rechtsrahmen darf daher nicht nur die potenziellen Risiken adressieren, er muss auch Innovationsanreize setzen und Rechtssicherheit für Unternehmen schaffen. Verpflichtende Regeln müssen daher objektiven und nachvollziehbarer Kriterien genügen. Der Einsatz von KI-Systemen bei der Kreditwürdigkeitsprüfung in Banken unterliegt ohnehin bereits einem strengen Aufsichtsregime. Die zuständigen Behörden überwachen diese Vorgänge. So werden nicht nur Verbraucher und Anleger geschützt, sondern auch die Finanzstabilität. Zusätzliche Anforderungen an die Kreditvergabe aus einer KI-Regulierung sind daher weder sachgerecht noch erforderlich.“

Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands, teilte mit: „Der Legislativvorschlag der EU-Kommission für den Einsatz Künstlicher Intelligenz in Europa ist ein wichtiger Schritt auf dem Weg zur notwendigen Regulierung der Technologie. Die von der Kommission vorgeschlagenen Risikoklassen bedürfen aber noch einer weiteren Überarbeitung. So ist die Zuordnung der KI-Systeme in die jeweiligen Risikoklassen nachzubessern. Der im Legislativvorschlag vorgesehene primäre Fokus auf KI-Anwendungen mit hohem Risiko greift dabei zu kurz. Verpflichtende Mindestanforderungen sollten für alle KI-Anwendungen gelten. Dies gilt insbesondere im Hinblick auf wichtige Schutzziele wie Sicherheit, Zuverlässigkeit und Transparenz."

„Angemessene menschliche Aufsicht zur Minimierung der Risiken“
Der digitalpolitische Sprecher der CDU/CSU-Bundestagsfraktion Tankred Schipanski sagte: „Für KI-Systeme mit einem hohen Risiko –  wie beispielsweise in kritischen Infrastrukturen, bei Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie) oder bei der Strafverfolgung – sollen strenge Vorgaben gelten. Dazu soll u.a. eine angemessene menschliche Aufsicht zur Minimierung der Risiken gehören. Aus unserer Sicht dürfen wir bei der Künstlichen Intelligenz (KI) auf der einen Seite nicht überregulieren, damit Innovationen durch KI nicht abgewürgt werden. Auf der anderen Seite müssen wir den oben genannten beträchtlichen Risiken auch Rechnung tragen. Ein chinesisches Social-Scoring-System darf weder in Deutschland noch in Europa jemals zugelassen werden.“

Die KI-Beauftragte der Unions-Bundestagsfraktion Ronja Kemmer fügte hinzu: „Der Vorschlag der EU-Kommission für die Regulierung von Künstlicher Intelligenz geht in die richtige Richtung. KI bietet riesige Chancen für unsere Wirtschaft, unsere Gesellschaft, vor allem aber auch für die Zukunftsfähigkeit Deutschlands und Europas. (ud)

 

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge