Trends News

istock.com/AndreyPopov

EU-Regulierungsrahmen für KI: Deutsche Wirtschaft fordert Nachbesserungen  

Das teilte die Deutsche Kreditwirtschaft (DK) in einem gemeinsam mit weiteren Wirtschaftsvertretern verfassten Positionspapier am Mittwoch mit. Laut dem Schreiben ist die Definition von KI für den Anwendungsbereich der künftigen Regulierung entscheidend. Die im KI-Regulierungsvorschlag der Kommission enthaltene Definition sei jedoch zu weit gefasst, sodass eine Vielzahl von konventionellen IT-Systemen unsachgerecht erfasst und folglich in den Anwendungsbereich der Regulierung fallen würden. Die Definition von KI sollte deshalb präzisiert werden. Insbesondere Algorithmen, die keine Form des Maschinellen Lernens (ML) oder der Selbstoptimierung beinhalten würden, sollten per Definition von der KI-Regulierung ausgenommen werden. Dasselbe gelte für lineare Modelle, unterstützende Methoden aus dem Bereich der erklärbaren KI und etablierte statistische Methoden. Die Position des Rats der EU gehe hierbei in die richtige Richtung, hieß es.

Die Liste der hochriskanten KI-Anwendungen berücksichtige gegenwärtig nur den allgemeinen Einsatzbereich, nicht jedoch die konkrete Ausgestaltung der KI, ihre konkrete Verwendung oder das eigentliche Risiko, welches sie mit sich brächten, so das Papier. Diese pauschale Einordnung habe zur Folge, dass eine Vielzahl von harmlosen KI-Anwendungen als hochriskant eingestuft würden. Dies gelte für Anwendungen zur Effizienzsteigerung von Arbeitsabläufen, etwa digitale Posteingangslösungen oder Anwendungen im Bewerbermanagement, die eine Sichtung von Bewerbungen objektiver machten.

Doppelregulierungen sollten vermieden werden
Der KI-Regulierungsvorschlag betreffe fast alle Wirtschafts- und Industriebereiche, hieß es weiter. Daher sei es wichtig, eine Kohärenz mit bestehenden Vorschriften und Aufsichtsstrukturen herzustellen. Der bestehende Regulierungsrahmen biete bereits einen ausreichenden Schutz für Verbraucher und gelte selbstverständlich auch für KI-Anwendungen. Neue Anforderungen und Vorgaben durch eine zusätzliche KI-Regulierung könnten daher zu Doppelregulierungen und einem inkonsistenten Rechtsrahmen führen, was nicht nur zusätzlichen Aufwand und erhebliche Rechtsunsicherheiten für Unternehmen zur Folge hätte, sondern langfristig auch Innovationen hemme. Dies gelte insbesondere für bereits hoch regulierte Branchen, wie beispielsweise in den kritischen Infrastrukturen, dem Banken-, Versicherungs- und Arzneimittelmarkt oder auch für Medizinprodukte.

Von zentraler Bedeutung sei zudem eine an den Grundsätzen der Erforderlichkeit und Verhältnismäßigkeit ausgerichtete Regulierung, die dem Grundsatz „So viel wie nötig, so wenig wie möglich“ folge: „Auch Pflichten, die sich aus der Entwicklung und dem Betrieb von Hochrisiko-KI ergeben, müssen im Einzelfall gerechtfertigt sein. Die Anforderungen an hochriskante KI-Systeme sind jedoch zum Teil zu weitreichend, wie beispielsweise die Forderung nach fehlerfreien Datensätzen bei Trainingsdaten oder die Anforderungen an die technische Dokumentation, sodass eine dem jeweiligen Risiko entsprechende Anpassung und Präzisierung erforderlich ist, die in einem vertretbaren Umfang umgesetzt werden kann“, schreiben die Autoren.

Autoren begrüßen Rückgriff auf bestehende Aufsichtsstrukturen
Zur Gewährleistung einer angemessenen Governance-Struktur sei der im Kommissionsvorschlag vorgesehene Rückgriff auf bereits bestehende Aufsichtsstrukturen und nationale Zuständigkeitsverteilungen zu begrüßen, um Doppelungen der Aufsichtstätigkeiten zu vermeiden. Insbesondere in bereits regulierten und unter Aufsicht stehenden Branchen wäre eine Doppelstruktur aus unserer Sicht nicht zielführend, hieß es.

Da die Vorschriften in erster Linie für Juristen verfasst seien, würden die Verfasser es begrüßen, wenn die Kommission nach Abschluss des Gesetzgebungsverfahrens einen anwendungsorientierten Leitfaden vorlegen könnte, in dem die Regelungen praxisnah und einfach verständlich für Entwickler von KI „übersetzt“ würden, z. B. mit entsprechenden Checklisten und Step-by-Step-Anleitungen: „Die Leitlinien könnten Entwickler beispielsweise bei der Beantwortung der Fragen unterstützen, wann von einer KI-Anwendung ein hohes Risiko ausgeht oder wie sichergestellt werden kann, dass Datensätze keine Bias enthalten“, so das Fazit.

Zu den Verfassern gehören neben der DK den Angaben zufolge der Bundesverband der Arzneimittelhersteller e.V. (B.A.H), die Bundesvereinigung der Deutschen Arbeitgeberverbände (BDA), der Bundesverband der Energie- und Wasserwirtschaft e. V. (BDEW), der Bitkom e. V., der Deutsche Industrie- und Handelskammertag e. V. (DIHK), der Gesamtverband der Deutschen Versicherungswirtschaft (GDV), der Handelsverband Deutschland (HDE), der Verband der Privaten Bausparkassen e. V., der Zentralverband der deutschen Werbewirtschaft (ZAW) sowie der Zentralverband des Deutschen Handwerks e. V. (ud)

Melden Sie sich bei Interesse zu unserem Web-Seminar „Machine Learning: Projektmanagement und Betrieb“ an.

 

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge