Trends Markt

iStock.com/Martin Barraud

TÜV-Verband: Künstliche Intelligenz braucht Regeln

„Sind beim Einsatz von Künstlicher Intelligenz die Gesundheit von Menschen oder ihre elementaren Grundrechte in Gefahr, sollten KI-Systeme bestimmte Sicherheitsanforderungen erfüllen müssen", erklärte Marc Fliehe, Leiter Digitalisierung und Cybersecurity beim TÜV-Verband (VdTÜV). Das gelte etwa für automatisierte Fahrzeuge, medizinische Diagnosen, mit Menschen interagierende Roboter oder Entscheidungssysteme, die Personen betreffen.

Der Verband unterstützt eigenen Angaben zufolge die Pläne der EU-Kommission, die einen europäischen Rechtsrahmen für KI-Systeme schaffen will und ihre Vorstellungen im „Weißbuch zur Künstlichen Intelligenz“ zusammengefasst hat. Hintergrund der Regulierungsbestrebungen ist die zunehmende Digitalisierung und Vernetzung der Welt. Fahrzeuge, Maschinen, Geräte und Produkte aller Art verfügten über digitale Funktionen und träfen autonom Entscheidungen, die Menschen schützten, aber auch in Gefahr bringen könnten, hieß es. Darüber hinaus könnten KI-Systeme falsche Vorhersagen treffen oder Menschen diskriminieren, wenn sie fehlerhaft programmiert oder trainiert worden seien.

Der Verband forderte daher von der Politik etwa, den Rechtsrahmen KI-tauglich zu machen. Der europäische Rechtsrahmen trage den Herausforderungen durch KI nicht ausreichend Rechnung. Grundlegende Anforderungen an KI-gestützte Anwendungen sollten übergreifend und sektorspezifisch formuliert werden. Zudem sollten KI-gestützte Anwendungen in Risikoklassen eingeteilt werden. Für diese Einteilung müssten eindeutige Kriterien definiert werden. Die Risikobewertung bilde die Grundlage für weitere Vorgaben an das jeweilige KI-System. Zudem müsse durch eine unabhängige Drittprüfung Vertrauen geschaffen werden. Bei KI-gestützten Anwendungen mit hohem Risiko sollte eine unabhängige Konformitätsbewertung erfolgen. So werde überprüft, ob die Anwendungen die gesetzlich formulierten Anforderungen erfüllten und in der Nutzung sicher seien, hieß es. (ud)

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge