Grundlagen News

iStock.com/metamorworks

Ethische Richtlinien: Eine Grundlage für vertrauenswürdige KI

Dass KI nicht nur Vorteile hat, sondern auch Schaden anrichten kann – vor allem, wenn die notwendigen Standards fehlen, – hat auch die Europäische Kommission erkannt. Mit ihrem kürzlich vorgestellten Gesetzesentwurf zielt sie auf einen gemeinsamen, europaweiten Ansatz zur Regulierung von KI-Anwendungen ab, die mit Risiken für Menschen verbunden sind. Um wirtschaftlich gestärkt in die Zukunft zu gehen, sind nicht nur der technologische Fortschritt und die Entwicklung von technischen Lösungen von zentraler Bedeutung, sondern auch das Vertrauen der Nutzer, die Technologie anzuwenden. Ethische Richtlinien im Umgang mit KI sind daher nicht nur auf Gesetzesebene ein wesentlicher Schritt, sondern sollten auch ganz oben auf der Agenda jedes Vorstands und der To-Do-Liste der CTOs stehen. 

Daten gelten für die Wirtschaft als das neue Öl. Jede Künstliche Intelligenz ist nur so gut wie die Datenbasis, die ihr zugrunde liegt – und wie Menschen diese aufbereiten (auch das eine Analogie zum Öl, das im Rohzustand nicht nutzbar ist). Daten sollten fair und repräsentativ für alle Menschen und Kulturen sein. Umso wichtiger ist es, dass CTOs mit dem notwendigen Verständnis und Wissen ausgestattet sind, KI-Anwendungsfälle zu erkennen, die ethisch-moralisch bedenklich sein könnten. 
Außer Frage steht, dass Anwendungen, die negative Auswirkungen auf Menschen haben könnten, von verantwortungsvollen Unternehmen nicht zum Einsatz kommen sollten. Das gilt etwa für die Mitarbeiterüberwachung mittels KI-Algorithmen, die mit biometrische Daten gefüttert wurden. Vor dem Einsatz von KI sollten Firmen eine ausführliche Diskussion über die Vor- und Nachteile der Technologie aus ethisch-moralischer Perspektive führen. Ein unternehmensinterner Ethikrat (eventuell erweitert um externe Experten) kann beispielsweise dazu beitragen, solche Anwendungsrisiken frühzeitig zu erkennen und in Risikokategorien einzuteilen.


Verbesserter Kundenservice mit Chatbots
Unternehmen sollten zudem sicherstellen, dass die für Künstliche Intelligenz verwendeten Trainingsdaten unvoreingenommen und vertrauenswürdig sind. Eine nicht sorgfältig geprüfte Datenbasis oder verzerrte Datenergebnisse können negative Folgen nach sich ziehen – auch wenn der Einsatz der Software gute Absichten verfolgt. So kann der Einsatz eines Chatbots zu einem verbesserten Kundenservice und einer Entlastung des Teams führen.

Bei einer schlechten Datenbasis hingegen mussten Unternehmen bereits die Erfahrung machen, dass Chatbots rassistisch voreingenommen reagierten. Ähnlich stellt sich die Lage dar, wenn Unternehmen Software zur Leistungsbewertung oder als Bewerbersoftware einsetzen. Der gut gemeinte Ansatz, einheitliche Standards und Prozesse zu schaffen, kann negative Auswirkungen haben, wenn die Software aufgrund einer nicht ausgewogenen Datenbasis Bewerber frühzeitig und unbegründet aussortiert oder Mitarbeiter negative Konsequenzen bei der nächsten Beförderung zu erwarten haben.

Abhilfe schaffen Unternehmen leicht, indem sie für ein notwendiges Bewusstsein und mehr Transparenz bei dem Einsatz von KI sorgen. Eine zusätzliche menschliche Kontrollinstanz sorgt für eine frühzeitige Erkenntnis potenziell schädlicher Auswirkungen und stellt eine größere Transparenz der Funktionsweise von KI-Algorithmen sicher. Dies kann auch Transparenzbestimmungen umfassen, die vorsehen, Nutzer vorab zu informieren, sobald sie mit KI-Systemen interagieren. Der digitale Mitarbeiter kann den menschlichen Mitarbeiter innerhalb eines Unternehmens enorm bei Routine-Prozessen entlasten. Jedoch sollte der menschliche Mitarbeiter immer Hand in Hand mit dem digitalen Mitarbeiter agieren und entsprechende Kenntnisse über den Umgang mit Künstlicher Intelligenz verfügen, um gegebenenfalls manuell gegensteuern zu können.


Vertrauen der Mitarbeiter in Lösungen stärken
Nicht zu kurz kommen dürfen daher entsprechende Trainings. Unternehmen sollten sich überlegen, wie sie die Begeisterung ihrer Mitarbeiter an neuen Technologien fördern und die Neugierde hervorrufen, sich tiefergehend damit zu befassen. Bei vielen Mitarbeitern gibt es Berührungsängste, sich mit unbekannten Technologien auseinanderzusetzen. Schulungen und Trainings sind wertvolle Mittel, die Belegschaft frühzeitig mit innovativen Neuerungen vertraut zu machen und ihr die Möglichkeit zu bieten, erste Schritte unter Anleitung zu machen.
Besonders gut eignen sich für die ersten Schritte sogenannte No-Code-/Low-Code-Lösungen, da sie wenig vorhandene IT-Kenntnisse voraussetzen. Mitarbeitern auf diese Weise ein Grundverständnis zu vermitteln, wie sie im Umgang mit leicht verständlichen KI-Lösungen technische Verantwortung übernehmen können, stärkt das Verständnis in vertrauenswürdige Technologien.

Neben einer Unternehmenskultur, die ethische Auswirkungen frühzeitig erkennt, ist auch das Bewusstsein für einen moralischen Gebrauch auf Management-Ebene zentral. Doch jede Unternehmensebene ist gefragt: IT-Abteilungen müssen sicherstellen, dass die Daten hinter der KI-Technologie belastbar sind und keine algorithmischen Verzerrungen aufweisen. Bei der Prüfung von KI-Algorithmen sollten nicht nur die IT-Profis mit dem entsprechenden Wissen, sondern auch unerfahrene Endnutzer frühzeitig in den Prozess einbezogen werden. Ein speziell eingerichteter und fachübergreifender Kontrollausschuss kann zudem sicherstellen, dass auch langfristig die Standards eingehalten und die Daten mit der DSGVO (Datenschutzgrundverordnung) konform und transparent sind. Zuletzt gilt es, die potenziellen Auswirkungen auf Kunden und Partner nicht zu unterschätzen.


Fazit
Die EU hat mit der Einführung der DSGVO bereits einen europaweiten Standard geschaffen, der bis über die Grenzen der Staatengemeinschaft hinaus wirkt. Die Entwicklung einer gemeinsamen Grundlage für ethische Richtlinien stellt einen weiteren wichtigen Schritt dar, den Menschen Sicherheit im Umgang mit ihren Daten zu geben. Zugleich ist dies eine wertvolle Basis und ein starkes Bekenntnis zu einem sozialen Miteinander, das moderne Technologien wie auch Künstliche Intelligenz einschließt. Jedes Unternehmen kann darüber hinaus durch einen bewussten Einsatz von KI die Risiken für ethische Auswirkungen auf Mitarbeiter und Kunden gering halten. Die Einführung grundlegender ethischer Standards ist daher ein wichtiger Schritt zu mehr Vertrauen im Umgang mit KI.

 


Autor



Markus Pichler, VP of Sales Europe bei ABBYY.

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge