Wie wird KI vertrauenswürdig? Handlungsempfehlungen und Schulungen für den Trustworthy AI-Einsatz

Von Sprachassistenz- und Übersetzungssystemen über die Analyse und Vorauswahl von Bewerber*innen, medizinische Diagnostik bis hin zum autonomen Fahren – Künstliche Intelligenz (KI) kommt überall zum Einsatz und beeinflusst immer stärker unser Leben. Umso wichtiger ist es, KI-Anwendungen vertrauenswürdig und vorurteilsfrei – im Einklang mit gesellschaftlichen Wertvorstellungen – zu gestalten. Elena Haedecke vom Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS erklärt im Interview, welche Kriterien und ethischen Fragestellungen KI erfüllen muss. Die Fraunhofer Academy bietet ein breites Schulungsangebot, um Unternehmen für dieses Thema zu sensibilisieren, Know-how aufzubauen und KI-Lösungen »trustworthy« zu gestalten.

Welche Aspekte spielen für die Entwicklung einer vertrauenswürdigen KI-Anwendung oder die Bewertung einer bestehenden KI-Lösung eine Rolle? Was muss betrachtet werden?

Um neue KI-Anwendungen vertrauenswürdig zu entwickeln oder bestehende KI-Lösungen auf ihre Vertrauenswürdigkeit zu untersuchen, hat das Fraunhofer IAIS sechs Dimensionen identifiziert. Diese umfassen zum einen die Fairness – das heißt, dass alle Betroffenen von der KI gleich behandelt werden. Zum anderen spielen Autonomie und Kontrolle sowie der Bereich Transparenz eine wichtige Rolle. Eine KI sollte transparent sein, damit alle Anwender*innen die Funktionsweise der KI verstehen, beispielsweise bei der Entscheidung für eine Kreditvergabe. Eine weitere Dimension ist Verlässlichkeit: Ist die KI-Anwendung zuverlässig und robust, auch bei kleineren Abweichungen in den Eingaben? Der nächste Punkt ist Sicherheit gegenüber Angriffen – und abschließend die Dimension Datenschutz: Ziel ist der Schutz der Privatsphäre und sensibler Daten, sowohl beim Training der KI als auch bei der Verarbeitung der Daten im Einsatz. Über diese sechs Dimensionen hinaus können auch noch weitere Aspekte betrachtet werden, wie beispielsweise die Nachhaltigkeit beim Einsatz der KI.

Wie lässt sich vertrauensvolle KI bewerten? Gibt es Prüfmetriken?

Die Bewertung von KI-Lösungen ist sehr abhängig vom Kontext und Anwendungszweck. Beispielsweise ist eine KI für die Bewerber*innenauswahl viel kritischer in Bezug auf Vorurteilsfreiheit und Antidiskriminierung zu bewerten als eine Lösung für Produktempfehlungen in einem Onlineshop oder Streamingportal. Im Mittelpunkt steht aber immer die Frage: Wie erreicht man Vorurteilsfreiheit und Fairness? Oder allgemeiner: Wie kann man eine KI auf Vertrauenswürdigkeit prüfen? Die europäische Kommission hat 2021 bereits KI-Leitplanken für den Einsatz vertrauenswürdiger KI erarbeitet. Fraunhofer bietet dazu einen KI-Prüfkatalog als Leitfaden für die Risikoanalyse und zur anwendungsspezifischen Prüfung von KI-Lösungen mit Anforderungen an die Entwicklung. 

Was sind die Handlungsempfehlungen für Unternehmen für vertrauenswürdige KI?

Auf Basis ähnlicher Grundlagen, wie beispielsweise im Bereich der funktionalen Sicherheit, geht es um sachkundige und neutrale Prüfungen, also eine Risikoeinschätzung und Konformitätsbewertung der KI-Lösungen. Wir geben den Unternehmen eine Anleitung zur Formulierung von Prüfkriterien anhand von KPIs an die Hand. Dabei betrifft diese Evaluierung nicht nur die technische Ebene, sondern auch Produkteigenschaften und Vorgaben der Organisation sowie die Prozesse im Unternehmen. Es muss der gesamte KI-Lebenszyklus betrachtet und beurteilt werden. Dazu sollte Know-how im Unternehmen vorhanden sein, beispielsweise um eine strukturierte technische und organisatorische Dokumentation zu erstellen – hier besteht häufig noch Nachholbedarf.

Welche Schulungsangebote bietet die Fraunhofer Academy, was brauchen Unternehmen für den Aufbau von Trustworthy AI?

Ein erster Schritt ist es, die Verantwortlichen für die ethischen Aspekte von KI zu sensibilisieren und auf die verschiedenen Dimensionen aufmerksam zu machen. Die Unternehmen müssen verstehen, wo Risiken entstehen und mit welchen Methoden diese konkret angegangen werden können. Die Fraunhofer-Allianz Big Data und Künstliche Intelligenz bietet im Rahmen der Fraunhofer-Academy dazu ein breites Schulungsangebot an, das von den Grundlagen bis zu spezifischen Anwendungsbereichen wie der Bilderkennung oder Natural Language Processing reicht. Die Mitarbeitenden können hier das nötige Wissen aufbauen. Im Rahmen der Fraunhofer-Data-Scientist-Schulungen gibt es beispielsweise Spezialisierungen auf Themen wie Trustworthy AI oder Deep Learning. Wenn gewünscht, können die Teilnehmenden einige Schulungen mit einem Fraunhofer-Zertifikat abschließen. Ebenso kreieren wir gemeinsam mit Unternehmen gezielte Inhouse-Schulungen zur Entwicklung und konkreten Umsetzung von vertrauenswürdiger KI.

Darüber hinaus sind wir als beratender Partner für Unternehmen tätig. Beispielsweise unterstützen wir eine große Versicherungsgesellschaft bei der Definition von KI-Prüfkriterien.

Abschließend kann ich sagen: Es gibt einen sehr hohen Bedarf an Prüfgrundlagen und der Entwicklung von Handlungsfeldern für die KI-Zertifizierung. Ein Kernaspekt sind dabei ethische und gesellschaftliche Aspekte von KI.

Mehrwert-Infos für den Leser aus der Fraunhofer-KI- und Data Science-Welt:

Fortbildung zum Data Scientist:
Data Scientist (fraunhofer.de)

Fortbildung »Certified Data Scientist Specialized in Trustworthy AI«:
Certified Data Scientist Specialized in Trustworthy AI (fraunhofer.de)

Mehr zum Thema »Zuverlässige KI« am Fraunhofer IAIS:
Zuverlässige KI – Prüfung, Absicherung und Zertifizierung (fraunhofer.de)

Unsere Expertin im Interview

Elena Haedecke

Wissenschaftliche Mitarbeiterin beim Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS