Vertrauenswürdigkeit als relevantes Differenzierungsmerkmal für deutsche KI-Anbiete - Prof. Dr. Norbert Pohlmann

Vertrauenswürdigkeit als relevantes Differenzierungsmerkmal für deutsche KI-Anbieter
Im Rahmen des – seitens des ‚Bundesministerium für Digitales und Verkehr‘ (BMDV) geförderten – Forschungsprojektes „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“ wurde Ende letzten Jahres die erste Anwender-Studie Trust KI durchgeführt. Hierbei stand eine konkrete Fragestellung im Fokus: Ist eine Vertrauenswürdigkeits-Plattform für KI-Lösungen geeignet, um einen unternehmerischen Entscheidungsprozess sowohl im Hinblick auf die KI-Lösung als auch einen zuverlässigen KI-Anbieter für Führungskräfte grundlegend zu vereinfachen sowie was dafür gegeben sein muss. Siehe auch Künstliche Intelligenz

Dem Aufbau eines reellen Vertrauensverhältnisses basierend auf Vertrauenswürdigkeit wird eine hohe Relevanz im Kontext der Nutzung einer KI-Lösung beigemessen. Dies ist ein zentrales Ergebnis der Anwender-Studie TrustKI, die vom Institut für Internet-Sicherheit – if(is), Westfälische Hochschule Gelsenkirchen durchgeführt wurde. Eine Erklärung dafür liegt nach Ansicht von Prof. Norbert Pohlmann auf der Hand: „Die Veränderungen, die mit der zunehmenden Nutzung von KI einhergehen, werden absehbar sowohl die Gesellschaft insgesamt als auch jeden einzelnen Menschen immer stärker tangieren.“ ChatGPT und aktuell der KI-Copilot zeigen bereits heute eindrucksvoll, wie zügig mittlerweile die Marktdurchdringung von KI-Anwendungen vonstatten geht und welche Effekte daraus resultieren. Von daher lässt sich leicht nachvollziehen, dass das Bedürfnis der Anwender nach Vertrauenswürdigkeit und damit einhergehend bestimmten Werten heute höher ist denn je. Eine entsprechend ethisch orientierte Handlungsweise der KI-Anbieter ist nachdrücklich gewünscht, wie die Studienergebnisse zeigen.

263 Führungskräfte aus Anwenderunternehmen wurden befragt  

Um das Vertrauen der Anwender zu gewinnen, müssen KI-Anbieter vertrauenswürdig und transparent agieren. Diesbezüglich haben die befragten Personen klare Anforderungen formuliert, was hier aus ihrer Sicht für einen nachhaltigen Vertrauensaufbau notwendig ist. Um einen Nachweis ihrer Vertrauenswürdigkeit zu erbringen, müssen KI-Anbieter unter anderem verbindlich relevante Kriterien bezüglich des Vertrauenswürdigkeits-Aspekts ‚Integrität‘ erfüllen sowie dem Anspruch nach einer ‚holistischen Transparenz‘ nachkommen. 

Konkrete Ergebnisse

Nachfolgend ausgewählte Ergebnisse zur Integrität, die sich unter anderem im Wertekodex des KI-Anbieters manifestiert:

• Die Bedeutung der Frage, auf welchem Wege KI-Anbieter die ethischen Anforderungen der Gesellschaft umsetzen, lässt sich an der hohen Zustimmung ablesen. In diesem Kontext waren die Teilnehmer besonders daran interessiert zu erfahren, ob „ein Ethik-Gremium im Unternehmen etabliert wurde und welche Verantwortung sowie Befugnisse dieses reell hat“. Siehe auch digitale Ethik

• Dem Anerkennen beziehungsweise der Umsetzung des Nicht-Schädigungsprinzip im Kontext der Integrität maßen die Teilnehmer allgemein eine hohe Bedeutung bei. So ist es für die Mehrzahl der Teilnehmer substanziell, dass sie darüber informiert werden, auf welche Funktionalitäten der KI-Anbieter zum Wohle des Kunden verzichtet. Ebenso besteht ein hoher Informationsbedarf bezüglich der Folgenabschätzung – hier wollten die Teilnehmer nicht nur mehr darüber erfahren, ob der KI-Anbieter eine Folgenabschätzung vornimmt, sondern auch wie diese umgesetzt wird.

Nachfolgend ausgewählte Ergebnisse zur holistischen Transparenz, die über die originären Anforderungen zur Transparenz der KI-Lösung hinausgeht:

• Im Kontext der holistischen Transparenz wurde seitens der Teilnehmer darauf Wert gelegt, dass sie mehr Informationen zum verantwortungsvollen Umgang mit der Technologie explizit im Kontext der Privatheit erhalten, auch weil dies wesentlich ist im Hinblick auf mögliche Manipulation.

• Auf die Frage, ob der KI-Anbieter erläutern sollte, welche Prozesse er etabliert hat, um zu gewährleisten, dass kein Mitarbeiter gegen die festgelegten (ethischen) Werte und Regeln hinwegsetzen kann gab die Mehrzahl der Befragten an, dass sie dies wissen möchten.

Die kompletten Ergebnisse der Anwender-Studie TrustKI sowie den entsprechenden Forschungsbericht stellen wir Ihnen gerne zur Verfügung.

Zur Studie: “Vertrauenswürdigkeit als relevantes Differenzierungsmerkmal für deutsche KI-Anbieter” 

Basierend auf der Annahme, dass spezifische Kriterien zum Aufbau eines Vertrauensverhältnisses erfüllt sein müssen, stand bei der Anwender-Studie TrustKI im Fokus auf Grundlage des etablierten Vertrauenswürdigkeits-Modells (https://vertrauenswürdigkeit.com/vertrauenswuerdigkeits-modell-its-all-about-trust/) zu untersuchen, was – im Kontext der sieben Vertrauenswürdigkeits-Aspekte – zur Beurteilung der Vertrauenswürdigkeit von KI-Anbietern geeignet ist.

Hier geht’s zur Studie: www.vertrauenswürdigkeit.com