Anwender-Studie TrustKI - Prof. Dr. Norbert Pohlmann

Anwender-Studie TrustKI
Die konkrete Fragestellung, die im Auftrag des „Bundesministerium für Digitales und Verkehr“ im Forschungsprojekt TrustKI untersucht wird, lautet, ob eine Vertrauenswürdigkeits-Plattform für KI-Lösungen geeignet ist, den Entscheidungsprozess der Anwender zu vereinfachen.

Unter den herrschenden Gegebenheiten ist das Erfordernis von Vertrauenswürdigkeit evident: Mit der zunehmenden Digitalisierung geht eine Komplexität einher, sodass es für Anwender immer schwieriger wird, die Wirkweise und Ziele von KI-Lösungen umfassend verstehen sowie einordnen zu können. Dies schränkt sie potenziell in ihrem Entscheidungsprozess ein. Um diesem Umstand konstruktiv entgegenzuwirken, ist es seitens der KI-Anbieter notwendig, entsprechende Maßnahmen zu ergreifen, damit es Anwendern möglich wird Vertrauen aufzubauen. Denn die durch Vertrauen evozierte Gewissheit – also die Annahme, dass es möglich ist, sich auf etwas Bestimmtes zu verlassen – ermöglicht es prinzipiell, Komplexität zu reduzieren. Dadurch entsteht die subjektive Überzeugung der Richtigkeit von Handlungen.

Basierend auf der Annahme, dass für diesen Prozess spezifische Kriterien zum Aufbau eines Vertrauensverhältnisses erfüllt sein müssen, steht hierbei im Fokus zu identifizieren, was konkret zur Beurteilung der Vertrauenswürdigkeit von KI-Anbietern geeignet ist. Siehe auch Künstliche Intelligenz

Folglich wurden im Rahmen der vorliegenden Anwender-Studie TrustKI 263 Führungskräfte anhand der sieben Vertrauenswürdigkeits-Aspekte aus dem Vertrauenswürdigkeits-Modell dahingehend befragt, welche Informationen für sie relevant sind, um einem KI-Anbieter vertrauen zu können.

In der vorliegenden Publikation werden die Ergebnisse der Auswertung des Fragebogens vorgestellt und kurz kommentiert. Eine ausführliche Interpretation aller relevanten Faktoren im Kontext der Analyse von Vertrauen und Vertrauenswürdigkeit gemäß spezifischer Sachverhalte wird im Forschungsbericht TrustKI bereitgestellt.   

Vertrauenswürdigkeits-Aspekte im Kontext des Vertrauenswürdigkeits-Modells

Aufgrund der Tatsache, dass Anwender kein vollständiges Wissen über die Funktionsweise einer KI-Lösung haben können, stellt deren Nutzung für diese theoretisch eine Risikohandlung dar. Basierend auf dieser Erkenntnis resultiert konsequenterweise die Frage, was sichergestellt sein muss, um Anwender in die Lage zu versetzen, KI-Lösungen zu nutzen. Hierfür gilt schlüssig die Prämisse der Vertrauenswürdigkeit, die seitens der KI-Anbieter – als Vertrauensnehmer – nachgewiesen werden muss. Insgesamt zeigt sich somit einerseits die Relevanz von Vertrauen beim Einsatz innovativer Technologien und unterstreicht gleichzeitig die Notwendigkeit, dass KI-Anbieter vertrauenswürdig agieren müssen, damit dieses Vertrauen auch gerechtfertigt ist. Aus dieser Interdependenz lässt sich das Erfordernis eines Vertrauenswürdigkeits-Modells begründen. Der Aufbau der Vertrauenswürdigkeit erfordert eine gezielte Vorgehensweise, bei der die verschiedenen Aspekte gleichwertig unternehmensspezifisch analysiert und in einer Strategie umgesetzt werden müssen.  

…