To trust or not to trust Was Vertrauen schafft: Anforderungen an KI-Anbieter und -Lösungen - Prof. Dr. Norbert Pohlmann

To trust or not to trust Was Vertrauen schafft: Anforderungen an KI-Anbieter und -Lösungen

To trust or not to trust - Anforderungen an und Wege zu Vertrauen in KI-Lösungen und -Anbieter

U. Coester, Norbert Pohlmann (Institut für Internet-Sicherheit):
„To trust or not to trust – Anforderungen an und Wege zu Vertrauen in KI-Lösungen und -Anbieter“,
KES – Die Zeitschrift für Informationssicherheit,
DATAKONTEXT-Fachverlag, 1/2024

To trust or not to trust Was Vertrauen schafft: Anforderungen an KI-Anbieter und -Lösungen
Komplexität und fehlende Sachkompetenz verhindern potenziell den Einsatz neuer Technologie, unter anderem von Künstlicher Intelligenz. Umso wichtiger sind vertrauensbildende Cyber-Sicherheitsmaßnahmen sowohl in Bezug auf Anbieter als auch deren KI-Lösungen. Das Forschungsprojekt „TrustKI – Vertrauenswürdigkeits Plattform für KI-Lösungen und Datenräume“ untersucht daher im Auftrag des Bundesministeriums für Digitalisierung und Verkehr, ob eine Vertrauenswürdigkeits-Plattform generell geeignet wäre, Anwender bei ihrem Entscheidungsprozess bezüglich KI-Lösungen zu unterstützen.

Durch den ständig steigenden Grad der Informations-Technisierung und die daraus resultierende Komplexität fühlen sich Anwender* häufig in ihrer Handlungsfähigkeit eingeschränkt, denn aufgrund der gegebenen Vielschichtigkeit ist es ihnen nicht mehr möglich, eine IT- oder KI-Lösung absolut zu kontrollieren. Infolgedessen können grundsätzlich folgende Handlungsextreme resultieren: entweder komplette Verweigerung der Technologie oder eben blindes Vertrauen in sie.

Keine der beiden Alternativen ist geeignet, die Digitalisierung systematisch voranzubringen. Im Gegenteil: Sie sind im Sinne einer wertschöpfenden Digitalisierung kontraproduktiv. Blindes Vertrauen verhindert zwar nicht die Nutzung im Allgemeinen, wohl aber eine effiziente Inanspruchnahme neuer Anwendungen oder innovativer Dienste, da der Einsatz nicht aufgrund von entsprechender Fachkompetenz getroffen wurde. Dies macht deutlich, dass für eine gewinn- und nutzbringende Digitalisierung ein Verhältnis auf Augenhöhe zwischen KI-Anbietern und Anwendern etabliert werden muss, das auf Vertrauen basiert. Dieser Anspruch impliziert jedoch im Rahmen der digitalen Transformation: Damit Anwender vertrauen können, müssen KI-Anbieter vertrauenswürdig agieren.

Wie Vertrauen entsteht
Allgemein gibt es in der Vertrauensforschung unterschiedliche Ansätze, anhand derer sich der Prozess zum Entstehen und Manifestieren von Vertrauen erklären lässt. Grundsätzlich muss dafür die Voraussetzung gegeben sein, dass der Vertrauensgeber (hier: Anwender) eine gewisse Bereitschaft hat, sich dem Vertrauensnehmer (hier: KI-Anbieter) anzuvertrauen. Hinzu kommt notwendigerweise die Zuversicht, dass der KI-Anbieter richtig handeln kann und dies auch zu tun bereit ist.

Zur Operationalisierung des Vertrauensbegriffs im Kontext der Digitalisierung erscheint das Konzept „Vertrauen aus Vernunft“ sinnvoll. Dabei spielen verschiedene Faktoren eine essenzielle Rolle: einerseits Nutzen, Interessen und Präferenzen einer Person – andererseits deren individuelle Fähigkeit, Informationen verarbeiten und vertrauenswürdige Interaktionspartner anhand bestimmter Kriterien identifizieren zu können. Zu diesen Kriterien zählen nach gängiger Ansicht unter anderem Kompetenz, Nicht-Opportunismus und Rechtschaffenheit des Vertrauensnehmers [1]. Zusammengefasst ist „Vertrauen aus Vernunft“ demnach eine Zuschreibung von Gründen – basierend auf Argumenten oder Bedingungen –, die jemand etwa für die Klassifizierung eines KI-Anbieters vornimmt.

Was zum Vertrauensaufbau geleistet werden muss
Vertrauen ist – wie bereits erwähnt – auch im Sinne einer wertschöpfenden Digitalisierung nur dann positiv, wenn es sich nicht um ein blindes oder naives Vertrauen handelt. Da Anwender jedoch aufgrund der Komplexität zunehmend weniger Wissen über die Hintergründe von IT- oder KI-Lösungen haben, müssen sie sich vorrangig darauf verlassen, dass anbieterseitig entsprechender Sachverstand vorhanden ist – denn per se liegen ihnen als Vertrauensgeber weder vollständige Informationen über das Können noch das Wollen oder die Intention eines KI-Anbieters vor.

Von daher gilt es erstens, den Verdacht zu entkräften, dass KI-Anbieter opportunistisch nur auf den eigenen Vorteil achten oder zumindest die Interessen der Anwender als zweitrangig ansehen. Zweitens sollten KI-Anbieter darstellen, dass sie über die notwendigen Kompetenzen für die Lösungsentwicklung verfügen. Das Präzisieren ihrer Grundeinstellung sowie die Darstellung einer kongruenten Handlungsweise sollte dabei als Bringschuld gesehen werden – denn nicht zuletzt lässt sich so sicherstellen, dass ein valides Vertrauensverhältnis zwischen ihnen und den Anwendern entstehen kann. Eine entsprechende Ableitung im Kontext der Digitalisierung könnte somit lauten: Ein KI-Anbieter muss den Nachweis erbringen, warum der Anwender ihm vertrauen kann.

…

kostenlos downloaden