U. Coester, Norbert Pohlmann (Institut für Internet-Sicherheit): „To trust or not to trust – Anforderungen an und Wege zu Vertrauen in KI-Lösungen und -Anbieter“, KES – Die Zeitschrift für Informationssicherheit , DATAKONTEXT-Fachverlag, 1/2024
To trust or not to trust Was Vertrauen schafft: Anforderungen an KI-Anbieter und -Lösungen Komplexität und fehlende Sachkompetenz verhindern potenziell den Einsatz neuer Technologie, unter anderem von Künstlicher Intelligenz . Umso wichtiger sind vertrauensbildende Cyber-Sicherheitsmaßnahmen sowohl in Bezug auf Anbieter als auch deren KI-Lösungen. Das Forschungsprojekt „TrustKI – Vertrauenswürdigkeits Plattform für KI-Lösungen und Datenräume“ untersucht daher im Auftrag des Bundesministeriums für Digitalisierung und Verkehr, ob eine Vertrauenswürdigkeits-Plattform generell geeignet wäre, Anwender bei ihrem Entscheidungsprozess bezüglich KI-Lösungen zu unterstützen. Durch den ständig steigenden Grad der Informations-Technisierung und die daraus resultierende Komplexität fühlen sich Anwender* häufig in ihrer Handlungsfähigkeit eingeschränkt, denn aufgrund der gegebenen Vielschichtigkeit ist es ihnen nicht mehr möglich, eine IT- oder KI-Lösung absolut zu kontrollieren. Infolgedessen können grundsätzlich folgende Handlungsextreme resultieren: entweder komplette Verweigerung der Technologie oder eben blindes Vertrauen in sie. Keine der beiden Alternativen ist geeignet, die Digitalisierung systematisch voranzubringen. Im Gegenteil: Sie sind im Sinne einer wertschöpfenden Digitalisierung kontraproduktiv. Blindes Vertrauen verhindert zwar nicht die Nutzung im Allgemeinen, wohl aber eine effiziente Inanspruchnahme neuer Anwendungen oder innovativer Dienste, da der Einsatz nicht aufgrund von entsprechender Fachkompetenz getroffen wurde. Dies macht deutlich, dass für eine gewinn- und nutzbringende Digitalisierung ein Verhältnis auf Augenhöhe zwischen KI-Anbietern und Anwendern etabliert werden muss, das auf Vertrauen basiert. Dieser Anspruch impliziert jedoch im Rahmen der digitalen Transformation: Damit Anwender vertrauen können, müssen KI-Anbieter vertrauenswürdig agieren. Wie Vertrauen entsteht Allgemein gibt es in der Vertrauensforschung unterschiedliche Ansätze, anhand derer sich der Prozess zum Entstehen und Manifestieren von Vertrauen erklären lässt. Grundsätzlich muss dafür die Voraussetzung gegeben sein, dass der Vertrauensgeber (hier: Anwender) eine gewisse Bereitschaft hat, sich dem Vertrauensnehmer (hier: KI-Anbieter) anzuvertrauen. Hinzu kommt notwendigerweise die Zuversicht, dass der KI-Anbieter richtig handeln kann und dies auch zu tun bereit ist. Zur Operationalisierung des Vertrauensbegriffs im Kontext der Digitalisierung erscheint das Konzept „Vertrauen aus Vernunft“ sinnvoll. Dabei spielen verschiedene Faktoren eine essenzielle Rolle: einerseits Nutzen, Interessen und Präferenzen einer Person – andererseits deren individuelle Fähigkeit, Informationen verarbeiten und vertrauenswürdige Interaktionspartner anhand bestimmter Kriterien identifizieren zu können. Zu diesen Kriterien zählen nach gängiger Ansicht unter anderem Kompetenz, Nicht-Opportunismus und Rechtschaffenheit des Vertrauensnehmers [1]. Zusammengefasst ist „Vertrauen aus Vernunft“ demnach eine Zuschreibung von Gründen – basierend auf Argumenten oder Bedingungen –, die jemand etwa für die Klassifizierung eines KI-Anbieters vornimmt. Was zum Vertrauensaufbau geleistet werden muss Vertrauen ist – wie bereits erwähnt – auch im Sinne einer wertschöpfenden Digitalisierung nur dann positiv, wenn es sich nicht um ein blindes oder naives Vertrauen handelt. Da Anwender jedoch aufgrund der Komplexität zunehmend weniger Wissen über die Hintergründe von IT- oder KI-Lösungen haben, müssen sie sich vorrangig darauf verlassen, dass anbieterseitig entsprechender Sachverstand vorhanden ist – denn per se liegen ihnen als Vertrauensgeber weder vollständige Informationen über das Können noch das Wollen oder die Intention eines KI-Anbieters vor. Von daher gilt es erstens, den Verdacht zu entkräften, dass KI-Anbieter opportunistisch nur auf den eigenen Vorteil achten oder zumindest die Interessen der Anwender als zweitrangig ansehen. Zweitens sollten KI-Anbieter darstellen, dass sie über die notwendigen Kompetenzen für die Lösungsentwicklung verfügen. Das Präzisieren ihrer Grundeinstellung sowie die Darstellung einer kongruenten Handlungsweise sollte dabei als Bringschuld gesehen werden – denn nicht zuletzt lässt sich so sicherstellen, dass ein valides Vertrauensverhältnis zwischen ihnen und den Anwendern entstehen kann. Eine entsprechende Ableitung im Kontext der Digitalisierung könnte somit lauten: Ein KI-Anbieter muss den Nachweis erbringen, warum der Anwender ihm vertrauen kann. …
kostenlos downloaden
Weitere Informationen zum Thema “To trust or not to trust”
„Chancen und Risiken von ChatGPT – Vom angemessenen Umgang mit künstlicher Sprachintelligenz“
„Künstliche Intelligenz – Potential und nachhaltige Veränderung der Wirtschaft in Deutschland 2019“ „Angriffe auf die Künstliche Intelligenz – Bedrohungen und Schutzmaßnahmen“ „Vertrauenswürdigkeit von KI – Klare Anforderungen an die KI-Anbieter“ „Modern Endpoint Security – Mehr Schutz vor Angriffen“ „Die Notwendigkeit von neuen IT-Sicherheitskonzepten“
„Lehrbuch Cyber-Sicherheit“
„Übungsaufgaben und Ergebnisse zum Lehrbuch Cyber-Sicherheit“ „Bücher im Bereich Cyber-Sicherheit und IT-Sicherheit zum kostenlosen Download“ „Trusted Computing – Ein Weg zu neuen IT-Sicherheitsarchitekturen“
„Vorlesungen zum Lehrbuch Cyber-Sicherheit“
„Internet Security Survey 2024“ „Artificial Intelligence (AI) for Cyber Security“ „Cyber-Sicherheit braucht Künstliche Intelligenz“ „Künstliche Intelligenz (KI) und Cybersicherheit“
„Forschungsinstitut für Internet-Sicherheit (IT-Sicherheit, Cyber-Sicherheit)“
„Master-Studiengang Internet-Sicherheit (IT-Sicherheit, Cyber-Sicherheit)“ „Marktplatz IT-Sicherheit“ „Marktplatz IT-Sicherheit: IT-Notfall“ „Marktplatz IT-Sicherheit: IT-Sicherheitstools“ „Marktplatz IT-Sicherheit: Selbstlernangebot“ „Vertrauenswürdigkeits-Plattform“
„Was wir in der Cybersicherheit angehen müssen“
„Wie wichtig ist Vertrauen für die Nutzung bei KI-Lösungen?“ „Vertrauenswürdigkeits-Plattform für KI-Lösungen u Datenräume“ „Artikelserie über Facetten der KI – IT-Systeme: Warum Vertrauen für Unternehmen so wichtig ist“
„Forschungsbericht TrustKI“
„Anwender-Studie TrustKI“ „The German Smart City Market 2021-2026“ „Enquete‐Kommission Künstliche Intelligenz“
„Cyber-Sicherheit braucht mehr Fokus“
„IT-Sicherheitsstrategie für Deutschland“ – Wirkungsklassen von IT-Sicherheitsmaßnahmen für unterschiedliche Schutzbedarfe
„IT-Sicherheit für NRW 4.0 – Gemeinsam ins digitale Zeitalter. Aber sicher.“ „Human-Centered Systems Security – IT Security by People for People“
„Vertrauen “
„Vertrauenswürdigkeit “ „Cyber-Sicherheit “ „Cyber-Sicherheitsstrategien “ „Cyber-Sicherheitsrisiko “ „Künstliche Intelligenz “ „Ethik der Künstlichen Intelligenz “ „Künstliche Intelligenz für Cyber-Sicherheit “ |