So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen
slider

Artikelserie über Facetten der KI – IT-Systeme: So lässt sich Vertrauenswürdigkeit für KI-b - Prof. Dr. Norbert Pohlmann

Artikelserie über Facetten der KI – IT-Systeme: So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen

So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen

Artikelserie über Facetten der KI – IT-Systeme: So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen von den Autoren Ulla Coester und Prof. Dr. Norbert Pohlmann.

Vertrauen, Vertrauensgeber und Vertrauensnehmer

Vertrauen bezeichnet unter anderem die subjektive Überzeugung der Richtigkeit von Handlungen. Grundsätzlich ist Vertrauen notwendig zur Reduzierung von Komplexität und immer dann erforderlich, wenn der Anwender mit einer ungewissen oder unsicheren Situation konfrontiert wird oder der Ausgang seiner Handlung risikobehaftet sein kann. In der Digitalisierung müssen Anwender (Vertrauensgeber) die Bereitschaft haben die Handlungsweise von Unternehmen (Vertrauensnehmer) nicht infrage zu stellen, auch wenn sie sich damit einem bestimmten Risiko aussetzen. Insbesondere bei KI-basierten Lösungen ist ein wichtiger Aspekt, dass Vertrauen beim Anwender in erster Linie aufgrund der Vertrauenswürdigkeit eines Unternehmens und/oder deren Anwendungen entstehen kann.

Institutionelles Vertrauen

Eine Grundvoraussetzung dafür, dass Menschen KI-basierte IT-Lösungen nutzen, ist das Versprechen eines Mehrwerts. Das bedeutet im Umkehrschluss, wenn für die Anwender kein Wertzuwachs durch den Einsatz entsteht, sind sie kritischer in ihrer Beurteilung und dadurch weniger bereit, sich auf das jeweilige Produkt per se zu verlassen.

Aber es sind noch weitere Mechanismen notwendig, um Anwender in die Lage zu versetzen, ihre genuine Vertrauensfähigkeit auf KI-basierte IT-Lösungen zu extendieren. Denn es muss Unternehmen gelingen, interpersonales Vertrauen – also das Vertrauensverhältnis zwischen Menschen – auf ihre jeweilige KI-basierte Lösungen zu übertragen. Somit kann das institutionelle Vertrauen als Ergebnis einer Transferleistung bezeichnet werden, da im Regelfall Vertrauen im Verhältnis zwischen zwei Personen aufgrund der Fähigkeit zur Empathie entsteht und zudem auch, weil die individuell relevanten Kriterien – etwa Mimik oder Gestik des Gegenübers – direkt nachprüfbar sind.

Bei KI-basierten IT-Lösungen ist diese Option nicht gegeben, allein unter dem Aspekt, dass sich deren Verhalten beziehungsweise Funktionsweise nicht unbedingt kontrollieren lässt. Von daher kann Vertrauen in erster Linie durch das Unternehmen selber, über die KI-basierte IT-Lösung aber auch über die Vertrauenswürdigkeit der Domäne beeinflusst werden.

Wahrgenommene Vertrauenswürdigkeit

Vertrauenswürdigkeit basiert auf der Annahme, dass es möglich ist, sich auf etwas Bestimmtes verlassen zu können. Im Regelfall beruht die wahrgenommene Vertrauenswürdigkeit auf offensichtlichen Funktionalitäten der KI-basierten IT-Lösung sowie Maßnahmen des Unternehmens, die dem Anwender (als Vertrauensgeber) entweder aufgrund des ersten Eindrucks oder aus eigener Erfahrung oder über Dritte bekannt sind.

Daran wird deutlich, dass es für Unternehmen zunehmend wichtig wird, eine Vertrauensgrundlage zu schaffen, indem sie relevante Aspekte der Vertrauenswürdigkeit sowohl für die KI-basierte IT-Lösung als auch das Unternehmen explizit darstellen, damit die Anwender Vertrauen aufbauen können.

Vertrauensfähigkeit

Grundsätzlich ermöglicht Vertrauensfähigkeit, Personen oder auch Unternehmen, zu vertrauen beziehungsweise ihnen etwas zuzutrauen. Basierend auf der individuellen Prägung eines Menschen oder dessen Vorerfahrung ist die Fähigkeit jeweils unterschiedlich dominant ausgebildet.

In diesem Sinne hat die wahrgenommene Vertrauenswürdigkeit einen Einfluss auf die Vertrauensfähigkeit des Anwenders und kann sich positiv auf diese auswirken.

Unternehmen

Als Unternehmen gelten Hersteller oder Anbieter von KI-basierten Technologien, -Produkten oder -Diensten. Die genannten Kategorien werden als KI-basierte IT-Lösungen zusammengefasst.

Anwender

Unter Anwender werden alle subsumiert, die KI-basierte Technologien, -Produkten oder -Diensten nutzen, also auch Anwenderunternehmen.

IT-Lösung

Eine IT-Lösung ist entweder eine allgemeine Anwendung mit entsprechenden KI-basierten Algorithmen/Mechanismen oder eine explizite KI-Anwendung.

Allgemeine Vorbedingung: Vertrauenswürdigkeit der Domänen

Für Unternehmen ist prinzipiell von Vorteil unabhängig zu agieren, um auf Basis einer hohen Anwender-Orientierung Wettbewerbsvorteile generieren zu können. Doch oftmals ist es nicht einfach oder sogar unmöglich, eine Vorreiterrolle einzunehmen und dadurch den Markt zu gestalten. Denn vielfach kann über die Vertrauenswürdigkeit eines einzelnen Unternehmens nicht ein generelles Vertrauen etwa in einen innovativen Ansatz grundsätzlicher KI-basierte IT-Lösungen geschaffen werden.

Von daher ist es für Unternehmen notwendig in die Vertrauenswürdigkeit von Domänen zu investieren. Mit anderen Worten: teilweise kann es von Vorteil sein, kollaborativ mit anderen Herstellern Werte zu kreieren oder Wertevorstellungen umzusetzen, um die gesamte Branche – respektive Domäne – zu entwickeln und so im Weiteren die erfolgreiche Einführung von neuen Geschäftsmodellen oder Technologien zu gewährleisten. Im Prinzip gibt es mehrere Optionen, um eine Vertrauenswürdigkeit für (neue) Technologien und KI-basierte IT-Lösungen zu schaffen.

Den gesamten Artikel der Serie gibt es unter: https://www.onpulson.de/65686/so-laesst-sich-vertrauenswuerdigkeit-fuer-ki-basierte-anwendungen-schaffen/

Weitere Beiträge zum Thema:
“Vertrauen – ein elementarer Aspekt der digitalen Zukunft”

“Trust as a Service – Vertrauen als Dienstleistung – Validierung digitaler Nachweise mit der Blockchain”

“Wie können wir der KI vertrauen? – Mechanismus für gute Ergebnisse”

“Gemeinsames Vorgehen für mehr Vertrauen in die Zukunft”

So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen
Artikelserie über Facetten der KI – IT-Systeme: So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen Prof. Dr. Norbert Pohlmann - Cyber-Sicherheitsexperten