Vertrauenswürdigkeit von KI – Klare Anforderungen an die KI-Anbieter - Prof. Dr. Norbert Pohlmann

Vertrauenswürdigkeit von KI – Klare Anforderungen an die KI-Anbieter

U. Coester, Norbert Pohlmann (Institut für Internet-Sicherheit): “Vertrauenswürdigkeit von KI: Klare Anforderungen an die KI-Anbieter”, atp magazin – praxisnahe Magazin für Automatisierungstechnik und digitale Transformation in der produzierenden Industrie, Vulkan-Verlag, 3/2024

Vertrauenswürdigkeit von KI:
Grundsätzlich ist es erstrebenswert vertrauen zu können. Denn ohne Vertrauen wären Menschen nicht handlungsfähig. Insbesondere nicht im Kontext der Digitalisierung, da es aufgrund der zunehmenden Komplexität der Technologie ständig schwieriger wird diese zu bewerten und darauf basierend Entscheidungen zu treffen. Jedoch muss dieses Vertrauen gerechtfertigt sein und dafür bedarf es bestimmter Voraussetzungen, die es Anwendern ermöglicht, innovative Technologien wie Künstliche Intelligenz zu nutzen. Die Frage, was diesbezüglich erfüllt sein muss und wann Unternehmen letztendlich dazu bereit sind, KI-Lösungen zu implementieren, steht im Mittelpunkt des Forschungsprojektes „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“. Erste Antworten darauf liefert die kürzlich abgeschlossene Anwender-Studie „TrustKI“.

Die Veränderungen, die mit der Nutzung von KI einhergehen, werden absehbar sowohl Unternehmen als auch die Gesellschaft insgesamt sowie jeden einzelnen Menschen zunehmend stärker tangieren. Diese Entwicklung lässt sich generell nicht mehr aufhalten. Denn die Verbreitung von ChatGPT-OpenAI gelang trotz offen kommunizierter Limitationen die bislang schnellste Marktdurchdringung einer Innovation: innerhalb von fünf Tagen meldeten sich eine Million Nutzer bei der Plattform an. Oder aktuell des KI-Copilot, der aller Voraussicht nach auch schnellstens in den Unternehmen Einzug halten wird, zeigen bereits heute eindrucksvoll, dass Anwender sich mit KI-Lösungen auseinandersetzen müssen. Denn aus deren Anwendungen können – teilweise auch unbeabsichtigte – Effekte resultieren.

Doch aufgrund der Komplexität der Technologie ist es für des Einzelnen nicht trivial, sich damit im notwendigen Umfang zu beschäftigen. Von daher gilt es zu klären, was für Anwender in Unternehmen tatsächlich hinsichtlich einer fundierten Einschätzung im Rahmen ihres Entscheidungsprozesses essenziell ist.

Es braucht reelles Vertrauen in KI
Zur Klärung der Fragestellung, welche Kriterien vor dem Hintergrund eines Entscheidungsprozesses aus Sicht der Anwender relevant sind, wurde im Rahmen des Forschungsprojekts „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“ Ende vergangenen Jahres die Anwender-Studie „TrustKI“ durchgeführt. Befragt wurden dabei insgesamt 263 Führungskräfte, was aus ihrer Sicht diesbezüglich notwendig ist. Als eines der zentralen Ergebnisse hat sich gezeigt, dass die befragten Anwender dem Aufbau eines reellen Vertrauensverhältnisses basierend auf Vertrauenswürdigkeit eine hohe Bedeutung beimessen.

TrustKI: Die Studie auf den Punkt gebracht
Im Zuge der Anwender-Studie haben die befragten Personen klare Anforderungen formuliert, was aus ihrer Sicht für einen nachhaltigen Vertrauensaufbau notwendig ist. Die wesentlichen Erkenntnisse lassen sich folgendermaßen zusammenfassen: Um einen Nachweis ihrer Vertrauenswürdigkeit zu erbringen, müssen KI-Anbieter unter anderem verbindlich relevante Kriterien hinsichtlich des Aspekts „Integrität“ erfüllen. Alle Kriterien der Vertrauenswürdigkeit und hier insbesondere die ethischen Dimensionen sowie die gebotene Sorgfaltspflicht müssen vorrangig Berücksichtigung finden.
Zudem besteht der Anspruch auf eine „holistischen Transparenz“ – das heißt, die Vertrauenswürdigkeit resultiert nicht mehr einzig aus der Transparenz der KI-Lösung, sondern basiert ebenfalls auf einer transparenten Darstellung der Handlungs weise der KI-Anbieter.

…

kostenlos downloaden