Relevanz von Werten für den Einsatz von KI - Prof. Dr. Norbert Pohlmann

Relevanz von Werten für den Einsatz von KI

U. Coester, Prof. Norbert Pohlmann (Institut für Internet-Sicherheit):
„Relevanz von Werten für den Einsatz von KI“.
DuD Datenschutz und Datensicherheit – Recht und Sicherheit in Informationsverarbeitung und Kommunikation,
Vieweg Verlag, 7/2026

Der zunehmende Einsatz von Künstlicher Intelligenz (KI) im Rahmen der Digitalisierung ist evident. Aufgrund der stetigen Durchdringung unserer Gesellschaft mit moderner Technologie steht die Frage im Raum, was ist von größter Relevanz, wenn es um den Einsatz von KI geht. Die Antwort lautet: Eine vertrauensvolle Kooperation. Warum diese auf Werten basieren muss, wird im Artikel dargelegt.

Die Frage, wie eine angemessene KI-Strategie im Sinne der Allgemeinheit beziehungsweise die – unter allen Aspekten sowohl wirtschaftlicher als auch gesellschaftlicher respektive ethischer Natur – adäquate Nutzung von KI-Systemen ausgelegt sein soll, wird bereits seit geraumer Zeit auf verschiedenen Ebenen diskutiert. Dieser Dialog ist unerlässlich, auch wenn mittlerweile – unter anderem aufgrund der globalen technologischen Entwicklung – keine prinzipiellen Zweifel mehr darüber bestehen, dass deren Einsatz erforderlich ist und die Digitalisierung zudem als Ziel für Deutschland im Koalitionsvertrag 2025 (vgl. hierzu [13]) definiert wurde. Die Verflechtung von Digitalisierung und KI ist dabei naheliegend: Digitalisierung „bedeutet die Verwendung von Daten und algorithmischen Systemen als Produktionsfaktor oder als Bestandteil neuer oder verbesserter Prozesse und Produkte[.] Kennzeichen sind die Virtualisierung […] und das Teilen von Daten[.]“ [7]. Der KI werden insgesamt viele Eigenschaften und Fähigkeiten zugesprochen, um die Intention, die mit der Digitalisierung verfolgt wird, effizienter und unmittelbarer zu erreichen.

Sicherheitsmodell

Trotz der festgelegten Ziele verläuft die Diskussion in der breiten Öffentlichkeit jedoch zumeist nicht unvoreingenommen, da es hierbei oftmals einer konsistenten Definition des Begriffs KI und somit entsprechend einer einheitlichen Grundlage dafür entbehrt. Denn KI umfasst eine Vielzahl von Konzepten: Hierin inkludiert sind statistische Modelle zur Erkennung von Malware-Mustern [Maschinelles Lernen], generative Systeme zur Simulation von Sprache und logischem Denken [Large Language Models (LLMs)], agentenbasierte KI-Systeme [Agentic AI] – eine autonome Softwareeinheit, die eigenständig Entscheidungen trifft sowie Handlungen ausführt, um ein Ziel zu erreichen – sowie die (künftige) ‚Allgemeine Künstliche Intelligenz‘ [Singularität], die eine noch weitere Agilität der KI impliziert. Insbesondere letztere führt zu weiteren kontroversen Debatten (vgl. hierzu u. a. [15], [2]), da dieser Zeitpunkt „das Erreichen der starken Künstlichen Intelligenz beschreibt“, was bedeutet, „dass sich KI-Systeme rasant selbstständig verbessern und signifikant intelligenter als Menschen sind“ [20].

Hinzu kommt, dass sich die Bewertung des verhältnismäßigen Einsatzes nicht nur anhand der Handlungen der KI herleiten lassen kann, sondern auch die Annäherung an Autonomie und den angemessenen Entscheidungsraum der Anwender berücksichtigen muss: Ein Sicherheitsmodell, das Schwachstellen erkennt, operiert in einem definierten präzisen Rahmen, in dem messbare Ergebnisse erzielt und eine signifikante menschliche Aufsicht gewährleistet wird. Im Gegensatz dazu lässt sich konstatieren, dass smarte Systeme wie große Sprachmodelle (LLMs) respektive agentenbasierte KI-Systeme diese Grenze verwischen, da hier ein Prozess der Generierung von Inhalten, der Interpretation von Absichten und der Handlung initiiert wird [16].

KI-Systemen

Letztlich stellt die Komplexität, die mit der Einführung von KI-Systemen einhergeht, insgesamt eine Herausforderung dar. Die
technologischen Entwicklungen sind bereits heute vielschichtig und opak, was die Identifizierung der potenziellen Verwendungszwecke beziehungsweise der intendierten Funktionen seitens der Anwender-(Unternehmen) erschwert. Insbesondere liegen diesen weder einschlägige noch jeweils exakt auf ihren Bedarf sowie ihre Kompetenz zugeschnittene Informationen darüber vor, welche Faktoren im jeweiligen Anwendungsfall maßgeblich sind und inwiefern diese Technologie den angestrebten Zielen entspricht oder wo mögliche (Rest-)Risiken entstehen und wie ein adäquater Umgang damit sein müsste. Entsprechendes gilt auch für die Abwägung dahingehend, ob die jeweilige KI-Anwendung mit den Werten der Anwender(-Unternehmen) konform geht.

…

kostenlos downloaden