Only Regulators in the Building – EU AI Act, Compliance, Trust and AI - Prof. Dr. Norbert Pohlmann

Only Regulators in the Building – EU AI Act, Compliance, Trust and AI

Prof. Norbert Pohlmann (Institut für Internet-Sicherheit),
RSA Conference 2025
Session: “Only Regulators in the Building – EU AI Act, Compliance, Trust and AI”
San Francisco, USA, 04.2025

In der Präsentation, moderiert von Dr. Norbert Pohlmann, diskutierten Experten aus unterschiedlichen Bereichen über wichtige Themen im Zusammenhang mit künstlicher Intelligenz (KI), Vertrauenswürdigkeit und Cyber-Sicherheit. Zu den Schlüsselthemen gehörten die Regulierung von KI, die Definition und Etablierung von Vertrauen in KI, die Rolle von Vertrauen in Daten für KI sowie die Auswirkungen der EU KI-Verordnung.

Die EU KI-Verordnung zielt darauf ab, die sichere, transparente und ethische Nutzung von KI in der EU zu gewährleisten und gleichzeitig einen Rahmen für Innovation zu schaffen. Sie kategorisiert KI-Systeme nach Risikostufen und legt entsprechende Regeln für deren Verwendung fest. Ein Zeitplan für die Umsetzung der Verordnung wurde vorgestellt, wobei die Anwendung von verschiedenen Regelungen bis zum Jahr 2027 erfolgen soll.

Ein weiterer wichtiger Aspekt war die Bedeutung der Vertrauenswürdigkeit in Bezug auf KI. Vertrauenswürdigkeit ist entscheidend im Kontext der Digitalisierung und schafft ein differenzierendes Merkmal in einem Ökosystem, das auf Vertrauen basiert. Die Implementierung von Content Credentials zur Sicherstellung der Authentizität von Inhalten wurde diskutiert, da Deepfakes und synthetische Medien zunehmend die Unterscheidung von echten Inhalten erschweren.

Abschließend wurde betont, dass vertrauenswürdige KI für Kunden von großer Bedeutung ist. Europäische Unternehmen fordern Cyber-Sicherheitslösungen, die hochwertige, vorurteilsfreie und zuverlässige Datensätze bieten, menschliche Überwachungsmechanismen zur Risikominderung implementieren und die Datenschutzbestimmungen der Datenschutz-Grundverordnung (DSGVO) einhalten. Anbieter von Cyber-Sicherheit, die diesen Anforderungen entsprechen, haben einen Wettbewerbsvorteil.

Die Zuhörer wurden ermutigt, mehr über die EU KI-Verordnung zu erfahren, ihre Produkte und Dienstleistungen auf die entsprechenden Anforderungen vorzubereiten und sich Gedanken über die Implementierung von angemessenen KI-Governance-Maßnahmen zu machen. Schließlich wurde der Besuch des deutschen Pavillons auf der RSA Conference empfohlen.