Norbert Pohlmann (Institut für Internet-Sicherheit)
Thesen und Handlungsempfehlungen zum Thema „Sicherheit und Vertrauenswürdigkeit von KI‐Systemen“ für die Enquete-Kommission Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ – Deutscher Bundestag
Vertrauenswürdigkeit ist der Schlüssel zum zukunftsfähigen Erfolg von Künstlicher Intelligenz (KI) Vertrauen wird als die subjektive Überzeugung von der Richtigkeit einer Aussage und von Handlungen verstanden. Daher wird ein KI-System von uns als vertrauenswürdig eingestuft, wenn es sich für den vorgesehenen Zweck immer in der erwarteten Weise verhält. Aufklärung
Wir brauchen für die Bildung der Vertrauenswürdigkeit eine sachliche Aufklärungsarbeit bezüglich der Schaffung von Verständnis durch Transparenz der Chancen und Risiken der KI-Technologie. Qualität der genutzten Daten
Wir müssen Standards für die Daten qualität von KI-Systemen definieren und etablieren. Kriterien für Datenqualität sind unter anderem Vollständigkeit, Repräsentativität, Verfügbarkeit, Nachvollziehbarkeit, Aktualität und Korrektheit. Zur Umsetzung einer hohen Datenqualität ist auch die Förderung von qualitativ hochwertigen und sicheren Sensoren notwendig. Auch Daten aus anderen Quellen müssen sorgfältig und möglichst nach vollziehbar erhoben und vor der Nutzung verifiziert werden. Darüber hinaus müssen wir, in einer KMU-orientierten Wirtschaft, hochwertige Datenpools etablieren, den Austausch von Daten fördern, eine Interoperabilität von Daten schaffen und Open Data Strategien vorantreiben, um bessere Ergebnisse und damit eine höhere Vertrauenswürdigkeit zu erreichen. Sichere und vertrauenswürdige Umsetzung von KI‐Systemen
Wir brauchen qualitativ hochwertige KI‐Technologien, um das Vertrauen in die Nutzung zu steigern (z.B. eigene Technologie „MadeinGermany“). Wir müssen die Zusammenarbeit von erfahrenen Experten der jeweiligen Anwendungsdomäne sowie der KI‐Entwicklung und IT‐Sicherheit fördern, die für das entsprechende Anwendungsgebiet (Autonomes Fahren, personal Assistent, Cyber-Sicherheit, …) KI-Systeme vertrauenswürdig konzipieren und umsetzen können. Außerdem müssen wir aktiv den Stand der Technik an IT‐Sicherheitsmaßnahmen für Integrität, Vertraulichkeit, Datenschutz und Verfügbarkeit definieren und nachhaltig umsetzen, um die Manipulationsmöglichkeiten und den Missbrauch der KI-Anwendungen und der genutzten Daten zu minimieren. NachvollziehbarkeitvonEntscheidungen
Wir sollten den Menschen als kontrollieren den Faktor in den Kreislauf der KI einbinden („Keepthehumanintheloop“). Das Ergebnis von KI sollte als Handlungsempfehlung verstanden werden. Der Mensch kann immer noch entscheiden, ob er dieser folgt oder auch nicht. Damit wird die Selbstbestimmtheit der Nutzer gefördert und die Vertrauenswürdigkeit erhöht. Wenn KI in automatisierte IT-Systeme eingebunden wird, müssen Tests, Simulationen und Validierungen einen höheren Stellenwert und die Definition der Verantwortung sowie die daraus resultierende Haftung eine besondere Bedeutung haben.
Weitere Informationen zum Begriff “Künstliche Intelligenz / Maschinelles Lernen”:
Artikel:
„Künstliche Intelligenz und Cybersicherheit – Unausgegoren aber notwendig“
„Sei gewarnt! Vorhersage von Angriffen im Online-Banking“
„Ethik und künstliche Intelligenz – Wer macht die Spielregeln für die KI?“
„Künstliche Intelligenz und Cybersicherheit“
Vorträge:
„Sicherheit und Vertrauenswürdigkeit von KI‐Systemen“
“Künstliche Intelligenz und Cyber-Sicherheit”
“Künstliche Intelligenz und die Internetwirtschaft”
“Artificial Intelligence (AI) for Cyber Security”
“Künstliche Intelligenz und Cyber-Sicherheit – Workshop”
Enquete‐Kommission Künstliche Intelligenz:
Thesen und Handlungsempfehlungen zum Thema „Sicherheit und Vertrauenswürdigkeit von KI‐Systemen“
Diskussionsgrundlage für den Digitalgipfel 2018: “Künstliche Intelligenz und Cybersicherheit”
eco-Studie: Potenzial von künstlicher Intelligenz (KI) für die deutsche Wirtschaft im Jahr 2025
Glossareintrag: Künstliche Intelligenz / Maschinelles Lernen
Informationen über das Lehrbuch: „Cyber-Sicherheit“
kostenlos downloaden | 
