AI for IT security and IT security for AI - Prof. Dr. Norbert Pohlmann

AI for IT security and IT security for AI

Prof. Norbert Pohlmann (Institut für Internet-Sicherheit),
Mindshare Konferenz 2023
Vortrag: “AI for IT security and IT security for AI“
Gelsenkirchen, September 2023

AI for IT security and IT security for AI
Die Präsentation von Prof. Dr. Norbert Pohlmann, dem Professor für Cybersicherheit und Direktor des Instituts für Internet Security, drehte sich um die Verwendung von künstlicher Intelligenz (KI) im Bereich der IT-Sicherheit. Ein Schwerpunkt lag auf dem Zusammenspiel von KI und IT-Sicherheit, wobei sowohl die Möglichkeiten als auch die Risiken beleuchtet wurden.

In dem Vortrag wurde erläutert, dass Data Science die Extraktion von Wissen aus Daten beschreibt, während künstlicher Intelligenz intelligentes Verhalten in Algorithmen übersetzt. Dabei wurde zwischen starken und schwachen Formen von KI unterschieden, wobei maschinelles Lernen heute erfolgreich implementiert wird. Besonders Deep Learning wurde als wichtige Weiterentwicklung des maschinellen Lernens hervorgehoben.

Ein zentraler Aspekt war die Bedeutung der Qualität der Eingangsdaten für KI-Systeme. Es wurde betont, dass “Garbage in, Garbage out” gilt und die hohe Qualität der Daten essenziell für qualitative und vertrauenswürdige Ergebnisse ist. Verschiedene Ideen zur Verbesserung der Datenqualität wurden vorgestellt, darunter die Schaffung von Datenpools und die Förderung des Datenaustauschs.

Des Weiteren wurden konkrete Anwendungen von KI in der Informationssicherheit diskutiert, wie die Steigerung der Entdeckungsrate von Angriffen und die Unterstützung von Cyber-Sicherheitsexperten. Es wurde betont, dass KI dazu beiträgt, die Wirkung und Robustheit von bestehenden Cyber-Sicherheitslösungen zu verbessern, beispielsweise durch risikobasierte und adaptive Authentifizierungsmethoden.

Ein Höhepunkt der Präsentation war ein Forschungsprojekt zur Entwicklung eines Alarmsystems für Online-Banking, das tägliche Warnungen bei erhöhtem Risiko bietet. Dabei wurden Zahlen aus einem Testzeitraum von 456 Tagen präsentiert, um die Wirksamkeit des Systems zu veranschaulichen.

Abschließend betonte Prof. Pohlmann die Wichtigkeit der Absicherung von KI, um vertrauenswürdige Ergebnisse zu erzielen. Er wies auf mögliche Angriffe auf KI-Systeme hin, wie Manipulation von Trainingdaten und Evasion Attacks, und betonte die Bedeutung von Sicherheitsmaßnahmen für Implementierung und Daten.

Insgesamt verdeutlichte die Präsentation die Vielseitigkeit und Bedeutung von KI in der IT-Sicherheit sowie die Herausforderungen und Chancen, die sich daraus ergeben. Es wurde betont, wie wichtig es ist, die Balance zwischen Angriff und Verteidigung zu halten, um eine sichere und vertrauenswürdige Digitalisierung zu gewährleisten.