Die Präsentation am German-American IT Security Forum am 28.04.2025 behandelte das Thema “AI and IT Security” und wurde von Prof. Dr. Norbert Pohlmann vom Institut für Internet-Sicherheit – if(is) präsentiert. Die Präsentation konzentrierte sich auf die Verbindung zwischen künstlicher Intelligenz (KI) und IT-Sicherheit, wobei betont wurde, dass mit zunehmender Sicherheit auch die Bedrohungen durch neue Technologien wie AI steigen.
Die Präsentation begann mit einer Einführung in das Thema der Klassifizierung von AI, wobei sowohl starke als auch schwache Formen von künstlicher Intelligenz diskutiert wurden. Es wurden verschiedene Aspekte von Machine Learning und Deep Learning erläutert, einschließlich der Verwendung von Large Language Models (LLM) und Generative AI.
Ein Hauptprinzip, das betont wurde, war “Garbage in – Garbage out”, was bedeutet, dass die Qualität der Daten die Qualität der Ergebnisse beeinflusst. Es wurden Maßnahmen zur Steigerung der Datenqualität und Sicherheit diskutiert, wie die Schaffung von Datenpools, den Austausch von Daten und die Förderung von Interoperabilität.
Die Präsentation ging auch auf die Vertrauenswürdigkeit von KI-Ergebnissen ein und betonte die Bedeutung des menschlichen Einflusses zur Erhöhung des Vertrauens. Darüber hinaus wurde die Rolle von AI bei der Erkennung von Angriffen, einschließlich der Verwendung von AI durch Angreifer für verschiedene Angriffsszenarien, beleuchtet.
Abschließend wurde betont, dass während AI ein wichtiger Bestandteil der Cyber-Sicherheit ist, auch die Cyber-Sicherheitsrisiken von AI aktiv reduziert werden müssen. Die Präsentation schloss mit dem Appell, dass Vertrauen in AI geschaffen werden muss, indem hochwertige Technologien und Cyber-Sicherheitsmaßnahmen eingesetzt werden.
Insgesamt betonte die Präsentation die zunehmende Bedeutung von AI in der IT-Sicherheit und die Notwendigkeit, sicherzustellen, dass sie vertrauenswürdig und sicher eingesetzt wird, um potenzielle Bedrohungen zu minimieren.
KI-Abbildung: Vortrag zu AI and IT security – more security, more threats KI-Vermerk
