AI and IT security – more security, more threats Die Präsentation von Prof. Dr. Norbert Pohlmann zum Thema “AI and IT Security” beleuchtet die Verbindung zwischen künstlicher Intelligenz (KI) und Informationssicherheit. In der Einführung wird auf die zunehmende Bedrohungslage hingewiesen, da sowohl die Cyber-Sicherheit als auch die Bedrohungen im Zusammenhang mit AI immer komplexer werden.
Der erste Teil der Präsentation befasst sich mit der Klassifizierung, Definitionen und Prinzipien von künstlicher Intelligenz für die IT-Sicherheit. Es wird erläutert, wie Machine Learning, Deep Learning und Generative AI eingesetzt werden, um Wissen aus Daten zu generieren und automatisch menschenähnliche Intelligenz zu emulieren. Dabei wird auch auf die Zukunftsaussichten und potenziellen Risiken von singulärer künstlicher Intelligenz eingegangen.
Ein weiterer Schwerpunkt liegt auf den Angriffen von Hackern, die selbst KI nutzen, um Schwachstellen in IT-Systemen aufzudecken und Angriffe durchzuführen. Es wird betont, wie wichtig es ist, die Sicherheit von AI-Systemen zu gewährleisten, um vertrauenswürdige Ergebnisse zu erzielen. Verschiedene Angriffszenarien wie Poisoning Attacks und Evasion Attacks werden erläutert, sowie Cyber-Sicherheitsmaßnahmen zur Erhöhung der IT-Sicherheit im Kontext von künstlicher Intelligenz aufgezeigt.
Des Weiteren wird diskutiert, wie KI zur Erkennung von Angriffen eingesetzt werden kann, um Cyber-Sicherheitsexperten zu unterstützen und deren Arbeitslast zu erleichtern. Es wird auch darauf hingewiesen, dass eine ausgewogene Machtverteilung zwischen Angreifern und Verteidigern erreicht werden muss, indem Verteidiger KI-Technologien verstärkt einsetzen.
Abschließend wird auf die Bedeutung von Vertrauen in AI und IT-Sicherheitsunternehmen hingewiesen. Ethische Herausforderungen wie Privatsphäre versus Gemeinwohl und das Problem unvollständiger Daten werden erläutert. Die Präsentation schließt mit der Betonung, dass sowohl AI als auch IT-Sicherheit essentiell sind, um die steigenden Bedrohungen erfolgreich abzuwehren.
Zusammenfassend verdeutlicht die Präsentation die Notwendigkeit, KI und IT-Sicherheit eng miteinander zu verknüpfen, um ein höheres Maß an Sicherheit und Schutz vor Bedrohungen zu gewährleisten. Es wird betont, dass die Sicherheit von AI-Systemen ebenso prioritär ist wie deren Nutzen, und dass Vertrauen in die Technologie und deren Anbieter unerlässlich ist, um die Zukunft der digitalen Welt erfolgreich zu gestalten.
KI-Abbildung: Vortrag zu AI-and-IT-security-more-security-more-threats KI-Vermerk
