KI und IT-Sicherheit – Mehr Sicherheit, mehr Gefährdungen Die Präsentation von Prof. Dr. Norbert Pohlmann zum Thema “KI und IT-Sicherheit” bringt wichtige Aspekte und Herausforderungen im Bereich der künstlichen Intelligenz und IT-Sicherheit zusammen. Im ersten Abschnitt wird die Einordnung von KI erläutert, von maschinellem Lernen bis hin zu der potenziellen Singularität, bei der KI die menschliche Intelligenz übertreffen könnte. Hierbei werden Begriffe wie Deep Learning und Generative KI erklärt.
Der Abschnitt über Singularität betont die ethischen und physischen Herausforderungen, die mit der Entwicklung von AGI verbunden sind. Es wird diskutiert, wie wichtig es ist, die Kontrolle über KI zu behalten und sicherzustellen, dass sie im Einklang mit menschlichen Werten und Zielen agiert. Das Prinzip von “Garbage in – Garbage out” wird erläutert, um die Bedeutung von qualitativ hochwertigen Daten für KI zu betonen.
Ein weiterer wichtiger Punkt ist die Vertrauenswürdigkeit von KI-Ergebnissen, die durch den Ansatz “Keep the human in the loop” gefördert wird. Die Zusammenarbeit zwischen KI und menschlichen Entscheidungsträgern wird als entscheidend für den Umgang mit dem Restrisiko und der Verantwortung angesehen. Zusätzlich wird die Nutzung von KI für die Erkennung von Angriffen und die Unterstützung von IT-Sicherheitsexperten diskutiert.
Abschließend wird die Bedeutung von Vertrauen in die KI und IT-Sicherheit hervorgehoben. Es wird darauf hingewiesen, dass ein gerechtfertigtes Vertrauen nur durch Zuverlässigkeit, Ehrlichkeit und Qualifikation der Hersteller und ihrer Lösungen erreicht werden kann.
Insgesamt betont die Präsentation die Notwendigkeit, die Cyber-Sicherheit von KI-Systemen zu stärken, um ein sicheres Umfeld für die Anwendung von KI in der IT-Sicherheit zu gewährleisten. Durch eine intensive Zusammenarbeit zwischen Verteidigern und einen verstärkten Fokus auf Vertrauen in KI-Systeme können die zunehmenden Gefährdungen besser bewältigt werden.
KI-Abbildung: Vortrag zu KI und IT-Sicherheit – Mehr Sicherheit, mehr Gefährdungen KI-Vermerk
