IT-Sicherheit und Künstliche Intelligenz Die Präsentation von Prof. Dr. Norbert Pohlmann zum Thema “IT-Sicherheit und Künstliche Intelligenz” bietet einen umfassenden Einblick in die Verbindung dieser beiden wichtigen Bereiche. Die Einordnung und Definitionen von Künstlicher Intelligenz (KI) sowie die Unterscheidung zwischen starker und schwacher KI legen den Grundstein für das Verständnis der Thematik. Die Idee der Singularität, bei der KI sich selbstständig entwickelt, wirft ethische und gesellschaftliche Herausforderungen auf.
Ein zentrales Prinzip der KI ist “Garbage in – Garbage out”, das die Bedeutung qualitativ hochwertiger Daten für vertrauenswürdige Ergebnisse unterstreicht. Die Notwendigkeit von Vertrauen in KI-Ergebnisse ist entscheidend, um die Selbstbestimmtheit der Nutzer zu fördern. Im Bereich der IT-Sicherheit spielt KI eine wichtige Rolle bei der Erkennung von Angriffen und der Unterstützung von Cyber-Sicherheitsexperten.
Die Präsentation hebt auch hervor, wie Angreifer KI nutzen, um Angriffe zu planen und durchzuführen, einschließlich des Einsatzes von ChatBots und Deepfake-Technologien. Darüber hinaus werden Angriffe auf KI-Systeme und die Bedeutung von Cyber-Sicherheitsmaßnahmen für KI diskutiert.
Ein besonderer Fokus liegt auf dem Vertrauen in KI, da der Umgang mit ethischen Herausforderungen und die Schaffung von Vertrauenswürdigkeit unerlässlich sind. Die Auswertung von privaten Daten im Sinne des Allgemeinwohls und die Frage nach dem Umgang mit unvollständigen Daten stellen wichtige Diskussionsthemen dar.
Abschließend betont die Präsentation die Bedeutung der Absicherung von KI für vertrauenswürdige Ergebnisse und fordert eine verstärkte Zusammenarbeit und den Austausch von sicherheitsrelevanten Daten. Die Herausforderung besteht darin, das Machtverhältnis zwischen den Angreifern und Verteidigern zu verändern, um die Risiken von KI zu reduzieren.
Insgesamt verdeutlicht die Präsentation die Schlüsselfaktoren, die bei der Integration von KI in die IT-Sicherheit berücksichtigt werden müssen, sowie die Notwendigkeit, Vertrauen in KI zu schaffen, um ihre volle Potenzial ausschöpfen zu können.
KI-Abbildung: Vortrag zu IT-Sicherheit und Künstliche Intelligenz KI-Vermerk
