ChatGPT: Konsequenzen für die IT-Sicherheit - Prof. Dr. Norbert Pohlmann

ChatGPT: Konsequenzen für die IT-Sicherheit
Am 16.05.23 fand im Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS im Schloss Birlinghoven in Sankt Augustin eine Konferenz über ChatGPT statt.

Es wurden die technologischen Eckpunkte, die Rahmenbedingungen und Use Cases vorgestellt und diskutiert.

Mein Vortrag war mit dem Titel „ChatGPT ff.: Konsequenzen für die IT-Sicherheit“ betitelt.

Aus dem Blickwinkel von Cyberkriminellen wird ChatGPT zunehmend dafür sorgen, dass sie erfolgreicher angreifen können. Nicht direkt, aber indirekt. Aber Cyberkriminelle ohne entsprechendes Know-how werden auch mit ChatGPT nicht plötzlich zu Profis.

Risiken von ChatGPT

Die Risiken, die mit ChatGPT größer werden, liegen zum Beispiel in den Bereichen:

• Phishing / Spear-Phishing
  Mit ChatGPT sind Angreifer in der Lage, in höchstem Maße individuelle Spear-Phishing-Mails zu generieren, die deutlich wirksamer und gefährlicher sind.
• Social Engineering
  Dadurch, dass ChatGPT menschenähnlich antwortet und den Stil von Personen nachahmen kann, macht die Umsetzung von Social Engineering besonders einfacher.
• Beschleunigtes Entwickeln von Angriffen
  Mithilfe von ChatGPT können die Angreifer Malware und weiteren Angriffstechnologien einfacher und schneller entwickeln.
• Vertrauliche Informationen 
  Analyse der / Angriffe auf Eingaben, die bei ChatGPT eingegeben werden.
• Verbreitung von Falschinformationen / Fake News
  Erfolgreichen bei der Manipulation von Wahlen, Börsenkurse zu beeinflussen, 
  politische Manipulationen (Geheimdienste oder Terrorgruppen) Cyber-Mobbing (Personen, Unternehmen und Produkte diskreditieren …).
  
  

ChatGPT wird aber auch helfen, die Cyber-Sicherheit zu verbessern

Aufgrund der Fähigkeit, Eingaben in natürlicher Sprache zu verstehen und darauf reagieren zu können. Es geht um die Detektion unerwünschter Inhalte, Mitarbeiterschulungen, Überwachung von Bedrohungen, Berichterstellung …

ChatGPT kann aber auch zum Fixen von Bugs/Schwachstellen nützen, um die Sicherheit der Software zu erhöhen, was einem sehr großen Einfluss auf die Cyber-Sicherheit haben wird.

Aber auch die bei der Bewältigung des Fachkräftemangels im Bereich IT-Sicherheit wird ChatGPT helfen können.

Neben ChatGPT wird die KI in weiteren Bereichen helfen, die Cyber-Sicherheit zu erhöhen:

• Erkennen von Angriffen auf der Basis von Sensoren in den Endgeräten und im Netz.
• Unterstützung und Entlastung von Cyber-Sicherheitsexperten zum Beispiel in den Bereichen Priorisierung von sicherheitsrelevanten Ereignissen und bei einer schnelleren Reaktion auf Angriffe.

Weitere Bereiche sind zum Beispiel: Erkennung von Malware, Spam, Fake News, Deepfake, usw. sowie sichere Softwareentwicklung, IT-Forensik und Threat Intelligence.


Siehe auch Glossareintrag: ChatGPT und Cyber-Sicherheit