IT-Sicherheit und Künstliche Intelligenz - Prof. Dr. Norbert Pohlmann

IT-Sicherheit und Künstliche Intelligenz

Norbert Pohlmann (Institut für Internet-Sicherheit):
„IT-Sicherheit und Künstliche Intelligenz“,
DuD Datenschutz und Datensicherheit – Recht und Sicherheit in Informationsverarbeitung und Kommunikation,
Vieweg Verlag, 1/2025

IT-Sicherheit und Künstliche Intelligenz (KI) sind zwei wichtige Technologien, die sich gegenseitig stark beeinflussen. Dieser Artikel beginnt mit den grundlegenden Einordnungen, Definitionen, Begriffen und Prinzipien rund um die Künstliche Intelligenz. Danach wird das Thema Künstliche Intelligenz für IT-Sicherheit behandelt. Hier geht es darum, wie die KI helfen kann, die IT-Sicherheit zu verbessern. Anschließend wird diskutiert, wie Angreifer die KI nutzen und wie sich das auf die IT-Sicherheit der Verteidiger auswirkt. Weiterhin beleuchtet der Artikel das wichtige Thema IT-Sicherheit für KI. Dabei wird dargestellt, was getan werden muss, damit die KI, die genutzt wird, nicht durch die Angreifer manipuliert werden kann.

1 Einordnung der Künstlichen Intelligenz
Data Science“ ist eine Wissenschaft des Fachgebiets der Informatik und beschäftigt sich mit der Extraktion von Wissen aus den Informationen in Daten (Abb. 1). Da es immer mehr Daten mit Informationen gibt, kann auch immer mehr Wissen aus den Informationen der Daten abgeleitet werden.

Bei Künstlichen Intelligenzen wird zwischen schwacher und starker KI unterschieden. Starke „Künstliche Intelligenz“ soll automatisiert „menschenähnliche Intelligenz“ nachbilden. Die Begriffe „Singularität“ oder „Artificial General Intelligence (AGI)“ beziehen sich auf einen hypothetischen Zeitpunkt, bei dem das KI-System eine höhere (künstliche) Intelligenz besitzt als die (menschliche) Intelligenz. KI-Systeme können sich dann selbstständig verbessern und eigenständig sehr schnell Fortschritte erzielen, die für die Menschheit nicht mehr vorhersehbar sind. Filme wie der Terminator oder Bücher wie Origin von Dan Brown zeigen sehr schön, dass wir Singularität eigentlich nicht haben wollen, weil die Gefahr besteht, dass sie sich verselbstständigt. Die Menschheit verliert die Kontrolle über die KI, die Zukunft wird unvorhersehbar und das kann negative Auswirkungen haben. Unsere gemeinsame Aufgabe muss es daher sein, sicherzustellen, dass KI-Systeme, welche die menschliche Intelligenz übertreffen, im Einklang mit menschlichen Werten und Zielen agieren.
Unter schwache „Künstliche Intelligenz“ wird Maschinelles Lernen (ML) verstanden, was heute sehr erfolgreich ist und in letzter Zeit durch neue Innovationen einen sehr großen Hype ausgelöst hat. Maschinelles Lernen ist ein Begriff im Bereich der Künstlichen Intelligenz und steht für die „künstliche“ Generierung von Wissen aus den Informationen in Daten mit der Hilfe von IT-Systemen [1].
Deep Learning ist eine Methode des maschinellen Lernens. Deep Learning war eine wichtige Innovation, weil dadurch eine effizientere Verarbeitung von komplexen Daten ermöglicht wurde und die Ergebnisse deutlich verbessert wurden. Die letzte große Innovation ist das Large Language Modell (LLM), als Basis-
modell für generative KI.
Beim maschinellen Lernen ist der Begriff „Stochastischer Papagei“ eine Metapher zur Beschreibung der Theorie, dass ein großes Sprachmodell zwar in der Lage ist, plausibel Sprache zu erzeugen, deren Bedeutung jedoch nicht versteht. Daher kann ein großes Sprachmodell auch keinen Fehler identifizieren und der Mensch muss in der Lage sein die Ergebnisse selbst zu verifizieren, wenn er die großen Sprachmodelle verantwortungsvoll nutzen will. Generative KI (GenAI) ist eine Form der künstlichen Intelligenz, die gestützt auf ihren Trainingsdaten Texte, Bilder, Code und verschiedene andere Inhalte produzieren kann. ChatGPT ist das bekannteste Beispiel und hat eine Revolution in der Digitalisierung auf sehr vielen verschiedenen Ebenen ausgelöst.

2 Paradigma: Garbage in, Garbage out (GIGO)
„Garbage in – Garbage out“ ist ein Paradigma in der KI, das eine wichtige Rolle für die Qualität der Ergebnisse von KI-Systemen spielt (Abb. 2). Beim KI geht es um die „Extraktion von Wissen aus Daten“ und das bedeutet, wenn in den verwendeten Daten keine Informationen enthalten sind, kann die KI daraus auch kein Wissen extrahieren. Das können wir uns sehr gut vorstellen, wenn alle Daten null sind. Generell gilt: Wenn die Qualität der Eingabedaten schlecht ist, wird auch die Qualität der Ergebnisse schlecht sein. Aus diesem Grund werden als Input hochqualitative Daten benötigt, damit mithilfe der KI vertrauenswürdige Ergebnisse erzielt werden können.

Wegen der Wichtigkeit der Qualität der Eingabedaten sollte ein Standard der Datenqualität für KI-Systeme etabliert werden. Im Einzelnen sind dabei unter anderem Vollständigkeit, Repräsentativität, Nachvollziehbarkeit, Aktualität und Korrektheit zu berücksichtigen. Außerdem sollte es obligatorisch sein, entsprechende Positionen im Unternehmen zu konstituieren, die für das Modell der Datengewinnung und -nutzung zuständig sowie für die Kontrolle der ordnungsgemäßen Umsetzung verantwortlich sind [2].

Vollständigkeit der Daten
Die Grundvoraussetzung für Vollständigkeit ist, dass ein Datensatz alle notwendigen Attribute und Inhalte enthält. Kann die Vollständigkeit der darin inkludierten Daten nicht garantiert werden, entsteht daraus potenziell das Problem von irreführenden Tendenzen, was zu falschen oder diskriminierenden Ergebnissen führt.

Repräsentativität der Daten
Die Repräsentativität zeichnet sich dadurch aus, dass die Daten eine tatsächliche Grundgesamtheit und somit entsprechend die Realität abbilden, die stellvertretend im Sinne der Aufgabenstellung ist. Sind die Daten nicht repräsentativ, hat dies zur Folge, dass daraus ein Bias (Datenverzerrung) resultiert. Ein Bias kann z. B. durch einen Fehler bei der Datenerhebung entstehen.

Nachvollziehbarkeit der Daten
Für die Überprüfung der Datenqualität ist es essenziell, dass nachvollzogen werden kann, aus welchen Quellen die verwendeten Daten stammen. Sind die Quellen nicht transparent, das heißt nicht nachvollziehbar, ist es nicht möglich eine notwendige Validierung der Daten vorzunehmen, was sich auf deren Qualität negativ auswirken kann. Für eine bestmögliche Bewertung und Messung sowohl der Datenqualität als auch der Qualität der Quellen sowie der Ableitung gezielter Verbesserungsmaßnahmen, müssen im Vorfeld entsprechend Vorgaben definiert werden. Hierfür gilt es, die für den Prozess relevanten Kriterien zu bestimmen, etwa Konsistenz oder Einheitlichkeit. Anhand der gewählten Kriterien ist es dann möglich, die erhobenen Daten bezüglich ihrer konsistenten Qualität zu überprüfen.

…

kostenlos downloaden