IT-Sicherheit für Künstliche Intelligenz - Prof. Dr. Norbert
Pohlmann
IT-Sicherheit für Künstliche Intelligenz
Inhaltsverzeichnis
Was ist IT-Sicherheit für Künstliche Intelligenz?
Angreifer versuchen die Trainingsdaten und Inputdaten sowie Algorithmen und Modelle von KI-Lösungen zu manipulieren, um falsche Ergebnisse dieser zu provozieren oder an die verwendeten Daten von KI-Lösungen zu kommen. Daher ist es wichtig, dass KI-Lösungen in allen Bereichen, wo diese genutzt wird, mit der Hilfe von IT-Sicherheit sehr gut geschützt werden.
Manipulationen von Künstlicher Intelligenz / Maschinelles Lernen
In diesem Abschnitt wird diskutiert, wie und an welchen Stellen die Künstliche Intelligenz / maschinelles Lernen mit ihren Algorithmen manipuliert werden kann.
Eingabedaten: Die Qualität der Eingabedaten bestimmt auch die Güte der Ergebnisse. Hierbei gilt es, einige Faktoren zu beachten. So ist es beispielsweise bei Verwendung der persönlichen Daten eines Nutzers wichtig, dass diese auch Eigenschaften und Interessen der jeweiligen Person beschreiben. Wenn beispielsweise diese Daten aus dem Surfverhalten eines Browsers auf einem Smartphone resultieren, werden die Ergebnisse nicht optimal sein können, da sich nicht garantieren lässt, dass die Recherche der Nutzer ausschließlich seinem Informationsbedarf entspricht und nicht zufällig auch dem von Freunden oder Kollegen. Über eine Parametrisierung des Algorithmus ist der Betreiber zudem in der Lage, durch die Festlegung etwa von Schwellenwerten oder Grenzwerten die Ergebnisse zu beeinflussen. Die Eingabedaten, die Wissen und Erfahrungen in einem bestimmten Bereich dokumentieren, haben ebenso Einfluss auf die Ergebnisse. Daher ist die Kenntnis darüber, was davon genutzt wird, für die Bewertung sehr relevant. Denn wenn in den Eingabedaten Vorurteile und diskriminierende Ansichten enthalten sind, werden die modernen neuronalen Netze auch entsprechende Ergebnisse erzeugen. Heute ist es schwierig, die Eingabedaten darauf hin zu überprüfen, weil dafür ein gewünschtes Abbild bezüglich definierter Werte einer Gesellschaft vorhanden sein müsste, das jedoch (noch) nicht existiert.
Integrität Es müssen IT-Sicherheitsmaßnahmen zum Erkennen von Manipulation der Daten umgesetzt werden. Zum Beispiel durch die Berechnung von kryptographischen Prüfsummen, die von der Nutzung überprüft werden.
Vertraulichkeit Wenn in den Daten wie Trainingsdaten und Echtdaten Geschäftsgeheimnisse enthalten sind, muss deren Schutz gewährleistet werden. Zum Beispiel durch die Verschlüsselung der Daten während der Speicherung.
Datenschutz Wenn personenbezogene Daten enthalten sind, müssen auch diese nach dem Stand der Technik geschützt werden.
Verfügbarkeit Wenn zunehmend KI-Systeme in der Digitalisierung genutzt werden, wird die Verfügbarkeit immer wichtiger. Dazu müssen die Daten entsprechend redundant vorgehalten werden.
Sicher und vertrauenswürdige Umsetzung von Künstliche Intelligenz
Die Zusammenarbeit von erfahrenen Experten der jeweiligen Anwendungsdomäne sowie der KI-Entwicklung und Cyber-Sicherheit hilft, die für das entsprechende Anwendungsgebiet (Autonomes Fahren, Personal Assistent, Cyber-Sicherheit, …) KI-Systeme vertrauenswürdig konzipieren und umsetzen können. Der Stand der Technik an Cyber-Sicherheitsmaßnahmen für Integrität, Vertraulichkeit, Datenschutz und Verfügbarkeit muss definieren und nachhaltig umsetzen, um die Manipulationsmöglichkeiten und den Missbrauch der KI-Anwendungen und der genutzten Daten zu minimieren.
IT-Sicherheit für Künstliche Intelligenz ist wichtig, da Angreifer Trainingsdaten/ Inputdaten sowie Algorithmen / Modelle manipulieren, um falsche Ergebnisse zu provozieren oder an die verwendeten Daten von KI-Lösungen zu kommen.
Author
Prof. Norbert Pohlmann
Publisher Name
Institut für Internet-Sicherheit – if(is)
Publisher Logo
IT-Sicherheit für Künstliche Intelligenz Prof. Dr. Norbert Pohlmann - Cyber-Sicherheitsexperten
