Social Bot / Chatbot - Prof. Dr. Norbert Pohlmann

Was ist ein Social Bot?

Social Bot / Chatbot
Social Bots sind die digitalen Propaganda-Maschinen, mit denen Fake-News eine sehr große Verbreitung und damit eine starke Wirkung haben. Ein Bot ist ein Roboter, ein autonom agierendes Programm im Internet. Social Bots sind die digitalen Propaganda-Maschinen, die in den sozialen Netzwerken aktiv ist. Social Bots erstellen sehr viele Fake-Accounts, die vorgeben, von echten Nutzern eines sozialen Netzwerks zu sein und simulieren menschliches Verhalten. Sie werden programmiert und eingesetzt, um gezielt Meinungen im Internet massenhaft automatisiert zu verbreiten. Das Ziel von Social Bots ist es, durch ein verzerrtes Stimmungsbild eine größere Gruppe oder Gesellschaft in eine bestimmte Richtung, z.B. bei einer Wahl, zu beeinflussen.

Beispiele, bei denen Social Bots erfolgreich genutzt worden sind: Ukraine-Konflikt, Brexit-Wahl in Großbritannien, der US-Wahlkampf, Islamfeindlichkeit, Fremdenhass schüren.

Die Herstellung von Social Bots ist anspruchsvoll, es finden sich aber viele Ideen und Anleitungen im Internet. Social Bot-Technologien können auch gekauft oder gemietet werden. Betreiber von Social Bots sind Geheimdienste, die politisch in ihrem Sinne manipulieren wollen, Terrorgruppen, Wahlkämpfer, Unternehmen, die die Konkurrenz schädigen oder Börsenkurse beeinflussen wollen usw.

Social Bots einrichten
Damit Social Bots ihre Aufgabenstellung gut erfüllen können, brauchen sie sehr viele simulierte Nutzer, die sich wie echte Nutzer verhalten. Dazu müssen die Social Bots als erstes Fake-Accounts/Fake-Profile in den verschiedenen sozialen Netzwerken erstellen. Meist werden Bilder schöner, junger Menschen verwendet, um die falschen Nutzer interessant wirken zu lassen. Dann werden, in Abhängigkeit davon, welche Art von Fake-News verbreitet werden soll, entsprechende Beiträge erstellt, um auch inhaltlich interessant für die Zielgruppe zu werden. Anschließend werden aktiv Verbindungsanfragen gestellt und Anfragen von anderen bestätigt. Alle Aktionen der Social Bots werden zufällig, aber zu typischen Tageszeiten menschlicher Interaktion umgesetzt, um das Erkennen zu erschweren. Dabei wird die Erfahrung berücksichtigt, dass, je homogener der Kreis der Nutzer ist, die eine Nachricht teilen, umso größer die Wahrscheinlichkeit ist, dass die Nachricht immer weiter geteilt wird und somit ein großes Publikum erreicht wird.

Social Bot – Nutzen
Wenn ein Social Bot mit sehr vielen Fake-Accounts, mit sehr guter Vernetzung (Freunden oder Followern) und passenden Inhalten eingerichtet ist, können darüber gezielt Fake-News verteilt werden, um das gesetzte Ziel erfolgreich umzusetzen.

Bewertung von Social Bots
Zwischen 9 und 15 % der Twitter-Konten sind nach Schätzungen von US-Forschern nicht menschlich, sondern botgesteuert. Aber auch bei Facebook werden sehr viele Accounts von Social Bots betrieben. In der Summe gibt es bei Facebook 6 % Fake-Accounts. Aber nicht alle Fake-Accounts werden von Social Bots verwendet.

Das Beeinflussungspotenzial von Social Bots ist sehr groß. Insbesondere wenn bei Entscheidungen nur eine knappe Mehrheit erwartet wird, haben Social Bots einen besonderen Einfluss, wie zum Beispiel bei der BREXIT-Entscheidung oder dem US-Präsidentschaftswahlkampf.

Aber auch die Diskreditierung von Mitarbeitern oder der Unternehmensführung ist eine Möglichkeit, Konkurrenten zu schädigen und damit besser dazustehen oder Börsenwerte zu beeinflussen.

Die Vorteile von sozialen Netzwerken bezüglich der neuen Wege, Demokratie und Bürgerbeteiligungen zu gestalten, werden durch Fake-News beschädigt. Langfristig stellen Social Bots eine große Gefahr für das Vertrauen und das Überleben von sozialen Netzwerken dar.

Siehe auch: ChatGPT und Cyber-Sicherheit

Weitere Informationen zum Begriff “Social Bot / Chatbot”:

„„Fake-News in Sozialen Netzwerken – Das „Mitmach-Web“ hat seine Unschuld (endgültig) verloren“

„Angriffe auf die Künstliche Intelligenz – Bedrohungen und Schutzmaßnahmen“

„CoCoSpot: Clustering and Recognizing Botnet Command and Control Channels using Traffic Analysis“

„On Botnets that use DNS for Command and Control“

„Identitäts-Check anhand sozialer Netzwerke – Das Social-Ident-Projekt“

„Social Media Scraper im Einsatz – Wie Kriminelle hoch personalisierte Phishing-Attacken vorbereiten“

„Lehrbuch Cyber-Sicherheit“

„Übungsaufgaben und Ergebnisse zum Lehrbuch Cyber-Sicherheit“

„Bücher im Bereich Cyber-Sicherheit und IT-Sicherheit zum kostenlosen Download“

„Vorlesungen zum Lehrbuch Cyber-Sicherheit“

„Zukunft IT-Sicherheit“

„Chancen und Risiken der Digitalisierung“

„Smart Authentifikation, Identifikation und digitale Signaturen als Grundlage zukünftiger Ökosysteme“

„IT-Sicherheit von Smart Home“

„Forschungsinstitut für Internet-Sicherheit (IT-Sicherheit, Cyber-Sicherheit)“

„Master-Studiengang Internet-Sicherheit (IT-Sicherheit, Cyber-Sicherheit)“

„Marktplatz IT-Sicherheit“

„Marktplatz IT-Sicherheit: IT-Notfall“

„Marktplatz IT-Sicherheit: IT-Sicherheitstools“

„Marktplatz IT-Sicherheit: Selbstlernangebot“

„Marktplatz IT-Sicherheit: Köpfe der IT-Sicherheit“

„Vertrauenswürdigkeits-Plattform“

Summary

Article Name

Social Bot / Chatbot

Description

Social Bots sind die digitalen Propaganda-Maschinen, mit denen Fake News eine sehr große Verbreitung und starke Wirkung haben. Social Bots sind Meinungsroboter (autonom agierende Programme im Internet), die in den sozialen Netzwerken aktiv ist.

Author

Prof. Norbert Pohlmann

Publisher Name

Institut für Internet-Sicherheit – if(is)

Publisher Logo