slider

Social Bot / Chatbot - Prof. Dr. Norbert Pohlmann

Social Bot / Chatbot

Social Bot / Chatbot als digitale Propaganda-Maschine

Was ist ein Social Bot?


Social Bot / Chatbot
Social Bots sind die digitalen Propaganda-Maschinen, mit denen Fake-News eine sehr große Verbreitung und damit eine starke Wirkung haben. Ein Bot ist ein Roboter, ein autonom agierendes Programm im Internet. Social Bots sind die digitalen Propaganda-Maschinen, die in den sozialen Netzwerken aktiv ist. Social Bots erstellen sehr viele Fake-Accounts, die vorgeben, von echten Nutzern eines sozialen Netzwerks zu sein und simulieren menschliches Verhalten. Sie werden programmiert und eingesetzt, um gezielt Meinungen im Internet massenhaft automatisiert zu verbreiten. Das Ziel von Social Bots ist es, durch ein verzerrtes Stimmungsbild eine größere Gruppe oder Gesellschaft in eine bestimmte Richtung, z.B. bei einer Wahl, zu beeinflussen.

Social Bot / Chatbot als digitale Propaganda-Maschine
Abbildung: Social Bot / Chatbot – © Copyright-Vermerk


Beispiele, bei denen Social Bots erfolgreich genutzt worden sind: Ukraine-Konflikt, Brexit-Wahl in Großbritannien, der US-Wahlkampf, Islamfeindlichkeit, Fremdenhass schüren.

Die Herstellung von Social Bots ist anspruchsvoll, es finden sich aber viele Ideen und Anleitungen im Internet. Social Bot-Technologien können auch gekauft oder gemietet werden. Betreiber von Social Bots sind Geheimdienste, die politisch in ihrem Sinne manipulieren wollen, Terrorgruppen, Wahlkämpfer, Unternehmen, die die Konkurrenz schädigen oder Börsenkurse beeinflussen wollen usw.

Social Bots einrichten
Damit Social Bots ihre Aufgabenstellung gut erfüllen können, brauchen sie sehr viele simulierte Nutzer, die sich wie echte Nutzer verhalten. Dazu müssen die Social Bots als erstes Fake-Accounts/Fake-Profile in den verschiedenen sozialen Netzwerken erstellen. Meist werden Bilder schöner, junger Menschen verwendet, um die falschen Nutzer interessant wirken zu lassen. Dann werden, in Abhängigkeit davon, welche Art von Fake-News verbreitet werden soll, entsprechende Beiträge erstellt, um auch inhaltlich interessant für die Zielgruppe zu werden. Anschließend werden aktiv Verbindungsanfragen gestellt und Anfragen von anderen bestätigt. Alle Aktionen der Social Bots werden zufällig, aber zu typischen Tageszeiten menschlicher Interaktion umgesetzt, um das Erkennen zu erschweren. Dabei wird die Erfahrung berücksichtigt, dass, je homogener der Kreis der Nutzer ist, die eine Nachricht teilen, umso größer die Wahrscheinlichkeit ist, dass die Nachricht immer weiter geteilt wird und somit ein großes Publikum erreicht wird.

Social Bot – Nutzen
Wenn ein Social Bot mit sehr vielen Fake-Accounts, mit sehr guter Vernetzung (Freunden oder Followern) und passenden Inhalten eingerichtet ist, können darüber gezielt Fake-News verteilt werden, um das gesetzte Ziel erfolgreich umzusetzen.

Bewertung von Social Bots
Zwischen 9 und 15 % der Twitter-Konten sind nach Schätzungen von US-Forschern nicht menschlich, sondern botgesteuert. Aber auch bei Facebook werden sehr viele Accounts von Social Bots betrieben. In der Summe gibt es bei Facebook 6 % Fake-Accounts. Aber nicht alle Fake-Accounts werden von Social Bots verwendet.

Das Beeinflussungspotenzial von Social Bots ist sehr groß. Insbesondere wenn bei Entscheidungen nur eine knappe Mehrheit erwartet wird, haben Social Bots einen besonderen Einfluss, wie zum Beispiel bei der BREXIT-Entscheidung oder dem US-Präsidentschaftswahlkampf.

Aber auch die Diskreditierung von Mitarbeitern oder der Unternehmensführung ist eine Möglichkeit, Konkurrenten zu schädigen und damit besser dazustehen oder Börsenwerte zu beeinflussen.

Die Vorteile von sozialen Netzwerken bezüglich der neuen Wege, Demokratie und Bürgerbeteiligungen zu gestalten, werden durch Fake-News beschädigt. Langfristig stellen Social Bots eine große Gefahr für das Vertrauen und das Überleben von sozialen Netzwerken dar.

Siehe auch: ChatGPT und Cyber-Sicherheit


Weitere Informationen zum Begriff “Social Bot / Chatbot”:



„Fake-News in Sozialen Netzwerken – Das „Mitmach-Web“ hat seine Unschuld (endgültig) verloren

Angriffe auf die Künstliche Intelligenz – Bedrohungen und Schutzmaßnahmen

CoCoSpot: Clustering and Recognizing Botnet Command and Control Channels using Traffic Analysis

On Botnets that use DNS for Command and Control

Identitäts-Check anhand sozialer Netzwerke – Das Social-Ident-Projekt

Social Media Scraper im Einsatz – Wie Kriminelle hoch personalisierte Phishing-Attacken vorbereiten



Lehrbuch Cyber-Sicherheit

Übungsaufgaben und Ergebnisse zum Lehrbuch Cyber-Sicherheit

Bücher im Bereich Cyber-Sicherheit und IT-Sicherheit zum kostenlosen Download



Vorlesungen zum Lehrbuch Cyber-Sicherheit



Zukunft IT-Sicherheit

Chancen und Risiken der Digitalisierung

Smart Authentifikation, Identifikation und digitale Signaturen als Grundlage zukünftiger Ökosysteme

IT-Sicherheit von Smart Home



Forschungsinstitut für Internet-Sicherheit (IT-Sicherheit, Cyber-Sicherheit)

Master-Studiengang Internet-Sicherheit (IT-Sicherheit, Cyber-Sicherheit)

Marktplatz IT-Sicherheit

It’s all about Trust!


Zurück zur Übersicht




Summary
Social Bot / Chatbot
Article Name
Social Bot / Chatbot
Description
Social Bots sind die digitalen Propaganda-Maschinen, mit denen Fake News eine sehr große Verbreitung und starke Wirkung haben. Social Bots sind Meinungsroboter (autonom agierende Programme im Internet), die in den sozialen Netzwerken aktiv ist.
Author
Publisher Name
Institut für Internet-Sicherheit – if(is)
Publisher Logo
Social Bot / Chatbot als digitale Propaganda-Maschine
Social Bot / Chatbot Prof. Dr. Norbert Pohlmann - Cyber-Sicherheitsexperten