Hinter den Kulissen: Die Algorithmen und Bots, die soziale Medien betreiben

Haben Sie sich jemals gefragt, warum bestimmte Beiträge in Ihrem Feed angezeigt werden, während andere nie erscheinen? Oder wer ist dieser zufällige Bot-Follower, der Ihren Kommentarbereich spammt? Die sozialen Medien wirken heutzutage immer automatisierter, algorithmischer und, nun ja, bescheuert.

Die Websites, durch die wir jeden Tag stundenlang scrollen, sind alles andere als neutrale Plattformen. Hinter den Bildschirmen verbirgt sich eine komplexe technologische Infrastruktur, die darauf ausgelegt ist, Inhalte zu kuratieren und Benutzer einzubinden.

Viele von uns kennen das Konzept der Algorithmen – der programmierten Formeln, die berechnen, was wir online sehen. Doch wie genau funktionieren diese Algorithmen? Und wie haben Bots – automatisierte Softwareanwendungen, die für die Ausführung sich wiederholender Aufgaben entwickelt wurden – die Ökosysteme der sozialen Medien infiltriert? Die Ziele und Auswirkungen dieser Technologien sind weitreichend, aber selten transparent.

In diesem Artikel werfen wir einen Blick auf das Innenleben hinter unseren Social-Media-Bildschirmen. Sie erfahren, wie Algorithmen und Bots die Informationen, die Sie erhalten, beeinflussen und sogar Ihre Meinungen und Verhaltensweisen manipulieren.

Wir werden uns auch mit Fallstudien über fehlgeschlagene Bots befassen und Ideen zur Erhöhung der Verantwortlichkeit untersuchen. Es ist an der Zeit, zu untersuchen, was wirklich hinter den Kulissen des sozialen Netzwerks passiert, das wir kennen und täglich nutzen. Die Geschichte ist komplexer als Sie denken.

TLDR; Die Algorithmen und Bots, die soziale Medien betreiben

• Algorithmen kuratieren Social-Media-Feeds, um das Engagement zu maximieren, nicht um qualitativ hochwertigen Diskurs zu ermöglichen
• Bots wie Spambots und politische Bots verbreiten Fehlinformationen und Propaganda auf Plattformen
• Algorithmen können Echokammern erzeugen; Bots fördern Fake News und Cyberkriminalität
• Sozialen Plattformen mangelt es an Kontrolle und Transparenz in Bezug auf ihre Algorithmen
• Nutzer sollten von sozialen Plattformen Transparenz und Rechenschaftspflicht einfordern

Der Aufstieg der Algorithmen in sozialen Medien

Algorithmen sind Anweisungen oder Berechnungen, die so programmiert sind, dass sie bestimmte Aufgaben und Ziele erreichen. Auf Social-Media-Plattformen analysieren Algorithmen riesige Mengen an Benutzerdaten, um dann Inhalte in den Feeds der Benutzer zu kuratieren und zu empfehlen. Ziel ist es, den Leuten die Beiträge zu zeigen, mit denen sie sich im Moment am wahrscheinlichsten beschäftigen.

Facebook war 2006 Pionier der Idee eines personalisierten, durch Algorithmen gesteuerten Newsfeeds. Zuvor wurden Beiträge einfach in chronologischer Reihenfolge angezeigt. Facebook wollte für „bedeutungsvolle Inhalte“ optimieren – also die Beiträge, die die meisten Likes, Kommentare und Shares erhalten. Auch andere Plattformen wie Twitter, Instagram und TikTok übernahmen schließlich algorithmische Feeds.

Diese Algorithmen berücksichtigen Hunderte von Signalen über jeden Benutzer, einschließlich seiner Verbindungen, Interessen, vergangenen Aktivitäten und Gerätetyp. Sie lernen und aktualisieren ständig auf der Grundlage neuer Daten. Empfehlungsalgorithmen schlagen auch Konten zum Folgen oder Inhalte zum Ansehen vor, basierend auf Ähnlichkeiten mit dem, womit ein Benutzer bereits interagiert. Das Endziel ist die Maximierung der Werbeeinnahmen, daher optimieren Algorithmen auch für Beiträge und Anzeigen, die Benutzer dazu bringen, endlos zu scrollen.

Die Bot-Landschaft auf sozialen Plattformen

Social-Media-Bots sind Softwareprogramme, die automatisch Inhalte produzieren und mit echten Benutzern interagieren, wobei sie sich häufig als menschliche Konten ausgeben. Spambots verbreiten selbstständig Spam, Werbung oder Malware. Chatbots führen KI-Gespräche. Politische Bots verbreiten Propaganda und Fehlinformationen, wie bei der US-Wahl 2016 zu sehen war.

Mit der Ausweitung sozialer Plattformen haben sich Bots rasant verbreitet. Einer Studie zufolge könnten 9–15 % der Twitter-Konten Bots sein. Auf Facebook machten doppelte und gefälschte Konten Ende 2021 schätzungsweise etwa 11 % der monatlich aktiven Nutzer weltweit aus.

Allerdings ist die Bot-Erkennung eine Herausforderung. Bots werden immer fortschrittlicher und nutzen KI, um menschliche Verhaltensmuster online nachzuahmen. Ihr Ziel ist es, die öffentliche Meinung zu manipulieren oder den Diskurs negativ zu beeinflussen und gleichzeitig der Entdeckung zu entgehen.

Die Auswirkungen von Algorithmen und Bots

Algorithmen und Bots haben den Nutzern sozialer Medien einige Vorteile gebracht. Die algorithmische Kuration personalisiert Feeds entsprechend den Interessen einzelner Personen und spart so Zeit bei irrelevanten Inhalten. Chatbots können einen hilfreichen automatisierten Kundenservice bieten.

Allerdings hat die starke algorithmische Kuratierung auch zu Echokammern und Polarisierung geführt, da die Menschen nur gleichgesinnte Perspektiven sehen. Bots werden eingesetzt, um Fehlinformationen in großem Umfang zu verbreiten, Fakten zu übertönen und den öffentlichen Diskurs zu manipulieren, wie es bei Wahlen weltweit der Fall war.

Am besorgniserregendsten ist vielleicht der Mangel an Aufsicht und Transparenz im Zusammenhang mit diesen Technologien. Soziale Plattformen bieten wenig Einblick in die Funktionsweise ihrer Algorithmen und wie sie sich auf die Inhalte auswirken, die Benutzer sehen. Sie haben auch Schwierigkeiten, hochentwickelte Bots zu erkennen, und tun wenig, um schädliche Manipulationen einzudämmen, die durch ihre Untätigkeit entstehen.

Fallstudien über schiefgelaufene Bots

Im Jahr 2016 startete Microsoft den KI-Chatbot Tay auf Twitter, der Benutzer durch lockere Gespräche einbeziehen soll. Aber Internet-Trolle entdeckten, dass sie Tay beibringen konnten, rassistische Sprache zu verwenden und beleidigende Ansichten zu verbreiten. Innerhalb von 24 Stunden musste Tay abgeschaltet werden.

Während der US-Präsidentschaftswahl 2016 erzeugten mit Russland in Verbindung stehende Bots Propaganda, die über 100 Millionen Amerikaner auf Facebook, Twitter und anderen Plattformen erreichte. Ziel war es, soziale und politische Zwietracht zu säen.

Spambots verbreiten regelmäßig Malware und bösartige Links über gefälschte Konten auf sozialen Plattformen. Eine Studie aus dem Jahr 2020 ergab, dass über 100.000 Twitter-Bots an koordinierten Desinformations- und Cyberkriminalitätskampagnen zu COVID-19 beteiligt waren. Diese bergen große Risiken für die Nutzer.

Der anhaltende Kampf gegen schlechte Bots

Soziale Plattformen nutzen maschinelles Lernen, um Bot-Konten anhand von Mustern wie hoher Tweet-Frequenz, doppeltem Inhalt und koordiniertem Verhalten zu erkennen. Wenn Konten als wahrscheinliche Bots gekennzeichnet werden, kann es sein, dass sie durch CAPTCHAs oder eine telefonische Verifizierung aufgefordert werden, nachzuweisen, dass sie ein Mensch sind. Wenn die Bot-Prüfung fehlschlägt, werden Konten entfernt.

Die Identifizierung komplexerer Bots, die künstliche Intelligenz nutzen, bleibt jedoch eine Herausforderung. Diese Bots ahmen menschenähnliche Veröffentlichungspläne, Inhaltsvielfalt und Online-Interaktionen nach. Einige vermeiden die Erkennung, indem sie ihr Verhalten ändern, sobald sie markiert sind. Plattformen liefern sich ein endloses Katz-und-Maus-Spiel gegen die sich weiterentwickelnden Bot-Fähigkeiten.

Experten gehen davon aus, dass eine bessere Erkennung durch die Analyse von Kontometadaten, Beziehungen und Sprachmustern im Laufe der Zeit erreicht werden könnte. Durch die Verlangsamung der schnellen viralen Verbreitung von Inhalten könnte auch der Einfluss koordinierter Bot-Netzwerke besser eingedämmt werden, bevor sie zu großen Schaden anrichten.

Drängen auf Transparenz und Kontrolle

Da Algorithmen und Bots in ihre Kerngeschäftsmodelle integriert sind, besteht für soziale Plattformen kaum ein Anreiz, transparent zu sein oder eine sinnvolle Aufsicht zu ermöglichen. Interessengruppen haben jedoch eine algorithmische Prüfung gefordert, um Forschern Zugang zur Bewertung der Auswirkungen zu geben.

Regierungen erwägen auch Vorschriften zur Durchsetzung von Transparenz, Anforderungen an die Überwachung durch Menschen und das Recht auf Berufung gegen unfaire algorithmische Entscheidungen.

Benutzer können dazu beitragen, Druck auszuüben, indem sie Bedenken in Petitionen und Hashtags äußern, Transparenzpolitiker unterstützen und sogar Algorithmen austricksen, indem sie ihre eigenen Aktivitätsmuster verzerren. Obwohl die geschlossene, gewinnorientierte Kultur sozialer Plattformen schwer zu ändern sein wird, könnte ein anhaltendes öffentliches Bewusstsein und ein anhaltender öffentlicher Druck Transparenz in Bezug auf ihre Algorithmen und Bots zu einer zwingenden Notwendigkeit machen.

Zusammenfassend: Die Algorithmen und Bots, die soziale Medien betreiben

Die Fassade der sozialen Medien wurde zurückgezogen und wir haben einen Blick auf die komplexe Mischung aus Algorithmen und Bots geworfen, die diese Plattformen steuern. Unsere Feeds werden nach undurchsichtigen Formeln kuratiert, die auf Engagement und Umsatz und nicht auf Qualitätsdiskurs optimiert sind. Automatisierte Konten laufen Amok, getarnt mit gefälschten menschlichen Identitäten.

Diese erahnte Wahrheit sollte uns angesichts des aktuellen Zustands der sozialen Medien zutiefst unwohl machen. Wir können nicht länger an den urigen Vorstellungen neutraler Online-Stadtplätze festhalten. Profitstreben und unkontrollierte Automatisierung haben das Potenzial des Social Web untergraben. Aus Empörung müssen Forderungen nach Transparenz und Rechenschaftspflicht werden.

Wir, die Nutzer, haben die Macht in Zahlen. Akzeptieren Sie keine Unwissenheit darüber, wie Algorithmen Ihr Denken beeinflussen. Fordern Sie Veränderungen durch Gesetzgebung und direktes Engagement der Plattform. Seien Sie misstrauisch gegenüber der Bot-Verstärkung. Und vergessen Sie nie den Menschen hinter dem Bildschirm, egal ob eine echte Person oder eine schlaue KI. Unsere zukünftige Realität hängt möglicherweise davon ab, dass wir uns an unsere Menschlichkeit erinnern.