Das Internet steckt in der Krise. Unser Leben in der virtuellen Welt nimmt immer mehr an Relevanz zu, die Regeln des Spiels scheinen sich allerdings nicht schnell genug anzupassen. Jetzt ziehen die Social-Media-Anbieter erste Konsequenzen und setzen unter anderem auch auf die Forschung mit künstlichen Intelligenzen.
Die YouTube-Challenges und ihre neuen Richtlinien
Sogenannte Challenges sind Mutproben, die im Internet veranstaltet werden, und YouTube als Videoportal fungierte in der Vergangenheit schon oft als Host für einige – reichlich fragwürdige – Challenges.
Erinnern wir uns an die #InMyFeelings-Challenge, bei der Menschen zum gleichnamigen Hit des Sängers Drake aus fahrenden Autos stiegen und neben dem rollenden Wagen auf der Straße tanzten, Jugendliche vor laufender Kamera auf Waschmittelkapseln (Tide-Pot-Challenge) bissen oder – in Anlehnung an den Netflix Spielfilm Bird Box – mit verbundenen Augen durch die Öffentlichkeit laufen (Bird Box-Challenge). All diese Beispiele haben eins gemeinsam, scheinbar führt die öffentliche Herausforderung bei einigen Menschen zum sofortigen Verlust von Hirnzellen. Die Zahl der Nachahmervideos, Fail Compilations und Unfälle untermauert diese Annahme.
Nun zieht YouTube die Konsequenz. Während es schon lange Community-Richtlinien für Videos und Inhalte, den Kommentaren, Links etc. bezüglich Pornografie, Gewalt und Hate Speech gibt, so werden die Regeln nun erweitert, um die Gefahr der Nachahmung bei „gefährlichen Pranks und Challenges“ zu verhindern.
Durchgesetzt wird diese Maßnahme unter anderem mithilfe von einem Strike-System.
- Strike: Verwarnung, Livestreaming-Funktion kann möglicherweise deaktiviert werden
- Strike: Innerhalb von drei Monaten zwei Verwarnungen – zwei Wochen lang dürfen keine Inhalte mehr veröffentlicht werden
- Strike: Innerhalb von drei Monaten drei Verwarnungen – Kündigung des Accounts
Harmlose und humorvolle Challenges wie etwa die virale Bottle-Flip-Challenge, Ice-Bucket-Challenge oder Jimmy Kimmels Terrible-Christmas-Present-Streich sind hiervon natürlich nicht betroffen. Denn wie YouTube betont, dient diese Maßnahme zum Schutz der Community – der einzigartige Unterhaltungsfaktor YouTubes ist schließlich ihr größtes Attribut.Während YouTube nun also an seinem Regelwerk für die Community schraubt, so bemühen sich andere, den Begriff Gemeinschaft zu stärken und gegen Hetze im Netz vorzugehen.
Cybermobbing
Mobbing ist kein neues Phänomen. Ob wir nun über den klassischen Rahmen, die Schule sprechen oder an Mobbing am Arbeitsplatz denken: Was mit einer kleinen öffentlichen Schikane beginnen kann, entwickelt sich manchmal in rasender Geschwindigkeit zu einem Selbstläufer mit eventuell unkontrollierbaren Ausläufen. Mit der Integration von Social Media in unseren Alltag hat sich auch Mobbing zu einer neuen gesteigerten „Disziplin“ entwickelt. Immer wieder wird auch von Einzelschicksalen, die mit medialer Wirkkraft auf Mobbing und dessen Langzeitfolgen aufmerksam machen, berichtet.
Mobbing bedeutet in seiner eigentlichen Form laut der Sozialpsychologin Catarina Katzer ein „gezieltes psychisches aber auch physisches Fertigmachen.“ Durch diese Attacken wird ein enormer Druck auf das Opfer ausgeübt. Wandert diese Psychoterror nun jedoch weg von der realen Welt hin in die virtuelle des Netzes, so ist laut Katzer, Leiterin des Institut für Cyberpsychologie und Medienethik in Köln, kein wirklicher, endlicher Rahmen gegeben – Cybermobbing sei dann endlos. Die Liste der Möglichkeiten ist lang und reicht von Chatrooms, dessen einziges Thema dieses eine, gewählte Opfer ist, bis hin zu gefälschten Facebook-Profilen und peinlichen Fotos auf Instagram. Was einmal im Netz ist, das bleibt und ist schwer zu kontrollieren.
Instagram, als einer der größten Player auf dem Social-Media-Markt hat nun reagiert und seine Richtlinien um Cybermobbing erweitert. Mithilfe einer Künstlichen Intelligenz sollen zukünftig Hate Speech und Mobbing schneller erkannt werden. Filter, die auf bestimmte Schlagwörter reagieren, sollen diese identifizieren und Beiträge somit schneller gelöscht werden können. Während dies in der Theorie sehr simpel klingt, sollten wir uns doch bewusst sein, dass große Unternehmen wie Google oder Facebook (wozu auch Instagram und WhatsApp gehören) nach wie vor auf Subunternehmer setzen, die mit menschlicher Arbeitskraft (Content-Moderatoren) das Internet „säubern“. Eindrücklich dargestellt wird diese Arbeit in der Dokumentation The Cleaners von Hans Block und Moritz Riesewieck.
Das Bündnis gegen Cybermobbing hat in mehreren Studien Eltern, Lehrer/-innen und Schüler/-innen befragt und umfassende Ergebnisse präsentiert: Nach der ersten Erhebung im Jahr 2014 habe sich die Situation in Deutschland noch einmal verschärft. Die Prävalenzrate bei Mobbing sei um 6,4% und bei Cybermobbing sogar um 13% gestiegen. Deshalb werden Forschung, Aufklärung und Präventionsarbeit als wichtige Bestandteile gesehen, um diese Problemfelder in Grenzen zu halten. Einige Vorschläge dazu und alle Daten und Ergebnisse zu den Studien finden sich hier.
Ein Beispiel für eine äußerst erfolgreiche Anti-Mobbing-Methode stammt aus Finnland und trägt den Namen KiVa. Mittlerweile hat sich dieses Modell auch in anderen Ländern bewährt und zeigt deutliche Erfolge – an finnischen Schulen sei die Mobbingrate um 85 % zurückgegangen seit Einführung von KiVa. Schwierigkeiten dieser Methode als Schablone für internationales Handeln werden in diesem Artikel des CNN angesprochen.