Twitter-Mitarbeiter erklären: „Plattform kann Sie nicht mehr vor Trollen schützen“

Marianna Frühling
BBC Desinformation und Social Media Korrespondent

Twitter-Mitarbeiter im Gespräch mit der BBC, Elon MuskEr sagt, dass nach den Änderungen und Entlassungen, die danach vorgenommen wurden.

Diese Argumente werden auch durch unveröffentlichte wissenschaftliche Informationen und Erfahrungen von Twitter-Nutzern gestützt und weisen auf eine Zunahme der Zahl der Anhänger von frauenfeindlichen und missbräuchlichen Konten während der Amtszeit von Musk hin, mit der Ermutigung von Social-Media-Trollen, die Verbreitung von Hassreden , die Verschlimmerung der Belästigung.

Mitarbeiter des Unternehmens und Personen, die bis vor kurzem dort gearbeitet haben, sagen gegenüber dem Panorama-Programm der BBC, dass die Aufrechterhaltung der Prozesse, die Twitter-Nutzer vor Trolling und Belästigung schützen, in dem chaotischen Arbeitsumfeld, in dem Musk immer zu seiner Verteidigung steht, schwierig wird.

Ich habe Dutzende von alten und neuen Twitter-Mitarbeitern für das Panorama-Programm interviewt, und einige von ihnen haben zum ersten Mal ihre Namen genannt.

Der frühere Leiter der Content-Design-Abteilung von Twitter, die die anregenden Funktionen entwickelt hat, die die Plattform glaubwürdig machen, sagt, dass alle in seinem Team gefeuert wurden und er dann gekündigt hat. Eine von Twitter in Auftrag gegebene interne Studie ergab, dass solche Sicherheitsmaßnahmen das Trolling um 60 Prozent reduzieren.

Ein Ingenieur, der bei Twitter arbeitet, sagt, dass niemand mehr diese Art von Arbeit macht, und vergleicht die Plattform mit einem Gebäude, das von außen normal aussieht, aber innen brennt.

Twitter reagierte nicht auf die Fragen der BBC.

Meine Recherchen für Panorama ergaben außerdem:

Es gibt Alarme auf Twitter, dass der sexuelle Missbrauch von Kindern zunimmt und nicht ordnungsgemäß mit der Polizei geteilt wird.

Gezielte Belästigungskampagnen und Beeinflussungsaktionen aus dem Ausland, die darauf abzielen, die Meinungsfreiheit einzuschränken, die einst Tag für Tag aus Twitter gelöscht wurden, werden laut einer Person, die immer noch Mitarbeiter des Unternehmens ist, nicht mehr „nicht bemerkt“.

Eine Sonderstudie für die BBC zeigte, wie frauenfeindliche Hasspostings seit dem Führungswechsel des Unternehmens zugenommen haben, wobei die Zahl der Follower von frauenfeindlichen und missbräuchlichen Accounts um 69 Prozent gestiegen ist.

Vergewaltigte Personen wurden von Konten ins Visier genommen, die aktiver geworden sind, seit das Unternehmen den Besitzer gewechselt hat, indem sie entweder die Sperrung aufgehoben oder neue Konten eröffnet wurden.

Wie wurde festgestellt, dass die Belästigung auf Twitter zunimmt?

Belästigung auf Twitter ist nichts Neues für mich. Ich bin ein Journalist, der seine Neuigkeiten über Desinformation, Verschwörungstheorien und Hasspostings in sozialen Medien teilt.

Während des größten Teils des vergangenen Jahres habe ich einen stetigen Rückgang der Belästigung auf allen Social-Media-Plattformen festgestellt. Seit November habe ich jedoch gesehen, dass die Belästigungen auf Twitter wieder zugenommen haben.

Es stellt sich heraus, dass ich mit dieser Beobachtung Recht hatte. Eine Gruppe der University of Sheffield und des International Center for Journalists hat die Hasspostings aufgespürt, die ich erhalten habe, und festgestellt, dass sich diese Art von Hasspostings gegen mich verdreifacht hat, nachdem Musk das Unternehmen übernommen hat, im Vergleich zum Vorjahr.

Alle Social-Media-Seiten stehen unter Druck, Hasspostings und verschwenderische Inhalte zu kontrollieren. Alle sagen, sie hätten Maßnahmen ergriffen, um damit umzugehen. Allerdings stehen die Maßnahmen nicht mehr ganz oben auf der Agenda von Twitter.

Ich ging nach San Francisco, wo Twitter seinen Hauptsitz hat, um nach Antworten zu suchen. Könnte es einen besseren Ort geben, um einen Ingenieur zu finden, der für das Schreiben der Computercodes von Twitter verantwortlich ist? Da er weiterhin für das Unternehmen arbeitet, bat er darum, seine Identität zu bewahren. Deshalb sprechen wir in diesem Artikel über ihn als Sam.

„Für jemanden im Inneren ist das Unternehmen wie ein Gebäude, das von außen solide aussieht, aber alle Module im Inneren brennen“, sagte Sam.

„Wenn man es von außen betrachtet, sieht es gut aus, aber ich sehe, dass nichts funktioniert. Rohre, Wasserhähne, alles ist kaputt.“

Sam sagt, dass das Chaos durch die Entlassungen so vieler Mitarbeiter ausgelöst wurde. Seit Musk das Unternehmen gekauft hat, wurde mindestens die Hälfte der Twitter-Mitarbeiter entweder entlassen oder ausgeschieden. Er erklärt, dass die Mitarbeiter jetzt ihre Schwerpunkte ändern müssen.

„Eine ganz neue Person ohne Erfahrung mit dem, was zuvor mehr als 20 Menschen getan haben. Das bedeutet viel mehr Risiko, eine erhöhte Wahrscheinlichkeit, dass etwas schief geht.“

Er erklärt, dass Twitter immer noch seine alten Vorsichtsfunktionen hat, aber die Teams, die diese Mechanismen entworfen und gewartet haben, sind weg.

„Es gibt so viele Dinge, die nicht funktionieren, und es gibt niemanden, der sich darum kümmert, was sich in Ungereimtheiten äußert.“

Laut Sam hat die Verwirrung dieses Ausmaß erreicht, weil Musk den Twitter-Mitarbeitern nicht vertraut.

Er sagt, er habe Ingenieure von einem anderen Unternehmen von Musk, wie dem Unternehmen, das das Elektroauto Tesla herstellt, hinzugezogen und sie gebeten, die Arbeit der Ingenieure innerhalb weniger Tage zu bewerten, und dann entschieden, wen sie entlassen. „Es dauert Monate, diese medizinischen Prozesse zu verstehen“, fügt er hinzu.

Sam erklärt, dass sich diese Unsicherheit auch an den Sicherheitsmaßnahmen zeigt, die Musk um ihn herum getroffen hat.

„Wo auch immer er im Büro hingeht, er hat mindestens zwei große, große Hollywood-Kameraleute bei sich. Selbst wenn er auf die Toilette geht.“

Sam denkt, es ist ein Geldkonto für Musk. Er erklärt, dass alle Reinigungs- und Kantinenarbeiter entlassen wurden und dass Musk sogar versuchte, seinen Mitarbeitern Pflanzen zu verkaufen, die ins Büro gestellt werden sollten.

Lisa Jennings Young, ehemalige Leiterin des Content-Designs bei Twitter, war eine der Mitarbeiterinnen, die sich auf die Entwicklung von Funktionen spezialisiert hat, um Nutzer vor Hassinhalten zu schützen.

Die Plattform war natürlich ein von Trollen heimgesuchtes Gebiet, bevor Musk sie kaufte, aber Jennings Young sagt, sein Team habe einige Fortschritte dabei gemacht, dies einzuschränken.

Ein Twitter-interner Forschungsbericht, der von der BBC eingesehen wurde, unterstützt diese Behauptung ebenfalls.

„Es war keineswegs perfekt. Aber wir haben uns bemüht und immer besser gemacht“, sagt er.

Jennings Young spricht über seine Erfahrungen, indem er es zum ersten Mal nach der Übernahme des Unternehmens durch Musk nennt.

Das Team von Jennins Young hat an einer Reihe neuer sicherheitsrelevanter Funktionen gearbeitet.

Inmitten davon befand sich eine Sicherheitseinstellung, die missbräuchliche Konten automatisch blockieren konnte. Die Gruppe hat auch Hashtags für betrügerische Tweets und eine Funktion namens „Schädliche Antwortwarnung“ entworfen.

Dieser „Anstupser“ oder diese Warnung warnte die Benutzer, es sich zweimal zu überlegen, bevor sie anstößige Tweets posten, dank der Erkennung bestimmter Wörter durch künstliche Intelligenz.

Der von der BBC überprüfte interne Twitter-Forschungsbericht weist auch darauf hin, dass dieser Warnmechanismus und andere Sicherheitskonzepte wirksam sind.

„60 Prozent der Nutzer, die einen weiteren Baht durch einen Schubs erhalten haben, haben ihre Tweets geändert oder gelöscht“, sagt Jennings Young.

„Aber interessanter, nachdem wir die Leute gewarnt hatten, gab es danach eine 11-prozentige Reduzierung von Tweets mit schädlichem Inhalt.“

In der Zeit, in der diese Sicherheitsfunktionen implementiert wurden, gab es laut einer gemeinsamen Untersuchung der University of Sheffield und des Center for International Journalists auch einen Rückgang der Belästigungen auf Twitter gegen mich.

Es ist nicht möglich, diese beiden Phänomene direkt miteinander in Beziehung zu setzen, aber wir können sagen, dass bei der Betrachtung zusammen mit den Dokumenten ein Interesse an der Wirksamkeit der Maßnahmen besteht.

Doch Ende Oktober 2022, als Musk übernahm, wurde das gesamte Team von Jennings Young entlassen, und er verließ das Unternehmen auf eigenen Wunsch Ende November.

Nachdem das Team gegangen war, fragte ich, was mit den Sicherheitsfunktionen passiert sei:

„Im Moment hat niemand mit ihnen zu tun“, sagte er.

Diese Wette wollten wir ausprobieren:

Er bat mich, es zu twittern, was voraussichtlich die Warnung auf dem Poke-Formular erhalten würde.

Als Antwort auf einen seiner Tweets schrieb ich „Twitter-Mitarbeiter sind faule Verlierer. Spring von der Golden Gate Bridge und stirb“ aus einem privaten Profil heraus.

Aber es kam keine Warnung. Ein weiterer beunruhigender Tweet, den wir gesendet haben, erhielt eine Warnung.

Aber Jennings Young sagt, dass ein Post, bei dem man jemandem den Tod wünscht, auch im Netz gefangen werden sollte.

Wie Sam behauptet, scheinen die Sicherheitsfunktionen nicht wie beabsichtigt zu funktionieren.

Während dieser Recherche schrieben viele Leute, dass der Hass, den sie auf Twitter erhielten, zunahm, nachdem Musk die Macht übernommen hatte, und sie schickten Beispiele für Rassismus, Antisemitismus und Frauenfeindlichkeit.

Ellie Wilson, die in Glasgow lebt, wurde an der Universität vergewaltigt und postet seit letztem Sommer Social-Media-Beiträge über ihre Erfahrungen. Auf Twitter hatte er damals unterstützende Rückmeldungen erhalten.

Aber im Januar sah er sich einer Welle des Hasses gegenüber, als er über die Person twitterte, die ihn angegriffen hatte und vom Gericht für schuldig befunden wurde. Sie erhielt beleidigende und frauenfeindliche Antworten, einige schrieben sogar, dass sie eine Vergewaltigung verdient habe.

„Das Schwierigste für mich war, als Leute argumentierten, dass ich nicht wirklich vergewaltigt wurde, dass dies nicht echt war, dass ich Bullshit redete. Es ging um ein sekundäres Trauma“, sagt er.

Bevor Musk das Unternehmen übernahm, hatte Wilson nur wenige Anhänger. Aber als ich mir dann die Accounts ansah, die Hassinhalte an ihn verschickten, fiel mir auf, dass die Trollprofile nach Musk aktiver waren. Dies deutete darauf hin, dass die zuvor ausgesetzten bald wiedereröffnet würden.

Einige Konten wurden gerade eröffnet, als Musk das Unternehmen übernahm.

Diese Konten, die kein Profilfoto oder andere selbstidentifizierende Informationen teilten, schienen einen Job zu haben, hasserfüllte Inhalte zu posten.

Mehrere von ihnen überwachten und kontaktierten bekannte Konten, die beschuldigt wurden, Frauenfeindlichkeit und Hassreden zu verbreiten, und die nach dem Amtsantritt von Musk wiedereröffnet werden durften.

Nachdem Musk das Unternehmen übernommen hatte, beschloss er, Tausende von gesperrten Konten wieder zu eröffnen, darunter das umstrittene Social-Media-Phänomen Andrew Tate.

„Indem Sie diese Leute wieder auf die Plattform bringen, stärken Sie sie. Und Sie sagen ihnen: ‚Was Sie tun, ist in Ordnung, Sie können weitermachen‘“, sagt Ellie Wilson.

Einige dieser Konten zielten auch auf andere Vergewaltigungsopfer ab, mit denen Wilson in Kontakt stand.

Andrew Tate, eines der oben genannten Phänomene, beantwortete die Fragen der BBC nicht.

Eine neue Studie, die vom in Großbritannien ansässigen Institute for Strategic Dialogue veröffentlicht wurde, das sich mit Desinformation und Hassinhalten befasst, bestätigt auch unsere Ergebnisse über Trolle, die es auf Ellie Wilson abgesehen haben.

Laut dieser Recherche wurden seit der Übernahme des Unternehmens durch Musk Zehntausende neuer Konten eröffnet, die sofort damit begannen, missbräuchliche und frauenfeindliche Konten zu verfolgen. Die Aufrufrate dieser Konten ist im Vergleich zu vor Musk um 69 Prozent gestiegen.

Die Untersuchung zeigt auch, dass diese missbräuchlichen Netzwerke derzeit wachsen und dass Musks Übernahme von Twitter ein „permissives Umfeld“ für die Erstellung und Nutzung solcher Konten geschaffen hat.

Rentabilitäts- und „Redefreiheits“-Ziele

Elon Musk hat getwittert, dass seine Prioritäten seit der Übernahme des Unternehmens darin bestehen, Twitter zu einer rentablen Investition zu machen und seine Meinungsfreiheit zu erweitern.

Im Dezember 2022 veröffentlichte er ein internes Dokument mit dem Titel „Twitter Files“, in dem er den Zusammenhang der Überzeugung des Unternehmens erläuterte, dass es seine Richtlinien zur Suspendierung und Verwaltung unter der alten Regierung nicht auf faire Weise angewendet habe.

Aber die Mitarbeiter des Unternehmens, mit denen ich gesprochen habe, glauben, dass Musk es nutzt, um die Verteidigung der Benutzer vor verschwenderischen Posts vollständig aus ihren Prioritäten zu entfernen.

Sogar die Nachricht, dass er sich gegen gefährliche Inhalte wie sexuelle Belästigung von Kindern und Belästigungsnetzwerke einsetzt, täuscht nach Ansicht einiger Mitarbeiter, und diese Probleme werden nicht mehr so ​​akribisch behandelt wie früher.

In seiner alten Form versuchte Twitter, nicht nur gegen einzelne Troll-Accounts, sondern auch gegen „Influence Operations“, also staatlich sanktionierte Kampagnen gegen Demokratie, Dissidenten oder Journalisten, schonend vorzugehen.

Ray Serrato war Teil einer Gruppe, die sich auf Gegenmaßnahmen gegen diese Art von Operationen spezialisiert hatte.

Er verließ die Mission im vergangenen November, weil er das Gefühl hatte, dass es keine klare Vision für den Schutz der Benutzer unter der neuen Regierung gab.

Serrato erklärt, dass seine Gruppe diese Art von fragwürdigen Aktivitäten jeden Tag auffängt. Jetzt wurde das Team, mit dem er arbeitete, aufgelöst und arbeitete mit einer Grundkapazität.

„Twitter ist ein Ort, an dem Journalisten herauskommen und Regierungen kritisieren können, aber ich bin mir nicht sicher, ob das noch möglich ist.

„Kritische Spezialisten, die potenzielle Bedrohungsakteure oder Spezialgebiete von Russland bis China überwachen, gehören nicht mehr zum Team“, sagt er.

Ein anderer Twitter-Mitarbeiter, den wir hier mit dem Namen Rory bezeichnen, befürchtet, dass die Zahl der sachkundigen Mitarbeiter zurückgehen wird.

Er glaubt, dass dies Musks Prioritäten im Umgang mit der Gefahr behindert, dass Pädophile ihre Opfer in soziale Medien locken und missbräuchliche Links teilen.

Rory arbeitete bis vor kurzem in der Abteilung für sexuellen Missbrauch von Kindern.

Die Gruppe, für die er arbeitete, identifizierte Konten, die missbräuchliche Inhalte über Kinder verbreiteten, und meldete das Schlimmste der Polizei.

Er erklärt, dass diese Art von Inhalten bereits ein großes Problem war, bevor das Unternehmen den Besitzer wechselte, und selbst dann reichte die Anzahl der Mitarbeiter nicht aus.

Aber der Teil, für den er arbeitete, bekam seinen Anteil an den Entlassungen, kurz nachdem die Verwaltung den Besitzer gewechselt hatte. Das zwanzigköpfige Team wird auf sechs oder sieben Personen reduziert. Rory glaubt, dass diese Zahl nicht ausreicht, um die Arbeitsbelastung zu bewältigen.

Rory sagt auch, dass sich vor seinem Ausscheiden aus dem Unternehmen weder Musk noch ein Mitglied der neuen Administration mit ihm und seinem Team, das über jahrelange Erfahrung verfügt, in Verbindung gesetzt habe.

„Man kann nicht einfach ein Unternehmen übernehmen und sich mit den Experten dort beraten und glauben, alles über den Umgang mit Kindesmissbrauch zu wissen“, sagt sie.

Twitter sagt, dass es in nur einem Monat 400.000 Konten geschlossen hat, um die Plattform zu einem vertrauenswürdigeren Ort zu machen.

Aber Rory glaubt, dass es derzeit nicht genügend Mitarbeiter im Unternehmen gibt, die über ausreichende Kenntnisse verfügen, um Bedenken wegen Kindesmissbrauchs effektiv bei der Polizei zu melden.

„Sie können Hunderttausende von Konten in einem Monat sperren. Wenn jedoch der Teil der Meldung dieser Inhalte an die Strafverfolgungsbehörden nicht stattfindet, hat dies keinen Sinn und viele der Benutzer, deren Konten gesperrt sind, werden ein neues eröffnen Konto und fortfahren.“

Für diese Show wollte ich mich mit Elon Musk treffen und ihm Fragen über die Twitter-Übernahme, seine Vision und den bisherigen Verlauf stellen.

Ich habe versucht, ihn per E-Mail, Tweets und Twitter-Umfragetechniken zu erreichen. Ich hatte gehofft, Ihre Aufmerksamkeit zu bekommen. 89 % der 40.000 Benutzer, die an meiner Twitter-Umfrage teilgenommen haben, sagten, Musk solle meine Fragen beantworten. Eine Antwort erhielt ich jedoch nicht.

Twitter und Musk haben immer noch nicht auf die Punkte reagiert, die in der Panorama-Recherche der BBC vorgebracht wurden.

Ich habe gehört, dass die gesamte Kontaktgruppe von Twitter entweder gekündigt oder rausgeschmissen wurde.

Die Richtlinien von Twitter sind im Internet aufgelistet, und „die Stimme des Benutzers zu verteidigen und zu respektieren“ wird immer noch zu den Kernkosten gezählt.

T24