Tech & internet

Harcelé par les trolls, il lance un robot pour traquer les nazis cachés

Repéré par Léa Polverini, mis à jour le 01.01.2018 à 16 h 18

Repéré sur The New York Times

Après avoir été désigné journaliste juif le plus harcelé de l'année 2016 sur Twitter, Yair Rosenberg s'est improvisé chasseur de nazis 2.0.

Ghostbusters, d'Ivan Reitman, 1984 | via Allociné

Ghostbusters, d'Ivan Reitman, 1984 | via Allociné

Être journaliste politique et juif pendant une campagne présidentielle n'est pas de tout repos, surtout quand il s'agit de celle de Donald Trump. Yair Rosenberg, qui cumule les deux états, a été en 2016 le deuxième journaliste juif le plus harcelé de Twitter, d'après une étude conduite par l'Anti-Defamation League (ADL): insultes antisémites, menaces, photomontages à base de chambres à gaz, tout y est passé.

«En conséquence, je suis devenu une sorte d'expert non intentionnel des trolls de l'alt-right et de leurs tactiques», explique Rosenberg.

Au-delà d'individus très furieux derrière leur écran et leurs images de grenouilles, et très inquiets d'être reconnus par un employeur qui ne partagerait ni ne goûterait leurs saillies nazies, Rosenberg s'est intéressé au cas de ceux qu'il appelle les «trolls imposteurs»: des «individus plus insidieux, dont les magouilles numériques peuvent avoir bien plus de conséquences que les platitudes occasionnelles de fanatiques».

Le troll imposteur

Le troll imposteur, comme son nom l'indique, avance masqué. Plutôt que d'attaquer frontalement les juifs ou autres ou autres groupes sujets à subir des discriminations, il s'approprie leur identité et, se faisant passer pour l'un d'eux, fort de l'argument spécieux du «j'en suis», en profite pour les diffamer.

«L'arnaque se passe comme suit: l'imposteur prend une photo en ligne d'un juif, d'un musulman, d'un Afro-Américain ou d'une personne issue d'une autre minorité —typiquement de quelqu'un portant des marqueurs identitaires clairs, comme un hassidim portant une kippa ou une femme un hijab. Utilisant cette image comme avatar Twitter, le fanatique ajoute ensuite des épithètes ethniques et progressistes à sa biographie: «juif», «sioniste», «musulman», «ennemi de l'alt-right».

Leur fausse identité forgée, les trolls s'introduisent ensuite dans des conversations avec des utilisateurs en vue de Twitter —des conversations souvent vues par des dizaines de milliers d'abonnés— et se mettent à dire des choses horriblement racistes.»

De cette façon, les imposteurs attisent l'opprobre sur ces communautés de l'intérieur, tout en préservant leur propre parole d'une disqualification directe de la part de leurs lecteurs. Comme le relève Rosenberg, il est peu probable que l'utilisateur moyen de Twitter aille vérifier l'identité présumée du troll, ne serait-ce qu'avec une recherche d'image inversée. Et il est certain que Twitter même ne fait pas de chasse au troll.

Ainsi naquit Impostor Buster

Constatant cela, Rosenberg a donc décidé de se lancer lui-même dans une traque aux imposteurs, et fit appel à son propre réseau pour trouver les moyens techniques de faire face à ces harceleurs. Avec l'aide d'un développeur de San Francisco, Neal Chandra, ils créèrent «Impostor Buster» («le Briseur d'imposteurs»). Le bot patrouillait sur Twitter, publiant des réponses ou mentions à chaque fois qu'un nazi fardé intervenait dans une discussion pour le dénoncer. L'entreprise fut victime de son succès: ne pouvant tromper le bot, les trolls se mirent à le signaler massivement au support de Twitter pour «harcèlement», renversant les logiques à l'oeuvre.

«Twitter se rangea du côté des nazis», écrit laconiquement Rosenberg. En avril, Impostor Buster fut suspendu, avant d'être rétabli grâce à l'aide de l'ADL. La réduction de messages envoyés par le bot ne suffit pas à empêcher une seconde suspension ce mois-ci, visiblement définitive.

Factuellement, le bot a été signalé pour spam, et il spamait. Mais il spamait des néonazis. Eux-même spamant, de façon moins automatique mais tout autant systématique des populations précises, à l'aune d'idéologies la plupart du temps racistes. L'ironie de cela, souligne Rosenberg, c'est qu'Impostor Buster a été rayé de Twitter pour avoir fait son propre travail.

Pour une responsabilité collective

Les données qui circulent sur des plateformes de l'ampleur de Twitter sont en réalité trop nombreuses pour être traitées et régulées de manière exhaustive par les entreprises mères. L'idée même de résoudre les problèmes de messages haineux par un meilleur système de censure ne semble donc pas approprié à la structure telle qu'elle est.

L'horizon qu'ouvrait Impostor Buster était en revanche celui d'une communauté en ligne «écartant activement les fanatiques et les agresseurs à travers un contrôle autogéré et des normes collectives». La réponse à la démesure et à l'absence de régulation adaptée, ne serait pas celle d'une loi dictée d'en haut, mais d'une «culture plus saine» développée par le bas, soutient Rosenberg: ce faisant, il ne fait que réaffirmer la nécessité d'une responsabilité collective face aux harceleurs et autres hérauts de l'incitation à la haine.

«En d'autres mots, le problème avec Twitter, ce n'était pas qu'Imposter Buster était trop gros. C'est qu'il était trop petit.»

En poursuivant votre navigation sur ce site, vous acceptez l’utilisation de cookies pour réaliser des statistiques de visites, vous proposer des publicités adaptées à vos centres d’intérêt et nous suivre sur les réseaux sociaux.
> Paramétrer > J'accepte