Créée par Charles Cohen, un développeur français de 22 ans, l’application Bodyguard protège ses utilisateurs des commentaires haineux publiés sur YouTube et Twitter, y compris pendant les lives.
Le fonctionnement de son algorithme semble bien plus efficace que les filtres proposés par les réseaux sociaux et qui nécessitent un paramétrage extrêmement minutieux et exhaustif de la part de l’utilisateur.
Internet est devenu un lieu d’échanges où tout le monde veut s’exprimer et où l’insulte est facile, virant trop souvent au harcèlement. Ainsi est né le projet Bodyguard : « en deux millisecondes » l’appli est capable d’identifier les insultes adressées à un utilisateur, avec une marge d’erreur de 2%.
Les commentaires supprimés avec l’approbation des utilisateurs de l’application ne contenaient fin 2017 que 1,5% de faux-positifs, une faible marge d’erreur inégalée par les outils similaires selon Charles Cohen.
Une modération intelligente, qui n’est pas basée sur l’IA
D’abord, Charles Cohen a défini une liste d’insultes francophones déclinées dans des milliers de propositions et a appris 60 millions de mots-clés à son logiciel. Mais son programme s’intéresse aussi aux mots qui précèdent et suivent l’insulte, afin d’en déterminer l’intention et de préserver la liberté d’expression des internautes bienveillants qui utiliseraient par exemple des tournures de phrases grossières telles que « les haters sont des connards » ou « ta vidéo, c dla merde. Non jrigole ».
Bodyguard se veut plus efficace que la modération des réseaux sociaux. Si beaucoup d’intelligences artificielles utilisées pour modérer apprennent des bases de données, elles ne sont pas pour autant capables de comprendre les subtilités du langage humain. Charles Cohen a passé six mois à entraîner son programme et continue à lui apprendre chaque jour avec de nouveaux commentaires. «Je ne voulais pas supprimer automatiquement les insultes, mais plutôt permettre à mon programme de les comprendre en contexte», ainsi Bodyguard prend en compte les relations entre les internautes : par exemple, des insultes échangées entre amis pourront être considérées comme des plaisanteries. Et pour être vraiment efficace, le programme comprend le langage SMS, les fautes, les émojis…
Le programme s’attache aussi au profil de l’utilisateur. Par exemple, si la personne qui l’utilise est une femme, il sera plus vigilant face aux remarques misogynes en reconnaissant les types d’insultes les plus prononcées. Il en va de même pour les injures homophobes, racistes, antisémites… Le tout avec l’intervention possible de l’utilisateur, qui peut indiquer vouloir bloquer par défaut les trolls, les menaces, les injures physiques…
Alors que Google et les réseaux sociaux sont régulièrement épinglés pour laxisme dans leur modération, Bodyguard permet à des Youtubeurs de se protéger gratuitement et ce, sans publicités.
Installez Bodyguard sur Android
Pour aller plus loin:
Êtes-vous sûr d’être bien protégé sur les réseaux sociaux ?
Curieuse et passionnée par le numérique, Charlène analyse et décrypte pour vous les enjeux d’Internet au quotidien : technologies de connexion, TV, intelligence artificielle, cybersécurité, réseaux sociaux…
Son objectif : vous donner les clés pour comprendre les technologies qui vous entourent et protéger efficacement vos usages, sans jargon technique inutile.
Nordnet se réserve le droit de publier le commentaire, accompagné du Nom renseigné. Le champ du commentaire n’est pas destiné à recevoir une question liée à de l’aide, de l’assistance, ou une éventuelle réclamation concernant une offre de Nordnet. Si vous avez besoin d’aide, vous pouvez consulter en bas de la page, la rubrique assistance ou nous contacter via le formulaire de contact accessible ci-dessous ou sur www.nordnet.com, ou encore en appelant le 3420 (service gratuit + prix appel).
Les informations assorties d’un astérisque sont nécessaires au traitement de votre commentaire. A défaut, elles sont facultatives. Ces informations font l'objet d'un traitement informatisé, sous la responsabilité du Président Directeur Général de la société Nordnet, agissant en qualité de Responsable de traitement, et sont destinées aux services et partenaires de Nordnet chargés de son exécution et de toutes suites qui pourraient en résulter.
L’utilisateur garantit l'exactitude des éléments personnels communiqués et s’engage à les maintenir à jour en cas d’enregistrement sur le navigateur. Les traitements sont réalisés sur les bases légales : intérêt légitime (modération). La politique de traitement des données à caractère personnel (DCP) de Nordnet est accessible via le lien ci-dessous ou sur www.nordnet.com.
Conformément aux dispositions légales et règlementaires applicables, le Client dispose notamment d'un droit d'accès, de rectification et d'opposition au traitement de ses données personnelles, à la réception d’informations commerciales le cas échéant. Pour exercer ces droits, la personne concernée peut adresser un courrier au Département Gestion Clients de Nordnet à l’adresse suivante : 245 Boulevard de Tournai (5ème étage) CS 20458, 59664 VILLENEUVE D’ASCQ CEDEX, ou un courrier électronique à l'adresse : coordonnees@nordnet.com (seules les demandes portant sur les données à caractère personnel seront traitées).
Les données à caractère personnel (DCP) sont conservées en base active le temps nécessaire à l’accomplissement des finalités visées ci-dessus (cf. politique de traitement des DCP), sans préjudice des obligations de conservation légale ou des délais de prescription.