Social bots : la technologie derrière les fake news

Qu’est-ce qu’exactement un social bot ? Ce terme a été particulièrement utilisé dans des discussions Internet autour du Brexit et de l’élection de Donald Trump à la présidence des États-Unis. Les social bots sont des sortes de robots d’opinion qui influent sur les discussions des réseaux sociaux. En 2017, la crainte était que ceux-ci influent également sur le vote présidentiel en France. L’influence des social bots est-elle vraiment aussi importante ? Que se cache-t-il réellement derrière un social bot et comment fonctionne-t-il ?

Les social bots feignent d‘être des utilisateurs humains sur les réseaux sociaux. Ils ne donnent aucun indice pour pouvoir détecter qu’il s’agit de machines. Ils sont cependant évalués comme « fake accounts ». Les autres utilisateurs sont trompés par des données de profil pertinentes et partent du principe qu’ils ont affaire à des humains. Ce type de robot est souvent mis en place pour propager les opinions sur les réseaux sociaux ou activer une discussion dans le sens des utilisateurs.

Les entreprises utilisent les social bots à des fins marketing, par exemple, pour feindre la popularité de produits. De fausses évaluations positives de produits seront également rédigés par ces robots d’opinion. Ils peuvent également servir à des fins politiques. Ils influent alors sur les discussions publiques envers un parti ou un candidat politique spécifique. Pour discréditer les opposants politiques, les social bots utilisent la désinformation. Il n’est donc pas étonnant que cette technologie fasse souvent débat avec des termes explosifs tels que « fake news » (fausses informations), « hate speech » (incitation à la haine), « filter bubbles » ou la bulle de filtres ou encore le « feedback loop » (boucle de rétroaction).

L’effet de polarisation des social bots interpelle journalistes et entreprises de médias, ainsi que les chercheurs en sciences humaines et sociales. De plus, en raison de l’importance croissante des réseaux sociaux, une branche qui gagne de l’argent grâce au développement et à l’utilisation des robots sociaux s’est développée. L’utilisation de social bots est légale, et offrir la technologie des robots influenceurs d’opinion sur Internet constitue une affaire lucrative.

Cependant, la technologie ne devrait pas être diabolisée aussi rapidement. Elle se laisse finalement utiliser de manière sensée, par exemple sous forme de programmes de chat sur les pages des entreprises en réponse aux questions des clients, sans contribuer à la désinformation ou à la manipulation d’opinion.

Pour comprendre quel est le danger que représentent les social bots et comment l’on peut les reconnaître, il faut d’abord savoir comment fonctionne la technologie de ces robots influenceurs d’opinion. Voici une courte définition sur ce qu’est exactement un bot.

Un bot (de l’anglais « robot ») est un programme automatisé, conçu pour mener des actions spécifiques qu’il exécute de manière réactive ou régulière. Le bot accomplit ceci sans être commandé par un humain. Il analyse son environnement et « décide » lui-même selon chaque situation de l’action qu’il exécutera.

Les divers types de bots se différencient parfois clairement en ce qui concerne la complexité de leur technologie. La gamme s’étend de simples algorithmes jusqu’à la très complexe technologie IA (intelligence artificielle). Si un bot travaille avec l’intelligence artificielle, il est alors capable d’apprendre : il étudie son environnement et s’y adapte. Selon la fonction, un bot peut ne pas du tout être perceptible par les utilisateurs humains. Il accomplit son travail en arrière-plan sans se faire remarquer ou bien se manifeste comme un humain (il imite le comportement humain). Nous vous présentons ci-dessous quelques types de bots :

• Les crawlers Web : ils appartiennent à la catégorie de bots qui travaillent de manière indétectable. Ils sont la plupart du temps mis en place par des moteurs de recherche pour fouiller le Web de manière automatique, analyser les pages Web et entrer ces informations dans les résultats de recherche. Ils agissent le plus souvent de manière inoffensive dans le cadre des standards généraux connus, comme le Protocole d’exclusion des robots. D’autres crawlers Web agissent en dehors des normes et collectent des données non autorisées au sein d’Internet.
• Les bots de chats : contrairement aux crawlers Web, les bots de chats travaillent de manière réactive : ils réagissent aux activités humaines et sont ainsi spécialisés dans l’apport de réponses sensées répondre aux participants du chat. Dans la vie de tous les jours, les chats-bots se comportent comme des assistants digitaux. Un assistant de site Web peut par exemple guider l’utilisateur à travers le site, ou répondre aux questions sur le thème ou l’offre du site en question. Même des assistants de langue tels que Siri ou Ok Google ou des assistants de langue externe comme Amazon Echo ou Google Home reposent sur la technologie des chats bots.
• Les joueurs virtuels : des acteurs virtuels qui réagissent de manière variable envers les humains sont nécessaires dans beaucoup de jeux informatiques. Ces opérations sont exécutées par des bots. On parle alors de caractères non joueurs (jeux de rôle), aim-bots (jeux d’action), poker-bots (poker en ligne), etc. Ces bots agissent de manière réactive et travaillent largement avec la technologie de l’intelligence artificielle. Un exemple spectaculaire est l’intelligence artificielle de Google portant le nom de AlphaZero, qui a impressionné aussi bien aux échecs qu’au jeu de dames. De telles intelligences se trouvent aussi dans l’alimentation des jeux vidéo sous forme de bots.
• Social bots : ils représentent chaque bot qui est utilisé au sein des réseaux sociaux. Ils travaillent aussi bien de manière répétitive que réactive : ils likent, commentent, partagent et essayent de faire réagir les autres utilisateurs ou engager une conversation. Pour que les autres utilisateurs réagissent naturellement avec eux, ils simulent une identité humaine.

Le crawler Web et le chat-bot sont considérés comme les deux types de bots fondamentaux. Les générations de bots actuels combinent souvent des fonctions de base : l’exploitation cachée des données des crawlers Web et la simulation de communication humaine des chat-bots. Les social bots recourent à ces deux fonctions élémentaires.

Un social bot est un programme automatique qui simule le comportement humain sur les réseaux sociaux. Les robots sociaux prennent part à des discussion sur Twitter ou Facebook et apparaissent comme des utilisateurs humains. Ils diffusent sur les médias sociaux du contenu relatif à un thème spécifique, la plupart du temps avec la finalité d’influencer la formation d’opinion du public.

Les social bots sont en règle générale utilisés à des fins marketing ou politiques. Il n’est pas rare que les robots sociaux répandent aussi des fake news. Ils influencent de cette façon l’ambiance et les discussions Internet, c’est pourquoi on les appelle aussi robots influenceurs d’opinion : pour manipuler l’opinion, les social bots utilisent des techniques qui sont typiques des bots et également utilisées par d’autres types de bots. Ils cherchent sur les réseaux sociaux après des discussions sur un thème prédéfini (exploitation des données comme avec les crawlers Web) et influencent celles-ci en tant que participant virtuel à la conversation (simulation de conversation comme avec un chat-bot).

En ce qui concerne leurs fonctions, les robots sociaux s’apparentent très fortement aux chats-bots ou aux assistants digitaux qui servent eux-mêmes à communiquer avec les humains. Il existe cependant une différence décisive : alors que les chat-bots présentent la plupart du temps un service de conseil que le partenaire de conversation utilise, les social bots, quant à eux, manipulent et trompent le l’interlocuteur humain. Si les chat-bots peuvent remplir différentes fonctions, lorsqu’ils sont mis à profit en tant que programme technique, les social bots n’en ont qu’une seule, qui consiste à tromper les autres utilisateurs des réseaux sociaux, afin de pouvoir influencer leur opinion.

Il existe beaucoup d’exemples relatifs à l’utilisation manipulatrice des social bots. Rien qu’en 2016 et 2017, l’utilisation des robots sociaux fut enregistrée pour presque toutes les grandes élections publiques, particulièrement les votes portant sur le Brexit, l’élection présidentielle aux Etats-Unis, l’élection présidentielle en France et l’élection d’un nouveau chancelier en Allemagne, qui ont été la cible de discussions exécutées par les social bots.

• Le vote du Brexit : en juin 2016, la majorité des Britanniques a décidé de sortir de l’Union Européenne. Auparavant, des discussions virulentes avaient eu lieu sur les réseaux sociaux et il fut établi que de nombreux robots influenceurs d’opinion y avaient participé. Comme cet article du journal The Independent en faisait état, les social bots ont joué un rôle stratégique particulièrement important dans le camp des pro-brexit.
• L’élection présidentielle aux États-Unis : en novembre 2016, Donald Trump est élu 58^ème Président des États-Unis. Il y a eu d’innombrables informations qui démontrent que les social bots ont eu beaucoup d’influence sur le résultat serré de l’élection. Selon un autre article de l’Université D’Oxford, suite au premier débat télévisé, un tiers des tweets pro-Trump ont apparemment été écrits par un bot. La fake news selon laquelle le Pape aurait appelé à voter Trump a été partagée quasiment un million de fois, également par les robots sociaux ! Même pour les pro-Hillary Clinton, on recense une utilisation massive des robots influenceurs d’opinion.
• Élections fédérales en Allemagne : au regard des élections précédentes à l’étranger, l’élection du nouveau chancelier en Allemagne éveilla les craintes que les social bots influencent également l’opinion du public. Par conséquent, tous les partis en concurrence se sont prononcés contre l’utilisation des robots sociaux au cours de la campagne électorale, alors même que les social bots sont autorisés en Allemagne. Heureusement, les bots n’ont pas eu d’influence « visible » sur les élections législatives en Allemagne. Cependant, en raison du nombre relativement bas d’utilisateurs de Twitter en Allemagne, la portée est également assez faible, et c’est pourquoi peu de robots influenceurs d’opinion ont été utilisés.

Quelle influence ont eu les robots sociaux sur le résultat des élections ? Cette question est encore sujette à controverse. En particulier le vote concernant le Brexit et surtout l‘élection de Donald Trump, très inattendue et surprenante pour beaucoup, occupèrent des mois durant les couvertures et les pages des journaux français. Les utilisateurs soupçonnaient souvent que les robots influenceurs d’opinion étaient utilisés comme aides secrètes aux élections avant ces dites élections. Lors des élections, le nombre de messages redouble et il est difficile de différencier les posts d’un humain de ceux d’un bot. Si la plupart des posts et comptes de réseaux sociaux sont considérés comme « fake » par les autres utilisateurs humains et soupçonnés d’être l’œuvre des social bots, il n’empêche que les bots ont tout de même influencé les sondages politiques au cours de l’année 2017. Les effets des robots influenceurs d’opinion et des fake news sont par conséquent notoires : ils mènent à une grande perte de confiance dans le cadre de la communication digitale.

Un social bot poste des contributions le plus souvent sous un faux compte. Celui-ci dispose d’une photo de profil, de publication, de followers et même d’amis propres. Au travers de ce compte, le social bot répand ses messages marketing ou politiques. Ceci peut se faire au moyen de likes et de partages, ou sous forme de posts et de commentaires. Grâce à un programme d’interface de transmission (API), un social bot reçoit un accès aux réseaux sociaux et peut aussi bien recevoir qu’envoyer des données.

Les social bots agissent le plus souvent à des horaires journaliers, horaires auxquels les gens sont en général actifs. De plus, ils postent généralement leurs messages à des intervalles de temps variables. Tout ceci dissimule le fait qu’une machine se cache en réalité derrière les messages.

Qui plus est, un social bot peut aussi envoyer une demande d’amitié. Si une telle demande est acceptée par un utilisateur humain, le social bot pourra avoir accès à toutes les données de l’utilisateur, les collecter et les exploiter. Dès 2011, une étude canadienne prouvait que les social bots collectent des données et exploitent les informations de compte des personnes qui ont accepté leur demande d’ami.

Beaucoup de social bots sont programmés avec des algorithmes simples, qui sont basés sur des chaînes d’éléments simples comme « si » et « alors »: Si un thème pertinent est identifié, alors le Social Bot poste son contenu préprogrammé. Pour trouver des sujets appropriés, les robots influenceurs d’opinion travaillent avec des mots clés simples et scannent les fils d’actualité de Twitter ou les posts de Facebook après des mots spécifiques et des hashtags. Ensuite, ils publient des textes prédéfinis ou essayent d’orienter la conversation dans une direction spécifique.

Il existe tout de même des social bots techniquement très complexes. Grâce à l’intelligence artificielle, l’analyse de données complète et l’exploitation de textes, ces robots sociaux intelligents réussissent à générer toujours plus de nouveaux commentaires, qui se différencient des précédents. Parfois, les social bots peuvent même faire référence à l’actualité du jour dans leurs messages. Le plus souvent, ils construisent leurs messages sur différents textes en ligne, qu’ils arrangent à nouveau. Il est particulièrement difficile de démasquer ces social bots complexes.

Les robots influenceurs d’opinion travaillent uniquement de manière vraiment efficace lorsqu’ils sont connectés entre eux. Beaucoup de bots agissent entre eux de manière coordonnée dans ce que l’on appelle un botnet. Ils répandent les informations de manière encore plus effective. Les robots sociaux peuvent aussi liker et retweeter des messages qui ont été rédigés par un autre social bot. Leur influence grandit avec la masse liée au compte.

Pour pouvoir développer un social bot, les compétences techniques ne sont guère nécessaires : avec les outils appropriés, il est possible de créer un social bot sans grande connaissance en programmation. Il est facile de créer un faux compte utilisateur. Sur les générateurs disponibles, ils peuvent être créés de toute pièce, ou alors l’initiateur humain achète un faux compte déjà existant. Même les logiciels de commande automatique peuvent entre temps être achetés en ligne. Par le biais d’un programme d’interface de transmission, il est possible de procurer au bot l’accès à Twitter ou Facebook où il a au préalable réagi aux hashtags et aux mots clés. La facilité d’accès à la technologie contribue de manière significative à la propagation rapide des robots sociaux.

La propagation se fait aussi facilement par le biais des réseaux sociaux eux-mêmes puisque Facebook et Twitter maintiennent un accès délibérément et relativement facile à leurs interfaces de programmation : ceci devrait encourager les développeurs d’application à continuer de travailler sur de nouveaux logiciels pour leurs plateformes. Mais les réseaux sociaux n’offrent guère d’obstacles pour les social bots. Twitter, en particulier, est facile d’accès pour eux et donc la plupart des bots s’amusent aussi là-bas.

Les fonctions élémentaires d’un social bot sont certes les mêmes mais ils se distinguent tout de même, selon leur fonction, en trois types différents : le surchargeur, le trendsetter (lanceur de tendance) et l’auto troll.

1. Le surchargeur : le surchargeur est un bot qui inonde une conversation en ligne de ses commentaires. Il poste toujours les mêmes déclarations à maintes reprises et repousse ainsi d’autres contributions en arrière-plan. Le surchargeur est vraiment efficace uniquement lorsqu’il travaille en coopération avec d’autres bots. Quand plusieurs surchargeurs likent et commentent mutuellement leurs posts, les utilisateurs humains perdent rapidement le contrôle sur les discussions. Un échange de contenu est alors impossible de cette manière.
2. Le lanceur de tendance : les trendsetters agissent également en équipe : si un grand nombre de robots sociaux relayent un hashtag de manière coordonnée, ils peuvent apporter des contributions d’une portée énorme à ce sujet. Il est possible d’apparaître de cette manière dans les colonnes des tendances Facebook ou Twitter et le sujet pourra également être repris par la presse. Les robots influenceurs d’opinion pourraient fausser la pertinence du sujet choisi : les bots lanceurs de tendance garantissent que les phénomènes marginaux agissent comme des tendances révolutionnaires ou un petit groupe marginal comme un grand mouvement social.
3. L’auto-troll : il agit seul. Il essaye de distraire les utilisateurs qui s’expriment sur un sujet spécifique et tente de les impliquer dans la conversation. Il procède le plus souvent avec des déclarations provoquantes qui mènent les utilisateurs à la contradiction. De cette manière, la conversation est détournée du sujet réel, une conversation constructive devient polémique et enflammée. Les bots peuvent facilement empêcher un échange de contenu avec cette méthode.

Il est très difficile de découvrir qui se cache réellement derrière les social bots. Aujourd’hui, il n’existe pas une méthode sûre à 100 %, afin d’identifier à tout prix les faux comptes. Découvrir les développeurs responsables est encore plus difficile. Cependant, il existe quatre groupes qui peuvent tirer profit de l’utilisation des robots sociaux.

1. Le spécialiste marketing des réseaux sociaux et les influenceurs : les petites et grandes entreprises peuvent utiliser les robots sociaux pour le marketing caché. Les influenceurs, en revanche, veulent lancer des tendances et influencer les gens en s’aidant de l’assistance des robots influenceurs d’opinion. Les informations sur le groupe cible peuvent également être obtenues via un social bot puisque si la demande d’amitié d’un bot est acceptée, celui-ci bénéficie d’un accès complet aux données stockées dans le profil.
2. Acteurs politiques : des groupes de lobby (groupes de pression) ou des acteurs politiques sont soupçonnés d’utiliser les social bots. Les services secrets américains présument que des pirates informatiques russes se cachaient derrière de nombreux faux comptes et robots sociaux lors de la campagne électorale américaine. Que l’attaque vienne de criminels ou du gouvernement russe, tout ceci reste cependant obscur.
3. Autres acteurs ayant intérêt à former l’opinion publique : il existe d’autres acteurs qui veulent influencer les opinions au moyen des social bots. Il peut aussi bien s’agir de personnes privées que de groupes, d’organisations ou de criminels. Ce troisième groupe, un ensemble d’acteurs difficilement identifiables, est probablement le plus important de ceux qui sont mentionnés ici. Les personnes en cause utilisent les robots au profit d’un parti ou pour attirer plus d’attention sur des questions ou simplement pour jeter le trouble. Très souvent, l’objectif consiste à diffuser des contenus politiques extrêmes. Puisque ce groupe est très hétérogène, les intentions des utilisateurs peuvent difficilement être rassemblées sous un dénominateur commun.
4. Acteurs dénués de mauvaises intentions : il existe toute une frange de social bots "inoffensifs" qui, par exemple, vont liker massivement des commentaires sur Star Wars. Les bots de ce type ne servent à aucune finalité politique ou économique identifiable. Vraisemblablement, beaucoup d'entre eux ne sont que des gadgets techniques.

Le but des robots sociaux est, dans la plupart des cas, d’influencer les opinions et les tendances sur les réseaux sociaux. L’IMC (Integrated Marketing Communication qui est un mode de réflexion et d’action marketing qui fait voler en éclat les frontières habituelles de la communication marketing) résume les effets sociaux et économiques possibles de la manière suivante :

Cependant, la manière dont les robots influenceurs d’opinion remplissent leur fonction avec succès est sujette à controverse. Beaucoup d’experts sont d’accord : les social bots n’accomplissent pas particulièrement bien leur travail et n’ont ainsi guère d’influence sur les utilisateurs des médias sociaux.

Un article d’UX Magazine explique pourquoi les bots sont surestimés alors qu’ils disposent d’une gamme de réponses limitées et fournissent des réponses rigides, ce qui les trahit.

Cependant, il existe un consensus social sur le fait que l’activité et les effets des robots sociaux doivent faire l’objet de recherches plus approfondies. On peut donc supposer que la recherche sociale fournira des résultats plus précis dans les années à venir. En outre, pour des raisons prophylactiques, une investigation plus précise de la technologie est logique : à l’heure actuelle, alors que de nombreux bots sont encore faciles à découvrir, ceci ne sera plus le cas avec des bots techniquement plus avancés. Cela augmenterait également le potentiel d’impact des robots. Il est donc nécessaire d’élaborer des stratégies de solution à un stade précoce, afin de pouvoir réagir aux progrès techniques.

Identifier un social bot devient de plus en plus difficile en raison de la complexité croissante de ces robots influenceurs d’opinion. Cependant, il existe une succession de questions que l’on doit se poser lorsque l’on traite avec des comptes de médias sociaux, afin de pouvoir estimer s’il s’agit de vis-à-vis humains :

1. Dans quelle mesure est-il crédible qu’une personne conçoive un tel profil ? Des preuves sont souvent fournies par la photo de profil, l’ancienneté du compte ou le comportement des followers et les déclarations des followers : les bots suivent la plupart du temps de nombreux comptes, sans avoir eux-mêmes beaucoup de followers. Si un compte n’a qu’un ou deux amis, la probabilité qu’il s’agit d’un bot est comparativement élevée. La photo de profil ressemble-t-elle à une photo unique prise sur le vif, ou plutôt à une photo de modèle professionnel qu’un robot peut facilement extraire d’Internet ? De plus, la cohérence du texte de profil indique si on a affaire à un utilisateur humain. Par ailleurs, il faut également vérifier depuis quand le compte existe. Beaucoup de robots influenceurs d’opinion ne sont développés que peu de temps avant leur utilisation et ont donc souvent des comptes très récents.
2. Que publie le compte ? Si un compte publie à plusieurs reprises des posts similaires avec un choix de mots presque identiques ou des liens redirigeant vers les mêmes médias, il semble évident qu’il s’agit d’un bot censé amener un certain sujet dans la conversation. Un style de discours artificiel ou des erreurs grammaticales inhabituelles laissent également penser qu’il s’agit d’un bot. Enfin, les bots postent plus souvent qu’ils ne commentent.
3. À quelle fréquence le compte publie-t-il des contributions et à quelle fréquence en like-t-il d’autres ? D’autres conclusions peuvent être tirées de la fréquence à laquelle un compte est actif dans les réseaux sociaux. Un très grand nombre de posts, de likes et de partages sont tout aussi révélateurs qu’un nombre constant de messages postés chaque jour. Il faut également prêter attention au temps de réaction du compte : si le compte répond et poste dans un laps de temps de quelques secondes, c’est une indication claire qu’il ne s#agit pas d’un humain.
4. Comment le compte réagit-il aux questions contextuelles ? L’une des méthodes les plus fiables pour identifier un bot est de poser des questions dites contextuelles. Ce sont des questions auxquelles il faut répondre différemment dans chaque situation. Par ailleurs, les robots sociaux trouvent la pensée d’ordre spatiale difficile. Si l’on demande à un bot : « à quoi ressemble la photo de profil de la personne qui a commenté au-dessus de ton message ? », il aura du mal à répondre à cette question en rapport avec le contexte.

En conclusion, il est toujours utile de se rappeler comment fonctionnent les différents robots sociaux : si l’on observe un comportement perturbateur selon le type « surchargeur » ou « auto-troll », il ne faut pas se provoquer laisser ou distraire. Même s’il n’y a pas de bot derrière le compte, il est utile de l’ignorer et de continuer à discuter de manière constructive avec les autres utilisateurs. De cette façon, vous contrecarrez à la fois l’influence des robots sociaux et celles des trolls humains.