La plainte semble familière. « Je suis déçu que vous travailliez à intégrer des déchets d'IA sur le site », a déclaré une personne agacée, s'exprimant anonymement, dans un message en ligne. « Personne ne demande ça, nous voulons que vous amélioriez le site, arrêtez de facturer de nouvelles fonctionnalités. » Seulement, il ne s'agit pas d'un utilisateur ordinaire d'Internet se plaignant de l'IA imposée dans son application préférée. Il s'agit plutôt de se plaindre des plans d'un forum de cybercriminalité visant à introduire davantage d'IA générative. Comme des millions d'autres, les escrocs, les fraudeurs et les pirates de bas niveau sont agacés par l'empiètement de l'IA dans leur vie et par la prolifération de contenu de mauvaise qualité généré par l'IA dans leurs communautés en ligne. ### Le scepticisme face à l'IA grandit dans les forums clandestins « Les gens n'aiment pas ça », déclare **Ben Collier**, chercheur en sécurité et maître de conférences à l'**University of Edinburgh**. Dans le cadre d'une étude récente sur la manière dont les cybercriminels de bas niveau utilisent l'IA, Collier et ses collègues chercheurs ont constaté une opposition croissante à l'utilisation de l'IA générative dans les forums de cybercriminalité clandestins et les groupes de piratage. Au cours des cycles d'engouement et de battage médiatique autour de l'IA générative au cours des deux dernières années, certaines personnes publiant sur des forums de piratage sont passées d'une attitude positive quant à la manière dont l'IA peut aider au piratage à un scepticisme accru à l'égard de la technologie, selon l'étude, qui a également impliqué des chercheurs de l'**University of Cambridge** et de l'**University of Strathclyde**. Les chercheurs ont analysé 97 895 conversations liées à l'IA sur des forums de cybercriminalité depuis le lancement de **ChatGPT** en 2022 jusqu'à la fin de l'année dernière. Ils ont constaté des plaintes concernant des personnes qui publiaient des « explications sous forme de puces » sur des concepts de cybersécurité de base, des lamentations sur le nombre de publications de mauvaise qualité et des préoccupations concernant les aperçus de recherche IA de **Google** qui réduisaient le nombre de visiteurs sur les forums. ### Communauté contre IA : un choc des cultures Depuis des décennies, les forums de discussion et les marchés de la cybercriminalité, souvent d'origine russe, permettent aux escrocs de faire des affaires ensemble. Ce sont des lieux où les données volées peuvent être échangées, où des emplois de piratage sont annoncés et où les fraudeurs se moquent de leurs rivaux. Bien que les escrocs essaient souvent de s'escroquer mutuellement, les forums ont également un sentiment de communauté. Par exemple, les utilisateurs développent une réputation de fiabilité, et les propriétaires de forums organisent des concours d'écriture. « Ce sont essentiellement des espaces sociaux. Ils détestent vraiment que d'autres personnes utilisent [l'IA] sur les forums », explique Collier. Il affirme que la dynamique sociale des groupes peut être perturbée par des cybercriminels potentiels qui tentent d'améliorer leur réputation en publiant des explications de piratage générées par l'IA. « Je pense que beaucoup d'entre eux sont un peu ambivalents à l'égard de l'IA parce que cela mine leur prétention à être une personne compétente. » Les publications examinées par **WIRED** sur **Hack Forums**, un espace autoproclamé pour ceux qui s'intéressent au piratage et au partage de techniques, montrent une irritation causée par des personnes créant des publications avec l'IA. « Je vois beaucoup de membres utiliser l'IA pour rédiger leurs fils de discussion/publications et cela me met en colère car ils ne prennent même pas le temps d'écrire une ou deux phrases simples », a écrit un utilisateur. Un autre a été plus direct : « Arrêtez de poster de la merde d'IA ». Dans plusieurs cas, selon Collier, les utilisateurs de plusieurs forums semblent irrités par les publications d'IA car ils veulent se faire des amis. « Si je voulais parler à un chatbot IA, il existe de nombreux sites web pour cela… Je viens ici pour l'interaction humaine », indique une publication citée dans la recherche. ### L'impact limité de l'IA (jusqu'à présent) Depuis l'émergence de ChatGPT fin 2022, il y a eu un intérêt considérable pour les capacités de piratage de l'IA et la manière dont la technologie peut transformer la criminalité en ligne. Les pirates sophistiqués et les moins capables ont tous deux essayé d'utiliser l'IA dans leurs attaques. Alors que certains fraudeurs organisés ont boosté leurs opérations avec une technologie de changement de visage IA de plus en plus réaliste et des messages d'ingénierie sociale traduits par l'IA, beaucoup d'attention s'est portée sur les capacités de l'IA générative à écrire du code malveillant et à découvrir des vulnérabilités. « Les acteurs de la menace plus sophistiqués sont conscients des lacunes des modèles commerciaux qui ont des garde-fous, et ils savent comment contourner ces invites », explique **Ian Gray**, vice-président de l'intelligence chez la société de sécurité **Flashpoint**, faisant référence aux mécanismes de sécurité mis en place par **OpenAI**, **Anthropic** et Google. « Ils se méfient également des projets générés par l'IA sur les forums ou les marchés – il y a des faiblesses et des vulnérabilités, exposant parfois l'infrastructure sous-jacente », ajoute Gray. Flashpoint a vu des pirates discuter récemment des capacités potentielles de **Claude Mythos Preview**, le dernier modèle d'IA de pointe d'Anthropic. Certains cybercriminels ont également dénigré d'autres pour avoir prétendument utilisé l'IA dans leurs opérations de piratage – « tout ce qu'ils peuvent faire, c'est utiliser l'IA », a déclaré un groupe, selon l'analyse de Flashpoint. Collier affirme que jusqu'à présent, parmi les cybercriminels de bas niveau que son étude a suivis – pas les pirates sophistiqués ou soutenus par des États-nations – il n'y a eu aucun signe évident de « perturbation réelle » causée par l'IA. « Elle n'a pas significativement réduit la barrière de compétence à l'entrée, ni entraîné de perturbations graves des modèles économiques ou des pratiques établies », indique l'étude. « Au lieu de cela, son impact principal s'est fait sentir dans des domaines déjà hautement automatisés tels que la fraude SEO, les bots de médias sociaux et certaines formes d'arnaques amoureuses. » ### L'avenir de l'IA dans la cybercriminalité : une acceptation prudente ? Malgré l'accueil glacial de l'utilisation de l'IA sur les forums de cybercriminalité, d'autres y voient un potentiel. Certains utilisateurs sur Hack Forums ont déclaré qu'ils accueilleraient peut-être un assistant IA qui les « aiderait » à structurer leurs publications et à améliorer leur grammaire, mais ils fixent la limite à une IA capable de publier entièrement pour eux. « Un générateur d'IA pour les publications transformerait cela en un forum de robots parlant entre eux », a écrit une personne. Parallèlement, les chercheurs de Flashpoint ont repéré des pirates discutant de l'idée de construire un marché de la cybercriminalité « amélioré par l'IA », qui était présenté comme un moyen d'aider les gens à acheter des données volées et des comptes en ligne plus rapidement. Tout le monde n'était pas d'accord. Comme l'a écrit une personne : « C'EST UNE IDÉE STUPIDE DE MERDE DE METTRE DE L'IA DANS VOTRE MARCHÉ ».