L’entreprise américaine Anthropic a interdit des comptes par précaution après avoir détecté des tentatives suspectes d’utilisation de ses modèles dans des recherches susceptibles de contribuer au développement d’armes biologiques, ainsi que dans la conception d’armes conventionnelles et des activités de surveillance et de désinformation, selon un rapport consacré aux usages abusifs de ses technologies d’intelligence artificielle au cours des huit derniers mois.
L’entreprise a déclaré ne pas avoir pu déterminer avec certitude si les objectifs des titulaires de ces comptes étaient scientifiques ou malveillants. Elle a souligné que la nature des recherches biologiques compliquait la distinction entre usages pacifiques et nuisibles, les mêmes outils et méthodes pouvant contribuer à la mise au point de vaccins ou être détournés pour concevoir des armes biologiques.
Anthropic n’a pas révélé les noms des chercheurs, des institutions interdites ni des pays auxquels ils étaient liés, et n’a pas précisé les agents biologiques étudiés. Jacob Klein, responsable de la recherche sur les menaces au sein de l’entreprise, a déclaré que certains usages abusifs autrefois hypothétiques étaient devenus réels.
Recherches biologiques à double usage
Dans un cas, un chercheur a déclaré vouloir de l’aide pour préparer une demande de subvention consacrée à l’étude d’un virus mortel transmis par les moustiques. L’entreprise a jugé le projet préoccupant, car il devait être mené au sein d’un établissement de recherche militaire, tout en reconnaissant que des recherches similaires pourraient aussi servir à développer des vaccins plus efficaces.
Dans un autre cas, un chercheur situé hors des États-Unis a utilisé l’outil «Claude» pendant plusieurs semaines pour mener des expériences sur des souches hautement pathogènes de la grippe aviaire. Anthropic a estimé qu’il avait tenté de dissimuler son objectif réel derrière des objectifs de recherche déclarés, sans révéler son identité ni l’organisation pour laquelle il travaillait.
Logiciels de conception d’armes conventionnelles
Surveillance d’opposants et contenus de désinformation
Anthropic a déclaré que certains usages abusifs étaient soupçonnés d’être liés aux gouvernements chinois et iranien et qu’ils visaient des opposants et des communautés de la diaspora à des fins de surveillance. L’entreprise a également accusé des médias d’État russes d’utiliser «Claude» pour produire des contenus de désinformation présentés comme des reportages de presse indépendants, contenant des affirmations fabriquées sur des élections en Moldavie.
Examen externe du rapport
L’entreprise a déclaré que les faits présentés dans le rapport, long de plus de 150 pages, ne reposaient pas sur son dernier modèle, «Mythos», dont l’accès est limité à des partenaires de confiance aux États-Unis.
Le rapport a fait l’objet d’un examen externe auquel ont participé Andrew Weber, chercheur au Conseil américain des risques stratégiques et ancien responsable au département américain de la Défense, ainsi que Susan Monarez, microbiologiste et spécialiste de la santé publique qui avait auparavant supervisé l’examen de la préparation nationale américaine en matière de sécurité biologique.
