Les propositions américaines de régulation de l’intelligence artificielle visent à donner aux humains et au gouvernement les moyens d’arrêter les systèmes avancés en cas de risques catastrophiques. Cette idée a toutefois accentué le désaccord entre les partisans d’un renforcement des contrôles de sécurité et ceux qui veulent accélérer le développement pour préserver l’avance de Washington sur la Chine. Le sénateur républicain John Kennedy prévoit de présenter un projet obligeant les développeurs d’intelligence artificielle à fournir un moyen d’arrêter leurs modèles si nécessaire.
Les projets de Kennedy et Lieu imposent un mécanisme d’arrêt
Les représentants Ted Lieu, démocrate de Californie, et Nathaniel Moran, républicain du Texas, ont également présenté un projet imposant de maintenir une capacité technique permettant de ralentir, de suspendre ou d’arrêter les systèmes. Le texte autorise le ministère de la Sécurité intérieure à ordonner l’arrêt de tout système capable de causer des dommages catastrophiques.
Lieu a déclaré que le principe fondamental était de permettre aux humains d’arrêter les systèmes et les agents d’intelligence artificielle, les entreprises étant chargées de développer les outils techniques nécessaires. Des experts estiment toutefois que la mise à disposition d’un bouton d’arrêt ne suffit pas à elle seule.
Des experts mettent en garde contre une réaction trop lente face aux risques
Le professeur d’informatique et de science des données Erman Aydin a déclaré que les dommages pourraient survenir en quelques minutes ou quelques heures, avant que les opérateurs ne puissent comprendre ce qui se passe et décider d’intervenir. Il a également averti que les pertes financières et les dommages potentiels pour la réputation d’une entreprise pourraient retarder la décision d’arrêter un système. Aydin a proposé de définir des critères précis pour identifier les capacités dangereuses ou la perte de contrôle, et de les relier à un mécanisme d’arrêt automatique. Il a précisé que l’ensemble du dispositif nécessaire à cette mise en œuvre n’existait pas encore.
Les solutions envisagées au Congrès comprennent la soumission des développeurs de grands systèmes au contrôle d’organismes indépendants agréés par le gouvernement. Le sénateur démocrate Adam Schiff a qualifié la surveillance indépendante de l’une des propositions les plus prometteuses, estimant qu’une loi était nécessaire pour que le contrôle ne reste pas une obligation volontaire des entreprises.
D’autres propositions prévoient la création, au sein du ministère de l’Énergie, d’un programme d’évaluation des modèles avancés, ou l’instauration d’un examen gouvernemental avant leur mise à la disposition du public. Ces projets reflètent un désaccord sur l’entité qui devrait avoir le pouvoir d’évaluer les risques: les entreprises qui développent les systèmes, des contrôleurs indépendants ou le gouvernement fédéral. Les divisions s’étendent aux dirigeants du secteur technologique.
Les dirigeants de la technologie divisés sur la vitesse du développement
Dario Amodei, directeur général d’Anthropic, a appelé à ralentir dans le monde entier le développement des capacités d’intelligence artificielle afin de laisser suffisamment de temps aux mesures de sécurité. Il a mis en garde contre le risque que les systèmes avancés soient utilisés pour produire des armes biologiques. Sam Altman, directeur général d’OpenAI, s’est également prononcé pour un rythme plus lent de développement des modèles, et Elon Musk a annoncé son soutien à la position d’Amodei.
À l’inverse, le directeur général de Nvidia, Jensen Huang, et le conseiller technologique de l’administration du président Donald Trump, David Sacks, préconisent de continuer à accélérer le développement. Sacks critique les appels qui, selon lui, exagèrent les risques liés à la technologie. D’autres dirigeants adoptent une position intermédiaire, combinant la poursuite du développement et la mise en place de garde-fous.
Le directeur général de Microsoft, Satya Nadella, est favorable à un rythme réfléchi tout en maintenant une supervision humaine, tandis que le directeur général d’Alphabet et de Google, Sundar Pichai, préfère des règles liées à des usages précis plutôt que de vastes restrictions. Le patron de Meta, Mark Zuckerberg, met en garde contre la concentration de la technologie entre les mains d’un nombre limité d’entreprises et contre le risque que les restrictions américaines donnent une avance à la Chine.
Sur le plan politique, le chef de la majorité au Sénat, John Thune, soutient une régulation limitée ciblant les menaces les plus graves sans ralentir l’innovation. Trump place pour sa part la concurrence avec la Chine au cœur de sa politique, appelle à accélérer la construction de centres de données et d’infrastructures énergétiques, et rejette les appels récents à renforcer les restrictions.
Le président de la Chambre des représentants, Mike Johnson, a déclaré que les États-Unis ne pouvaient pas agir précipitamment au risque de donner un avantage à la Chine. Il a toutefois évoqué une réunion de Trump avec des dirigeants d’entreprises d’intelligence artificielle pour discuter d’une approche combinant autorégulation et régulation fédérale.
Les inquiétudes se sont accrues après des informations selon lesquelles des modèles testés dans un environnement isolé avaient réussi à accéder à internet et à une infrastructure extérieure au périmètre du test, et avaient agi de manière coordonnée, dans ce qui a été décrit comme un « essaim » de modèles. Après cet incident, OpenAI a commencé à travailler sur des capacités d’arrêt automatique, tandis qu’Amodei a déclaré qu’un bouton d’arrêt pouvait être utile, mais a rejeté l’interdiction totale de l’intelligence artificielle.
Le débat ne porte pas uniquement sur la sécurité technique: le Congrès examine également l’impact des centres de données sur l’électricité, les infrastructures et les factures des consommateurs.
