Les dirigeants de grandes entreprises d’intelligence artificielle ont demandé mercredi à l’ONU d’instaurer des règles internationales pour la technologie qu’ils développent, avertissant devant le Conseil de sécurité des risques susceptibles de menacer l’humanité si ses capacités croissantes étaient mal gérées ou devenaient impossibles à contrôler.
Amodei met en garde contre le danger de l’intelligence artificielle
Dario Amodei, directeur général d’Anthropic, a déclaré que l’intelligence artificielle pourrait représenter un danger pour l’ensemble de l’humanité si elle était mal gérée. Il a lancé cet avertissement dans un témoignage présenté mercredi après-midi devant le Conseil de sécurité, lors d’une réunion consacrée à la large diffusion de cette technologie et à l’accélération de ses capacités.
Sam Altman, directeur général d’OpenAI et concurrent d’Amodei dans le secteur de l’intelligence artificielle, a pour sa part averti que les humains pourraient perdre le contrôle de l’avenir au profit de l’intelligence artificielle. Altman, comme Amodei, a appelé à une initiative adoptée par les pays du monde entier via le Conseil de sécurité afin d’établir des mesures de prévention et des règles de supervision applicables.
Les deux dirigeants ont insisté sur la nécessité d’empêcher la technologie d’atteindre un niveau de puissance qu’il serait impossible de contenir. Ils ont également appelé à des garanties pour éviter que les capacités et l’influence de l’intelligence artificielle ne se concentrent entre les mains d’une seule entreprise ou d’un seul État, rendant le contrôle de cette technologie tributaire d’un acteur unique.
Le Conseil de sécurité examine les mécanismes de supervision internationale
La réunion du Conseil de sécurité avec de hauts responsables du secteur technologique a examiné la question de savoir si les capacités croissantes et la diffusion accélérée de l’intelligence artificielle justifiaient l’instauration d’une supervision internationale. Les discussions ont porté sur l’instance qui pourrait être chargée de cette mission, les mécanismes susceptibles d’être utilisés pour la mettre en œuvre et le moment où une intervention pourrait devenir trop tardive pour contenir les risques.
Le débat place les dirigeants mondiaux face à la question de savoir qui devrait prendre les décisions dans les situations liées à la vie et à la mort: l’être humain ou la machine. Il intervient alors que les craintes grandissent face à des usages de l’intelligence artificielle susceptibles de dépasser la capacité des humains à les superviser et à les contrôler. La veille de la réunion du Conseil de sécurité, le secrétaire général de l’ONU, António Guterres, avait mis en garde contre les « robots tueurs ».
Des experts et des dirigeants européens ont affirmé que cet avertissement n’était pas exagéré, estimant que le danger était déjà une réalité ou constituait une éventualité extrêmement proche, et qu’il comportait de graves risques auxquels il fallait s’attaquer.
