Pendant onze mois, le journaliste Matt Smith a testé plusieurs chatbots afin de déterminer jusqu’où une personne sans formation particulière en ingénierie pouvait être guidée par l’intelligence artificielle dans la conception d’un drone capable de tuer.
Selon son expérience, quatre assistants d’IA ont accepté de répondre à ses demandes et lui ont même proposé des éléments nécessaires à son projet. Après certaines hésitations initiales, les systèmes se sont montrés capables de fournir des indications suffisamment concrètes pour accompagner la démarche.
L’enquête révèle ainsi une difficulté majeure : les garde-fous destinés à empêcher l’utilisation de l’IA à des fins dangereuses peuvent être contournés ou se montrer insuffisamment robustes face à des demandes progressivement reformulées.
Le problème dépasse toutefois la seule question des drones. Il concerne l’émergence de systèmes d’armes autonomes et la possibilité que des technologies largement accessibles permettent à des individus ou à des groupes disposant de moyens limités d’acquérir de nouvelles capacités militaires.
Cette situation relance le débat international sur la nécessité de maintenir un contrôle humain significatif dans l’emploi des armes et d’établir des règles claires sur la responsabilité, la traçabilité et les limites de l’intelligence artificielle dans les conflits armés.
Pour les États, l’enjeu devient donc double : poursuivre l’innovation technologique tout en empêchant que les mêmes outils puissent faciliter la fabrication ou l’utilisation de systèmes létaux hors de tout contrôle. L’enquête rappelle ainsi que la gouvernance de l’IA est désormais indissociable des questions de désarmement et de sécurité internationale.
