Comment l’IA pourrait-elle changer la guerre ? Les experts américains de la défense mettent en garde contre les nouvelles technologies

Anja Manuel, ancienne responsable du département d’État et maintenant directrice du groupe de conseil Rice, Hadley, Gates and Manuel, a écrit récemment que même si la Chine et la Russie ne sont pas prêtes pour des pourparlers sur le contrôle des armements sur l’IA, des réunions sur le sujet entraîneraient des discussions. de quelles utilisations de l’IA sont considérées comme « hors de portée ».

Bien sûr, le Pentagone s’inquiétera également d’accepter de nombreuses limites.

“Je me suis battu très fort pour obtenir une politique selon laquelle si vous avez des éléments d’armes autonomes, vous avez besoin d’un moyen de les désactiver”, a déclaré Danny Hillis, un informaticien qui a été un pionnier des ordinateurs parallèles utilisés pour l’intelligence artificielle. M. Hillis, qui a également siégé au Conseil de l’innovation de la défense, a déclaré que les responsables du Pentagone ont repoussé, en disant : « Si nous pouvons les désactiver, l’ennemi peut aussi les désactiver.

Les risques les plus importants peuvent provenir d’acteurs individuels, de terroristes, de groupes de rançongiciels ou de petits pays dotés de cyber-compétences avancées – comme la Corée du Nord – qui apprennent à cloner une version plus petite et moins restreinte de ChatGPT. Et ils peuvent trouver que le logiciel d’IA générative est parfait pour accélérer les cyberattaques et cibler la désinformation.

Tom Burt, qui dirige les opérations de confiance et de sécurité chez Microsoft, qui est accélérer l’utilisation de la nouvelle technologie de réorganiser ses moteurs de recherche, a déclaré lors d’un récent forum à l’Université George Washington qu’il pensait que les systèmes d’IA aideraient les défenseurs à détecter les comportements anormaux plus rapidement qu’ils n’aideraient les attaquants. D’autres experts ne sont pas d’accord. Mais il a dit qu’il craignait que l’intelligence artificielle ne “amplifie” la propagation de la désinformation ciblée.

Tout cela laisse présager une nouvelle ère de maîtrise des armements.

Certains experts disent que puisqu’il serait impossible d’arrêter la propagation de ChatGPT et de logiciels similaires, le meilleur espoir est de limiter les puces spécialisées et autres puissances de calcul nécessaires pour faire progresser la technologie. Ce sera sans aucun doute l’un des nombreux plans de contrôle des armements proposés dans les prochaines années, à un moment où les grandes puissances nucléaires, du moins, semblent peu intéressées à négocier sur les armes anciennes, et encore moins sur les nouvelles.