Paul McKiernan de HP discute de l’impact que les systèmes d’IA comme ChatGPT ont sur le paysage de la cybersécurité et le futur paysage où les bots s’affrontent sur les réseaux d’entreprise.
Alors que les cyberattaques semblent être une occurrence constante, il y a eu des attaques très médiatisées qui auraient changé le paysage.
La violation de données de Solarwinds en 2020 a été décrite comme une «réveil téléphonique» pour les organisations, car il a montré les risques d’attaques de la chaîne d’approvisionnement.
Mais pour le principal conseiller en sécurité de HP pour la région EMEA, Paul McKiernan, Stuxnet était le logiciel malveillant qui a « tout changé » dans le paysage de la cybersécurité.
“Après Stuxnet en 2010, les systèmes de fabrication sont devenus tout aussi vulnérables que les PC qui les contrôlaient”, a déclaré McKiernan. “les logiciels malveillants sont devenus quelque chose qui pourrait également avoir un impact sur le monde physique.”
McKiernan a déclaré qu’il était entré dans la cybersécurité par “nécessité” en tant que chef de quart en 2003, car “le virus slammer” avait fermé les chaînes de production où il travaillait.
S’adressant à SiliconRepublic.com, McKiernan pense que l’IA est un autre domaine qui aura un impact sur le paysage de la cybersécurité en accélérant à la fois les attaquants et les défenseurs.
“Alors que les outils de cybersécurité et les outils d’exploitation accèdent à de plus grands ensembles de données via des moteurs d’IA, tout s’accélérera comme jamais auparavant”, a-t-il déclaré.
Les impacts à court terme
Parlant des outils d’IA tels que ChatGPT, McKiernan a déclaré que – comme de nombreuses nouvelles inventions – les avantages de ces systèmes se manifesteront avant que les “conséquences involontaires ne se produisent”. Après cela, il pense que des contrôles seront mis en place pour “rétablir l’équilibre”.
“En fin de compte, je pense que [AI] révolutionnera non seulement la cybersécurité, mais à peu près toutes les technologies connectées au réseau », a déclaré McKiernan. “Nous utilisons déjà ChatGPT pour accélérer le développement du code. Il est également utilisé pour écrire des rançongiciels, mais vous devez être intelligent pour contourner les contrôles intégrés.
“Comme les moteurs de recherche, les outils de cybersécurité sont déjà complétés par des moteurs et des ensembles de données OpenAI. Les moteurs d’exploitation suivront également.
Plus tôt cette année, les chercheurs ont partagé plusieurs exemples de criminels partageant malware créé avec l’aide de ChatGPT sur les forums de pirates. Le chatbot AI avancé est également à l’étude dans plusieurs pays pour la confidentialité des données, l’UE ayant récemment créé un groupe de travail axé sur ChatGPT.
En ce qui concerne les contrôles mis en place, McKiernan a noté que le National Institute of Standards and Technology aux États-Unis a publié une cadre en janvier autour de la gestion des risques liés à l’IA.
L’UE travaille également sur sa loi sur l’IA, qui aurait été retardé en raison de l’essor rapide des systèmes d’IA générative comme ChatGPT.
Le futur paysage de la cybersécurité
McKiernan pense que le rôle des opérateurs de cybersécurité sera très différent à l’avenir, car l’IA parviendra à dépasser les humains à la fois dans les attaques et la défense et l’analyse humaine devient “trop lente”.
“Un moment viendra où les bots de cybersécurité et les bots d’exploitation s’affronteront sur les réseaux d’entreprise”, a déclaré McKiernan. “Le rôle de l’équipe des opérations de sécurité sera d’interpréter quels bots gagnent et où, et de rendre compte au monde humain de ce qui se passe.
“Il y aura toujours une réponse aux incidents – la détection et l’orchestration seront rapides comme l’éclair et répétitives. Les humains n’auront à intervenir que si les « bons bots » perdent la bataille. »
En termes d’évolution de l’industrie, McKiernan estime que les entreprises qui évoluent le plus rapidement et ont accès à des ensembles de données plus volumineux «deviendront des acteurs plus importants».
“Le terme” nouvelle génération “deviendra rapidement obsolète”, a déclaré McKiernan. « Les 10 dernières années ont vu une explosion de la croissance du nombre de start-ups en cybersécurité.
“Je m’attends à ce que cela continue, mais il y a un risque que quelques organisations dans le monde deviennent encore plus dominantes.”
10 choses que vous devez savoir directement dans votre boîte de réception chaque jour de la semaine. Inscrivez-vous pour le Bref quotidienle résumé de l’actualité scientifique et technologique essentielle de Silicon Republic.