Le Canada doit se dépêcher de surveiller l’IA, préviennent les experts

Deux des trois parrains de l’IA sont des professeurs basés au Canada. L’un d’eux, Geoffrey Hinton de l’Université de Toronto, a récemment quitté son poste chez Google afin de parler plus franchement des risques de l’intelligence artificielle.

L’autre, Yoshua Bengio de l’Université de Montréal, a fait écho à cette alarme dans une récente lettre ouverte appelant à une pause dans le développement de systèmes d’IA de plus en plus puissants.

Il fait partie des personnalités les plus en vue, dont Elon Musk et le cofondateur d’Apple, Steve Wozniak, qui croient il est temps de pomper les freinsne serait-ce que pendant six mois.

[Read: ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead]

[Read Dan Bilefsky’s 2019 Saturday Profile of Yoshua Bengio: He Helped Create A.I. Now, He Worries About ‘Killer Robots’]

“C’est parce qu’il y a une accélération inattendue – je n’aurais probablement pas signé une telle lettre il y a un an – que nous devons prendre du recul, et que mon opinion sur ces sujets a changé”, a déclaré le professeur Bengio dans un poste sur son blog. “Nous avons réussi à réglementer les armes nucléaires à l’échelle mondiale après la Seconde Guerre mondiale, nous pouvons parvenir à un accord similaire pour l’IA”

Le Canada est loin d’avoir signé une loi, qui devrait entrer en vigueur au plus tôt en 2025. Il reste encore plusieurs mois à régler sur le règlement du projet de loi C-27, la Loi sur l’intelligence artificielle et les données, qui a été présenté l’an dernier. Juin.

À court terme, les régulateurs canadiens de la protection de la vie privée sont actuellement au travail pour enquêter sur une plainte non précisée visant à déterminer si le chatbot ChatGPT collecte, utilise ou divulgue de manière inappropriée les données des Canadiens sans le consentement approprié. Jeudi, le Commissariat fédéral à la protection de la vie privée a annoncé que ses homologues provinciaux du Québec, de la Colombie-Britannique et de l’Alberta se joindraient à l’enquête.

« En tant qu’organismes de réglementation, nous devons suivre et garder une longueur d’avance sur les avancées technologiques rapides afin de protéger les droits fondamentaux à la vie privée des Canadiens », a déclaré Philippe Dufresne, le commissaire à la protection de la vie privée, dans un communiqué. déclaration.

L’adoption des outils publics d’IA, en particulier ChatGPT – abréviation de “Generative Pretrained Transformer” – a été explosive. Les analystes de la banque suisse UBS ont estimé dans un rapport de mai que ChatGPT, créé par la société OpenAI basée à San Francisco, a atteint plus de 200 millions d’utilisateurs actifs par mois en avril, soit le double du nombre de janvier, bien que la tendance montre des signes d’un plateau .

En moins de six mois, ChatGPT semble avoir proliféré. Il est apparu sur les campus universitaires comme outil de fabrication de cours et a été restreint par les universités. Il est utilisé pour filtrer les perspectives amoureuses sur les applications de rencontres. Et comme mes collègues – le chroniqueur technologique du Times Kevin Roose et Emma Goldberg, qui couvre l’avenir du travail pour le bureau des affaires – l’ont découvert, ces chatbots IA peuvent conduire à des conversations assez trippantes.

[Read Kevin’s story: A Conversation With Bing’s Chatbot Left Me Deeply Unsettled]

[Read Emma’s story: ChatFished: How to Lose Friends and Alienate People With A.I.]

Le marché boursier a eu un avant-goût des conséquences les plus effrayantes d’une mauvaise utilisation de l’IA plus tôt cette semaine, lorsque les prix ont chuté après que des images montrant un bâtiment près du Pentagone apparemment en feu ont circulé sur Internet. Il s’est avéré être un Parodie générée par l’IA.

Tout en poussant à un ralentissement du développement des super systèmes d’IA, le professeur Bengio, qui est également le fondateur et le directeur scientifique de Mila (également connu sous le nom d’Institut québécois d’intelligence artificielle), demande également au gouvernement canadien d’accélérer les efforts de réglementation. .

Valerie Pisano, présidente et directrice générale de Mila, a déclaré qu’il y avait des mesures que le gouvernement pourrait prendre immédiatement – comme exiger des étiquettes appropriées pour identifier le texte, les images ou les voix générées par l’IA – pour protéger le public de certains des dangers de la technologie, comme des campagnes de désinformation lors des élections et des perturbations sur le marché du travail.

[Read: A.I.’s Threat to Jobs Prompts Question of Who Protects Workers]

“Cette technologie entre dans nos vies beaucoup, beaucoup plus rapidement que tout ce que nous avons vu auparavant”, m’a dit Mme Pisano et a déclaré que la réglementation était trop en retard. “Cet écart crée un déséquilibre qui est vraiment inquiétant.”

Mme Pisano, ainsi que des universitaires, des chercheurs et des chefs de file de l’industrie au Canada sont demander au gouvernement d’augmenter la surveillance gouvernementale par le biais du projet de loi C-27 et d’agir rapidement.

Luke Stark, chercheur en histoire et en éthique de l’IA et professeur adjoint à l’Université Western de London, en Ontario, m’a dit qu’il était ravi de voir l’enquête du commissaire à la protection de la vie privée en cours dans l’intervalle.

“La question de savoir d’où vient le matériel qui a été utilisé pour former ces grands modèles de langage est clairement un gros problème”, a déclaré le professeur Stark. Ce problème, a-t-il ajouté, “a été un peu perdu dans la précipitation à faire la promotion de ces technologies, pour le meilleur et pour le pire”.

Transcanadienne

• Les électeurs de l’Alberta se rendront aux urnes lundi pour élire leur prochain premier ministre. Ian Austen s’est rendu à Calgary et a parcouru la région rurale du sud de l’Alberta, s’entretenant avec des Canadiens conservateurs qui repenser ses choix après le virage à droite du parti.

• Grimes, une musicienne et productrice canadienne, a parlé à Joe Coscarelli, journaliste culturel du Times, de son nouvel outil d’intelligence artificielle qui a “open source” sa voix.

• Pour ceux qui voyagent à Vancouver pour un week-end d’été, voici quelques recommandations pour les restaurants, les magasins, les endroits à visiter et les choses à voir dans la ville dans le cadre de La série 36 heures du Times.

• Les États-Unis sont en concurrence avec le Canada et d’autres pays pour obtenir les minéraux essentiels nécessaires à la fabrication de voitures électriques et d’autres articles dans la transition énergétique.

• Êtes-vous un ornithologue passionné ou même un débutant? Le bureau scientifique du Times travaille sur un projet avec le Cornell Lab of Ornithology et envoie des soumissions de lecteurs pour celui-ci. En savoir plus ici.

Vjosa Isai est journaliste-chercheuse pour le New York Times au Canada. Suivez-la sur Twitter à @lavjosa.

Comment allons nous?
Nous sommes impatients de connaître votre opinion sur ce bulletin et sur les événements au Canada en général. Veuillez les envoyer à [email protected].

Vous aimez cet e-mail ?
Transférez-le à vos amis et faites-leur savoir qu’ils peuvent s’inscrire ici.