Le “parrain de l’IA” a quitté Google pour avertir les gens des risques liés à l’IA

Geoffrey Hinton, “le parrain de l’IA”, a démissionné de Google suite à l’essor rapide de ChatGPT et d’autres chatbots, afin de “s’exprimer librement sur les risques de l’IA”. il a dit au(s’ouvre dans un nouvel onglet) le New York Times.

Hinton, qui a contribué à jeter les bases de l’IA générative d’aujourd’hui, a été ingénieur chez Google pendant plus d’une décennie. Par le Fois, une partie de lui regrette le travail de sa vie après avoir vu le danger que représente l’IA générative. Il s’inquiète de la désinformation; que la personne moyenne “ne pourra plus savoir ce qui est vrai”. Dans un avenir proche, il craint que la capacité de l’IA à automatiser les tâches ne remplace non seulement le travail pénible, mais bouleverse l’ensemble du marché du travail.

Auparavant, Hinton pensait que la révolution de l’IA était dans des décennies. Mais depuis qu’OpenAI a lancé ChatGPT en novembre 2022, l’intelligence du grand modèle de langage (LLM) a changé d’avis. “Regardez comment c’était il y a cinq ans et comment c’est maintenant”, a-t-il déclaré. “Prenez la différence et propagez-la vers l’avant. C’est effrayant.”

Les débuts de ChatGPT ont lancé une sorte de compétition à trois déséquilibrée contre MicrosoftBinget Barde Google. Déséquilibré, car GPT-4 qui alimente ChatGPT alimente également Bing. Avec deux concurrents venant pour son activité principale de recherche, Google s’est empressé de lancer Bard, malgré préoccupations internes qu’il n’a pas été suffisamment testé pour sa précision et sa sécurité.

Hinton clarifié(s’ouvre dans un nouvel onglet) sur Twitter après le Fois article a été publié qu’il ne critiquait pas spécifiquement Google et estime qu’il a “agi de manière très responsable”. Au lieu de cela, il est préoccupé par les risques plus larges du développement à grande vitesse de l’IA, entraîné par le paysage concurrentiel. Sans réglementation ni transparence, les entreprises risquent de perdre le contrôle d’une technologie puissante. “Je ne pense pas qu’ils devraient étendre cela davantage jusqu’à ce qu’ils aient compris s’ils peuvent le contrôler”, a déclaré Hinton.

C’est encore un autre expert appelant au développement de l’IA pour atteindre le bouton pause.