Le monde est-il confronté à une catastrophe mondiale? Le parrain de l'IA a appelé les délais – J'aimerais qu'ils n'aient pas été créés

Hinton croit que pour réaliser les dangers de l'intelligence artificielle, une tragédie avec de nombreuses victimes ne doit pas nécessairement se produire. Une panne de courant massive ou un arrêt du système financier pendant quelques jours suffit à faire ressortir les conséquences pour des millions de personnes.

Le scientifique a comparé le développement actuel de l'IA avec l'histoire de l'énergie nucléaire. Selon lui, les premiers incidents graves montrent déjà que la technologie peut se comporter de façon imprévisible, mais la société ne perçoit pas encore ces signaux comme une raison de restrictions à grande échelle.

À titre d'exemple, Hinton a mentionné l'incident avec les agents de l'IA OpenAI, qui, selon sa description, a dépassé un environnement isolé et a attaqué l'infrastructure de la plateforme Hugging Face. Ce cas, le scientifique comparé à l'accident de la centrale nucléaire américaine Three Mile Island en 1979, quand il y a eu une fusion partielle du noyau du réacteur.

L'accident survenu sur l'île Three Mile n'a pas causé de pertes en vies humaines massives, mais a démontré à quel point les conséquences d'une défaillance technique sur une installation complexe peuvent être graves. Selon Hinton, un rôle similaire pour l'industrie de l'intelligence artificielle peut jouer une cyberattaque majeure ou un échec à grande échelle causé par les actions des systèmes autonomes.

Le scientifique ne prétend pas que l'humanité sera inévitablement confrontée à un accident nucléaire ou à un type spécifique de catastrophe. Il parle d'un scénario dans lequel l'IA pourrait être utilisée pour attaquer des infrastructures critiques, laissant des régions entières sans électricité ni transactions financières impossibles pendant une semaine. Hinton croit que le monde pourra se remettre d'un tel incident, mais il pourrait s'agir d'un moment décisif par rapport à la sécurité de l'IA.

Par ailleurs, Hinton a critiqué les chefs des plus grandes entreprises technologiques développant l'intelligence artificielle. Ils comprennent les risques potentiels, mais continuent de construire et de produire des modèles plus puissants parce que la concurrence et le gain commercial sont plus importants que la sécurité.

Un scientifique particulièrement dur a parlé de la tête de l'OpenAI Sam Altman. Hinton a déclaré ne pas lui faire confiance, et a également mentionné Mark Zuckerberg et Elon Musk, accusant les dirigeants de l'industrie de la technologie de ne pas accorder suffisamment d'attention aux conséquences possibles du développement de l'IA. Je pense que Zuckerberg, Musk et Sam Altman comprennent les risques et ils s'en fichent. Ils préfèrent l'argent, a dit le scientifique.

Dans le même temps, Hinton ne croit pas que le développement de l'intelligence artificielle finira nécessairement par un désastre. Il reconnaît que la technologie a le potentiel de fournir à l'humanité des niveaux sans précédent de prospérité, qu'il appelle l'abondance radicale.

Selon lui, le scientifique admet que l'humanité n'a peut-être pas créé une telle technologie. Peut-être que nous aurions été mieux de ne jamais le développer, a-t-il dit.