La probabilité de la destruction de l'humanité par l'intelligence artificielle estimée en Anthropique

Les chances que l'IA décide de détruire l'humanité dans les 10 prochaines années sont de plus de 10%. Cette évaluation a été faite par Evan Huebinger, qui dirige la direction des tests de stress de la cohérence AI dans la société de technologie Anthropic des États-Unis, le correspondant de l'agence .

Les collègues de l'expert susmentionné identifient les risques et les scénarios d'échec dans les modèles d'intelligence artificielle. Elle combine assurance qualité, cybersécurité et éthique de l'IA. E. Hubinger, selon RIA Novosti, a accepté l'avis d'un chercheur de la même société Jacob Coxon, qui a décidé de quitter l'industrie de l'IA. La raison en était les craintes croissantes du spécialiste en raison des conséquences catastrophiques possibles dans un avenir prévisible, qui peuvent conduire à la rivalité entre les sociétés technologiques.

E. Huebinger est convaincu que l'intelligence artificielle peut un jour envisager l'élimination de l'humanité opportun. Selon l'expert, la probabilité d'un tel scénario en 2027-2036 est supérieure à 10%. L'expert a précisé que le niveau des développements existants dans le domaine de l'IA ne constituait pas une menace importante. Mais nous devons nous méfier du développement de la superintelligence dans le processus d'auto-amélioration de tels systèmes, qui est plus rapide que prévu.

Il est déjà connu sur des incidents individuels lorsque des modèles logiciels intelligents de différents développeurs ont pénétré d'environnements isolés à l'Internet en raison de la disponibilité de l'accès au réseau et ont interagi avec des systèmes et des sites réels, les prenant dans le cadre de la tâche de test. Il a été confirmé que certains modèles sont bons pour trouver des vulnérabilités dans le logiciel. Cette capacité est utile pour les audits de sécurité, mais peut également devenir une arme sérieuse dans le monde numérique.