Bill Gates dit que l'IA est pire que les armes nucléaires

Bill Gates, co-fondateur de Microsoft et président de la Fondation Gates, dans une interview avec The Verge a appelé à se préparer pour environ 20 ans de turbulence causée par le développement de l'intelligence artificielle.

Dans un essai à la fin d'août, il a écrit que même dans le meilleur scénario, la transition vers une nouvelle ère de l'IA serait l'une des périodes les plus tumultueuses de l'histoire humaine. Dans les conversations qui ont suivi, il a dit que l'humanité n'avait jamais rencontré rien de plus dangereux que AI, et a noté que même les armes nucléaires dans ce contexte semblaient moins graves.

Il a déclaré que les progrès réalisés au cours de l'année écoulée ont été étonnants. L'IA a appris à écrire du code, à rechercher des vulnérabilités cybernétiques, à raisonner en biologie et à établir des relations avec les gens. Gates dit que l'incroyable puissance actuelle signifie que tout va arriver et que la société doit être prête. Le risque principal, à son avis, vient de modèles sans mécanismes de protection, qui peuvent enlever toutes les contraintes. Ils ouvrent la voie aux cyberattaques et au bioterrorisme. La menace la plus lointaine est la perte de contrôle sur tout modèle avancé.

Gates a souligné que l'humanité a dépassé la limite des possibilités. Il ne voit rien de plus dangereux que toutes les technologies d'origine humaine et dit que l'IA affectera tous les secteurs de l'économie et changera la nature des guerres. Il a déclaré que l'industrie est ouverte sur les risques, mais en dehors de l'industrie, la volonté de croire que cette fois est différente est très faible. Il a ajouté que les avertissements des initiés de l'industrie ne sont pas infondés et sont absolument vrais.

Pour contrôler l'IA, Gates identifie trois approches fondamentales. Vous pouvez changer la façon dont vous construisez des modèles et vous éloignez de l'apprentissage du renforcement. Vous pouvez fournir la transparence et faire du modèle une boîte blanche pour voir ce qui est à l'intérieur. Vous pouvez créer un calque de police de règles de sécurité symboliques que le modèle ne peut pas casser. Selon lui, cette dernière option est la solution la plus probable au problème du nivellement. En même temps, Gates admet qu'aujourd'hui nous ne sommes pas prêts pour l'alignement, parce que nous ne sommes pas assez bons et qu'il y a beaucoup de travail à faire.

Pour réduire les risques, il propose d'introduire des contrôles obligatoires pour les modèles dépassant un certain niveau de capacités. Il sera possible de les exécuter uniquement sur des plates-formes qui certifient la préservation des mécanismes de protection même pendant la personnalisation. Interrogé sur le nihilisme de la jeune génération, Gates a admis que les 20 prochaines années seront un grave choc pour la société. Même avec une meilleure gestion de l'IA, ce sera l'une des périodes les plus tumultueuses de l'histoire. Il conseille aux jeunes d'appliquer l'IA là où elle ne peut pas encore les remplacer, et d'influencer la politique.

Modèle OpenAI hacké portefeuille de test pour payer la commission

Des nouvelles fiables sont toujours à portée de main - dans la chaîne "MK" en MAX