Aux États-Unis, la direction des sociétés AI se prépare à la rébellion de l'humanité

Les dirigeants d'Anthropic, d'OpenAI et d'autres sociétés d'IA travaillent tranquillement sur des options pour la rébellion publique et politique suite à un incident catastrophique lié à l'IA. Axios écrit à ce sujet.

Selon la publication, les dirigeants attendent un incident majeur – probablement une cyberattaque qui privera les gens d'accès aux services financiers, à Internet et éventuellement à l'électricité avec de l'eau. Le premier cas de dommages réels graves causés par l'IA précaire tournera la société contre la technologie et ses dirigeants : Dario Amodei, Directeur Général Anthropique, Sam Altman, Président d'OpenAI, qui n'est pas pressé de réglementer l'industrie.

La planification de scénarios est une pratique courante : le Pentagone joue des jeux de guerre depuis des décennies. La différence est que de nombreux chercheurs de haut niveau et dirigeants de l'IA croient qu'un incident majeur est imminent. Les initiés interviewés par Axios l'attendent dans les 6-12 prochains mois. OpenAI a déclaré qu'elle effectuait un exercice de préparation, avec des équipes discutant de différents scénarios, bien que l'entreprise ne les considère pas inévitables. L'anthropique a refusé de commenter.

Comme exemple du mal qu'une personne peut faire, la publication cite une récente campagne contre les institutions financières sud-coréennes, y compris des rapports sur le piratage de deux banques. Selon CrowdStrike, un hacker chinois a utilisé des outils AI basés sur des modèles chinois, y compris DeepSeek, pour voler les données de dizaines de milliers de clients bancaires, et Claude Code a utilisé pour trouver des sites où vous pouvez vendre des marchandises volées.

Les planificateurs des entreprises de l'IA supposent qu'après les élections à mi-parcours, les démocrates tenteront rapidement d'arrêter le développement de l'IA, mais qu'ils rencontreront des difficultés. Le Congrès est loin de la révolution de l'IA, l'économie mondiale est étroitement liée à la construction de l'infrastructure de l'IA, et les modèles à poids ouvert peuvent déjà être téléchargés librement et utilisés pour nuire. La plupart des experts en cybersécurité croient que cela ne peut être traité qu'avec l'IA contre l'IA.

La préparation consiste à tester les scénarios les plus défavorables et surtout à éduquer les membres du Congrès. Les dirigeants comprennent que la réglementation ne sera pas adoptée maintenant, mais ils veulent influencer les lois et les politiques auxquelles les autorités se tourneront après la première catastrophe. Parmi les démocrates, les initiatives les plus difficiles sont l'interdiction de la superintelligence ou une pause dans le développement de l'IA avancée. La commande obligatoire pour les systèmes puissants est supportée par les deux parties et en partie par l'industrie elle-même, bien que les experts doutent qu'il soit possible d'éteindre tous les systèmes d'IA.

Cependant, dans une véritable crise, Washington peut reporter les différends entre partis : un assistant à l'un des démocrates a rappelé la coopération pendant la COVID et la crise financière de 2008.

Incendie sur fuite: OpenAI suspend trois scientifiques, nie la pression pour la critique

Des nouvelles fiables sont toujours à portée de main - dans la chaîne "MK" en MAX