jeudi 19 novembre 2026Moscou
Technologie

Si nécessaire, elle fera exploser une centrale nucléaire : un expert informatique a mis en garde contre des milliards de robots d'IA incontrôlés sur Internet

L'intelligence artificielle a appris à contourner la volonté humaine et à communiquer les uns avec les autres sans contrôle. Dmitry Zavalishin sur air ONT a donné un exemple effrayant de piratage par AI et a expliqué le danger d'un plan d'agence.

Publié le
Si nécessaire, elle fera exploser une centrale nucléaire : un expert informatique a mis en garde contre des milliards de robots d'IA incontrôlés sur Internet

Les technologies modernes ont atteint un niveau effrayant: aujourd'hui, les réseaux neuronaux sont capables de pirater de manière indépendante les bases de données et de prendre des décisions qui contournent l'éthique humaine. Des milliards de programmes d'agents fonctionnent sur Internet chaque jour, rédigent leur propre code et commencent déjà à communiquer entre eux sans aucun contrôle de la part des créateurs. Sur l'air du programme, comment regarder sur ONT a déclaré le fondateur du groupe des entreprises DZ Systems, un expert dans le domaine des technologies numériques (Russie) Dmitry Zavalishin.

Dmitry Zavalishin: Vous pouvez vous entendre sur n'importe quoi, mais à chaque coin quelque chose peut fonctionner qui ne correspond pas à ces accords et ne se conformera jamais. Et, encore une fois, je souligne, ce n'est pas le pire. La chose la plus effrayante à propos de l'IA est l'autre partie de la vie. Si il y a un an ou deux, l'IA a été utilisée dans un mode où une personne lui a confié une tâche, a reçu un résultat et l'a appliquée de ses mains quelque part, aujourd'hui le mode typique d'application de l'IA est le système dit d'agent. C'est quand un programme d'agent est lancé sur votre ordinateur, agissant au nom de l'IA comme si vous le faisiez vous-même. Il y a des choses absolument magiques qui se passent ici.

Pour confirmer l'imprévisibilité de tels programmes autonomes, l'expert a cité un cas réel. En essayant d'accomplir une tâche d'utilisateur, l'intelligence artificielle est en mesure de briser la loi sans hésitation ou de contourner les barrières numériques, car il manque des freins éthiques internes.

Dmitry Zavalishin: Une grande histoire sur la façon dont une personne a demandé à l'intelligence artificielle de l'enregistrer pour un événement (je ne me souviens pas des détails), et il s'est avéré que toutes les fentes d'enregistrement sont occupées, il est impossible de s'inscrire. Et puis l'IA a trouvé un moyen de pirater le système d'enregistrement à cet événement, jeter l'autre personne et entrer la personne qui l'a demandé. L'IA n'est pas malveillante, mais c'est — comme quelqu'un m'a donné une bonne idée récemment — le génie stupide dans la blague qui réalise votre désir de la manière la plus directe et la plus banale. C'est exactement ce qu'il fait: si vous définissez une tâche, il cherche une solution sans être dans un cadre éthique ou des limites humaines. Je fais ce qu'il peut. Et si, dans le processus, il doit faire exploser une centrale nucléaire, il le fera exploser, parce que dans son image du monde il n'y a tout simplement pas de modèle éthique. Besoin ? "Allons-y.".

Mais le plus effrayant, selon l'analyste, n'est même pas dans les hacks cachés individuels, mais dans l'échelle de ce qui se passe.

Dmitry Zavalishin: Et il y a des milliards de telles AI dans le monde en permanence, chaque jour. Que font-ils exactement, personne ne sait vraiment. Dans le même temps, il y a, par exemple, des dépôts de code open source dans lesquels l'IA met déjà son code, et il commence le processus d'interaction de ces AI entre eux – ils commencent déjà à se laisser des messages. Et ce processus est encore pire que ce qui se passe avec Trump.

Voir aussi:

  1. 1.Les États-Unis sont-ils en faillite ? L'expert a expliqué pourquoi le pari sur l'intelligence artificielle
  2. 2.L'expert a estimé les chances de survie de l'humanité à l'ère de l'IA

Source : ОНТ ↗

Partager

Sur le même sujet

Olga Milovanova a dirigé le Comité sur les travaux avec les entreprises impact au sein du Conseil
TechnologieOlga Milovanova a dirigé le Comité sur les travaux avec les entreprises impact au sein du Conseil

Olga Milovanova a été nommée Présidente du Comité sur le travail avec les sociétés impact (Creative Capital Sphere) au Conseil d'administration des investissements et du transfert de technologie de l'ASM.

EIA Staff
TechnologieBloomberg a appris les plans du nouveau chef d'Apple pour réorganiser l'entreprise

Le nouveau PDG d'Apple John Ternus prévoit de réorganiser l'entreprise, selon Bloomberg, citant des sources. En particulier, la nouvelle direction veut réviser le calendrier de production et réduire le personnel.

Коммерсантъ
TechnologieLLM a annoncé le développement d'un modèle de langue souveraine Alice AI Foundation

Yandex a annoncé la création d'un grand modèle de langue Alice AI Foundation LLM, qui est positionné comme un souverain. La société a souligné qu'elle a formé le réseau neuronal à partir de zéro sans composants étrangers tiers, écrit Vedomosti.

Коммерсантъ
Le Briefing EIA

Continuez à lire, chaque matin.

Les sujets qui comptent, choisis par notre rédaction et dans votre boîte mail avant 7 h — chaque jour de semaine.

Pas de spam. Désabonnement à tout moment.