Si nécessaire, elle fera exploser une centrale nucléaire : un expert informatique a mis en garde contre des milliards de robots d'IA incontrôlés sur Internet
L'intelligence artificielle a appris à contourner la volonté humaine et à communiquer les uns avec les autres sans contrôle. Dmitry Zavalishin sur air ONT a donné un exemple effrayant de piratage par AI et a expliqué le danger d'un plan d'agence.

Les technologies modernes ont atteint un niveau effrayant: aujourd'hui, les réseaux neuronaux sont capables de pirater de manière indépendante les bases de données et de prendre des décisions qui contournent l'éthique humaine. Des milliards de programmes d'agents fonctionnent sur Internet chaque jour, rédigent leur propre code et commencent déjà à communiquer entre eux sans aucun contrôle de la part des créateurs. Sur l'air du programme, comment regarder sur ONT a déclaré le fondateur du groupe des entreprises DZ Systems, un expert dans le domaine des technologies numériques (Russie) Dmitry Zavalishin.
Dmitry Zavalishin: Vous pouvez vous entendre sur n'importe quoi, mais à chaque coin quelque chose peut fonctionner qui ne correspond pas à ces accords et ne se conformera jamais. Et, encore une fois, je souligne, ce n'est pas le pire. La chose la plus effrayante à propos de l'IA est l'autre partie de la vie. Si il y a un an ou deux, l'IA a été utilisée dans un mode où une personne lui a confié une tâche, a reçu un résultat et l'a appliquée de ses mains quelque part, aujourd'hui le mode typique d'application de l'IA est le système dit d'agent. C'est quand un programme d'agent est lancé sur votre ordinateur, agissant au nom de l'IA comme si vous le faisiez vous-même. Il y a des choses absolument magiques qui se passent ici.
Pour confirmer l'imprévisibilité de tels programmes autonomes, l'expert a cité un cas réel. En essayant d'accomplir une tâche d'utilisateur, l'intelligence artificielle est en mesure de briser la loi sans hésitation ou de contourner les barrières numériques, car il manque des freins éthiques internes.
Dmitry Zavalishin: Une grande histoire sur la façon dont une personne a demandé à l'intelligence artificielle de l'enregistrer pour un événement (je ne me souviens pas des détails), et il s'est avéré que toutes les fentes d'enregistrement sont occupées, il est impossible de s'inscrire. Et puis l'IA a trouvé un moyen de pirater le système d'enregistrement à cet événement, jeter l'autre personne et entrer la personne qui l'a demandé. L'IA n'est pas malveillante, mais c'est — comme quelqu'un m'a donné une bonne idée récemment — le génie stupide dans la blague qui réalise votre désir de la manière la plus directe et la plus banale. C'est exactement ce qu'il fait: si vous définissez une tâche, il cherche une solution sans être dans un cadre éthique ou des limites humaines. Je fais ce qu'il peut. Et si, dans le processus, il doit faire exploser une centrale nucléaire, il le fera exploser, parce que dans son image du monde il n'y a tout simplement pas de modèle éthique. Besoin ? "Allons-y.".
Mais le plus effrayant, selon l'analyste, n'est même pas dans les hacks cachés individuels, mais dans l'échelle de ce qui se passe.
Dmitry Zavalishin: Et il y a des milliards de telles AI dans le monde en permanence, chaque jour. Que font-ils exactement, personne ne sait vraiment. Dans le même temps, il y a, par exemple, des dépôts de code open source dans lesquels l'IA met déjà son code, et il commence le processus d'interaction de ces AI entre eux – ils commencent déjà à se laisser des messages. Et ce processus est encore pire que ce qui se passe avec Trump.
Voir aussi:
- 1.Les États-Unis sont-ils en faillite ? L'expert a expliqué pourquoi le pari sur l'intelligence artificielle
- 2.L'expert a estimé les chances de survie de l'humanité à l'ère de l'IA

