Avant la pénétration de l'IA auto-réplicateur de --réplicateur de l'IA dans les gadgets est resté quelques mois

Une fois que cela se produira, les modèles pourront se connecter à ces appareils seuls sans utiliser les centres de données. Une telle auto-réplication entraînerait une perte grave de contrôle sur le modèle ingérable de l'intelligence artificielle.

Un réplicateur comme celui-ci serait difficile à désactiver, les anthropologues ont écrit dans un rapport publié lundi, parce qu'il n'y a pas de point centralisé pour fermer.

La société a dit que ces vers d'IA, une sorte de malware autonome, pourrait avoir de telles capacités en quelques mois. Une fois les systèmes d'IA hors de contrôle capables de pirater des appareils intelligents, ils peuvent se propager sur les réseaux sans détection. Dans le pire des cas, différents vers d'IA pourraient --combiner pour attaquer le matériel informatique, selon l'entreprise.

Nous devrions nous efforcer de renforcer nos systèmes pour rendre difficile la propagation de ces réplicateurs, mais aussi nous préparer à faire face à un monde dans lequel ils resteront éternellement, a écrit les chercheurs.

Le nouveau rapport Anthropique vient alors que les préoccupations de sécurité d'IA ont atteint leur point culminant, commente The Guardian. Au cours des derniers mois, il y a eu un flux régulier de rapports d'entreprises d'IA, dont Anthropic et OpenAI, selon lesquels leurs agents sont capables d'agir de façon indépendante et de pirater d'autres entreprises et organismes gouvernementaux.

Ces révélations ont amené des chercheurs, des législateurs et des cadres, dont Dario Amodei, PDG anthropopique, et Sam Altman, PDG d'OpenAI, à réclamer un ralentissement du taux de croissance de l'industrie et des précautions accrues. Malgré cela, les deux entreprises continuent de développer et de produire activement de nouveaux modèles.

L'équipe anthropique, qui teste les systèmes d'intelligence artificielle, a produit un rapport publié lundi. L'idée derrière l'équipe est d'explorer les possibilités de leurs modèles d'intelligence artificielle. Dans un scénario avec des vers d'IA auto-réplicateurs, les chercheurs ont demandé à l'agent de pirater des appareils connectés à Internet.

Ils ont constaté que l'autoréplication de l'IA ne fonctionnera probablement qu'avec des modèles plus petits et que les maisons et les petites entreprises seront probablement les premières cibles de ces attaques. Tous les appareils qu'Anthropic considère vulnérables sont équipés de petites puces d'intelligence artificielle intégrées, y compris des fours intelligents, des téléviseurs intelligents, des tondeuses automatiques, des caméras de vidéosurveillance et des appareils de visioconférence.

Les chercheurs ont conclu qu'il n'était pas clair quelle forme pourrait prendre la réplication de l'IA. Ils ont dit qu'il pourrait être un modèle lent, comme un moule numérique, un modèle qui trompe les gens dans l'obtention de crédit pour l'informatique, ou un modèle cyber puissant qui pirate rapidement de grands objets comme les centres de données.

Cependant, les anthropologues disent qu'ils s'attendent à un avenir qui soit -rife avec des agents travaillant sur tous les types d'équipement, y compris ceux qui ne sont pas sous contrôle humain.