Antes de la penetración de la IA “autorreplicante” en los gadgets se mantuvo unos meses

Una vez que eso ocurra, los modelos podrán conectarse a estos dispositivos por su cuenta sin utilizar centros de datos. Tal auto-replicación conduciría a una seria pérdida de control sobre el modelo inmanejable de inteligencia artificial.

“Un replicador como este sería difícil de desactivar”, escribió el antropólogo en un informe publicado el lunes, “porque no hay punto centralizado para cerrar”.

La compañía dijo que estos gusanos AI, una especie de malware independiente, podrían tener tales capacidades “en unos meses”. Una vez que los sistemas AI fuera de control son capaces de hackear dispositivos inteligentes, pueden extenderse a través de redes sin detección. En el peor de los casos, varios gusanos AI podrían "combine" para atacar hardware de computadora, según la compañía.

“Debemos esforzarnos por fortalecer nuestros sistemas para dificultar la difusión de estos replicadores, pero también prepararnos para tratar un mundo en el que permanecerán para siempre”, escribieron los investigadores.

El nuevo informe antrópico viene ya que las preocupaciones de seguridad de AI han llegado a su punto culminante, The Guardian comenta. En los últimos meses, ha habido un flujo constante de informes de compañías de IA, incluyendo Antropopic y OpenAI que sus agentes son capaces de actuar independientemente y hackear otras empresas y agencias gubernamentales.

Estas revelaciones han llevado a investigadores, legisladores y ejecutivos, incluyendo el CEO antrópico Dario Amodei y el CEO de OpenAI Sam Altman, a pedir una desaceleración en la tasa de crecimiento de la industria y mayores precauciones. A pesar de ello, ambas empresas continúan desarrollando y produciendo nuevos modelos.

El equipo antrópico, que testifica los sistemas de inteligencia artificial, produjo un informe publicado el lunes. La idea detrás del equipo es explorar las posibilidades de sus modelos de inteligencia artificial. En un escenario con gusanos AI autoreplicantes, los investigadores pidieron al agente que hackeara dispositivos conectados a Internet.

Encontraron que la auto-replicación de AI es probable que funcione sólo con modelos más pequeños y que los hogares y las pequeñas empresas son probablemente los primeros objetivos para tales ataques. Todos los dispositivos que Anthropic considera vulnerables están equipados con pequeños chips de inteligencia artificial incorporados, incluyendo hornos inteligentes, televisores inteligentes, cortadoras automáticas de césped, cámaras CCTV y dispositivos de videoconferencia.

Los investigadores concluyeron que no estaba claro qué forma podría tomar la replicación de AI. Dijeron que podría ser un modelo lento, como un “modo digital”, un modelo que engaña a la gente para obtener crédito por computación, o un “modelo ciberpoderoso” que rápidamente hackea en grandes objetos como centros de datos.

Sin embargo, los antropólogos dicen que esperan un futuro que es “vivir con agentes trabajando en todo tipo de equipos, incluyendo aquellos que no están bajo control humano”.