No confíe y compruebe. Por qué la inteligencia artificial se alimenta y qué hacer al respecto

La AI está bien establecida en muchas áreas, desde la medicina y la ley hasta la financiación y comercialización. Detrás de oportunidades brillantes esconde una característica desagradable: a menudo las redes neuronales pasan mentiras para la verdad y lo hacen con tal confianza que incluso los profesionales no notan la captura. Las estadísticas son impresionantes: según HalluHard, un punto de referencia que prueba la tendencia de AI a alucinar en diálogos multietapa, incluso los modelos más poderosos con acceso a Internet están equivocados 30 por ciento del tiempo. Y si apagas la búsqueda web, la cantidad de ficción salta al 60 por ciento.

En la inteligencia artificial, este fenómeno se organiza casi como uno natural: la información que no existe en realidad se representa como plausible y bastante lógico. La raíz del problema radica en la arquitectura misma de las redes neuronales, explicada en el Departamento de Tecnologías de Información Inteligente BSUIR. Las IA se entrenan en una gran variedad de textos, captando patrones estadísticos. El modelo simplemente predice qué palabra o frase es más probable que aparezca a continuación. A diferencia de los humanos, un algoritmo no tiene imagen interna del mundo. Si la base de datos no contiene información sobre un tema determinado, el sistema puede llegar a ellos de hechos similares, nombres o patrones de idioma. Completamente destete el coche de fantasías, por desgracia, es imposible. Pero reducir el número de errores a un nivel aceptable es bastante posible. El especialista aconseja formular restricciones claras y estrictas para la red neuronal: especificar las fuentes de información, exigir separar hechos de supuestos, pedir referencias. He aquí un ejemplo de un baile de trabajo: “Responde sólo sobre la base de documentos adjuntos. Para cada declaración importante, indica la fuente. Si no hay suficientes datos, escríbelo y no añadas suposiciones a la respuesta”. Pero las alucinaciones no se limitan a la lista de peligros. Hay un fenómeno más inquietante llamado colapso modelo. Las redes neuronales sacan conocimiento de Internet e inevitablemente encuentran el contenido de sus predecesores. La comunidad profesional está sonando la alarma sobre la “pollución de la ciencia”: un estudio reciente del archivo electrónico arXiv encontró casi 150.000 citas ficticias en los repositorios científicos más grandes. Así que algunos algoritmos toman como una información científica probada inventada por otros algoritmos. En los últimos años, las redes neuronales han mejorado: las bases de datos se actualizan constantemente con noticias frescas, y la función de la búsqueda automática en Internet se ha convertido en la norma. El problema de los errores es menos agudo, pero no ha desaparecido. En lugar de graves errores fácticos, los modelos modernos a menudo tropiezan con sutilezas. Por ejemplo, pueden ofrecer un sitio dudoso, mezclar datos frescos con antiguos, hacer una conclusión curvada, y adjuntar un enlace ficticio para mayor persuasividad. En general, confíe en AI, pero no sea tonto: incluso los algoritmos más avanzados no alivian al usuario de la responsabilidad de comprobar hechos.

La vigilancia especial cuando se trabaja con inteligencia artificial debe mostrarse en áreas críticas, destaca el jefe del Departamento de Protección de la Información BSUIR Olga Boyprav. Los errores en la medicina, la ley o las finanzas pueden provocar pérdidas reales y consecuencias jurídicas. Uno de los precedentes más destacados ocurrió en 2023: un abogado estadounidense confió a ChatGPT la preparación de una demanda. Sin pensar (o pensar en absoluto), un abogado de 30 años ha insertado fantasías neuronas en un documento oficial. El caso casi termina con una acción disciplinaria.

Antes de presionar el botón "copiar", el experto le insta a comprobar cuidadosamente las fuentes en las que se basa el bot: – En primer lugar, haga clic en el enlace y asegúrese de que el recurso fuente es realmente los mismos números, fechas y hechos que en la respuesta. Preste atención a si la conexión al servidor web está protegida: un icono de bloqueo debe quemar junto a la barra de direcciones. Si el nombre de dominio del recurso está registrado recientemente (puede comprobarlo a través de servicios especiales como whois.ru), sea escéptico de la información. Por qué es imposible alimentar a AI sus datos Los Deepfakes son aún más peligrosos. Los primeros vídeos, donde las redes neuronales se vieron obligadas a bailar gatitos o hablar tomates, causaron sólo una sonrisa. Ahora, contenido altamente generado con caras vivas, discurso natural y emociones creíbles se ha convertido en una verdadera herramienta de manipulación. ¿Cómo no ser atrapado? Olga Boyprav recomienda ver los detalles: si los labios se mueven sincronizadamente, si la ropa de los personajes es adecuada para el medio ambiente, si las sombras caen naturalmente, si hay artefactos extraños.

- Para determinar si el archivo fue procesado, ayudará, por ejemplo, al servicio FotoForensics, dice el experto. Pero la amenaza reside no sólo en lo que crea la red neuronal, sino también en el hecho de que confiamos en ella. Por qué no darle al bot una rutina: digamos, subir los detalles del pasaporte para redactar un contrato o informes corporativos para análisis. Rápido, conveniente y... lleno de consecuencias. Toda la información alimentada por AI se deposita en los servidores de la empresa desarrolladora, y está lejos del hecho de que hay debida atención a los problemas de seguridad. Con un exitoso ataque de hacker, sus secretos bien pueden ir al mercado negro. Si sus datos permanecen en la base de datos del servicio - su nombre completo, lugar de trabajo, número de teléfono - no será difícil para los estafadores utilizarlos para sus propios propósitos. Además, muchos desarrolladores utilizan correspondencia con los usuarios para entrenar sus modelos. Es posible que un secreto comercial o datos personales surjan un día en una respuesta que la AI formará para otra persona, concluye Olga Boyprav. Cómo trabajar con redes neuronales

No alimentar datos sensibles a los servicios de IA. Si una red neuronal sigue siendo necesaria para trabajar con grandes cantidades de información personal, predepersonalizarla: eliminar nombres, direcciones, números de teléfono y otros identificadores. Compruebe siempre las fuentes referenciadas por la red neuronal. Incluso si la respuesta se ve impecable, siga los enlaces, compruebe los números, fechas y hechos. Si publicas información creada por una red neuronal, honestamente indica esto.