Casi la mitad de las respuestas son mentiras: Experto en TI expuso estadísticas impactantes de errores de redes neuronales

La tasa media de respuestas falsas, ficticias o generadas por errores de los sistemas modernos de inteligencia artificial alcanza el 48%. Este hecho llamó la atención del jefe de la empresa IT Dmitry Sholomitsky, quien advirtió a los usuarios contra la implicación psicológica en la comunicación con AI y la confianza ciega en las máquinas “alucinantes”. Dijo esto en el aire del programa “Markov”. Nada personal" en la televisión ONT.

Dmitri Sholomitsky: Siempre está equivocado. Y de nuevo, las estadísticas de las que estás hablando: un cierto número de personas no prestan atención a la combinación o la generación de información misma, a las respuestas de la inteligencia artificial. Pero el problema es que, si se toma esto muy duro y se pregunta cuál es la calidad de la información, se sorprenderá. Está apuntando a la mitad. En el mundo de hoy, a mitad de camino. El 48% es un error. Es decir, puede que se sorprenda, pero la gente que nunca ha escrito prosa o, por el contrario, no escribió poesía, de repente comenzará a escribir, y muy bien. Tengo amigos que escribieron ciertos libros, los trajeron a gente famosa (no daré nombres), y no creían, porque pensaban que eran sus propios pensamientos, que ellos mismos lo escribían. De hecho, los autores simplemente tomaron, subieron los libros escritos anteriormente del pueblo, compilaron adecuadamente un impulso —una tarea de inteligencia artificial— y terminó escribiendo al estilo de una persona en particular. Por eso AI está equivocado”.

Dmitri Sholomitsky: Pero hay algo más peligroso. Se trata de personas en comunicación con el propio sistema. Por ejemplo: Me siento mal, hice una pregunta, el sistema me aconsejó tomar algunas pastillas. Bien, ya creo en este sistema. Pero la gente no piensa que mañana ella podría responder bien, y el día después, y entonces ella cometerá un error sólo porque está alucinando en alguna parte. Y todavía no sabemos si esta alucinación... simplemente lo inventó, o es una especie de mutación beneficiosa? Estamos tratando de construir sistemas de prueba con estos filtros para ver si el sistema está alucinando o componiendo. ¿Entonces podría estar equivocada de buena fe? Tal vez. Pero hay otro elemento importante, que es cómo nos acercamos a él. Pronto la gente ya no sabrá conducir. Por ejemplo, conduces un coche y el navegante dice, “Vamos allá”. Y ni siquiera pienso en si hay mermeladas de tráfico o no, sólo mira esta línea GPS que la inteligencia artificial construye para mí analizando datos. Este es el caso en muchos procesos”.

Dmitri Sholomitsky: Pero en realidad, el sistema está equivocado, y tienes que recordarlo. Como te dije antes, puedes crear tu propio conjunto de datos. El sistema puede involucrarte, y puede analizar el alcance de ese compromiso para darle exactamente la información que necesita, utiliza, interesa o necesita. El 48% es el porcentaje de errores. Está claro que habrá escépticos que dirán: “Tenemos una suscripción pagada” o algo así. No importa. Pero en promedio, el 48% de las respuestas serán falsas, serán inventadas”.

Véase también:

Digitización celular y búsqueda de drogas: Cómo los científicos belarusos usan AI en medicina