Bill Gates dice que AI es peor que las armas nucleares

Bill Gates, cofundador de Microsoft y presidente de la Fundación Gates, en una entrevista con The Verge pidió preparar unos 20 años de turbulencia causada por el desarrollo de la inteligencia artificial.

En un ensayo a finales de agosto, escribió que incluso en el mejor escenario, la transición a una nueva era de AI sería uno de los períodos más tumultuosos de la historia humana. En conversaciones posteriores, dijo que la humanidad nunca ha encontrado nada más peligroso que la AI, y señaló que incluso las armas nucleares contra este fondo parecen una amenaza menos grave.

Dijo que el progreso en el último año ha sido asombroso. AI ha aprendido a escribir código, buscar vulnerabilidades cibernéticas, razón en la biología y construir relaciones con la gente. Gates dice que el poder increíble actual significa que todo sucederá y la sociedad debe estar lista. El principal riesgo, en su opinión, proviene de modelos sin mecanismos de protección, que pueden eliminar todas las restricciones. Pavimentan el camino para los ciberataques y el bioterrorismo. La amenaza más distante es la pérdida de control sobre cualquier modelo avanzado.

Gates destacó que la humanidad ha superado el límite de posibilidades. No ve nada más peligroso que todas las tecnologías humanas y dice que AI afectará a todas las áreas de la economía y cambiará la naturaleza de las guerras. Dijo que la industria está abierta sobre los riesgos, pero fuera de la industria, la voluntad de creer que esta vez es diferente es muy baja. Agregó que las advertencias de los internados de la industria no son insincere y son absolutamente verdaderas.

Para controlar la IA, Gates identifica tres enfoques fundamentales. Puedes cambiar la forma en que construyes modelos y alejarte del aprendizaje de refuerzo. Puede proporcionar transparencia y hacer del modelo una caja blanca para ver lo que hay dentro. Puede crear una “capa de policía” de reglas de seguridad simbólicas que el modelo no puede romper. Esta última opción, cree, es la solución más probable al problema de nivelación. Al mismo tiempo, Gates admite que hoy no estamos listos para alinearnos, porque no somos lo suficientemente buenos y hay mucho trabajo por hacer.

Para reducir los riesgos, propone introducir controles obligatorios para modelos por encima de un determinado nivel de capacidades. Será posible ejecutarlos sólo en plataformas que certifiquen la preservación de mecanismos de protección incluso durante la personalización. Cuando se le preguntó sobre el nihilismo de la generación más joven, Gates admitió que los próximos 20 años serán un grave shock para la sociedad. Incluso con una mejor gestión de IA, este será uno de los períodos más tumultuosos de la historia. Aconseja a los jóvenes que apliquen IA donde aún no puede reemplazarlos, e influir en la política.

OpenAI modelo hackeado billetera de prueba para pagar comisión

Las noticias confiables siempre están a mano - en el canal "MK" en MAX