OpenAI Security Chief Robinson Leaves Company
El jefe del departamento en el equipo de sistemas de seguridad OpenAI David Robinson dejó la compañía y dijo sobre la falta de precaución de las empresas que desarrollan inteligencia artificial, escribe Business Insider.

El jefe del departamento en el equipo de sistemas de seguridad OpenAI David Robinson dejó la compañía y dijo sobre la falta de precaución de las empresas que desarrollan inteligencia artificial, escribe Business Insider.
Robinson se retiró de OpenAI la semana pasada. Trabajó en cuestiones de transparencia en materia de seguridad, incluyendo la preparación y publicación de mapas de sistemas con información sobre los modelos de la empresa.
"Estoy de acuerdo con otros empleados recientemente fallecidos que las empresas que construyen esta tecnología están lejos de ser lo suficientemente cuidadosas", escribió Robinson en un artículo para el Atlántico.
Según él, el problema está relacionado con la cultura corporativa y el “excesivo optimismo” sobre la capacidad de resolver los problemas cuando surgen.
“El ambiente en el que puede suceder este tipo de cosas no es el lugar para desarrollar inteligencia artificial que puede ser más inteligente que nosotros y no hacer lo que queremos que haga”, dijo Robinson.
Señaló que no tomó la decisión de salir a la ligera y considera que la inteligencia artificial es una tecnología útil y valiosa.
A principios de septiembre, el investigador antropópico Jacob Coxon dejó la empresa y la industria de inteligencia artificial sobre las preocupaciones acerca del rápido desarrollo de la IA. Dijo que los desarrolladores no serían capaces de construir sistemas responsablemente que superen a los humanos en una amplia gama de tareas sin intervención del gobierno o una desaceleración concertada en el desarrollo.
Anteriormente, el CEO antropópico Dario Amodei advirtió sobre los riesgos de que los modelos AI salgan de control e instó a frenar el desarrollo de la tecnología. Tales riesgos fueron señalados por el jefe de OpenAI Sam Altman, y el científico jefe de la empresa Jakub Pachocki pidió una desaceleración concertada en el desarrollo de AI y la intervención gubernamental.
Sobre los riesgos del desarrollo incontrolado de AI también advirtió el jefe de Tesla y SpaceX Elon Musk. Según él, AI puede destruir a la humanidad, como en el “Terminator”, pero puede convertirse en su mayor herramienta.



