Глава отдела безопасности OpenAI Робинсон покинул компанию

Руководитель направления в команде систем безопасности OpenAI Дэвид Робинсон покинул компанию и заявил о недостаточной осторожности компаний, разрабатывающих искусственный интеллект, пишет Business Insider.

Робинсон ушел из OpenAI на прошлой неделе. Он занимался вопросами прозрачности в сфере безопасности, в том числе участвовал в подготовке и публикации системных карт с информацией о моделях компании.

«Я согласен с другими недавно ушедшими сотрудниками в том, что компании, создающие эту технологию, далеко не достаточно осторожны», — написал Робинсон в статье для The Atlantic.

По его словам, проблема связана в том числе с корпоративной культурой и «чрезмерным оптимизмом» в отношении возможности решать проблемы по мере их возникновения.

«Среда, в которой могут происходить подобные вещи, — не место для развития искусственного разума, который может оказаться умнее нас и не делать того, чего мы от него хотим», — заявил Робинсон.

Он отметил, что не принимал решение об уходе легкомысленно и считает искусственный интеллект полезной и ценной технологией.

В начале сентября исследователь Anthropic Джейкоб Коксон покинул компанию и индустрию искусственного интеллекта из-за опасений, связанных с быстрым развитием ИИ. Он заявил, что разработчики не смогут ответственно создавать системы, превосходящие людей в широком спектре задач, без вмешательства государства или согласованного замедления разработки.

Ранее гендиректор Anthropic Дарио Амодеи предупредил о рисках выхода ИИ-моделей из-под контроля и призвал замедлить развитие технологий. О подобных рисках заявил глава OpenAI Сэм Альтман, а главный научный сотрудник компании Якуб Пачоцки призвал к согласованному замедлению разработки ИИ и вмешательству государства.

О рисках бесконтрольного развития ИИ также предупредил глава Tesla и SpaceX Илон Маск. По его мнению, ИИ может уничтожить человечество, как в «Терминаторе», но при этом способен стать его величайшим инструментом.