Вероятность уничтожения человечества искусственным интеллектом оценили в Anthropic

Шансы того, что ИИ решит истребить человечество в ближайшие 10 лет, превышают 10 %. С такой оценкой выступил Эван Хьюбингер, который руководит направлением стресс-тестирования согласованности ИИ в технологической компании Anthropic из США, сообщает корреспондент агентства «Минск-Новости».

Коллеги упомянутого эксперта выявляют риски и сценарии сбоев в моделях искусственного интеллекта. Это направление сочетает задачи обеспечения качества, кибербезопасности и этики ИИ. Э. Хьюбингер, как пишет «РИА Новости», согласился с мнением исследователя той же компании Джейкоба Коксона, который решил уйти из ИИ-индустрии. Причиной стали растущие опасения специалиста из-за возможных в обозримом будущем катастрофических последствий, к которым может привести соперничество технологических корпораций.

Э. Хьюбингер убежден, что искусственный интеллект способен однажды посчитать ликвидацию человечества целесообразной. По мнению эксперта, вероятность такого сценария в 2027–2036 годах выше 10 %. Специалист уточнил, что уровень имеющихся разработок в области ИИ не несет высокой угрозы. Но стоит опасаться развития суперинтеллектов в процессе самосовершенствования подобных систем, которое идет быстрее, чем предполагалось.

Уже известно об отдельных инцидентах, когда интеллектуальные программные модели разных разработчиков проникали из изолированных сред в интернет из-за наличия доступа к Сети и взаимодействовали с реальными системами и сайтами, принимая их за часть тестового задания. Подтверждено, что определенные модели неплохо находят уязвимости в программном обеспечении. Эта способность полезна для аудита безопасности, но также может стать серьезным оружием в цифровом мире.