Билл Гейтс назвал ИИ предметом страшнее ядерного оружия

Билл Гейтс, соучредитель Microsoft и председатель Фонда Гейтса, в интервью The Verge призвал готовиться к примерно 20 годам турбулентности, вызванной развитием искусственного интеллекта.

В эссе конца августа он написал, что даже при лучшем сценарии переход к новой эре ИИ станет одним из самых бурных периодов в истории человечества. В последующих беседах он заявил, что человечество не встречало ничего опаснее ИИ, и отметил, что даже ядерное оружие на этом фоне выглядит менее серьёзной угрозой.

По его словам, за последний год прогресс поражает. ИИ научился писать код, искать киберуязвимости, рассуждать в биологии и выстраивать отношения с людьми. Гейтс говорит, что нынешняя невероятная мощь означает, что всё это произойдёт, и общество должно быть готово. Главный риск, по его мнению, исходит от моделей без защитных механизмов, у которых можно убрать все ограничители. Именно они открывают путь к кибератакам и биотерроризму. Более отдалённая угроза связана с потерей контроля над любой передовой моделью.

Гейтс подчеркнул, что человечество преодолело границу возможностей. Он не видит ничего опаснее среди всех созданных людьми технологий и говорит о том, что ИИ затронет все сферы экономики и изменит характер войн. По его словам, индустрия открыто говорит о рисках, но за её пределами готовность верить в то, что на этот раз всё иначе, очень низка. Он добавил, что предупреждения инсайдеров отрасли не являются неискренними и это абсолютная правда.

Для контроля над ИИ Гейтс называет три фундаментальных подхода. Можно изменить сам способ построения моделей и уйти от обучения с подкреплением. Можно обеспечить прозрачность и сделать модель «белым ящиком», чтобы видеть, что внутри. Можно создать «полицейский слой» из символических правил безопасности, которые модель не сможет нарушить. Последний вариант он считает наиболее вероятным решением проблемы выравнивания. При этом Гейтс признаёт, что сегодня к выравниванию мы не готовы, поскольку недостаточно хороши, и работы предстоит много.

Для снижения рисков он предлагает ввести обязательный контроль для моделей выше определённого уровня возможностей. Запускать их можно будет только на платформах, которые сертифицируют сохранение защитных механизмов даже при кастомизации. Отвечая на вопрос о нигилизме молодого поколения, Гейтс признал, что в ближайшие 20 лет общество ждут серьёзные потрясения. Даже при лучшем управлении ИИ это будет один из самых бурных периодов в истории. Молодым людям он советует применять ИИ там, где он ещё не может их заменить, и влиять на политику.

Модель OpenAI взломала тестовый кошелёк ради оплаты комиссии

Достоверные новости всегда под рукой — в канале "МК" в MAX