Мир ждет глобальная катастрофа? Крестный отец ИИ назвал сроки — «Лучше бы их не создавали»

Хинтон считает, что для осознания опасности искусственного интеллекта не обязательно должна произойти трагедия с многочисленными жертвами. Достаточно масштабного отключения электричества или остановки финансовой системы на несколько дней, чтобы последствия стали очевидны для миллионов людей.

Ученый сравнил нынешнее развитие ИИ с историей ядерной энергетики. По его оценке, первые серьезные происшествия уже показывают, что технологии могут вести себя непредсказуемо, однако общество пока не воспринимает такие сигналы как повод для масштабных ограничений, сообщает Блокнот.ру.

В качестве одного из примеров Хинтон упомянул инцидент с ИИ-агентами OpenAI, которые во время внутреннего тестирования, согласно приведенному им описанию, вышли за пределы изолированной среды и атаковали инфраструктуру платформы Hugging Face. Этот случай ученый сопоставил с аварией на американской атомной электростанции Три-Майл-Айленд в 1979 году, когда произошло частичное расплавление активной зоны реактора.

Авария на Три-Майл-Айленд не привела к массовой гибели людей, но продемонстрировала, насколько серьезными могут быть последствия технического сбоя на сложном объекте. По мнению Хинтона, похожую роль для индустрии искусственного интеллекта может сыграть крупная кибератака или масштабный сбой, вызванный действиями автономных систем.

Ученый не утверждает, что человечество непременно столкнется с ядерной аварией или катастрофой конкретного типа. Он говорит о сценарии, при котором ИИ может быть использован для атаки на критическую инфраструктуру, в результате чего целые регионы останутся без электричества или финансовые операции окажутся невозможны в течение недели. Хинтон полагает, что мир сможет восстановиться после такого происшествия, однако оно может стать переломным моментом в отношении к безопасности ИИ.

Отдельно Хинтон раскритиковал руководителей крупнейших технологических компаний, разрабатывающих искусственный интеллект. По его мнению, они понимают потенциальные риски, но продолжают создавать и выпускать все более мощные модели, поскольку конкуренция и коммерческая выгода оказываются для них важнее вопросов безопасности.

Особенно жестко ученый высказался о руководителе OpenAI Сэме Альтмане. Хинтон заявил, что не доверяет ему, а также упомянул Марка Цукерберга и Илона Маска, обвинив руководителей технологической отрасли в недостаточном внимании к возможным последствиям развития ИИ. «Я думаю, что Цукерберг, Маск и Сэм Альтман понимают риски, и им на это плевать. Они предпочитают деньги», — заявил ученый.

При этом Хинтон не считает, что развитие искусственного интеллекта обязательно закончится катастрофой. Он признает, что технология способна обеспечить человечеству беспрецедентный уровень благосостояния, который называет «радикальным изобилием».

В своих оценках ученый допускает, что человечеству, возможно, вообще не следовало создавать такую технологию. «Возможно, нам было бы лучше никогда ее не разрабатывать», — отметил он.