Бывший сотрудник Anthropic увидел скорое приближение неуправляемого ИИ

13 ноября Коксон, ранее занимавшийся предварительным обучением нейросетей в OpenAI и Anthropic, опубликовал пост в X. Он обратил внимание на слайд из материалов роуд-шоу перед IPO Anthropic. По его мнению, данные говорят о сверхэкспоненциальном ускорении эффективности алгоритмов, когда каждое новое поколение технологий улучшается быстрее предыдущего. Коксон признался, что увиденное стало одной из главных причин его ухода из компании.

На слайде показано изменение вычислительного множителя при предварительном обучении моделей для программирования с июля 2024 года по октябрь 2026-го. Этот показатель отражает, насколько эффективнее становятся алгоритмы. Например, улучшение в 4 раза означает, что модель сопоставимого качества можно обучить, затратив в 4 раза меньше ресурсов. График построен в логарифмической шкале. При обычном экспоненциальном росте линия на такой шкале была бы прямой, однако данные Anthropic демонстрируют изгиб вверх. Коксон счёл это признаком дальнейшего ускорения и написал, что график безумный, а его публикация вызывает удивление.

По словам Коксона, появление мощной модели Claude Mythos не было единичным скачком. Она могла стать очередной точкой на пути быстрого улучшения алгоритмов. Он предположил, что уже сейчас Anthropic способна повторно обучить Mythos, используя лишь небольшую часть вычислительных ресурсов, которые потребовались при первоначальной разработке. Опасения Коксона перекликаются с заявлениями самой Anthropic. В презентации для инвесторов сооснователь компании Том Браун объяснил, что улучшения вычислительной эффективности накапливаются. Каждое следующее достижение позволяет получать более мощные модели при меньших затратах, а те помогают исследователям находить новые способы оптимизации.

В перспективе процесс может перейти в режим рекурсивного самосовершенствования, когда ИИ участвует в создании более совершенной версии себя. В официальном проспекте IPO Anthropic также описывает ускоренное появление новых вычислительных множителей. Компания рассчитывает, что Claude будет играть всё более значительную роль в разработке следующих поколений моделей.

Дискуссия развернулась на фоне подготовки Anthropic к размещению на американской бирже. По предварительному проспекту компания намерена разместить 825 млн акций класса А по цене 70-78 долларов за штуку. Размер привлечения способен перевалить за 60 млрд долларов. Окончательную цену планируют установить 18 ноября, а торги на Nasdaq под тикером ANT начнутся 19 ноября, если регистрационные процедуры завершатся успешно. По информации Reuters, спрос со стороны инвесторов был на редкость высоким, и уже в первые дни заявок оказалось заметно больше, чем бумаг. Для инвесторов стремительный рост эффективности алгоритмов подкрепляет доводы в пользу дорогой оценки компании. Учёные, тревожащиеся за безопасность ИИ, видят в этих же цифрах сигнал о том, как быстро надвигаются изменения.

ИИ научился находить на ЭКГ скрытый предвестник внезапной смерти

Достоверные новости всегда под рукой — в канале "МК" в MAX