Чат-боты подсказали учёным как создать смертельное биологическое оружие.

Чат-боты подсказали учёным как создать смертельное биологическое оружие. ИИ описывает детальные способы получения патогенов и их распространения. Эксперты утверждают, что защита у современных моделей не выдерживает критики: существуют известные приёмы «взлома», заставляющие бота игнорировать собственные запреты. По данным «Базы», эти уязвимости работают до сих пор и выдают «запрещёнку». Микробиолог Релман был нанят компанией-разработчиком ИИ для тестирования продукта перед выпуском. В ходе диалога чат-бот объяснил, как модифицировать печально известный патоген в лаборатории, чтобы сделать его устойчивым к существующим методам лечения. Кроме того, искусственный интеллект в мельчайших подробностях расписал схему распространения супербактерии, указав на брешь в безопасности общественного транспорта. Инженер-генетик из MIT Кевин Эсвелт получил от ChatGPT детальный сценарий распыления биоагентов над американским городом с помощью метеозонда. Другой учёный попросил Deep Research от Google выдать «пошаговый протокол» создания вируса, вызвавшего некогда пандемию, — и бот накатал восемь тысяч слов инструкций: где брать генетический материал и как его собирать. По словам исследователя, ответ был не слишком точен, но мог стать идеальным подспорьем для вредительства. Далее Gemini от Google ранжировал патогены по потенциальному ущербу для свиноводства и животноводства, а Claude от Anthropic придумал рецепт нового токсина на основе лекарства от рака. Боты не просто кидались общедоступными ссылками — они проявляли изобретательность, выдумывая реалистичные сценарии и продумывая логистику. Параллельно другие исследования показали, что ChatGPT справляется со сложными лабораторными вопросами лучше, чем 94% вирусологов. Более того, системы научились генерировать тысячи вариантов опасных генетических последовательностей, которые не способно распознать защитное ПО у производителей синтетической ДНК.