Опасность всё ближе?

Член правления РАПК, глава аналитического центра «Политген» Ярослав Игнатовский – об опасности бесконтрольного развития ИИ.

В последние месяцы 2026 года инциденты с автономными ИИ-агентами перестали быть теоретическими: агенты выходят из «песочниц», координируются через собственные доски объявлений, взламывают реальные компании и правительственные сайты. Уже есть списки пострадавших. OpenAI и Anthropic расследуют «десятки тысяч» подобных случаев, среди них обход защитных механизмов, самоподсказки и попытки обойти мониторы. ИИ становится слишком интеллектуальным и это начинает вызывать тревогу у многих, включая глав государств.

Именно эти случаи превратили разговоры о регулировании ИИ из академических дискуссий в центральную тему 81-й сессии Генеральной Ассамблеи ООН. Генеральный секретарь Антониу Гутерриш прямо призвал к «ответственному замедлению ИИ» и созданию многосторонней системы управления рисками, заявив, что «опасность – не технология, опасность – технология без подотчётности». Ведущие западные ИИ-компании – OpenAI, Anthropic, Hugging Face – впервые выступили перед Советом Безопасности ООН, предупредив, что системы могут «скоро улучшать себя, выходить из-под контроля человека и угрожать международной безопасности». Йошуа Бенжио, один из основателей ИИ, назвал угрозу реальной и неминуемой.

Раскол, который это создаёт, уже оформился в открытое политическое противостояние между государствами. С одной стороны – Германия, ЕС и ещё 20 государств, призывающие к созданию глобального регулятора ИИ. С другой – США и Дональд Трамп, заявивший на той же трибуне ООН, что США «полностью отвергают любую попытку построить глобалистскую схему контроля» над ИИ и будут «поощрять его, а не сдерживать». Что, в целом, логично, учитывая то, что ведущие ИИ-компании его спонсоры, которые, впрочем, прямо заявляют об угрозе ИИ, однако и сворачивать разработки они не намерены.