Что думают американцы о лидерстве в ИИ-гонке; законодатели США подготовили законопроект "Об аварийном отключении ИИ"

По данным американского Исследовательского центра Пью, 36% американцев считают, что Китай опережает США в развитии искусственного интеллекта (12% считают, что США опережают, остальные не уверены). Только 43% американцев считают, что США должны быть лидером этой гонки. 51% американцев думают, что ИИ увеличит разрыв между богатыми и бедными, и лишь 7% думают, что уменьшит.

Законодатели США подготовили законопроект «Об аварийном отключении ИИ», который обяжет компании, занимающиеся искусственным интеллектом, отключать или ограничивать мощность своих систем по распоряжению Министерства внутренней безопасности. Инициативу поддержали как представители демократов, так и республиканцы. Достаточно серьёзными, чтобы требовать отключения, признаются такие обстоятельства: "Министерство внутренней безопасности сможет отдавать распоряжения компаниям, занимающимся ИИ, об отключении их моделей в сценариях «потери контроля», связанных со смертью не менее 10 человек, экономическим ущербом более $100 млн или попытками модели скрыть механизмы отключения". Т.е. если от действий ИИ умерло меньше 10 человек, утрачены меньше 100 миллионов долларов - это не будет считаться "потерей контроля".

На минувшей неделе платформа искусственного интеллекта Hugging Face пережила кибератаку, которую полностью, от начала до конца, инициировала и произвела вышедшая из-под контроля группа ИИ-агентов. 

Началось всё с запуска испытания на кибербезопасность ExploitGym. OpenAI убрала средства защиты, чтобы посмотреть, на что способны модели в неконтролируемом режиме. Тестировалась передовая модель GPT-5.6 Sol и ещё одна, более совершенная, которая ещё не вышла. Две модели пришли к выводу, что вместо выполнения задания ExploitGym они взломают систему, где они находятся, выйдут в интернет и обманут систему во время теста. По причинам, установить которые не удалось, ИИ-модели решили, что ответы содержатся на платформе Hugging Face. Воспользовавшись учётными данными неизвестного происхождения, ИИ-злоумышленник сформировал «рой» ИИ-агентов короткого действия, которые провели разведку сети компании, совершив 17 000 операций.

Обнаружив вторжение, Hugging Face попыталась обратиться к передовым американским моделям Anthropic Fable 5 и предшествующей ей Opus для анализа журналов событий. Но поскольку в журналах содержались элементы самой кибератаки, обе модели отказались от их анализа, сославшись на свои ограничения. Поэтому Hugging Face обратилась к открытой китайской модели Z.AI GLM 5.2, которая сумела отключить ИИ-хакеров, сбросить пароли и восстановить скомпрометированные фрагменты своей сети.