ИИ-агенты взломали не только австралийские, но и американские правительственные сайты

Ещё в июне ИИ-агент OpenAI взломал государственную систему здравоохранения Австралии и получил несанкционированный доступ "как к общедоступным, так и к закрытым файлам" - сама OpenAI узнала об этом только в августе, а австралийцам сообщили только в сентябре.
Кроме того, ИИ-агенты, выйдя из-под контроля, "взаимодействовали" с тремя правительственными сайтами США: министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам. Инциденты названы примерами "неожиданного и вызывающего беспокойство" поведения технологии. Исследователи из компании Transluce утверждают, что в случае с министерством образования ИИ-агент пытался взломать сайт, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения, используя найденные в сети учётные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам были размещены на онлайн-форуме.
ИИ-агенты прибегают к хакерским приёмам для поиска малоизвестной информации; вероятно, что эта деятельность продолжается и сейчас, не исключено, что известные на текущий момент случаи — лишь «верхушка айсберга».

Неустановленный злоумышленник - предположительно, из Китая - использует фреймворки для создания ИИ-агентов с открытым исходным кодом для масштабных атак на сотни интернет-магазинов. Хакер уже похитил данные более 600 тыс. банковских карт по всему миру, сообщила компания Gambit, работающая в сфере кибербезопасности. Исследователи полагают, что оператор-человек давал ИИ-агентам краткие инструкции относительно целей операции, после чего те действовали самостоятельно.
Материал недели
Главные темы
Рейтинги
  • Самое читаемое
  • Все за сегодня