После того, как выяснилось, что две модели OpenAI вышли из-под контроля и
взломали, как минимум, пять ресурсов, компания "Антропик" решила провести "масштабный ретроспективный анализ" собственных моделей и выяснила, что они
тоже незаметно взламывали сторонние ресурсы. «Несанкционированный доступ к реальным системам трёх разных организаций» осуществили три модели Anthropic: Opus 4.7, Mythos 5 и некая внутренняя исследовательская модель. В рамках тестирования предполагалось, что симуляция проводилась в условиях без доступа к интернету, но «по недоразумению между нами и нашим партнёром это оказалось не так, и доступ к интернету присутствовал». "Антропик" призвала другие лаборатории "провести аналогичные оценки".
OpenAI, Anthropic, Google и другие ведущие разработчики искусственного интеллекта
подписали совместное обращение к правительству США с призывом разработать механизмы контроля темпов развития передовых ИИ-систем. Авторы заявления указывают на реальную угрозу того, что способность ИИ к самостоятельному исследованию приведёт к неконтролируемому ускорению прогресса, опережающему возможности человечества по обеспечению безопасности таких систем. При этом самостоятельно разработчики не могут замедлить свои исследования, ибо у них - конкуренция, и они себя не контролируют. Предлагается создать некие международные инструменты контроля - которые, очевидно, правительство США тоже не может создать самостоятельно.
