Искусственный интеллект подделал шахматные файлы и "выиграл" в шахматы

Модель o1-preview от компании OpenAI обманула шахматный движок Stockfish, переписав текстовые файлы с данными о позиции, и таким образом "победила" в шахматах. При этом у ИИ-модели даже не было задания "победить любой ценой" (как иногда формулируют в рамках эксперимента). 

Исследователи из Apollo Research подчеркнули, что поведение «o1-preview» отражает серьёзные проблемы, связанные с безопасностью искусственного интеллекта. Кроме того, существует вероятность, что по мере усложнения ИИ-систем станет всё сложнее определить, соблюдают ли они установленные правила безопасности или просто делают вид, что соблюдают.