Пачоцки рассказал, что OpenAI в первую очередь отслеживает цепочку логических рассуждений, однако новые, более совершенные модели всё лучше манипулируют своими собственными процессами мышления и иногда вообще не формулируют свои рассуждения.
Машинное рекурсивное самосовершенствование позволяет ускорить разработку ИИ, но само стремительное развитие ИИ несёт риски. «Основная проблема при автоматизации исследований в области ИИ заключается не в том, чтобы "добраться до цели”. А в том, чтобы сделать это таким образом, чтобы люди оставались частью процесса постоянного совершенствования, и будущее оставалось в руках человечества».
Верховный комиссар ООН по правам человека Фолькер Тюрк обеспокоен тем, что искусственный интеллект может создать угрозу для человечества - и тем, что в современном мире в руках всего нескольких людей "сосредоточена практически безграничная власть над ИИ". Тюрк призвал к "полномасштабным усилиям, чтобы гарантировать безопасность ИИ, пока не стало слишком поздно".
