Ученый Университета Луисвилля (США) Роман Ямпольский предупредил о том, что искусственный интеллект может стать неконтролируемым. В своей книге "ИИ: необъяснимый, непредсказуемый, неконтролируемый" учёный рассказал, что если человечество и дальше будет неограниченно развивать новые технологии, то потеряет над ними контроль. «Мы столкнулись с почти гарантированным событием, которое потенциально может вызвать экзистенциальную катастрофу», — отметил Ямпольский.
По словам специалиста, наивно полагать, что люди смогут объяснить любые действия ИИ, так как «наша способность создавать интеллектуальное ПО намного превосходит нашу способность контролировать его». Ученый назвал ИИ потенциально непредсказуемым и заявил, что он может стать полностью автономным.
«Если мы привыкнем принимать ответы ИИ без объяснения причин, мы не сможем гарантировать, не будет ли он давать неправильные или манипулятивные ответы», — подчеркнул Ямпольский.
