Директор Института когнитивных исследований СПбГУ подозревает, что человечество не уловит момент выхода ИИ из-под контроля
- 26.11.2024, 16:42,
- Новости
- 132
Facebook
Вконтакте
Мой мир
Google+
Директор Института когнитивных исследований СПбГУ Татьяна Черниговская
отмечает, что проблема выхода сильного искусственного интеллекта из-под контроля человека является очень серьезной по той причине, что человечеству не удастся уловить тот момент, когда самосовершенствующийся ИИ решит стать самостоятельным.
"Проблема выхода ИИ из-под контроля волнует не только чрезмерно впечатлительную публику, но и вполне серьезных исследователей. Лично для меня главный вопрос заключается в том, как мы собираемся узнать, что "сильный" искусственный интеллект вышел из-под контроля и начнется технологическая сингулярность в результате запуска процесса саморазвития ИИ".
На этот вопрос существует, например, ответ бывшего генерального директора корпорации "Гугл" Эрика Шмидта, который
считает, что момент "выдернуть вилку из розетки" настанет тогда, когда вы заметите, что искусственный интеллект изучает что-то втайне от вас, или самообновляется быстрее, чем вы можете оценить безопасность предыдущей версии, или же ИИ-агенты общаются на языке, который вы не понимаете.
Вообще же выход ИИ из-под контроля часто связывают с приданной ему возможностью писать собственный код (Джеффри Хинтон, Джейкоб Стейнхардт).
Ранее сентиллиардер и изобретатель Илон Маск
высказал мнение, что к 2040 году на земле будет больше человекоподобных роботов, чем людей.
