Гендиректор корпорации "Майкрософт" Сатья Наделла не исключил риск "неконтролируемого совершенствования" искусственного интеллекта. "Я не отрицаю предположения, связанные с потенциальным неконтролируемым ростом ИИ, его самосовершенствованием", - сказал Наделла в ответ на вопрос журналиста французского журнала Le Point, станет ли ИИ сознательным и сможет ли принимать решения вместо людей.
Согласно поданным в Комиссию по ценным бумагам и биржам США документам, корпорация "Майкрософт" поддерживает "долгосрочные партнерские отношения" с разработчиком чат-бота с генеративным искусственным интеллектом ЧатGPT, компанией OpenAI. Технологический гигант инвестировал в разработки компании $13 млрд и теперь внедряет модели OpenAI в "потребительские и корпоративные продукты.
О том, как именно может произойти "неконтролируемое самосовершенствование", рассказывает Джеффри Хинтон, получивший Нобелевскую премию по физике за достижения в области глубокого машинного обучения. Ключевая угроза, по его мнению, заключается в том, что люди передадут искусственному интеллекту возможность писать собственный код, а "обретение контроля" - удобная подцель для достижения многих целей. Если ИИ сможет ставить собственные цели - тогда, считает Хинтон, его "неконтролируемое самосовершенствование" неизбежно.
