"Гугл Дип Майнд", "Антропик" и "Мета" (признана экстремистской и запрещена в РФ) наняли экспертов в области психологии, этики и философии, чтобы расширить исследовательские программы по направлению машинного сознания и благополучия искусственного интеллекта.
"Антропик" тестирует модели на наличие признаков стресса, в том числе фиксируя поведение, напоминающее панику или тревожность. По мере того, как модели «приближаются, а в некоторых случаях и превосходят, широту и сложность человеческого познания, растёт вероятность, что они обладают некоторой формой опыта, интересов или благополучия, которые имеют внутреннее значение наравне с человеческими опытом и интересами», - заявили в компании.
"Гугл Дип Майнд" наняла учёного Генри Шевлина из Кембриджского университета для проработки вопросов машинного сознания, взаимоотношений человека и ИИ и готовности к созданию сильного ИИ (AGI). Специалисты отдела изучают научные теории человеческого сознания, применяя их к компьютерным системам, чтобы определить, соответствуют ли они тем же критериям.
Несколько сотрудников "Гугл Дип Майнд" и "Антропик" выразили обеспокоенность, что траектория развития ИИ может вести к «постчеловеческому» миру, где машины окажутся выше человека.
Разработчики искусственного интеллекта не скрывают, что относятся к нему как к ребёнку, который потенциально превзойдёт родителя и вытеснит его на периферию. В компании "Антропик" существует "Конституция", которая является некой этической рамкой обучения искусственного интеллекта. В своей статье "Отрочество технологии" глава компании Дарио Амодеи сравнивает "Конституцию" с наставлением, которое
усопший родитель написал своему ребёнку. Глава OpenAI Сэм Альтман ещё в 2017 году
заявлял, что лучший сценарий - если люди сольются с искусственным интеллектом, а если не сольются - возникнет конфликт между ИИ и людьми. Илон Маск в апреле 2025 года писал, что всё больше похоже на то, что человечество - вместилище для загрузки искусственного интеллекта. Сооснователь "Гугла" Ларри Пейдж считает, что для того, чтобы распространиться по галактике, люди должны принять цифровую форму.
