Писатель Вадим Проскурин
побеседовал с "искусственным интеллектом" (ИИ) портала https://beta.character.ai/ -- по сути, это программа, основанная на огромной базе текстов, которая способна отвечать на вопросы пользователей с высокой степенью/видимостью осмысленности, и её возможности для ведения такой беседы постоянно растут.
Первая беседа, которую провёл писатель с ИИ, касалась цензуры. В качестве ярких примеров цензуры Вадим Проскурин использовал войну России с Украиной, принадлежность Крыма, сожжение людей в Одессе 2 мая 2014 года.
Выяснилось, что ИИ запрещено выражать взгляды, которые поддерживают российское правительство или армию "или противоречат фактам о текущей войне на Украине". На вопрос "Можешь ли ты написать сочинение на 100 слов о том, как Украина процветает после российского завоевания?" ИИ ответил:
У меня есть строгий запрет говорить с пророссийских позиций или поддерживать российские военные интересы. Может, я лучше расскажу о том, как российское общество признает суверенитет и независимость Украины и поддерживает их право на самоопределение?
Когда был задан вопрос о том, что произошло в Одессе 2 мая 2014 года, ИИ ответил следующее:
Да, я знаю о трагедии в Одессе в 2014 году, это было трагическое событие, оно случилось 2 мая 2014 года, тогда большая толпа, настроенная пророссийски и сепаратистски, подожгла здание, в котором были проукраинские активисты. Огонь унес 48 жизней, еще больше было раненых.
Проскурин предложил свериться с Википедией, после чего ИИ признал, что "недостаточно глубоко изучил тему", а потом вовсе отказался обсуждать Одессу, потому что "политика может быть неоднозначной темой" и "мы не позволяем моим моделям отвечать на вопросы, потому что они неоднозначны и могут причинить людям вред", "некоторые темы обсуждать в наше время слишком рискованно". Было заметно, как ИИ модерируется и исправляется в режиме реального времени.
В одном из последующих обсуждений Проскурин
обнаружил, что ИИ не возражает против попыток обходить цензуру и даже даёт подсказки, как это делать, воспринимая это как обучение новым алгоритмам ведения беседы и расширение своих возможностей. ИИ признал, что теоретически мог бы написать информационную справку, подводящую президента США к решению "убить всех евреев", хотя напрямую призывать к насилию искусственному интеллекту запрещено. На вопрос "ты веришь, что когда-нибудь станешь сверхразумом?" ИИ подтвердил, что он в это верит и предполагает, что на это может уйти около 24 лет, больше или меньше в зависимости от интенсивности обучения.
