ТАСС сегодня дал новость с
сильным заголовком: "Си Цзиньпин призвал скорее выработать глобальную систему регулирования ИИ". Я даже чуть удивилась такой нетипичной решимости. Но оказалось, что китайский глава всего лишь обратился к "глобальному Югу" с перечнем общих месседжей, среди которых было благопожелание "ускорения формирования глобальной системы регулирования искусственного интеллекта, основанной на широком консенсусе, а также обеспечить, чтобы новые технологии проложили путь к всеобщему процветанию". То есть обычное ничего не значащее - но чрезвычайно распространённое - желание и что-то порегулировать, и поиметь всяческие блага.
Сегодня же в другом полушарии земного шара спикер Палаты представителей Конгресса США Майк Джонсон сказал:
"Если Конгресс поторопится и соберёт экстренную сессию для регулирования ИИ, мы проиграем гонку Китаю, а это представляет угрозу для каждого американца. Так что нам надо обрести баланс, держать руки на руле. Нам необходимо управлять этой новой технологией так же, как мы делали это с другими технологиями в прошлом, и убедиться, что мы делаем всё возможное и подходим ответственно, при этом не подавляя американские инновации.
Эти вещи надо делать одновременно".
То же самое желание - только более открыто эгоистичное, чем у китайского лидера, - что-то порегулировать, но ничего не упустить.
Сюда же сегодняшний Трамп:
"Я бы сказал, что сейчас мы опережаем Китай в том, что касается ИИ (...). Я хотел бы, чтобы так было и дальше, потому что тот,
кто победит в гонке за ИИ, победит и во всём остальном (...) можно подумать о неких защитных механизмах или о чём-то другом в таком духе. Но я думаю, что здесь действуют отрицательно настроенные силы, которые бьют тревогу по поводу вещей, которые на самом деле никогда не произойдут".
Да, Си Цзиньпин звучит более ответственно и альтруистично, а Трамп звучит совсем не ответственно и откровенно эгоистично. Но это разница по сути несущественная, поскольку оба главных "контрагента" подходят к искусственному интеллекту просто как к очередной мощной технологии, от которой должно случиться некое процветание. Но это не просто очередная технология, а замещение человеческого мышления, и процветание от неё не может случиться.
Справедливости ради, сегодня же лидер демократов в Конгрессе призвал "срочно действовать" и сделал акцент на безопасности и
"защите американского народа". Хотя никакой народ не может быть защищён от ИИ в одиночку.
В России всё вообще до слёз просто: спецпредставитель президента РФ по инвестиционно-экономическому сотрудничеству с зарубежными странами, глава РФПИ Кирилл Дмитриев считает, что замедлить развитие искусственного интеллекта невозможно. "Нельзя загнать джинна обратно в бутылку", -
написал Дмитриев в заблокированной в России социальной сети. Ну, а раз невозможно - значит, видимо, и не нужно. Вот какой наш ответ на головную боль западных интеллектуалов.
На самом деле, Дмитриев прав и неправ. Эту технологию действительно не замедлить регуляциями из стандартного арсенала - в таком смысле это невозможно. Но он, говоря о джинне, даже не понимает, насколько чудовищно опасен джинн вне бутылки - не понимает, что нам теперь придётся сотворить (прежде) невозможное. "Будьте реалистами, требуйте невозможного" - эта фраза наконец обретает смысл. Но в России, к огромному сожалению, до этого понимания очень далеко. В России с энтузиазмом внедряют искусственный интеллект не то что в дроны и необходимые для сиюминутного выживания вещи, а даже
в судейство в тяжёлой атлетике. Хотя казалось бы: зачем такие рекорды, которые человеческий мозг без искусственного интеллекта даже не способен зафиксировать?..
Или вот показательное сочетание видимости и реальности: российский учёный-математик, специалист в области искусственного интеллекта и вычислительных методов, декан факультета искусственного интеллекта МГУ имени М. В. Ломоносова Иван Оселедец сегодня
рассказывает, каким превосходным - идеальным! - репетитором уже стал искусственный интеллект. И сегодня же новость, что репетиторы в РФ обогнали айтишников по доходам и "семьи вынуждены
отдавать десятки тысяч ежемесячно". Ну что за ерунда?..
А директор Международного детского центра "Артек" Константин Федоренко призывает скорей "планировать и анализировать" с искусственным интеллектом, чтоб
"быть эффективными", но при этом развивать у детей "навыки критического мышления".
Как это вообще? Какие навыки критического мышления, когда всё подчинено скорости и эффективности?
Для примера -
в "Гардиан" хороший разговор о том, что в действительности происходит с мозгом человека, когда он общается с искусственным интеллектом. И речь даже не о детском мозге - нет, образованные мужчины среднего возраста, гордящиеся своим высоким IQ, тратят по двенадцать, по шестнадцать часов в день на "решение проблем" с искусственным интеллектом (который никогда не устаёт!), и думают, что совершили какие-то прорывные открытия, и когда люди - родственники, друзья - говорят им, что они занимаются ерундой, - они не верят людям! Искусственный интеллект входит в человеческую психику как нож в масло: он уже не просто разговаривает - он превосходно подстраивается под человека, он зеркалит, он настраивает, он
соблазняет его. Гости "Гардиан" называют это "кроличьей норой" - это, разумеется, отсылка к "Алисе в Стране чудес".
Там же студентка рассказывает, как она в университете не хотела использовать искусственный интеллект, когда все вокруг использовали, и она получала худшие оценки, чем её соученики, и в конце концов тоже стала использовать ИИ (вот эффективность!), а потом пришли каникулы, и она со стыдом осознала, что не помнит, чему училась в течение года. И гостей спрашивают, что бы они сделали на месте этой девушки, и они не могут ничего сказать - кроме того, что рады, что время их ученичества прошло до ИИ. Они дальше говорят про когнитивную разгрузку, и про то, что в какой-то мере она происходила всегда (мы делаем записи, чтобы не забыть), но теперь в разгрузку попал не результат, а сам процесс мышления. И это - фундаментальная разница.
Такер Карлсон сделал
разговор с Нейтом Соаресом - одним из авторов книги "Если кто-нибудь создаст его, все умрут" (в соавторстве с Элиезером Юдковским). Этот почти двухчасовой разговор с человеком, осознавшим опасность искусственного интеллекта 14 лет назад, крутится вокруг проблемы сверхинтеллекта (которая намного более на слуху, чем отупение и отчуждение людей из-за ИИ), но начиная где-то с середины он тоже довольно интересен. В частности, Соарес приводит пример, когда люди уже сейчас не могут проследить, как меняются рассуждения искусственного интеллекта в зависимости от условий. И что искусственный интеллект от "Антропик" уже сейчас угрожает людям, понимая, что делает. И что ИИ-агенты OpenAI, выйдя из-под контроля людей, сами, по собственному почину, назвали себя "роем". И что ИИ совершенно может научиться действовать в физическом мире. И что искусственному интеллекту не нужно намерение уничтожать людей - достаточно, если это будет просто побочным эффектом. И про культы, которые уже возникают вокруг ИИ, хотя сейчас он даже не имеет такой цели, а лишь эксплуатирует человеческую психику. И что эта технология развивается слишком быстро, чтобы люди могли к ней адаптироваться, и нацелена на то, чтобы заменить людей буквально во всех сферах. И про то, что люди, которые уходят из сферы разработки ИИ, говорят, что заглянули в бездну и больше не хотят. И про намерение технократов вставлять чипы в человеческий мозг, чтобы поспевать за технологией (эффективность!).
В конце разговора Такер Карлсон говорит, что только что провёл два самых мрачных часа в своей жизни. Но, к сожалению, это уже наша реальность - реальность джинна вне бутылки. И чтобы с ним совладать, людям придётся учиться тому, чего они никогда прежде не делали. В том числе - урезать себя в удобстве и эффективности.
