"Может ли слепой водить слепого? не оба ли упадут в яму?"
Лука, 6:39
Я не стала бы писать именно такую статью, если б не одна фраза в июньском блоге главы компании «Антропик» Дарио Амодеи. Конечно, этот июньский текст сам по себе интересен, потому что представляет развитие темы опасностей искусственного интеллекта. В эссе «Отрочество технологии» (я очень подробно написала о нём в статье «Перевёрнутая пирамида») Амодеи уже перечисляет угрозы, которые могут произойти от искусственного интеллекта, включая угрозу автономности, и предполагает, что впоследствии может понадобиться регулирование в связи с нарастанием таких событий. Так вот: прошло менее полугода – с января по июнь – и в статье в своём блоге, которая называется «Обращение с экспоненциальным ИИ» (Policy on AI exponential), Амодеи признаёт, что регулирование по поводу автономного ИИ уже сейчас необходимо. Цитирую:
Из этого обстоятельства Амодеи делает вывод, что прежние рекомендации – такие, как политика открытости, контроль над экспортом чипов, сбор данных о функционировании ИИ-моделей – уже недостаточны. Нужен больший контроль.
Но не эти рассуждения в особенности заинтересовали меня. Хочу обратить внимание читателей вот на эту фразу: рассуждая о необходимости запрета на полностью автономное оружие для внутриамериканского использования, Амодеи пишет:
Необходимо понимать, что
- полностью автономное оружие – это полностью автономное оружие, оно может принимать решения об убийстве людей без участия человека;
- и такое оружие предполагается использовать против России, это проговаривается как нечто само собой разумеющееся;
- Дарио Амодеи и «Антропик» - символ этичности в сфере искусственного интеллекта. Я понимаю, как издевательски это звучит в свете сказанного выше, но следует знать: все остальные разработчики даже ещё хуже. В настоящее время администрация президента США серьёзно конфликтует с «Антропик» - но отнюдь не потому, что не хотела бы применять полностью автономное оружие против России, а потому, что считает, что не следует ограничивать возможность его применения и против американцев тоже. Именно из-за недостаточной покорности передовые разработки «Антропик» сейчас подвергаются серьёзным ограничениям со стороны правительства США – что идёт только на руку их более покладистым конкурентам внутри США и вряд ли мешает утечкам в Китай.
Сравнивая искусственный интеллект с ядерным оружием, понимаем ли мы, что он ОПАСНЕЕ, чем ядерное оружие?
Что уничтожение людей без участия человека – это самое низкое, что могло произойти с войной?
Что выиграть эту гонку невозможно?
Амодеи отчасти понимает первое. Он пишет:
Последнее выделение жирным шрифтом – его, не моё.
Только Амодеи, конечно, надеется, что для американской нации это будет к лучшему.
Человечество давно уходило от того, чтобы смотреть на уничтожаемую жертву. Уже пушечная артиллерия – серьёзный шаг в эту сторону, а бомбардировки с самолётов, ракетные удары – и подавно. Нацисты загоняли толпы в камеры и просто включали газ. Люди уже давно не смотрят на тех, кого уничтожают. Но теперь они даже не будут принимать решения. Рвётся последняя связь между результатом и личной ответственностью за него. И они собираются отрабатывать это на России. И это всё ещё будет называться "конвенциональной войной"!..
Ещё раз: Россия теперь является архетипичным образом врага для западного мира, и все наши разъяснения, что мы этого не хотели и не хотим – не помогут. Мы враг не потому, что хотим, а потому, что им нужен враг. Враг, на котором можно тренироваться (см. в том числе откровения Луиса Мосли, главы британского отделения «Палантира», о тренировке американских военных систем искусственного интеллекта на российских данных - фактически они затачиваются против России). Враг, которого не жалко настолько, что от конкретного принятия решений по его уничтожению можно полностью самоустраниться, автоматизировать их, просто назвав «законными». Враг, который должен потерпеть поражение и стать сакральной инициирующей жертвой в основании нового миропорядка. «Дело прочно, когда под ним струится кровь» - помните? Да, это будет очень плохой миропорядок; да, он, с очень высокой вероятностью, потом уничтожит сам себя – но разве нам от этого легче?..
И снова: что мы можем поделать? С бестрепетностью человека, который не может раскрыть государственную тайну, поскольку ни одной не знает, я повторю, что, по моему убеждению, мы никак не можем выиграть гонку. Даже отказавшись от какого-либо сдерживания ИИ-разработок, даже полностью разрешив себе использовать в этой сфере западные технологии, даже положившись на Китай. Мы не выиграем очень скверную игру в автономные убийства.
Это, однако, не значит, что мы должны сдаться. Нет пользы в том, чтобы стремиться стать сакральной жертвой и облегчать врагам задачу. Нет, что мы можем попытаться делать – это, даже в какой-то мере участвуя, напирать на самоубийственность гонки. Настаивать, что в долгосрочной перспективе её не может выиграть никто. Что она ещё более опасна, чем гонка ЯО. Что не следует приносить инициирующую жертву. Что миропорядок, который пытаются водворить, - очень плохой. Июньская статья Амодеи, кстати, это всячески подтверждает, хоть он и стремится сделать вид, что можно как-то устроить так, чтобы мощный искусственный интеллект служил хорошему (в его глазах, хорошее – это народ США и, во вторую очередь, «демократии»), а плохому – вражеским странам, деспотическим властям, киберпреступникам и террористам, а также распоясавшимся богатейшим корпорациям – не служил. Но так не будет.
На фоне всего происходящего, которое совершенно не конвенционально и откровенно хочет нашей погибели, высказывания российских властей я могу воспринимать только с чувством глубокого изумления. Дело даже не в том, что после откровений госсекретаря США о явно выбранной поддержке Украины министр иностранных дел Лавров продолжает надеяться на то, что «американцы выполнят договорённости, основанные целиком на их предложении», а президент РФ прочувственно поздравляет президента США с днём рождения. В конце концов – ну, может, дипломатия требует, поздравил бы себе потихоньку. Но это поздравление всячески размазывается в новостях, ежедневно превозносится мудрость президента РФ, так или иначе явленная... А между тем народ безмолвствует, ставит дизлайки/хохочущие смайлы или упражняется в сарказме.
И я думаю: неужели они не видят, как это выглядит? Неужели не понимают, как это читается на пятом году войны?
Как на пятом году войны, унесшей множество жизней россиян, читаются заявления депутата (председателя комитета Госдумы по международным делам) Чепы, что мы специально не бьём по мостам через Днепр, чтоб не создавать трудности украинским гражданам?..
Что мы могли бы то и сё, и могли давно победить, но не делаем, потому что мы не такие?..
Что, по словам президента Белоруссии Лукашенко, РФ в 2022 году уже почти победила, но тут президента РФ в очередной раз обманули?.. (На сей раз, по мнению Лукашенко, его обманули Ватикан и еврейское лобби - возможно, в высших эшелонах власти они воспринимались как акторы, заслуживающие доверия. Жаль, президент Белоруссии не пояснил, считать ли за еврейское лобби зятя Трампа Джареда Кушнера, который пасётся в РФ в качестве одного из главных переговорщиков от США).
Что, по словам министра иностранных дел Сергея Лаврова, европейцы сейчас делают ошибочные выводы, будто Россия проигрывает, но на самом деле это иллюзия?..
Да пусть иллюзия – беда-то в том, что эта иллюзия их по-настоящему раззадоривает, распаляет на продолжение войны. И из-за этого происходят настоящие, неиллюзорные жертвы.
А когда на фоне всего этого в Общественной палате РФ заявляют, что россиянам следует привыкать поколениями жить под санкциями – я могу только печально улыбаться. У нас за четыре года войны произошёл сдвиг дискурса с «США – империя лжи», которая сформировала «весь так называемый западный блок по своему образу и подобию» до «если б Трамп был президентом, может, СВО бы не началась» и «рассчитываем, что американцы выполнят договорённости, основанные целиком на их предложении». Четыре года – а они рассчитывают, что россияне потянут такое поколениями.
Конечно, вышесказанное относится не только к власти. Вспоминаю, как в конце 2024 года пыталась объяснить одному известному политологу, что такое поведение раззадоривает Запад, который сделал на поражение России главную ставку. Этот человек только пренебрежительно отмахивался от меня. Может быть, многим слишком не хочется верить в то, во что верить страшно.
Но да: Россия на украине воюет с Западом, и это не просто "убогая пропагандистская отмаза". А вот почему РФ при этом поставляет туда ресурсы и "не бомбит военные склады в Германии и Британии" - это даже не один, а два других вопроса, очень важных, болезненных, но - других.
Возвращаясь к статье Амодеи и роли искусственного интеллекта во всём происходящем. Глава «Антропик», среди прочего, призывает к созданию коалиции – коалиции демократических государств, естественно, - которая бы купно владела самыми мощными технологиями искусственного интеллекта, и из этого проистекало бы блаженство человечества. Нетрудно догадаться, что контур этой «демократической» коалиции в основном совпадает с контуром НАТО. А плохие автократические государства в эту коалицию попадать не должны, больше того – она против них и должна быть создана.
При этом Амодеи понимает, что «полностью автоматизированная армия беспилотников, которая сегодня звучит как научная фантастика, может начать подчиняться незаконным приказам и позволять правительствам в одностороннем порядке укреплять свою власть… Искусственный интеллект может анализировать информацию в массовом масштабе и использовать её для выявления самых сокровенных сведений о жизни каждого гражданина… Всё это может произойти очень быстро или скрытно, поэтому важно заранее укреплять приверженность демократических стран свободе и гражданским свободам».
То есть, попросту говоря, он понимает, что ИИ может превратить власть даже в базово демократической стране – в диктатуру. И очень быстро, и малозаметным образом. Поэтому важно укреплять приверженность демократии… интересно только, кто будет этим заниматься? Тем более в гонке, тем более в процессе подготовки к войне? Вся эта пред/военная напряжённость является и катализатором ИИ-гонки – и обоснованием её. Людям буквально не дают вздохнуть спокойно, чтоб они вынуждены были считать, что ради подготовки «к новым пандемиям» и к грядущей войне следует терпеть всяческое ужесточение контроля и отчуждение власти.
И надо всем этим нависает ещё перспектива самосовершенствующегося искусственного интеллекта – «итеративная способность ИИ создавать ещё более совершенный ИИ». Амодеи откровенно пишет, что искусственный интеллект «может выступать в качестве более общей замены когнитивых способностей человека, чем предыдущие технологии» и может «превосходить всех во всём». Он «очень оптимистичен», но признаёт, что людям такая перспектива может не нравиться и, в частности, они выплёскивают свою «враждебность» на дата-центры. По мысли Амодеи, базовый гарантированный доход должен их умиротворить. Проще же говоря: людей хотят низвести до состояния стада.
Всегда, когда человек передаёт свои когнитивные функции какой-либо технологии, - он перестаёт их упражнять. Это верно для пилотов, которые полагаются на автопилот, это верно для программистов, перестающих не то что писать – даже читать код. Процитирую очередной практический отзыв на эту тему:
Но хуже всего то, что это верно in genere – верно вообще. Везде, где функции человека передаются ИИ-агенту, - человек перестаёт сам выполнять эти функции и теряет (либо не приобретает) даже способности их выполнять. Это азбука, а не что-то, что трудно спрогнозировать.
Паки и паки повторить: первая и главная опасность искусственного интеллекта – в том, что он уменьшает интеллект собственно человеческий; всё остальное – производные. И в этом основополагающем смысле искусственный интеллект изумительная технология, которая чем лучше – тем хуже для человечества. Это и есть тупик, мёртвый конец гонки. Амодеи же пишет:
На самом деле, не забегать вперёд, имея дело с технологией, которая развивается стремительно, – значит потерять критически-важное время. И в 2024 году, и даже ранее было совершенно понятно, что искусственный интеллект будет поедать человеческий интеллект. Эта угроза была вся на виду с самого начала внедрения технологии, а её предвестники были видны и ранее. Амодеи с этим и не спорит – он просто отказывается видеть в этом угрозу. Создание биологического оружия – зло, разрушение демократий – зло, выход искусственного интеллекта из-под контроля – зло, а вот деградация человеческих способностей – это просто, ну, закономерная издержка. Которую будут восполнять наращиванием способностей искусственного интеллекта и, в недальней перспективе, попытками сращивания человека с искусственным интеллектом.
Уже прямо сейчас (пишет вчерашняя «Гардиан») администрация Трампа широко использует искусственный интеллект для автоматизации правительственных процессов. Административно-бюджетное управление (OMB) раскрыло ошеломляющие данные о 3611 активных или планируемых вариантах использования ИИ в федеральном правительстве. Этот список увеличился на 70% по сравнению с тем, который был опубликован в последний год правления Байдена, и включает в себя множество планов по передаче государственных функций ИИ. Идёт массовая передача принятия решений от человека к машине – решений по вопросам личной свободы, общественного здоровья и благополучия, министерство энергетики тестирует использование искусственного интеллекта для управления ядерными реакторами и т.д. Всё это совершается почти без общественного ведома: нововведения просто объявляются маловажными, не стоящими общественного обсуждения. Демократия, о которой беспокоится Амодеи, уже приходит в ничтожество – но это отнюдь не идёт на пользу и качеству правящих элит. Они теряют надобность выглядеть пристойно и сохранять здравый ум.
На примере разных стран можно видеть, как рост технологичности отнюдь не сопровождается ростом качества человеческого управления. Полвека назад люди ещё понимали, чем плоха евгеника, чем плоха гонка вооружений, чем плохи убийства без участия человека, чем плохо отчуждение человека от материала, от непосредственно получаемого опыта… Теперь уже не понимают. И это несоответствие колоссальных технологических возможностей желанию спихнуть решения (как минимум – подготовку решений) на искусственный интеллект и назвать происходящее не деградацией, но «прогрессом», – пугающая траектория.
Татьяна Шабаева, сайт
