Лидеры стран ЕС обсудили искусственный интеллект, перед ними выступил нобелевский лауреат, "крёстный отец" ИИ Джеффри Хинтон, который "настоятельно призвал Европу взять на себя инициативу в создании глобальной системы управления в сфере ИИ". По мнению главы Еврокомиссии Урсулы фон дер Ляйен, Европа и так уже это делает:
"Мы обсуждали это, и было довольно интересно. В Европе принят Закон об искусственном интеллекте. Мы единственные, у кого есть подобный документ. Помню, когда его согласовывали, он подвергся весьма жёсткой критике: утверждалось, что он задушит инновации. Сегодня же нас активно хвалят за то, что мы первыми в мире ввели регулирование в этой области. Конечно, закон не идеален, спору нет. Но нам необходимо найти баланс:
поощрять инновации и одновременно ограничивать риски с помощью чёткой системы контроля".
(Заметьте, что ф.д.Ляйен дважды произносит слово "инновации" - смысл этого я раскрою ниже.) "Поощрение инноваций и одновременное ограничение рисков" - стандартный набор слов, его произносят буквально все. На самом деле никто не ограничивает и даже не понимает рисков - про это сказал сам же Джеффри Хинтон 13 ноября
в разговоре с журналисткой PBS.
Это очень интересное и довольно откровенное выступление. Хинтон там говорит, что главное, чего политики не понимают, - это что прямо сейчас создаётся не "новая технология" - а некая сущность, обладающая сознанием или чем-то по функциям идентичным сознанию, что люди фактически выращивают себе замену. И даже не пытаются в настоящее время анализировать этот риск. Дальше Хинтон опять говорит то, что всегда говорит: единственный шанс для человечества - сделать так, чтобы эта сущность ставила интересы человечества выше собственных. По мнению Хинтона, это возможно. И я с этим не согласна. Но дальше он сказал то, что вызвало у меня уважение: он открыто заявил, что если у этих сущностей будет сознание (а он считает, что будет) - это вовсе не причина давать им права. Журналистка по этому поводу сразу включила мотив "но ведь тогда это будет рабство" - и Хинтон ответил: ну, будет, но мы должны думать о людях. Я не считаю, что "это будет рабство" (и вообще весь этот ход рассуждений считаю глубоко неверным), но саму редкую смелость занять прочеловеческую позицию - уважаю.
Дальше журналистка спросила Хинтона, почему ИИ нельзя просто выключить - и тут он не стал бормотать, что ИИ может принести много пользы (раньше он в ответ на такой вопрос говорил это), а прямо сказал, что ИИ будет манипулировать людьми, и в том числе теми, кто мог бы его выключить. Я уже начала надеяться, что он отбросил тему "ИИ может принести много пользы", - но в самом конце он всё-таки съехал на это. Вообще, у Хинтона немало противоречий, что проявляется и в том, что он активно не любит Трампа, Маска и Альтмана, но отчего-то при этом любит Хуанга и Амодеи. Хотя Хуанг - друг Маска и наперсник Трампа по теме ИИ, а Амодеи прямо сейчас делает то, за что Хинтон ругает Альтмана: крушит идеалы компании, когда-то ставившей целью "создать ответственный ИИ" (что невозможно в принципе). Но Хинтон продолжает считать, что "Антропик" - ответственные, и Амодеи просто "оказался в трудном положении".
Как раз хорошо слушать выступление Хинтона рядом с появившимся практически одновременно
выступлением Макса Тегмарка, сооснователя Института будущего жизни, учёного-физика, профессора Массачусетского технологического института (MIT). Тегмарк говорит, что он хорошо знает "Антропик", и люди, там работающие, прямо сейчас покупают участки земли где-нибудь в глуши, куда они собираются сбежать, как только подкопят денег, и мир (из-за той самой технологии, которую они сейчас разрабатывают) начнёт сползать в хаос. Очень ответственно!
Также Тегмарк говорит, что впервые за те 22 года, что он работает в MIT, студенты боятся, что после окончания вуза не смогут найти работу. Это лучший технический вуз США. И студенты лучшего технического вуза США боятся, что будут не нужны работодателям. (Кстати, по этому же поводу сегодня статья в "Гардиан": молодые люди ощущают себя ненужными работодателям,
"социальный контракт сломан").
Однако заканчивает своё достаточно мрачное выступление Тегмарк неистовым оптимизмом. Это связано с тем, что у него другой взгляд на ИИ, нежели у Хинтона: Тегмарк считает, что проблему можно решить просто обычным регулированием, как все другие компании государство регулирует (на самом деле, не все - об этом тоже будет ниже). Любимый аргумент Тегмарка: "ИИ сейчас регулируется меньше, чем сандвичи". Т.е., по его мнению, ИИ можно и нужно регулировать как сандвичи, и это существенно улучшит положение. А поскольку сейчас в США идут разговоры серьёзных людей о том, что ИИ надо бы как-то регулировать - и американцы массово выражают уверенность, что да, это надо делать, - Тегмарк испытывает оптимизм.
Но я больше согласна с Хинтоном - в том, что это не просто очередная технология, которую достаточно регулировать, как сандвичи. Да и даже до этого не дойдёт. Подготовка "Антропик" к выходу на биржу вызвала ажиотаж: объём заявок на покупку акций компании
в шесть раз превысил предложение. И это несмотря на то, что в документации для инвесторов компания откровенно пишет, что речь может идти о конце человечества. Вся Уолл-Стрит хочет нажиться на этом! 22 крупнейших американских банка участвуют в IPO "Антропик"! Хороши сандвичи... О безответственном
"круговом финансировании" ИИ-компаний после ухода Хуанга стали
говорить открыто, но это ничего не меняет (а Маск назвал это "блестящим выстраиванием цепочки поставок, многие из которых
скреплялись рукопожатием, а не контрактом"). На искусственный интеллект сделана главная ставка, и не просто компаний, а властей, - я писала об этом ещё
год назад.
Вот и "Блумберг" пишет, что в Белом Доме рекомендовали регуляторам
смягчить ответственность для ИИ-разработчиков, чтобы у них было больше стимула сообщать о всяческих ИИ-неполадках. Это буквально признание собственного регуляторного бессилия - спустя всего лишь месяц после разговоров о том, что разработчики обязаны быть ответственными, обязаны сообщать и т.д. Никакого механизма, чтобы это проконтролировать, не существует, и никто даже всерьёз не намерен его создать.
И в то же самое время в полугодовом отчёте Федеральной резервной системы США искусственный интеллект и сумасшедшие инвестиции в этот сектор назвали
главной причиной для беспокойства (беспокойства о финансовой стабильности) 87% опрошенных. Полгода назад это были 50%. Вот такой хаос в головах творится. Но это нормальное состояние, когда вы внедряете технологию, призванную заместить человеческий разум.
Глава "Палантира" Алекс Карп заявляет, что если сверхбогатых обложить налогом - это должно привести
к ещё большей ИИ-слежке (чем уже и так есть). Аргументация следующая: чтобы ввести налог на богатство, нужно скрупулёзно подсчитать всё, чем человек владеет, а это может сделать только искусственный интеллект. Хотите налог на доходы богачей? Дайте доступ искусственному интеллекту ко всем своим личным данным. Как Герман Греф до такого аргумента не додумался? Он скоро придёт к этой мысли, я в него верю.
Между тем, в России усиленно делается вид, что ничего особенного не происходит, просто развивается вот такая многообещающая новая технология. Кинорежиссёр и продюсер Алексей Федорченко называет искусственный интеллект
"замечательным инструментом" (который
пока пишет тексты хуже, чем человек). Ректор Московского государственного университета имени М.В. Ломоносова академик Виктор Садовничий называет искусственный интеллект
"исследовательским партнёром" (но с ответственностью на человеке). То, что инструмент по определению не может быть партнёром, - никого не волнует. Людям вкручивают, в том числе принудительно, искусственный интеллект под вывеской "инструмента", притом всё время оговариваясь, что это "партнёр", который не сегодня, так завтра будет выполнять работу лучше человека. Но ответственность - на человеке. (Ну да, потому что никто не знает, как сделать искусственный интеллект и его разработчиков ответственными, а многие вообще предпочитают не думать об этом.)
И вот, наконец, мы подошли к
очень интересному разговору, который сделал Такер Карлсон с автором книги "Разводка на креативности" (The Creativity Con) Томасом Франком. Франк прямо по документам, по речам американских президентов и других властных фигур, изучил, как слова "креативность" и "инновации" превратились в рычаги для манипулирования общественным мнением. Это началось в 1970-е, когда в США перестало расти производство, а соревнование с СССР продолжалось. Что делать?.. Было избрано следующее решение: США должны стать символом креативности и инноваций. А локомотивом креативности и инноваций в США был назначен крупный капитал. Правительство буквально отпустило вожжи. И всего за десятилетие с небольшим... производство в США не выросло, нет. Зато дивно расцвёл фондовый рынок. Финансовые спекуляции стали несравненно проще. И в 90-е годы дискурс "креативности и инноваций" перекинулся на финансовую сферу. Пошли разговоры об "инновационных финансовых инструментах". Шли они одновременно с катастрофическим ослаблением государственного регулирования фондового рынка. Все сомнения затыкались аргументами типа "нельзя душить инновации!". CDO, пирамида которых рухнула в 2008-м, - это были "инновационные финансовые инструменты". И правительство их не душило. Оно спасало банки. За счёт людей. Вообще, Франк в этом разговоре подтвердил и мою давнюю мысль о том, что после падения Советского Союза власти США потеряли всякий резон как-то заботиться о людях, о социальной сфере. Франк это проговаривает.
Теперь под тем же самым лейблом "креативности и инноваций" вкручивается искусственный интеллект. В конце разговора с Такером Карлсоном Франк к этому подходит, и на этом останавливается. Но внедрение замены человеческого интеллекта действительно является
пределом "креативности и инноваций". Дальше уже просто - некуда. Человеку - некуда. А что происходит на самом деле - я написала
здесь.
