Полтора года, как я пишу об опасности искусственного интеллекта (
первая моя статья на эту тему вышла в МК в апреле прошлого года), и можно уже обобщить возражения, которые выдвигаются на мои мысли по поводу искусственного интеллекта.
- "Вы ссылаетесь на такого-то (авторитетный учёный), а на него ссылаться зашквар, и вообще он не специалист".
- "Вы ссылаетесь на такого-то (авторитетный учёный, 100% специалист), а он наверняка это говорит только потому, что ему проплатили".
Кстати, я хотела бы знать, где в этом мире плотют деньги за пропаганду против искусственного интеллекта. И даже не для того, чтобы самой туда устремиться - а просто чтобы порадоваться, что такие места есть.
- "Вы не понимаете, как работает ИИ, это просто программа, программу пишут люди, она никогда не будет умнее человека/управлять человеком".
"Никогда" - сильное слово, а некоторые люди-специалисты уже сейчас удивляются, что ИИ умеет то, чему его не учили, - либо учили, а вот результат получился не вполне запланированный. Но допустим, что эти люди как раз все попадают в число тех, которые либо "не понимают", либо им "проплатили". ДОПУСТИМ, что ИИ "просто программа, бла-бла". Мне не жалко это допустить, наоборот, я только рада буду. Так вот даже и в этом случае - в случае "просто программа" - широкое внедрение этой программы, как оно происходит уже сейчас, будет вести и уже ведёт к оглуплению людей. Я верю, что искусственный интеллект никогда не дотянется до уровня людей умных, активных, эрудированных, многое умеющих самостоятельно - и да, творческих, потому что творчество вырастает не только из абстрактного таланта, но из эрудиции и активного поиска. Очень вероятно, что ИИ никогда не превзойдёт лучших из людей интеллектуально (не говоря уж о чём другом), - но его внедрение будет приводить к тому, что таких людей будет становиться меньше. К тому, что общий уровень будет ниже, ниже. И на это наложится другое - новые возможности контроля, которые также обеспечит ИИ.
- "ИИ жрёт массу энергии, это просто экономически невыгодно, и его всегда можно будет отключить от розетки".
В первом приближении это довольно умный аргумент. Действительно: жрёт много энергии, экономически невыгодно. С "отключить от розетки" как раз вопрос, уже хотя бы потому, что розеток много в разных странах, но допустим чисто теоретически, что да, "всегда можно будет". А теперь представьте: имеется алкоголик, у алкоголика небольшое количество денежек, которые можно было бы потратить на хорошую еду и книжки детям. Отключит ли алкоголик себя от алкоголя? Купит ли хорошую еду и книжки детям? Нет, он купит алкоголь. Потому что приоритеты выстраиваются иначе. Потому что прямо сейчас, на наших глазах приоритеты выстраиваются как "за искусственным интеллектом будущее", "эта технология изменит всё", "через 5 лет все компании должны внедрить искусственный интеллект". Нет, пока этого алкоголика не скрутишь - или пока не произойдёт грандиозная катастрофа, - он так и будет держаться за бутылку. Ведь она меняет всё.
И неправда, что это работает с людьми, а на уровне государств не работает. Работает и на уровне государств, чрезмерно разросшаяся ядерная военка, госдолги, доращенные до размеров ВВП, и кризис банковских систем тому порукой.
- Наконец, единственный разумный аргумент (полтора аргумента), который мне выдвигают: "Но ведь от ИИ происходит много хорошего, он действительно упрощает ряд важных процессов, и если б даже Россия от него отказалась, другие-то не откажутся, так что придётся учиться жить с ИИ".
Здесь полтора аргумента, потому что они друг без друга на самом деле не существуют: "много хорошего" и "другие не откажутся". То есть это то самое хорошее, без которого ты бы вполне прожил, если б оно не появилось у "других", но теперь тебе тоже его надо, чтоб быть не хуже других.
И отсюда вытекает возражение на этот аргумент: надо очень пристально смотреть на то, что из этого хорошего действительно хорошо - а за что ты схватился потому, что "другие же тоже". Вот не надо быть как другие. И к тому, за что они схватились, надо относиться без всякого восторга, с изначальным подозрением, высматривая, что же тут действительно хорошо, а что - шлак. То есть аргументация в пользу ИИ должна идти "снизу вверх": "вот в этом частном применении будет, пожалуй, полезно". А она идёт "сверху вниз": "это технология будущего, она изменит мир, внедрять всем". Это в корне неправильный подход, он неправильный даже до собственно-внедрения.
...заметьте, про выход ИИ из-под контроля и захват мира я ничего не сказала. Я не знаю, возможно ли это и даже не очень этим интересуюсь - интересуюсь только НАМЕРЕНИЯМИ создать сверхразум, потому что они сами по себе показывают степень невменяемости создателей. Но откровенно опасно уже то, что происходит прямо сейчас. Если вы даёте свободно бегать по своему дому ядовитому пауку, я совершенно не считаю, что нужно дожидаться, пока он вырастет до размеров тарелки и начнёт прыгать вам на лицо. Это уже сейчас очень опасно.
