Президент Путин вслед за председателем "Единой России" Дмитрием Медведевым (
считающим, что нет плохого в том, если нормативные акты будет писать "искусственный интеллект")
заявил, что непонятно, чем развитие ИИ закончится, но, раз все побежали, нам тоже надо давать-давать быстро-быстро. Ладно хоть вспомнил и провёл параллель с ядерным оружием, которое же как-то договорились ограничить.
Да, это ближайшая параллель. Но она неточна. На мой взгляд, даже очень далека. Уже хотя бы потому, что ЯО изначально осмысливалось как что-то страшное, опасное и потому, в сердцевине своей, преимущественно плохое. Людям, разговаривающим про ЯО, не надо было договариваться о базовых понятиях. И даже при всём при этом люди договорились о "сдерживании и нераспространении" ЯО только очень приблизительно. На сдерживание работает страх, а не договор.
Но с "искусственным интеллектом" не так. С ИИ всё по-другому: ты говоришь, что это плохо и опасно, а я говорю, что это круто и прогресс. Ты говоришь, что надо по мере сил запрещать, а я говорю, что прогресс неостановим, да здравствует прогресс. Ты говоришь, что ИИ может стать концом человечества, а я говорю, что он его обессмертит. Ты держишься за старушку-землю, а я, между прочим, с помощью ИИ готовлюсь колонизировать альфа-центавру.
К моменту появления ядерного оружия человечество уже очень хорошо знало, что такое оружие. Ядерное, неядерное -- это другой вопрос, но вот ОРУЖИЕ человечество знало хорошо. Где оружие -- там опасность.
Ко времени появления "искусственного интеллекта" человечество, во-первых, мало что знает про интеллект, а из того немногого, что знает, -- считает, что "интеллект -- это хорошо".
Человечество не привыкло страдать от интеллекта.
Войны и всевозможные преступления в истории человечества принято представлять не как плод интеллекта, а как результат его отсутствия. Между тем, это всего лишь угол зрения. Всего лишь.
А это значит, что для того -- и до того -- как человечество хоть как-то научится регулировать "искусственный интеллект", ему придётся претерпеть от него бедствия. И проблему я вижу даже не в этом -- в конце концов, мало ли бедствий претерпевало человечество, -- а в том, что понадобится при этом ещё сохранить достаточно ума, чтобы суметь уловить СВЯЗЬ между бедствием и причиной. Сохранить достаточно ума в то самое время, как человечество начнёт "благодаря ИИ" стремительно глупеть.
