На полпути к будущему: сбываются ли предсказания из книжек про Алису Селезневу

Из всех технических достижений, обещанных в книжках про Алису: полеты людей в дальний космос и общение с инопланетянами, путешествия во времени, выращивание домов из кораллов, невероятная мобильность (сорок минут на метро от Москвы до Симферополя), полезные человекоподобные роботы, транспорт с автопилотом, — нам, конечно, виднее всего роботы и автопилот. Они уже здесь. Значит ли это, что мы движемся по предсказанной счастливой траектории?

Если вы перечитаете часть историй про Алису (пропустив те, где меньше всего научной фантастики и больше сказки), вы убедитесь, что мы на этой траектории отнюдь не находимся.

Дело в том, что люди того счастливого гармоничного будущего очень самостоятельны. Говоря «люди», я имею в виду в первую очередь «дети»

Рассказы-то детские. Так вот, Алиса и ее друзья — это очень самостоятельные дети. Они занимаются подводным плаванием и поднимаются на Эверест. У них есть роботы для помощи по хозяйству, но они умеют готовить и наводить порядок сами. И они никогда не сидят в смартфонах. У них вообще нет смартфонов, представляете? Вместо того чтобы играть в компьютерные игры, эти дети будущего собирают грибы, рыбачат, читают толстые книжки, ходят в походы, делают научные открытия. Да, они учат языки по ускоренным методикам, но всё же учат сами, а не используют ИИ-переводчик и не вживляют себе чипы.

И никогда, никогда люди будущего — что дети, что взрослые — не передоверяют важные решения искусственному интеллекту. Даже несмотря на то, что многие разумные роботы наделены человеческими чертами и люди ведут себя с ними по-дружески, они все равно роботы, а люди — это люди. Люди умнее. Люди главнее. Это просто не подвергается сомнению. Когда робот решает, что он умнее и главнее человека, это всегда плохо и опасно.

Еще одна существенная подробность: к такому гармоничному развитию и существованию рядом с искусственным интеллектом (но всегда превосходя его) люди пришли через мир. Роботы не делались для войн. Если вдруг какие-то делались, это ненормальность, вывих («Алиса не могла предположить, что когда-то на земле люди, которые были настолько учеными, что умели делать говорящих роботов, могли готовить их для войны с другими людьми»). Не делались они и для того, чтобы заменить людей или давать им судьбоносные советы. Все свои главные проблемы, включая борьбу с климатом, люди решали сами, не ожидая, что их решит искусственный интеллект. Робот всегда только помощник, умный инструмент.

Другая траектория описана в рассказе «Пленники астероида» (тоже из серии про Алису). Там люди-инопланетяне улетели в космос и со временем забыли, кто они и куда летят. Но всё и всегда за них готовы были сделать роботы, которые могли делать других роботов и совершенствоваться. «Потомки космонавтов привыкли к тому, что всё делают роботы. Даже когда у них рождались дети, их тоже сразу отдавали роботам, которые их выкармливали, учили; и люди, вроде бы оставаясь господами на корабле, становились рабами роботов. Рабами безделья».

Это еще не самая плохая траектория, потому что искусственный интеллект из этого рассказа считает необходимым заботиться о глубоко деградировавших людях, видя в этом смысл своего существования. А мог бы и ножичком полоснуть.

Нам давно пора задуматься, к какой траектории мы ближе: к той, где люди энергично развивают свои умственные и физические способности, волевые качества и самостоятельность, или к той, где люди передоверяют искусственному интеллекту всякий сколько-то тяжкий труд и воспитание собственных детей? Потому что вероятности будущего различаются именно этим. Это основной образ действия, который мы избираем прямо сейчас и который приведет нас туда, куда приведет.

Конечно, Булычеву было легко говорить. Он писал свои жизнеутверждающие рассказы тогда, когда мир на планете Земля казался обеспеченным равновесным существованием двух лагерей, двух проектов: советского и американского. Второе: это было время, когда человек еще не утратил ощущения себя как преобразователя природы, ощущения собственной правоты и силы. С тех пор люди исполнились страха перед своими решениями. Им хочется, чтобы кто-то «более умный» — и более отстраненный, вроде бы «непредвзятый», — принял на себя ответственность. Разработчики и пропагандисты ИИ так прямо и говорят: искусственный интеллект поможет нам решить все наши проблемы. А без него мы не сможем решить наши проблемы.

И вот уже наглухо забыто стремление снижать потребление электроэнергии, уменьшать «углеродный след» — напротив, ИИ сильно увеличит это потребление, как и потребление воды (для охлаждения серверов), еще больше размажет углеродный след. Но на все это напуганное человечество готово пойти (его, впрочем, никто и не спрашивает), если ИИ будет давать нам указания, что делать, и поможет тянуть вверх уровень жизни. Под высоким уровнем жизни нескрываемо понимается возможность потреблять больше, затрачивая меньше усилий.

На самом-то деле траекторию люди уже выбрали, когда согласились: «пусть лучше дети сидят в смартфонах, чем если их поведут в поход, а там случится что-то опасное». Люди выбрали считать, что в электронном мире безопаснее. И если сейчас у 98% студентов Оксфордского университета диагностируют СДВГ, это пока что курьез, но это не шутка. Можно оспаривать методику тестирования, но с тем, что число детей, молодых людей с нарушениями психики растет (как и с аллергиями, и с ожирением), спорить невозможно. И это тоже последствие выбора, сделанного в пользу безопасности и контроля. Сейчас мы вырастили поколение людей, которым легче жить, если все сколько-то сложное за них делают роботы. В будущем они могут смениться людьми, которые не смогут жить, если за них не будут работать роботы.

Физик, математик, космолог, исполнительный директор Института будущего жизни Энтони Агирре недавно написал статью «Сохраним будущее человеческим». Он старается обосновать, что искусственный интеллект как помощник людям в частных делах полезен, а как универсальный сверхразум, принимающий решения за людей, опасен. Вроде бы звучит как очевидное, но правительства и корпорации толкают разработки в сторону все более сильного, универсального, автономного интеллекта.

Я, однако, не согласна с Агирре. Да, в идеальном будущем, будущем Алисы Селезневой, где сильные, гармоничные, волевые люди многое умеют и хотят делать сами, от интеллектуальных помощников не будет вреда. Но в будущем, которое выглядит более реальным, где люди спешат избавить себя от «рутины», передоверив как можно больше дел искусственному интеллекту, вред будет и от помощников. Потому что они сделают самостоятельные умения не выдерживающими конкуренции. Они будут поощрять несамостоятельность. То, что нас уже сейчас тянут к «сильному искусственному интеллекту», это не случайность, это выбранная траектория.