Она подкрадывается незаметно, постепенно. Сначала мы ее не видим. Потом видим, как она мчится на нас и думаем, что успеем среагировать, а потом опа, что это было?
Чтобы что-то заметить, надо остановиться и оглянуться. Например, оглянуться на изменение цены человеческой жизни. Это банально, что жизнь бесценна, что люди, с какого-то перепугу это осознают и все такое. На самом деле мы имеем дело с постоянным увеличением активного долголетия. Человек, теряющий жизнь, теряет не всю ее, а только ту часть, которую он не прожил. И чем больше остается человеку жить, тем страшнее и неприятнее ощущается его смерть.
И, за последние 100…150 лет, жизнь человека, если его не убивать специально, становилась все более долгой, а его активность все более продолжительной. Также качественно и резко сократился уровень детской смертности. К чему это привело? К росту цены человеческой жизни и к оправданности использования защитных мер, которые были нелепы или неуместны ранее.
Вот кто из вас может представить пацанов на велосипедах в шлемах и защитных жилетках? Зависит от страны. И в странах, где люди живут дольше, а дети доживают до взросления чаще, это – обычное дело. Сейчас, в 21-м веке. Но не 30 лет назад. А ремни безопасности, а подушки, а детские сиденья? Вся эта ползучая экспансия инструментов спасения, наблюдаемая нами в последнее время суть ни что иное, как реакция людей на возросшую ценность их еще не прожитых дней. Дефибрилляторы рядом с огнетушителями на стенах в публичных местах, системы видеонаблюдения, защитная спецодежда у представителей профессий, которые не считаются опасными, лежачие полицейские – все это появилось вокруг нас в последние 20 лет и мы даже не заметили как именно.
А дальше будет еще интереснее. Нет, вряд-ли изобретут «таблетку бессмертия». Просто научатся постепенно решать или научатся избегать проблему за проблемой. Диабет? Рак? Сердечно-сосудистые болезни? Всегда здоровая печень? Безотказные или готовые на замену другие внутренние органы? Дорого? Страховка есть. Люди даже не заметят, как начнут жить практически вечно. И это приведет к естественному возрастанию стоимости еще непрожитых дней также до бесконечности.
И люди просто перестанут жить также спокойно и беззаботно, как живем мы сейчас. Как насчет того, чтобы запретить лифты, ведь лифт с вероятностью 1 к миллиону может сорваться. А что, если резко станет страшно выйти на улицу, ведь с вероятностью 1 к миллиону на голову может упасть рояль. А если одну миллионную умножить на бесконечность, то получится… все равно бесконечность. Вот она, сингулярность и времени на реакцию у нас уже нет, потому что мы даже не повернулись лицом к тому, что на нас надвигается.
Таким образом, чтобы продолжать жить дальше, человечеству придется изобрести нечто, что резко снижает ценность жизни людей. Так или иначе, это уже звучит как мрачная антиутопия. И нам стоит быть готовым к типичному, «по сингулярски», решению вопроса. Вот, как, например, с видеотелефонами. Про них говорили, их показывали в фантастических фильмах, инженеры разрабатывали решения, фирмы показывали на выставках свои образцы. На почтамтах даже появились видеокабинки, операторы начали придумывать тарифы для такой «эксклюзивной» услуги связи…. А потом, бац, Skype, всем. Бесплатно. Из любой точки мира. Даже с экранчика в кармане, сидя в автобусе.
Если повертеть в голове варианты, то наиболее перспективным решением выглядит некий способ оцифровки сознания и организация его резервного копирования. Потерял тело? В свежего клона загружают копию тебя и ты снова функционируешь, так кстати, помолодев и приободрившись. Страховка покроет расходы. Вроде не антиутопия пока что? А как насчет того, что доступ к этой технологии решит множество проблем, начиная от подготовки солдат – достаточно воспитать одного гениального бойца и потом его скопировать нужное число раз, заканчивая машинным обучением всему, чему нужно. Профессионализм? Ха! Опыт? Ха! Ща, с торрентов скачаю. И даже, если лично для себя ты остаешься бесконечно дорог, то для общества уже нет. Ты не просто заменим. Тебя можно заменить всегда более лучшим образцом, а в большинстве задач, связанных с, например, офисной работой, такому образцу даже тело не нужно выдавать. Пусть заработает на свое тело, сидя внутри компьютера, написанием имейлов и презентаций для корпоративных отчетов. А для работы вне офиса всегда найдется подходящий андроид-аватар, который не нуждается в еде, одежде и сексе. И да, цена которого значительно ниже цены выращивания живого существа. Рожать детей? Для кого и для чего и все ли смогут найти детям место в мире, где на местах уже вечно сидят совершенно идеальные специалисты, часто не совсем или уже совсем не люди?
Кстати об искусственном интеллекте. Он ведь тоже подкрадывается таким же манером. И мы точно также даже не успеем понять, что произошло. Началось все с «Сири» и «Ок, Гугл». Но, постепенно ИИ поселится на наших, помощневших ноутбуках. Он сначала будет занят рутинной работой. Мы его научим вести деловую переписку за нас. Собственно, постепенно с такими же роботами. Мы его научим подбирать для нас интересную информацию. Потом мы его научим делать более абстрактные, но все также рутинные задачи. Потом бухгалтера, человеческим языком смогут объяснять ИИ внутри ноутбука, что именно и где надо искать и как именно закрывать баланс. Потом найдется первый менеджер, решивший уехать в отпуск, оставив вместо себя «того парня», который постоянно включен в розетку. Потом мы доверим ему планирование нашего досуга. Потом – решение прикладных задач. Сначала домохозяйки оценят способности ИИ к подбору рецептов блюд для имеющихся ингредиентов, врачи доверятся ИИ для диагностики и лечения болезней, а инженеры перестанут ломать голову над очередной задачей и скажут «ок, гугл, мне нужно решение задачи удержание плазмы в термоядерном реакторе». ИИ будет управлять нашим досугом, карьерой, финансами. ИИ, сидя в компьютере, от имени и поручению хозяина, будет подписывать документы, создавать предприятия, раздавать задания и формулировать задачи другим людям и машинам.
Если вдруг, какой-то юноша, пресытившись реалистичным 3Д порно, попросит свой ноутбук решить задачу по созданию достоверного человекоподобного андроида, то ИИ, например, оценив имеющиеся у себя в распоряжении средства, решит найти в мире идейных товарищей, создаст и зарегистрирует вместе с ними новое акционерное общество «Ю.С. Роботикс энд микэникал мэн корпорейшн», наймет персонал и сформулирует задачи, оставаясь все это время лишь шибко умным, но все же приложением в компьютере. Молодой человек, согласившись с планами своего ноутбука, получит через год свою безотказную и опытную Джессику, а если в числе учредителей-акционеров была девушка, то она получит надежного и утонченного Дмитрия, которые, обладая мозгами не хуже ноутбука своих хозяев, смогут этих хозяев… заменить.
Вот два, вполне логичных сценария подкрадывания. Вряд-ли мы успеем оценить моральные последствия грядущих перемен. Вряд-ли успеем или захотим к ним подготовиться. Но оба этих, вполне логичных сценария ведут нас к одному и тому же финалу, в котором у людей нет места на Земле. Будет ли это трагедией? Наверное, нет. Например, сейчас население Европы постепенно привыкает к тому, что общество уже не может жить без постоянного и, что важно, постоянно возрастающего притока иммигрантов. И коренные европейцы, в большинстве своем, уже воспринимают это как нормальное явление. В школах все меньше детей, родители которых родились в этой стране. На улицах все больше нетрадиционной, но уже ставшей обычной, одежды. На упаковках еды появляются надписи на иностранных языках, а в парламенте и кабинете министров все чаще появляются люди, которые сдавали экзамены на знание государственного языка уже будучи хорошо взрослыми. Это могло бы показаться трагедией 100 лет назад. Но сейчас это постепенно превращается в норму. Так и с ИИ. Трагедия? Последний живой человек уже не будет это воспринимать таким образом.