Нужны ли мы будущему?
Прежде чем продолжить наш рассказ, неплохо было бы остановиться на фигуре Билла Джоя. Личность это известная и пользующаяся значительным авторитетом в околокомпьютерных кругах. Один из основателей компании Sun Microsystems, ведущий научный руководитель в ней же, в далеком прошлом — один из главных архитекторов Berkeley UNIX (BSD). За плечами у него работа над созданием архитектуры SPARC и создание файловой системы NFS (Network File System). Последние разработки, которые связывают с его именем, весьма широко известны — это Java, Jini и недавно проанонсированная Jxta («юкста»).
Иными словами человек Билл Джой в компьютерном мире далеко не последний и стяжать популярность дешевыми способами ему не пристало. И, тем не менее, в апреле 2000 года, Билл Джой пишет статью, озаглавленную «Почему будущее в нас не нуждается» и публикует ее в популярном журнале Wired, читатели которого, в массе своей, придерживаются взглядов совершенно противоположных взглядам террориста Теодора Кажинского.
Билл Джой тоже не должен испытывать особых симпатий к Кажинскому — от одной из бомб Теодора пострадал хороший приятель Джоя, еще один яркий представитель компьютерной братии Дэйвид Гелернтер (David Gelernter). В своей статье Джой признается, что, как и многие заметные ученые того времени, он опасался того, что следующая бомба по почте придет к нему.
И, тем не менее, вся статья «Почему будущее в нас не нуждается» является ярким публичным подтверждением обоснованности пессимизма Кажинского и даже, в некоторой степени, оправдания его неолуддизма, хотя, конечно, методы, примененные Кажински, Джой ни в коей мере не оправдывает.
В своей статье Билл Джой рассказывает, как ему пришла в голову идея опасности прогресса — встретив в одной из книг Рэя Курцвейла прямую цитату из Кажинского, Билл Джой задумался, так ли уж безумно звучат его идеи, тем более что Курцвайл в какой-то мере опасения Кажинского разделял. В течение некоторого времени Джой экспериментировал с этой цитатой и давал почитать отрывок из книги Курцвайла знакомым, не говоря, кто настоящий автор. После этого Джой спрашивал, что они думают по поводу этого отрывка. Удивительно, но большинство читателей признало, что опасения подобного рода справедливы — возможно, что если бы Кажински использовал менее экстремальные методы для пропаганды своей точки зрения, неолуддизм не приобрел бы столь скандальный оттенок.
Однако дальше психологических опытов с цитатами из Кажинского дело у Джоя могло и не пойти, но в этот момент в руки ему попадает еще одна книга. В книге Ганса Моравека «Робот: от простой машины к превосходящему разуму» рисуется картина полной роботизации будущего (утопией это считать или дистопией, каждый волен решать сам), но Джоя заинтересовал один отрывок, в котором Моравек рассуждает о перспективах выживания человечества после создания роботов, превосходящих своих создателей. Моравек, ссылаясь на весь опыт прошлого Земли, утверждает, что шансов у нас не так уж много. В качестве примера он приводит довольно печальную историю сумчатых Южной Америки.
Вы думали, что сумчатые живут в Австралии и Новой Зеландии? Неудивительно. В те времена, когда Южная и Северная Америки были полностью разделены проливом, фауна Южной Америки действительно напоминала австралийскую, но это было миллионы лет назад. После того, как обе части были соединены с помощью Панамского перешейка, сумчатые Южной Америки, стоявшие на более низкой ступени развития, практически исчезли, уступив место плацентным собратьям, с более эффективным метаболизмом. И так, по мнению Моравека, было каждый раз, когда сталкивалось две биологических модели, взаимовытесняющие друг друга. В итоге, остается кто-то один, выживает сильнейший.
Так может произойти и в нашем случае, когда созданные человеческими руками разумные роботы станут своего рода наследниками человечества и (дай Бог) постепенно вытеснят нас.
У Кажинского была два сценария будущего: оба плохие. Согласно первому сценарию, человечество начиная с какого-то этапа начинает все больше полагаться на разумные машины и, в конечном счете, теряет контроль над прогрессом, а, в конечном счете, и шансы на выживание. По второму сценарию, интеллект создаваемых машин искусственно ограничивается, но при этом самые мощные компьютеры оказываются в руках небольшой горстки людей, некоей технократической элиты, а все остальное человечество вынуждено будет довольствоваться в лучшем случае ролью изнывающей от безделья необразованной толпы. Если вообще элита решит оставить рядом с собой значительные людские массы, в существовании которых, в общем-то, уже не будет особой нужды — у Кажинского практически нет сомнений в том, что в ближайшем будущем человечество создаст роботов, которые смогут заменить своих создателей почти во всех отраслях человеческой деятельности.
Далее Джой довольно подробно останавливается на книге Рэй Курцвайла «Век одушевленных машин», о которой «Компьютерра+» уже писала довольно давно. А после этого переходит к популярной ныне теме генной инженерии, описывая все страхи, приходящие на ум рядовому обывателю, когда он слышит это название. Страхи, надо сказать, вовсе не беспочвенные — вопросы о целесообразности применения методов генной инженерии в сельском хозяйстве, например, поднимаются и сегодня, хотя генная инженерия вовсе не является наукой завтрашнего дня — это самое, что ни на есть махровое сегодня. Продуктов генной инженерии, несмотря на активное сопротивление Greenpeace и объективные трудности, возникающие перед учеными, с каждым годом становится все больше.
Не далек тот день, когда с такой же скоростью пойдут в массы нанотехнологии, воспетые Эриком Дрекслером в его «Машинах созидания» (о Дрекслере и этой книге мы тоже писали в нескольких выпусках «Завтра», посвященных нанотехнологиям). И кто знает, тревожится Джой, как могут быть применены эти технологии — о необходимости внимательного отношения к этическим вопросам возможного применения разработок в области нанотехнологии он говорил еще в 1989 году, но, как обычно, такие выступления остаются возгласами вопиющего в пустыне. Научное любопытство, желание обойти других ученых, работающих в этой же области, и меркантильные соображения, вот три основные движущие силы научного прогресса, неподвластные, к сожалению, этическим ограничениям.
Сравнивая ситуацию, сложившуюся в научном мире 21-го века, с ситуацией 20-го века, Джой отмечает, что в новом тысячелетии грань между военным (условно говоря, деструктивным) и мирным применением новых технологий очень размыта. Если в 1945 году ситуация была относительно простой — есть ядерное, биологическое и химическое оружие массового уничтожения (NBC по Джою от nuclear, biological и chemical), но, вместе с тем, есть и практически несоприкасающаяся с военной, мирная сторона применения подобных технологий — то сейчас непонятно, где начинается опасность применения продуктов генной инженерии, а где она заканчивается. Любой неосторожно выпущенный в свет продукт генной инженерии может причинить массу вреда окружающей среде. Технологии, с которыми нам придется иметь дело, слишком опасны.
Эти технологии нового века — GNR технологии по Джою (генная инженерия, нанотехнологии и робототехника) — и являются самой большой опасностью для человечества. Роботы, превосходящие человека в интеллектуальном плане, способные к саморепликации и вооруженные такими технологиями, как генная инженерия и нанотехнологии — картина малопривлекательная. Не факт, правда, что мы до нее доживем — какой-нибудь Кажински будущих десятилетий вполне может угробить человечество с помощью мирных на первый взгляд продуктов нанотехнологии или создав методами генной инженерии какой-нибудь смертельный микроорганизм. Нам еще повезло, что Кажински математик.
В то, что прогресс удастся остановить Джой, по большому счету, не верит, хотя и предлагает в конце своей статьи переключиться на чтение трудов Далай-ламы, посвященные этике. Статья Джоя не направлена против прогресса, как поспешили заявить новостные агентства после ее выхода — слишком уж необычна позиция Джоя для человека из компьютерной отрасли. Это просто предложение остановиться и подумать, а туда ли мы идем?
Но сделаем ли мы это?
