. Экология. Возможны непредвиденные нарушения в экосистемах.
. “Облагораживание среды”. Разумная среда должна обладать крайне высокими
“интеллектуальными способностями”. Почему она должна служить человеку, а
не развиваться самостоятельно и непредсказуемо, возможно во вред ему?
Наряду с указанными выше проблемами возникают следующие четыре группы
проблем:
1. Применение молекулярной нанотехнологии в военных целях.
2. “Поломка” наносистем или даже выход их из-под контроля.
3. Проблемы, связанные с этификацией (облагораживанием) окружающей среды.
4. Проблемы бессмертия человека.
Рассмотрим подробнее эти проблемы.
1 Оружие.
Использование дубинки, изобретение колюще-режущих орудий убийства,
взрывчатых веществ и огнестрельного оружия, химического и
бактериологического оружия, появление ядерной и термоядерной бомбы – вот
ряд всё более страшных орудий истребления себе подобных придумал человек. К
счастью, до применения самого ужасного вида оружия в массовом порядке пока
не дошло. Этому благоприятствует то, что сделать ядерную бомбу пока не
может небольшая группа людей, и атомное оружием владеют лишь крупные
государства.
Неужели и новая технология может обернуться грозным оружием.
Несомненно. Оружие, которое могут придумать люди на основе молекулярных
нанотехнологий, можно сравнить с ядерным, как длительную смерть под пытками
с обезглавливанием на гильотине.
Безусловно, если забыть об этом, то государства тотчас, когда поймут,
что может дать нанотехнология, создадут институты, где будет в секрете от
“врага” разрабатываться нанотехнологическое оружие. И страх от мысли
использования такого оружия многих не остановит, если даже сейчас некоторые
люди предлагают нанести ядерный удар по NATO в ответ на бомбардировки
Косово.
Эдуард Теллер, один из создателей термоядерной бомбы заметил: «Тот, кто
раньше овладеет нанотехнологией, займет ведущее место в техносфере
следующего столетия». Мы полагаем, что нужно опасаться такого хода мыслей.
Высказывание, безусловно, верное, но нанотехнология не должна становиться
предметом соперничества. Она обладает столь мощным потенциалом, что нужно
вести разработки в этой области полностью открыто, с тщательным контролем,
исключающем создание оружия.
Эрик Дрекслер пишет: «Но мощь новых технологий можно обратить и на
создание военной силы. Перспектива создания новых вооружений и их быстрого
производства является причиной для серьезного беспокойства. Это ведет к
идее установления тщательного контроля даже для тех из нас, кто является
убежденным сторонником свободного развития технологии».[2]
Каков же выход? По нашему мнению возможен следующий вариант. Нужно
заключить всемирный договор о неразработке и уничтожении информации о любом
виде оружия. Тут сразу встаёт много проблем, но надо их решить прежде, чем
“погибнуть от гильотины или под мучительными пытками”.
По сути, договор о неразработке и уничтожении информации об оружии
является необходимой частью закона об отмене смертной казни, который якобы
принят в цивилизованных странах. Ведь оружие – это инструмент для
приведения в исполнение приговора о смертной казни каких-то людей (тем
хуже, что заранее неизвестно, кто может быть этими людьми). Таким образом,
разрешая и, тем более, стимулируя производство оружия, государство признаёт
возможность смертной казни, причём не нескольких отдельно взятых человек, а
большого количества людей, вплоть до всех живущих.
К сожалению, человечество пока ведёт себя по отношению к оружию как
малое дитя с опасной игрушкой. Неизвестно, когда оно вырастет и поумнеет,
поэтому нужно как можно скорее сделать эту игрушку недосягаемой для него.
Но человечество не сможет жить без новой ‘игрушки’, желательно дать ему
благородную идею, которая поглотила бы все его силы. В качестве такой идеи
Н.Ф. Фёдоров предлагает идею “общего дела”. Это дело – борьба со смертью:
«Препятствия к построению нравственного общества заключаются в том, что нет
дела настолько обширного, чтобы поглотить все силы людей, которые в
настоящее время расходуются на вражду… И если бы вменить войскам в
обязанность все применяемое ныне к войне применять также и к управлению
силами природы, в таком случае военное дело само собою обратилось бы в
общее дело всего человеческого рода».[14]
Молекулярные нанотехнологии, которые могут убить цивилизацию, с другой
стороны обладают большим потенциалом созидания, чем разрушения. В этом их
отличие, скажем, от ядерной энергии, неудержимая мощь которой гораздо
больше подходит для разрушения. В этом смысле прорыв человека в микромир
очень похож на изобретение колеса, которое имеет гораздо большее применение
в мирных целях, чем при создании оружия, где оно обычно работает лишь
косвенно.
2 Выход из-под контроля молекулярных систем.
Будем надеяться, что до военного применения нанотехнологий дело не
дойдёт. Тогда всё равно, остаётся опасность непредсказуемого поведения
наносистем, их выхода из-под контроля человека. Сколько статей и рассказов
было написано, где компьютер взбунтовался против человека. Но практика
развития компьютерных систем показывает, что ничего подобного не происходит
и не собирается происходить. Опасность такого рода возникнет только тогда,
когда система осознает саму себя и у неё появятся собственные цели.
«Знаете, это древнее опасение: машина стала умнее человека и подмяла
его под себя... Полсотни лет назад в Массачусетсе запустили самое сложное
кибернетическое устройство, когда-либо существовавшее. С каким-то там
феноменальным быстродействием, необозримой памятью и все такое... И
проработала эта машина ровно четыре минуты. Ее выключили, зацементировали
все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей
проволокой. Самой настоящей ржавой колючей проволокой – хотите верьте,
хотите нет.
- А в чем, собственно, дело?– спросил Банин.
- Она начала вести себя,– сказал Горбовский.
- Не понимаю.
- И я не понимаю, но ее едва успели выключить.
- А кто-нибудь понимает?
- Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел
мне в глаза и произнес только: "Леонид, это было страшно"».[11] - так
Стругацкие описывают зарождение искусственного интеллекта. Действительно в
мощном компьютере процессы мышления могут протекать на много порядков
быстрее, чем в человеческой голове. Имея собственные цели, собственную
мораль и философские воззрения такой искусственный интеллект может
представлять реальную угрозу человеку.
На современном этапе развития поведение компьютерных систем слишком
жёстко ограничивается алгоритмическими программами. Кроме того, эти
алгоритмы слабо связаны с окружающей средой, у компьютеров только сейчас
появляется слух и зрение в виде микрофонов и видеокамер, а органов
воздействия на окружающие предметы практически нет.
Развитие нанокомпьютеров неизбежно будет связано с созданием
нейросетей, допускающих случайные отклики на внешние воздействия, и ростом
взаимосвязи компьютер – внешний мир. Наряду с громадным ростом
быстродействия и памяти в таких системах можно ожидать самозарождения
сознания.
Но отказ выполнять волю человека может произойти не только из-за того,
что наносистемы начнут проявлять свою волю, противостоящую воле человека, а
из-за недостаточного понимания людьми последствий исполнения собственных
желаний наносистемами. Человек не может предусмотреть всех последствий
деятельности наносистем в силу их очень высокой сложности. Станислав Лем
это образно описывает так: «По-видимому, когда в среде обитания появляются
зачатки разума, когда этот разум пересаживают из голов в машины, а от
машин, как некогда от мамонтов и примитивных рептилий, его унаследуют
молекулы, и молекулы эти, совершенствуя новые поколения смышленых молекул,
преодолеют так называемый порог Скварка, то есть плотность их интеллекта
настолько превысит плотность человеческого мозга, что в песчинке поместится
умственный потенциал не доцента какого-нибудь, а сотни факультетов вместе с
их учеными советами,– тогда уже сам черт не поймет, кто кем управляет: люди
шустрами или шустры людьми. И речь тут вовсе не о пресловутом бунте машин,
не о восстаниях роботов, которыми давным-давно, когда в моде была
футурология для масс, пугали нас недоучившиеся журналисты, но о процессе
совершенно иного рода и иного значения. Шустры бунтуют в точности так же,
как растущая в поле пшеница или микробы на агаровой пленке. Они исправно
делают, что им поручено, но делают это все лучше и лучше и, в конце концов,
начинают делать это так изумительно, как никому не пришло бы в голову в
самом начале… И уж тем более никто не верил, что какие-то шустры получат
превосходство над людьми – не угрозами и не силой, но так, как ученый
совет, состоящий из дважды профессоров, превосходит мальца в коротких
штанишках. Ему не понять их коллективной мудрости, как бы он ни старался. И
даже если он принц и может приказывать совету, а совет добросовестно
исполняет его капризы, все равно результаты разойдутся с его ребяческими
ожиданиями,– например, захоти он летать. Разумеется, он будет летать, но не
по-сказочному, как он, несомненно, себе представлял, не на ковре-самолете,
но на чем-нибудь вроде аэроплана, воздушного шара или ракеты, поскольку
даже наивысшая мудрость в силах осуществить только то, что возможно в
реальном мире. И хотя мечты этого сопляка исполнятся, их исполнение каждый
раз будет для него неожиданностью. Возможно, в конце концов, мудрецам
удалось бы растолковать ему, почему они шли к цели не тем путем, который он
им указал, ведь малыш подрастет и сможет у них учиться; но среда обитания,
которая умнее своих обитателей, не может разъяснить им то, чего они не
поймут, ведь они - скажем, наконец, прямо – слишком глупы для этого».[5]
Кроме самопроизвольного неподчинения систем в силу их воли или глупости
человека существует ещё много возможностей отказа наносистемы выполнить
волю человека. Части этих отказов можно, теоретически избежать, другой
части нельзя избежать в принципе.
Системы наномашин кто-то будет проектировать. Разработка наносистем на
начальном этапе требует огромных затрат труда. Естественно, люди,
разработавшие наносистемы, могут предусмотреть в их программе подчинение
лишь себе или покупателю, но отказ служить другим людям. Таким образом, мир
может разделиться на две группы людей (фирм, компаний, государств). Одним
