Искусственный ты. Машинный интеллект и будущее нашего разума - Сьюзан Шнайдер

развивается в разумную технологическую цивилизацию. Это означает лишь, что существуют планеты гораздо более старые, чем Земля. Если разумная технологическая жизнь развивается хотя бы на некоторых из них, то инопланетные цивилизации должны быть на миллионы или миллиарды лет старше нас и, следовательно, намного разумнее нас. По нашим стандартам они должны быть сверхразумными. Как ни обидно, но мы можем оказаться галактическими младенцами. В космических масштабах Земля всего лишь детская песочница для разума.

Но будут ли представители этих сверхразумных цивилизаций искинами? Даже если они биологические с усовершенствованным мозгом, их сверхразум все равно будет создан искусственными средствами, что приводит меня к третьему моему наблюдению.

3. Очень возможно, что эти синтетические существа не будут иметь биологической основы.

Я уже говорила, что кремний представляется более подходящим субстратом для обработки информации, чем сам мозг. Кроме того, в настоящее время разрабатываются другие, более совершенные типы микрочипов, например на базе графена и углеродных нанотрубок. Число нейронов в человеческом мозге ограничено объемом черепа и процессами обмена веществ, а компьютеры можно удаленно объединить в сеть по всему земному шару. Искины могут быть сконструированы методами обратного проектирования мозга и улучшения его алгоритмов. К тому же искин более долговечен и может дублироваться.

Есть одно препятствие, которое непременно встает на этом пути: те самые тревоги, о которых я говорю в этой книге. Подобно философам на Земле инопланетные мыслители тоже могут прийти к осознанию трудных, а порою неразрешимых вопросов идентичности личности, возникающих в результате когнитивных усовершенствований. Не исключено, что они не поддались заманчивой идее радикальных улучшений, т. е. сделали то, к чему я призываю и нас.

К несчастью, на мой взгляд, высока вероятность того, что некоторые цивилизации поддались соблазну. Это не обязательно означает, что их представители превратились в зомби – надо надеяться, что сверхразумные существа обладают сознанием. Но это означает все же, что те, кто пошел на «усовершенствование», могли умереть. Возможно, эти цивилизации не останавливают усовершенствования, поскольку ошибочно полагают, что им удалось найти приемлемые решения философских загадок. А может быть, обитатели каких-то миров изначально не были настроены достаточно философски, чтобы задумываться над этими темами. Кроме того, обитатели каких-нибудь далеких миров, возможно, размышляли над ними, но пришли к заключению, подобно Будде или Парфиту, что настоящее продолжение жизни в любом случае невозможно. Не веря в существование «я», они предпочли загрузить себя в компьютеры. Не исключено, что они были, как называл это философ Пит Мандик, «метафизически отважными»: пошли на решительный шаг на основании веры в то, что сознание, или «я», может сохраниться при переносе информационной структуры мозга с биологического субстрата на кремниевые чипы[78]. Еще одна возможность видится в том, что некоторые инопланетные цивилизации с большой осторожностью подходят к совершенствованию индивидуумов на протяжении их жизни, стараясь не нарушить принципы идентичности личности, и при этом используют репродуктивные технологии для создания новых представителей своего вида с расширенными способностями. Наверняка найдутся и такие цивилизации, которые просто утратили контроль над своими искинами и были незаметно вытеснены ими.

Те разумные цивилизации, которые – по каким бы то ни было причинам – не остановили процесс усовершенствования личности, стали самыми разумными во Вселенной. Независимо от того, сильны ли эти инопланетяне в философии, их цивилизации пожинают интеллектуальные плоды усовершенствования. Как предполагает Мандик, системы с высоким уровнем метафизической отваги могут, изготовив про запас множество собственных цифровых копий, стать более приспособленными в дарвиновском смысле, чем более осторожные существа других цивилизаций[79].

Более того, я уже отмечала, что искины с большей вероятностью выдержат межзвездные путешествия, поскольку они более долговечны и способны к самокопированию, так что именно они, скорее всего, колонизируют Вселенную – если она вообще будет колонизирована. Именно они могут оказаться теми инопланетными существами, которых мы, земляне, встретим первыми, даже если это и не самые распространенные создания во Вселенной.

Подводя итог, скажу, что создание технологий космических путешествий и связи и появление постбиологического разума разделяет, судя по всему, очень небольшое временное окно. Внеземные цивилизации, скорее всего, давным-давно миновали это окно. Они, по всей вероятности, много старше нас и потому должны были достичь не просто постбиологической стадии, а сверхразума. Наконец, по крайней мере некоторые из них, надо полагать, состоят скорее из искинов, чем из биологических существ, потому что кремний и другие материалы лучше подходят на роль субстрата для систем обработки информации. Из всего этого я заключаю, что если жизнь действительно существует на множестве других планет и если продвинутые цивилизации действительно развиваются и не гибнут, то представителями наиболее продвинутых инопланетных цивилизаций, скорее всего, будут сверхразумные искины.

Разговоры на эти темы сильно смахивают на научную фантастику и могут встретить недопонимание, поэтому подчеркну: я не утверждаю, что подавляющая часть жизни во Вселенной имеет небиологическую природу. Львиная доля живого на Земле, например, приходится на микробов[80]. Я не говорю также, что «контролировать» Вселенную или «доминировать» в ней непременно будет один-единственный сверхразумный искин вроде Скайнета из фильмов о Терминаторе, хотя, безусловно, стоило бы поразмышлять об ИИ-безопасности в контексте этих вопросов. (Очень скоро я так и сделаю.) Я всего лишь предполагаю, что представителями наиболее продвинутых инопланетных цивилизаций окажутся сверхразумные искины.

Предположим, что я права. Какие выводы следует из этого сделать? В этом смысле показательны нынешние дебаты по поводу искусственного интеллекта на Земле. Два вопроса – так называемая проблема контроля и природа разума и сознания – очень важны для наших представлений о том, как могут выглядеть сверхразумные инопланетные цивилизации. Начнем с проблемы контроля.

Проблема контроля

Сторонники концепции постбиологического космоса предполагают, что именно машины станут следующим этапом эволюции разума. Мы с вами и то, как мы живем в настоящий момент, – это всего лишь промежуточный этап, очередная ступенька на эволюционной лестнице. Эти люди смотрят на постбиологическую фазу эволюции оптимистически. Другие, напротив, глубоко обеспокоены тем, что человек может потерять контроль над сверхразумом, поскольку тот способен переписать текст собственной программы, перехитрить нас и обойти любые предохранители, которые мы в него встроим. Искусственный интеллект может стать нашим величайшим изобретением – и притом последним. Все это называется «проблемой контроля» – проблемой способности землян контролировать ИИ, который намного умнее нас и при этом непостижим.

Мы уже говорили, что сверхразумный ИИ может быть создан при достижении технологической сингулярности – момента, когда все более стремительные технологические успехи, особенно взрывное развитие ИИ, достигают уровня, на котором люди уже не могут предсказывать или понимать технологические изменения по ходу их развертывания. Но даже если сверхразумный ИИ возникает менее драматичным образом, у нас не обязательно