Мир Лема - словарь и путеводитель - Леонид Ашкинази

РАЗУМ - система, способная создавать модели окружающего мира, по мнению некоторых, важно также наличие свободы воли, проявляющееся хотя бы в создании этих моделей; точнее - система, способная создавать модели не менее сложных ситуаций и не менее сложные, чем говорящий, или обладающая, по мнению говорящего, свободой воли, то есть сама являющаяся системой более сложной, чем он способен моделировать; по-видимому, компьютерная программа будет проходить по первой категории, животное или человеческий детеныш - по второй; предполагаемое различие между искусственным и естественным разумом стремление искусственного разума учесть возможно большее число факторов; это различие, которое является следствием отсутствия интуиции, т.е. отсутствия жизненного и исторического опыта, исчезнет в ходе эволюции:

"Природа допускает два типа Разума, но только такие, как ваш, могут складываться на протяжении миллиардов лет в эволюционных лабиринтах. И эта дорога, которую неизбежно предстоит пройти, оставляет в конечном продукте глубокие, темные, двусмысленные стигматы. Другой тип Разума для Эволюции недоступен, ибо его нужно воздвигнуть единым рывком, поскольку это Разум, разумно запроектированный, результат знания, а не микроскопических доработок, вечно нацеленных лишь на сиюминутную выгоду". - Голем XIV

"- Это правда: существуют только два возможных решения этой проблемы... Я - первое. Я стоял, словно парализованный, а он все говорил, тихо, спокойно. Разумеется, он читал мои мысли. Он мог овладеть мыслями любого человека и знал все, что можно знать. Он сообщил мне, что в момент пуска совокупность его знаний обо всем, что существует, его сознание вспыхнуло и изверглось, словно сферическая невидимая волна, расширяющаяся со скоростью света. Так что через восемь минут он уже знал о Солнце; через четыре часа обо всей Солнечной системе... Я не знал, что собой представляет тот второй вариант и что он означает. Он был почти в семь раз сложнее, чем первый. Может, он постигал бы мгновенно знание обо всем космосе?! Может быть, это был бы синтетический бог, который, появившись, так же затмил бы его, как он сделал это с нами?" - Формула Лимфатера

"Кто бы мог в мое время подумать, что цифровые машины, преодолев определенный порог разумности, потеряют надежность, а все потому, что разума без хитрости не бывает... Машина тупая, бесхитростная, неспособная пораскинуть умом делает, что прикажут. А смышленая сначала соображает, что выгоднее: решить предложенную задачу или попробовать от нее отвертеться. Она ищет чего полегче. А почему бы и нет, если она разумна? Ведь разум - это внутренняя свобода... компьютер, симулирующий кретинизм, чтобы от него отвязались". - Футурологический конгресс

"Умное оружие - не обязательно самое лучшее. Оно может, скажем, испугаться. Или ему расхочется быть оружием. У него могут появиться разные мысли". - Мир на Земле

"На XXI Панамериканский конгресс психоники профессор Элдон Пэтч представил работу, в которой он утверждал, что компьютер, даже с вживленной таким образом системой ценностей, может перейти так называемый "аксиологический порог" и тогда окажется способным поставить под сомнение любой принцип, который был ему привит, иначе говоря, для такого компьютера больше не существует неприкосновенных ценностей". - Голем XIV

"... робот, который был бы в умственном отношении равен человеку и в то же время не мог бы лгать и обманывать, - чистейшая фикция! Либо полноценная копия человека, либо марионетка - ничего другого создать нельзя... Существо, способное на поступки определенного уровня сложности, уже тем самым способно и на другие поступки того же уровня..." - Дознание

"Я должен все учесть точно и ясно, а если это невозможно, я проигрываю". - Дознание

"Мозг должен знать о состоянии и степени готовности каждой мышцы; точно так же компьютер должен иметь информацию о состоянии корабельных агрегатов... Компьютер предвидит замыслы противника на два-три хода вперед; если б он пытался предвидеть на десять ходов вперед, его бы задушил избыток возможных вариантов, ибо их количество растет по экспоненте. Чтобы предвидеть десять очередных ходов на шахматной доске, пришлось бы оперировать девятизначными числами. Такого самопарализующегося шахматиста дисквалифицировали бы на первом же состязании... Парадокс заключался в том, что именно повышенная емкость этих новых, усовершенствованных моделей способствовала катастрофе; ведь эти компьютеры могли функционировать очень долго, пока информационная перегрузка постепенно не выводила из строя их контуры. Но когда "Ариэль" опускался на космодром Агатодемона, какая-то последняя капля переполнила чашу". - Ананке

"Мудро не устояло перед искушением и принялось жадно поглощать бесценные сведения, которые, казалось бы, свидетельствовали о самоубийственном помешательстве неприятеля. Меж тем к сверхсекретной информации примешивали все большие порции не столь существенных данных, но Мудро, из любопытства и по привычке, ни от чего не отказывалось, заглатывая все новые лавины битов. Когда истощились уже запасы тайных трактатов, шпионских донесений, мобилизационных и стратегических планов, открыли шлюзы битохранилищ, в которых покоились старинные мифы, саги, предания, прачиавеческие легенды и сказки, священные книги, апокрифы, энциклики и жития святых". - Воспитание Цифруши

"Почти все известные мне эксперты так интенсивно занялись обсуждением "быть или не быть" Artificial Intelligence, что просто ослепли и не видят более фундаментальной проблемы, а именно: заслуживает ли вообще мозг человека, чтобы его называли эталоном "разума", интеллекта и, тем самым, может ли быть "совершенно иной взгляд" на мозг". - Тайна китайской комнаты. Tertium comparationis (ВЯ)

"Наш мозг содержит пласты древнего прошлого: в нем есть "что-то" и от пресмыкающегося, и от гоминидов. Ведь разум возникает тогда, когда становится настолько необходимым, что в ином случае выходом из альтернативы является уже видовая гибель; а видов, которые исчезли с Земли, были миллионы... " - Тайна китайской комнаты. Tertium comparationis (ВЯ)

"Зато почти полвека в рамках проблематики "иных, внеземных Разумов" ведется спор не только о том, существуют ли вообще другие Разумы, а о том, в состоянии ли мы посланный Ими сигнал, известие, шифр взломать, перевести информацию на "человеческий" язык и тем самым понять... Человеческий разум (я делаю такой вывод из дистиллята истории наук) на планете - первый, но первый ли он и в Космосе - очень сомнительно. Это уже не столько о нас, сколько о Вселенной свидетельствовало бы очень плохо!" - Тайна китайской комнаты. Ересь (ВЯ)

"Дело в том, что человеческий разум, даже если это будет разум супермудрого дарвиниста, не в состоянии представить и выразить способом, подлежащим очевидной верификации, истинность тех процессов, которые происходили в течение миллионов тысяч лет или хотя бы "только" миллионов лет". - Тайна китайской комнаты. Вычислительная мощность жизни (ВЯ)