Часть II

Новая физика, необходимая для понимания разума. В поисках невычислительной физики разума

8. Возможные последствия


...

8.3. Эстетика и т.д.

В вышеприведенных рассуждениях я говорил, по большей части, о способности к «пониманию», полагая ее существенным компонентом, напрочь отсутствующим в любой чисто вычислительной системе. Именно эта способность фигурировала в гёделевском рассуждении в §2.5 — и именно ее отсутствие в бездумности вычислительного процесса продемонстрировало существенную ограниченность вычислений, побудив нас тем самым к поискам лучшего. И все же «понимание» — это лишь одна из способностей, за которые мы ценим сознательное восприятие. В более общем смысле мы, обладающие сознанием существа, получаем преимущество в любых обстоятельствах, где мы можем непосредственно «чувствовать» то, что нас окружает; и этому вычислительные системы не «научатся» никогда.

Меня спросят: каких же таких преимуществ оказывается лишен робот с компьютерным управлением в результате своей неспособности чувствовать? Что с того, что он не в состоянии оценить, скажем, ни красоту звездного неба, ни величественное великолепие Тадж-Махала тихим вечером, ни волшебных переплетений фуги Баха, ни даже суровой красоты теоремы Пифагора? Можно просто сказать, что робот много теряет, не будучи способным ощутить то, что ощущаем мы, сталкиваясь с такими проявлениями совершенства. Однако это далеко не весь ответ. Попробуем спросить иначе. Пусть робот действительно не способен ничего чувствовать, но нельзя ли запрограммировать компьютер таким хитроумным образом, чтобы он, тем не менее, смог создать великое произведение искусства?

Этот вопрос представляется мне чрезвычайно деликатным. Кратким ответом на него, думаю, будет «нет» — хотя бы по той причине, что компьютер не способен испытывать чувственные ощущения, необходимые для того, чтобы отличить хорошее от плохого или превосходное от посредственного. Но тут можно задать встречный вопрос: а почему для того, чтобы вырабатывать собственные «эстетические критерии» и формировать собственные суждения, компьютер непременно должен обладать способностью «чувствовать»? Почему такие суждения не могут просто «возникнуть» после достаточно длительного обучения (восходящего типа)? Я, впрочем, думаю, что, как и в случае со способностью к пониманию, гораздо более вероятно, что упомянутые критерии все же придется в компьютер предварительно ввести, причем для получения этих самых критериев потребуется детальный нисходящий анализ, выполненный людьми (вполне возможно, не без помощи компьютера), в полной мере обладающими эстетическим чувством. Разработкой подобного рода схем занимались многие исследователи проблемы ИИ. Например, Кристофер Лонгет-Хиггинс (университет Суссекса) разработал несколько различных компьютерных систем, сочиняющих музыку согласно заложенным в них критериям. Еще в восемнадцатом веке Моцарт с современниками показали, как можно сочинять музыку с помощью так называемой «музыкальной игры в кости» — сочетая известные эстетически приятные фрагменты со случайными элементами, можно получать вполне сносные композиции. Аналогичные устройства были созданы и в области графических искусств — например, программа «AARON», разработанная Гарольдом Коэном, способна выдавать на гора в больших количествах «оригинальные» графические работы, генерируя случайные элементы и комбинируя их с имеющимися в ее распоряжении фиксированными образами в соответствии с определенными правилами. (Множество примеров такого «компьютерного творчества» можно найти в книге Маргарет Боден «Творческий разум» [32]; см. также [261].)

Думаю, что выражу общее мнение, если скажу, что среди продуктов такого рода деятельности пока нет ничего такого, что могло бы выдержать сравнение с любым творением умеренно способного художника-человека. Наверное, здесь уместно сказать, что даже при весьма значительных объемах предварительно введенных данных создаваемые компьютером «шедевры» оказываются напрочь лишены «души»! Иначе говоря, картина ничего не выражает, потому что компьютер ничего не чувствует.

Разумеется, случайно сгенерированная компьютерная работа может, просто по чистой случайности, оказаться и подлинным шедевром огромной художественной ценности. (Равно как и набирая буквы случайным образом, можно когда-нибудь получить «Гамлета».) В самом деле, следует признать, что и Природа способна волею случая сотворить настоящие произведения искусства, например, скалы причудливых очертаний или звезды в небе. Однако без способности чувствовать эту красоту невозможно отличить прекрасное от безобразного. Фундаментальная ограниченность полностью вычислительной системы проявится в полной мере еще в процессе отбора.

Опять же можно представить, что человек снабдит компьютер вычислительными критериями для такого различения, и это, возможно, какое-то время будет работать, коль скоро машине останется только генерировать очередные вариации на тему все того же эталона (возможно, так и создается большая часть рядовых «произведений» популярного искусства) — до тех пор, пока плоды такой деятельности не станут вызывать зевоту и нам не захочется чего-нибудь нового. На этом этапе машине потребуется какое-либо подлинное эстетическое суждение извне, чтобы выяснить, какие «новые идеи» имеют художественную ценность, а какие — нет.

Итак, помимо способности к пониманию, существуют и другие качества, каким полностью вычислительная система никогда не «научится» — например, способность к эстетическому восприятию. Сюда же, как мне представляется, следует отнести и все прочие качества и способности, что требуют осознания, — например, способность к нравственному суждению. Как мы убедились в первой части книги, суждение об истинности или ложности утверждения невозможно свести к чистому вычислению. То же применимо (возможно, даже с большей очевидностью) и к суждениям о прекрасном или о добром. Все эти способности требуют осознания и, как следствие, недоступны роботам с полностью компьютерным управлением. Для имитации роботом наличия этих способностей необходимо постоянное дополнительное управляющее воздействие со стороны какой-либо внешней, чувствующей и осознающей себя сущности — предположительно, человека.

Безотносительно к невычислительной природе упомянутых качеств, можно поинтересоваться, являются ли «красота» и «доброта» идеями абсолютными в платоновском смысле этого слова, где определение «абсолютный» применимо только к истине — в особенности, к математической истине. Сам Платон высказывался в поддержку такой точки зрения. Может быть, осознавая, мы каким-то образом связываемся с этими абсолютами, и именно в этом заключается уникальное предназначение сознания? Может быть, здесь и следует искать ключ к тому, чем наше сознание является в действительности и для чего оно нам дано? Не играет ли сознание роль своего рода «моста» между физическим миром и миром платоновских абсолютов? Эти вопросы мы еще раз затронем в последнем параграфе книги.

Вопрос об абсолютной природе нравственности имеет самое прямое отношение к юридическим проблемам, описанным в §1.11. Некоторым образом связан с ним и вопрос о сущности «свободы воли», поставленный в конце §1.11: возможно ли, что есть нечто, что не определяется наследственностью, влиянием окружения и всевозможными случайными факторами, — некая отдельная «самость», играющая ведущую роль в управлении нашими действиями? Я думаю, что мы пока еще очень далеки от ответа на этот вопрос. С полной уверенностью я могу утверждать (и аргументированно доказывать) лишь одно: что бы ни управляло в конечном счете нашим поведением, это что-то в принципе находится за пределами возможностей тех устройств, которые мы сегодня называем «компьютеры».