Основы психологии.
Искусственный интеллект не обладает сознанием
Для продвижения по древу решений для рассуждения, закрывают тупиковые направления, сужают область поиска и наконец приходят к заключению, которому приписывают определенный уровень достоверности («Диагноз: системная красная волчанка; вероятность — 0,8»). К середине 1980-х годов десятки таких программ постоянно использовались в научных лабораториях, правительственных учреждениях, промышленности, а к концу столетия их стали многие сотни. Однако хотя экспертные системы в определенной мере разумны, в отличие от банковских компьютеров и компьютеров, резервирующих билеты на самолет в аэропортах, в действительности они не знают значения информации о реальном мире, которой манипулируют, в том смысле, в каком это понимается людьми.
«Кадуцей», консультационная система по внутренним болезням, может поставить диагноз пяти сотен заболеваний почти так же хорошо, как квалифицированный клиницист, однако авторитетный учебник, «Разработка экспертных систем», утверждает, что «он не обладает пониманием базовых патофизиологических процессов» и не может рассуждать о медицинских проблемах за пределами или на границе своей области знаний, даже когда не требуется ничего, кроме обычного здравого смысла. Одна диагностическая медицинская программа ничего не возразила, когда пользователь спросил ее, не показана ли ему пункция плодного пузыря; пациент был мужчиной, а программа просто «не осознала», что такой вопрос абсурден.
Как говорит Джон Андерсон, «главной трудностью, с которой успешно справляются эксперты-люди, является понимание контекста, в котором знание должно применяться. Логическая машина даст адекватные результаты только в том случае, если этот контекст будет строго определен». Однако такое широкое и богатое определение контекста, которое свойственно человеческому уму, потребовало бы невероятного количества данных и программирования. Среди других доводов против мнения о том, что программы искусственного интеллекта мыслят, которые приводят психологи и другие специалисты, имеются такие:
• Программы искусственного интеллекта типа экспертных систем или обладающие более широкими способностями рассуждать не обладают чувством самости и не осознают свое место в окружающем мире. Это резко ограничивает их способность мыслить в понятиях реального мира.
• Искусственный интеллект не обладает сознанием. Несмотря на то что сознанию почти невозможно дать определение, мы его испытываем, а он — нет. Следовательно, он не может оценивать собственные мысли и в результате менять мнение. Он делает выбор, но этот выбор определяется встроенными в него данными и программированием. Таким образом, компьютеры не имеют ничего напоминающего свободную волю.
• Компьютеры не могут — по крайней мере, пока не могут — рассуждать интуитивно или правдоподобно, не способны они и к креативному мышлению. Некоторые программы выдают новые решения технических проблем, но они являются перекомбинацией существующих данных. Другие программы пишут стихотворения или музыку, рисуют картины, но их произведения не произвели впечатления в мире искусства. Как гласит классическое высказывание доктора Джонсона, компьютеры похожи «на собак, которые ходят на задних лапах. Делают они это плохо, но вы удивляетесь уже одному тому, что они вообще это делают».
• Наконец, компьютеры не обладают эмоциями или телесными ощущениями, хотя на людей таковые оказывают огромное влияние; они направляют (хотя часто и в неверном направлении) наши мысли и решения.