Обладают ли компьютеры правами и несут ли ответственность?

С некоторых пор умы теоретиков от юриспруденции начал занимать один вопрос, имеющий самое непосредственное отно­шение к теме нашего разговора, но в некотором смысле более практический). Суть его заключается в следующем: не пред­стоит ли нам в не столь отдаленном будущем задуматься над тем, обладают ли компьютеры законными правами и несут ли они ответственность за свои действия. В самом деле, если со временем компьютеры смогут достичь уровня человека (а то и превзойти его) в самых разных областях деятельности, то по­добные вопросы неминуемо должны приобрести определенную значимость. Если придерживаться точки зрения , то следует, очевидно, признать, что компьютеры (или управляемые компью­тером роботы)должны потенциально и обладать правами, и нести ответственность. Ибо, согласно этой точке зрения, между челове­ком и роботом достаточно высокого уровня сложности нет суще­ственной разницы, за исключением такой «мелочи», как различие в материальном строении. Однако приверженцам точки зрения ситуация представляется несколько более запутанной. Разумно утверждать, что вопрос о правах или ответственности уместен для созданий, наделенных способностью чувствовать, т. е. испыты­вать определенные, подлинно душевные «ощущения» — такие, как страдание, гнев, мстительность, злоба, вера (религиозная и общечеловеческая), желание, сомнение, понимание или страсть. Согласно управляемый компьютером робот не обладает та­кой способностью, вследствие чего, на мой взгляд, не может ни обладать правами, ни нести ответственность. С другой стороны, если верить не существует эффективного способа определить, что упомянутая способность у робота действительно отсутствует, поэтому если роботы смогут достаточно правдоподобно имити-

ровать поведение человека, то человек может оказаться в весьма затруднительном положении.

Подобного затруднения, по всей видимости, не возникнет у сторонников точки зрения (а также, возможно, ), поскольку, согласно этим точкам зрения, компьютеры не в состоянии убеди­тельно демонстрировать душевные переживания и, уж конечно же, ничего похожего не чувствуют и чувствовать никогда не будут. Соответственно, компьютеры не могут ни обладать правами, ни нести ответственность. Лично мне такая точка зрения пред­ставляется весьма разумной. Вообще в этой книге я выступаю как серьезный противник позиций Согласившись с моими аргументами, юристы, безусловно, существенно упростят себе жизнь: как таковые компьютеры или управляемые компьютерами роботы ни при каких обстоятельствах не обладают правами и не несут ответственности. Нельзя обвинить компьютеры в каких бы то ни было неприятностях или недоразумениях — виновен всегда человек!

Следует, однако, понимать, что вышеприведенные аргументы могут и не относиться к всевозможным гипотетическим «устрой­ствам», подобным упомянутым выше — тем, что смогут в ко­нечном итоге воплотить в себе принципы новой, невычисли­тельной физики. Но, поскольку перспектива появления таких устройств — если их вообще удастся создать — весьма туманна, возникновения связанных с ними юридических проблем в бли­жайшем будущем ожидать не приходится.

Проблема «ответственности» поднимает глубокие философ­ские вопросы, связанные с основными факторами, обусловли­вающими наше поведение. Можно вполне обоснованно утвер­ждать, что каждое наше действие так или иначе определяется наследственностью и окружением, а то и всевозможными слу­чайностями, непрерывно влияющими на нашу жизнь. Но ведь ни одно из этих воздействий никак не зависит лично от нас, почему же мы должны нести за них ответственность? Является ли понятие «ответственности» лишь терминологической услов­ностью, или дело в чем-то еще? Возможно, и впрямь существу­ет некая «самость» — нечто, стоящее «выше» уровня подоб­ных влияний и определяющее, в конечном счете, наши действия? В юридическом смысле понятие «ответственности» явно подра­зумевает, что внутри каждого из нас и в самом деле существу­ет своего рода независимая «самость», наделенная своей собственной ответственностью — и, по определению, правами, — причем ее проявления нельзя объяснить ни наследственностью, ни окружением, ни случайностью. Если же присутствие в нашей речи такой независимой «самости» не просто языковая услов­ность, то в современных физических представлениях недоста­ет чего-то весьма существенного. Открытие этого недостающе­го ингредиента, несомненно, многое изменит в нашем научном мировоззрении.

Хотя книга, которую вы держите в руках, и не дает исчер­пывающего ответа на эти серьезные вопросы, она, как я полагаю, может чуть приоткрыть дверь, отделяющую нас от них — не боль­ше, но и не меньше. Вы не найдете здесь неопровержимых дока­зательств непременного существования такой «самости», прояв­ления которой нельзя объяснить никакой внешней причиной, вам лишь предложат несколько шире взглянуть на самую природу возможных «причин». «Причина» может оказаться невычисли­мой — на практике или в принципе. Я намерен показать, что если упомянутая «причина» так или иначе порождается нашими сознательными действиями, то она должна быть весьма тонкой, безусловно невычислимой и не имеющей ничего общего ни с ха­осом, ни с прочими чисто случайными воздействиями. Сможет ли такая концепция «причины» приблизить нас к пониманию ис­тинной сущности свободы воли (или иллюзорности такой свобо­ды) — вопрос будущего.

1.12. «Осознание», «понимание», «сознание», «интеллект»

До сих пор я не ставил перед собой задачи точно опре­делить те неуловимые концепции, что так или иначе связаны с проблемой «разума». Формулируя положения в я несколько туманно упоминал об «осознании», других же свойств мышления мы пока не касались. Думаю, что следует хотя бы попытаться прояснить используемую здесь и далее термино­логию — особенно в отношении таких понятий, как «понимание», «сознание» и «интеллект», играющих весьма существенную роль в наших рассуждениях.

Хотя я не вижу особой необходимости пытаться дать непре­менно полные определения, некоторые комментарии относительно моей собственной терминологии представляются все же умест­ными. Я часто с некоторым замешательством обнаруживаю, что употребление всех этих слов, столь очевидное для меня, не совпа­дает с тем, что полагают естественным другие. Например, термин «понимание», на мой взгляд, безусловно подразумевает, что ис­тинное обладание этим свойством требует некоторого элемента осознания. Не осознав сути того или иного суждения, мы, ра­зумеется, не можем претендовать на истинное понимание этого самого суждения. По крайней мере, я уверен, что эти слова сле­дует понимать именно так, хотя провозвестники ИИ, похоже, со мною не согласны и используют термины «понимание» и «осо­знание» в некоторых контекстах так, что первое никоим образом не предполагает непременного наличия второго. Некоторые из них (принадлежащие к категории ) полагают, что управляемый компьютером робот «понимает», в чем заключаются его инструкции, однако при этом никто и не заикается о том, что робот свои инструкции действительно «осознает». Мне кажется, что здесь перед нами всего-навсего неверное употребление тер­мина «понимание», пусть даже одно из тех, что обладают подлин­ной эвристической ценностью для описания функционирования компьютера. Когда мне потребуется указать на то, что термин «понимание» используется не в таком эвристическом смысле — т. е. при описании деятельности, для которой действительно необ­ходимо осознание, — я буду использовать сочетание «подлинное понимание».

Кое-кто, разумеется, может заявить, что между этими двумя случаями употребления слова «понимание» нет четкого разли­чия. Если это так, то сама концепция осознания также не имеет точного определения. С этим, конечно, не поспоришь; однако у меня нет никаких сомнений в том, что осознание действительно представляет собой некоторую сущность, причем эта сущность может как наличествовать, так и отсутствовать — по крайней мере, до некоторой степени. Если согласиться с тем, что осо­знание представляет-таки собой некоторую сущность, то вполне естественно будет согласиться и с тем, что эта сущность долж­на являться неотъемлемой частью всякого подлинного понима­ния. Это утверждение, кстати, не отрицает возможности того, что «сущность», которой является осознание, окажется в дей­ствительности результатом чисто вычислительной деятельности в полном соответствии с точкой зрения

Я также полагаю, что термин «интеллект» следует употреб­лять исключительно в связи с пониманием. Некоторые же те­оретики от ИИ берутся утверждать, что их робот вполне мо­жет обладать «интеллектом», не испытывая при этом никакой необходимости в действительном «понимании» чего-либо. Тер­мин «искусственный интеллект» предполагает возможность осу­ществления разумной вычислительной деятельности, и, вместе с тем, многие полагают, что разрабатываемый ими ИИ замеча­тельно обойдется без подлинного понимания — и, как следствие, осознания. На мой взгляд, словосочетание «интеллект без пони­мания» есть лишь результат неверного употребления терминов. Следует, впрочем, отметить, что иногда что-то вроде частичного моделирования подлинного интеллекта без какого бы то ни бы­ло реального понимания оказывается до определенной степени возможным. (В самом деле, не так уж редко встречаются че­ловеческие существа, способные на некоторое время одурачить нас демонстрацией какого-никакого понимания, хотя, как в конце концов выясняется, оно им в принципе не свойственно!) Между подлинным интеллектом (или подлинным пониманием) и любой деятельностью, моделируемой исключительно вычислительными методами, действительно существует четкое различие; это утвер­ждение является одним из важнейших положений моих даль­нейших рассуждений. Согласно моей терминологии, обладание подлинным интеллектом непременно предполагает присутствие подлинного понимания. То есть, употребляя термин «интеллект» (особенно в сочетании с прилагательным «подлинный»), я тем самым подразумеваю наличие некоторого действительного осо­знания.

Лично мне такая терминология кажется совершенно есте­ственной, однако многие поборники ИИ (во всяком случае те из них, кто не поддерживает точку зрения ) станут решитель­но отрицать всякую свою причастность к попыткам реализации искусственного «осознания», хотя конечной их целью является, судя по названию, не что иное, как искусственный «интеллект». Они, пожалуй, оправдаются тем, что они (в полном согласии с ) всего лишь моделируют интеллект — такая модель не требу­ет действительного понимания или осознания, — а вовсе не пытаются создать то, что я называю подлинным интеллектом. Вероятно, они будут уверять вас, что не видят никакой разницы между подлинным интеллектом и его моделью, что вполне отвечает точке зрения . В своих дальнейших рассуждениях я, в част­ности, намерен показать, что некоторые аспекты «подлинного понимания» действительно невозможно воссоздать путем каких бы то ни было вычислений. Следовательно, должно существовать и различие между подлинным интеллектом и любой попыткой его достоверного численного моделирования.

Я, разумеется, не даю определений ни «интеллекту», ни «по­ниманию», ни, наконец, «осознанию». Я полагаю в высшей сте­пени неблагоразумным пытаться дать в рамках данной книги пол­ное определение хотя бы одному из упомянутых понятий. Нам придется до некоторой степени положиться на свое интуитив­ное восприятие действительного смысла этих слов. Если интуи­ция подсказывает нам, что «понимание» есть нечто, необходимое для «интеллекта», то любое доказательство невычислительной природы «понимания» автоматически доказывает и невычисли­тельную природу «интеллекта». Более того, если «пониманию» непременно должно предшествовать «осознание», то невычисли­тельное физическое обоснование феномена осознания вполне в состоянии объяснить и аналогичную невычислительную природу «понимания». Итак, мое употребление этих терминов (в сущности совпадающее, как я полагаю, с общеупотребительным) сводится к двум положениям:

а) «интеллект» требует «понимания» и

б) «понимание» требует «осознания».

Осознание я воспринимаю как один из аспектов — пас­сивный — феномена сознания. У сознания имеется и актив­ный аспект, а именно — свободная воля. Полного определения слова «сознание» здесь также не дается (и, уж конечно же, не мне определять, что есть «свободная воля»), хотя мои аргумен­ты имеют целью окончательное объяснение феномена сознания в научных, но невычислительных терминах — как того требует точка зрения . Не претендую я и на то, что мне удалось пре­одолеть хоть сколько-нибудь значительное расстояние на пути к этой цели, однако надеюсь, что представленная в этой книге (равно как и в НРК.) аргументация расставит вдоль этого пути несколько полезных указателей для идущих следом — а может, станет и чем-то большим. Мне кажется, что, пытаясь на данном этапе дать слишком точное определение термину «сознание», мы рискуем упустить ту самую концепцию, какую хотим изловить. Поэтому вместо поспешного и наверняка неадекватного опреде­ления я приведу лишь несколько комментариев описательного характера относительно моего собственного употребления тер­мина «сознание». В остальном же нам придется положиться на интуитивное понимание смысла этого термина.

Все это вовсе не означает, что я полагаю, будто мы дей­ствительно «интуитивно знаем», чем на самом деле «является» сознание; я лишь хочу сказать, что такое понятие существует, а мы, по мере сил, пытаемся его постичь — причем за понятием стоит некий реально существующий феномен, который допускает научное описание и играет в физическом мире как пассивную, так и активную роль. Некоторые, судя по всему, полагают, что данная концепция слишком туманна, чтобы заслуживать серьез­ного изучения. Однако при этом те же люди часто и с удо­вольствием рассуждают о «разуме», полагая, очевидно, что это понятие определено гораздо точнее. Общепринятое употребле­ние слова «разум» предполагает разделение этого самого разума (возможное или реальное) на так называемые «сознательную» и «бессознательную» составляющие. На мой взгляд, концепция бессознательного разума представляется еще более невразуми­тельной, нежели концепция разума сознательного. Я и сам неред­ко пользуюсь словом «разум», однако не пытаюсь при этом дать его точное определение. В нашей последующей дискуссии (доста­точно строгой, надеюсь)концепция «разума» —за исключением той ее части, что уже нашла свое воплощение в термине «созна­ние», — не будет играть центральной роли.

Что же я имею в виду, говоря о сознании? Как уже отмеча­лось ранее, сознание обладает активным и пассивным аспектами, однако различие между ними далеко не всегда чётко определено. Восприятие, скажем, красного цвета требует несомненно пас­сивного сознания, равно как и ощущение боли либо восхище­ние музыкальным произведением. Активное же сознание участ­вует в сознательных действиях — таких, например, как подъем с кровати или, напротив, намеренное решение воздержаться от какой-либо энергичной деятельности. При воссоздании в памяти каких-то прошедших событий оказываются задействованы как пассивный, так и активный аспекты сознания. Составление плана будущих действий также обычно требует участия сознания — и активного, и пассивного; и, надо полагать, какое-никакое со­знание необходимо для умственной деятельности, которую обще­принято описывать словом «понимание». Более того, мы остаем­ся, в определенном смысле, в сознании (пассивный аспект), даже когда спим, если при этом нам снится сон (в процессе же пробу­ждения может принимать участие и активный аспект сознания).

У кого-то могут найтись возражения против того, что все эти разнообразные проявления сознания следует загонять в тесные рамки какой-то одной — пусть и всеобъемлющей — концепции. Можно, например, указать на то, что для описания феномена сознания необходимо принимать во внимание множество самых разных концепций, не ограничиваясь простым разделением на «активное» и «пассивное», а также и то, что реально существует огромное количество различных психических признаков, каждый из которых имеет определенное отношение к тому или иному свойству мышления. Соответственно, применение ко всем этим свойствам общего термина «сознание» представляется, в лучшем случае, бесполезным. Мне все же думается, что должна суще­ствовать некая единая концепция «сознания», центральная для всех отдельных аспектов мыслительной деятельности. Говоря о разделении сознания на пассивный и активный аспекты, ино­гда четко отличимые один от другого, причем пассивный аспект связан с ощущениями (или «quaiia»), а активный — с прояв­лениями «свободной воли», я считаю их двумя сторонами од­ной монеты.

В первой части книги меня будет занимать, главным образом, вопрос о том, чего можно достичь, используя свойство мышле­ния, известное как «понимание». Хотя я не даю здесь определе­ния термину «понимание», надеюсь все же прояснить его смысл в достаточной мере для того, чтобы убедить читателя в том, что обозначаемое этим термином свойство — чем бы оно ни оказа­лось — ив самом деле должно быть неотъемлемой частью мыс­лительной деятельности, которая необходима, скажем, для при­знания справедливости рассуждений, составляющих Я на­мерен показать, что восприятие этих рассуждений должно быть связано с какими-то принципиально невычислимыми процесса­ми. Мое доказательство не затрагивает столь непосредственно другие свойства мыслительной деятельности («интеллект», «осо­знание», «сознание» или «разум»), однако оно имеет определен­ное отношение и к этим концепциям, поскольку, в соответствии с той терминологией «от здравого смысла», о которой я упо­минал выше, осознание непременно должно быть существенным компонентом понимания, а понимание — являться неотъемлемой частью любого подлинного интеллекта.