Сознание и искусственный интеллект

Волгоградский государственный университет Доклад на тему Сознание и искусственный интеллект На протяжении нескольких предыдущих десятилетий компьютерные технологии развивались семимильными шагами. Более того, нет никаких сомнений в том, что и будущее сулит нам новые грандиозные успехи в повышении быстродействия и объема памяти, а также новые конструктивные решения компьютерной логики.Сегодняшние компьютеры завтра покажутся нам такими же медленными и примитивными, как механические калькуляторы прошлого.

В таком стремительном развитии есть что-то почти пугающее. Уже сейчас машины способны решать различные задачи, ранее являвшиеся исключительной прерогативой человеческого интеллекта. И решать их со скоростью и точностью, во много раз превосходящими человеческие способности. Мы давно свыклись с существованием устройств, превосходящих наши физические возможности. И это не вызывает у нас внутреннего дискомфорта.Наоборот, нам более чем комфортно, когда автомобиль несет нас в пять раз быстрее, чем лучший в мире бегун.

Или когда с помощью таких устройств мы копаем ямы или сносим непригодные конструкции с эффективностью, которую не разовьет и отряд из нескольких дюжин добрых молодцев. Еще больше нам импонируют машины, с помощью которых у нас появляется возможность делать то, что нам ранее было попросту недоступно физически, например, подняться в небо и всего через несколько часов приземлиться на другом берегу океана. Эти машины не задевают нашего тщеславия.Но вот способность мыслить всегда была прерогативой человека.

В конце концов, именно этой способности мы обязаны тому, что человеку удалось преодолеть его физические ограничения и встать в развитии на ступеньку выше над другими живыми существами.А если когда-нибудь машины превзойдут нас там, где, по нашему мнению, нам нет равных не получится ли так, что мы отдадим пальму первенства своим же собственным творениям Можно ли считать, что механическое устройство в принципе способно мыслить, или даже испытывать определенные чувства Этот вопрос не нов, но с появлением современных компьютерных технологий он приобрел новое значение.

Смысл вопроса глубоко философский.Что значит думать или чувствовать Что есть сознание Существует ли оно объективно И если да, то в какой степени он функционально зависимо от физических структур, с которыми его ассоциируют Может ли оно существовать независимо от этих структур Или оно есть лишь продукт деятельности физической структуры определенного вида В любом случае должны ли подходящие структуры быть обязательно биологическими мозг или, возможно, этими структурами могут быть и электронные устройства Подчиняется ли разум законам физики Очертив круг вопросов, приступим, собственно к проблемам искусственного интеллекта.

Представите себе, что появилась новая модель очень мощного компьютера, вычислительные возможности которого много превосходят возможности человека.При этом разработчики уверяют, что он корректно запрограммирован, обладает огромным количеством данных, и, главное, разработчики утверждают, что он может мыслить.

Как нам понять, можно ли верить производителю или нет Можно принять, что компьютер мыслит, если он ведет, так же как и человек в момент раздумий. Естественно, мы от него не можем потребовать, чтобы он расхаживал по комнате, как мог бы себя вести размышляющий о чем-то человек. Более того, даже не важно, чтобы компьютер внешне напоминал человека эти качества не имеют отношения к назначению компьютера.Главное это способность выдавать схожие с человеческими ответы на любой вопрос. Этот подход отстаивается в статье Алана Тьюринга Вычислительные машины и интеллект.

В этой статье впервые была предложена идея того, что сейчас называют тестом Тьюринга. Тест предназначался для ответа на вопрос о том, можно ли резонно утверждать, что машина думает. Пусть утверждается, что некоторый компьютер подобный тому, который продают производители из описания выше в действительности думает.Для проведения теста Тьюринга компьютер вместе с человеком добровольцем скрывают от глаз опрашивающей.

Опрашивающая должна попытаться определить, где компьютер, а где человек, задавая им двоим пробные вопросы. Вопросы, а еще важнее ответы, которые она получает, передаются в безличной форме, например, печатаются на клавиатуре и высвечиваются на экране.Единственная информация, которой будет располагать опрашивающая это то, что она сама сможет выяснить в процессе такого сеанса вопросов и ответов. Опрашиваемый человек честно отвечает на все вопросы, пытаясь убедить женщину, что он и есть живое существо компьютер, однако, запрограммирован таким образом, чтобы обмануть опрашивающую и убедить ее в том, что человек на самом деле он. Если в серии подобных тестов опрашивающая окажется неспособной вычислить компьютер никаким последовательным образом, то считается, что компьютер прошел данный тест. Однако, не могу не привести замечательное рассуждение философа Джона Серля John Searle, известное под названием Китайская комната, которое указывает на недостаток теста Тьюринга.

Оно звучит так. Представьте себе писал Серль, что я нахожусь в комнате с корзинами, заполненными табличками с китайскими иероглифами.

Я не знаю китайский. Для меня все эти иероглифы в буквальном смысле китайская грамота.Но у меня есть подробная инструкция на английском языке, описывающая взаимосвязи между этими символами. Мне не нужно понимать значение китайских иероглифов, чтобы производить с ними действия, описанные в инструкции.

Вне этой комнаты находится группа людей, понимающих китайский. Они передают мне таблички с иероглифами, я же на основании инструкции отдаю им другие таблички с иероглифами. Этих людей можно назвать программистами, меня компьютером, а корзины с табличками базой данных.Переданные мне таблички назовем вопросами, переданные мною - ответами. А теперь представьте, что инструкция составлена таким образом, что мои ответы неотличимы от тех, которые бы дал человек, свободно владеющий китайским.

В этом случае я прохожу тест Тьюринга. Однако мы-то с вами знаем, что я не понимаю китайский язык и никогда не смогу его выучить таким способом, потому что не существует способа, с помощью которого я мог бы понять значение этих иероглифов.4 Так, по Серлю, устроен и компьютер, оперирующий символами, но не понимающий их значения. Из синтаксиса невозможно вывести семантику. А значит, невозможно и построить мыслящую машину.Термин интеллект intelligence происходит от латинского intellectus, что означает ум, рассудок, разум мыслительные способности человека.

Соответственно искусственный интеллект ИИ, он же artificial intelligence AI в зарубежной литературе обычно трактуется как свойство автоматических систем брать на себя отдельные функции интеллекта человека, например выбирать и принимать оптимальные решения на основе ранее полученного опыта и рационального анализа внешних воздействий.Система, наделенная интеллектом, является универсальным средством решения широкого круга задач в том числе неформализованных, для которых нет стандартных, заранее известных методов решения.

Таким образом, мы можем определить интеллект и как универсальный сверхалгоритм, который способен создавать алгоритмы решения конкретных задач.Запомним это определение. Теперь рассмотрим задачу весьма общего характера известную как проблема алгоритмической разрешимости, которая была поставлена великим немецким математиком Давидом Гильбертом частично в 1900 году на Парижском Конгрессе математиков так называемая десятая проблема Гильберта, и более полно на международном конгрессе 1928 года в Болонье.

Проблема, поставленная Гильбертом, состояла ни больше, ни меньше как в отыскании универсальной алгоритмической процедуры для решения математических задач или, вернее, ответа на вопрос о принципиальной возможности такой процедуры.Кроме того, Гильберт сформулировал программу, целью которой было построение математики на несокрушимом фундаменте из аксиом и правил вывода, установленных раз и навсегда.

Сама идея этой программы была опровергнута поразительной теоремой, доказанной в 1931 году блестящим австрийским логиком Куртом Геделем. Приведем упрощенное доказательство теоремы Геделя. Часть доказательства, приведенного Геделем, содержало некий очень сложный и детализированный кусок.В сложной части подробно показано, каким образом частные правила вывода и использование различных аксиом формальной процедуры могут быть представлены в виде арифметических операций.

Для этого представления нам необходимо будет найти какой-нибудь удобный способ нумерации утверждений при помощи натуральных чисел. Один из способов мог бы заключаться в том, чтобы использовать своего рода алфавитный порядок для строчек символов формальной системы, имеющих одинаковую длину, упорядочить заранее строчки по длине. Это называется лексикографическим порядком. Нас же должны в особенности интересовать функции исчисления высказываний одной переменной.Пусть -я из пронумерованных выбранным способом строк символов такая функция от аргумента обозначается Мы можем допустить, чтобы наша нумерация по желанию была несколько либеральна в отношении синтаксически некорректных выражений.

Если синтаксически корректно, то оно будет представлять из себя некоторое совершенно определенное арифметическое выражение, в котором фигурируют два натуральных числа и . Каков будет конкретный вид этого выражения зависит от особенностей системы нумерации, которую мы выбрали.

Но эти детали рассматриваются в сложной части и сейчас нас не касаются. Пусть будет -м доказательством. Опять же мы можем использовать либеральную нумерацию, когда для некоторых значений выражение не является синтаксически корректным и, тем самым, не доказывает никакую теорему.А теперь рассмотрим следующую функцию исчисления высказываний от натурального числа доказывает В выражении в квадратных скобках частично присутствуют слова, но, тем не менее, это абсолютно точно определенное выражение.

Оно говорит о том, что доказательство номер х является доказательством утверждения , примененного к самому . Находящийся за скобками квантор существования с отрицанием позволяет исключить из рассмотрения одну из переменных не существует такого х, что приводя нас в конечном счете к арифметической функции исчисления высказываний, зависящей только от . В целом данное выражение утверждает, что не существует доказательства . Предположим, что оно оформлено синтаксически корректным образом даже если некорректно поскольку тогда выражение было бы истинным за невозможностью существования доказательства синтаксически некорректного утверждения.

На самом деле, в результате сделанного нами перевода на язык арифметики, написанное выше будет в действительности неким арифметическим выражением, включающим натуральное число тогда как в квадратных скобках окажется четко определенное арифметическое выражение, связывающее два натуральных числа х и . Конечно, возможность представления этого выражения в арифметическом виде далеко не очевидна, но она существует.

Рассуждения, приводящие к этому заключению, составляют наиболее трудную задачу в сложной части доказательства Геделя. Как и ранее, непосредственный вид арифметического выражения будет зависеть от способа нумерации и в еще большей степени от конкретной структуры аксиом и правил вывода, принятых в нашей системе.Поскольку все это входит в сложную часть доказательства, то в данном случае нас не интересует.

Мы пронумеровали все функции исчисления высказываний, зависящие от одной переменной, поэтому той, которую мы ввели выше, также должен быть приписан номер. Пусть этот номер будет . Наша функция будет в таком случае -й в общем списке. То есть доказывает Теперь исследуем эту функцию при определенном значении . Мы получаем доказывает . Данное утверждение является абсолютно точно определенным синтаксически корректным арифметическим выражением.Может ли оно быть доказано в рамках нашей формальной системы А его отрицание имеет ли оно такое доказательство Ответ в обоих случаях будет отрицательный.

Мы можем убедиться в этом путем исследования смысла, который лежит в основании процедуры Геделя.Хотя является просто арифметическим выражением, последнее было построено нами таким образом, что написанное в левой части утверждает следующее внутри системы не существует доказательства . Если мы были аккуратны в определении аксиом и процедур вывода, и не ошиблись при нумерации, то тогда в рамках системы такого доказательства найти невозможно.

Если же доказательство существует, то значение утверждения, содержащегося в о том, что такого доказательства нет, будет ложным, а вместе с ним будет ложным и арифметическое выражение, отвечающее . Но наша формальная система не может быть построена настолько плохо, чтобы включать в себя ложные утверждения, которые могут быть доказаны Таким образом, в действительности, доказательство быть не может. Но это в точности то самое, о чем говорит нам . То, что утверждает , обязано, следовательно, быть верным, а поэтому должно быть верным как арифметическое выражение.

Значит, мы нашли истинное утверждение, которое недоказуемо в рамках системы. А как насчет Из предыдущих рассуждений видно, что доказательство этому утверждению внутри системы мы найти не сможем.Мы только что установили, что должно быть ложным ибо является истинным, а мы, по определению, не имеем возможности доказывать ложные утверждения в рамках системы Таким образом, ни , ни недоказуемы в нашей формальной системе, что и составляет теорему Геделя.

Интуитивная догадка, которая позволила нам установить, что утверждение Геделя является на самом деле истинным, представляет собой разновидность общей процедуры, известной логикам как принцип рефлексии посредством нее, размышляя над смыслом системы аксиом и правил вывода и убеждаясь в их способности приводить к математическим истинам, можно преобразовывать интуитивные представления в новые математические выражения, не выводимые из тех самых аксиом и правил вывода.

То, как нами была выше установлена истинность , как раз базировалось на применении этого принципа. Другой принцип рефлексии, имеющий отношение к доказательству Геделя хотя и не упомянутый выше, опирается на вывод новых математических истин исходя из представления о том, что система аксиом, которую мы полагаем априори адекватной для получения математических истин, является непротиворечивой.Если использовать их аккуратно, то они позволяют вырваться за жесткие рамки любой формальной системы и получить новые, основанные на интуитивных догадках, представления, которые ранее казались недостижимыми.

В математической литературе могло бы быть множество приемлемых результатов, чье доказательство требует прозрений, далеко выходящих за рамки исходных правил и аксиом стандартной формальной системы арифметики.Все это свидетельствует о том, что деятельность ума, приводящая математиков к суждениям об истине, не опирается непосредственно на некоторую определенную формальную систему.

Мы убедились в истинности утверждения Геделя , хотя мы и не можем вывести ее из аксиом системы. Этот тип видения, используемый в принципе рефлексии, требует математической интуиции, которая не является результатом чисто алгоритмических операций, представимых в виде некоторой формальной математической системы.В этом заключается суть довода, предложенного Лукасом в 1961 в поддержку точки зрения, согласно которой деятельность мозга не может быть полностью алгоритмической, против которого, однако, время от времени выдвигались различные контрдоводы.

В связи с этой дискуссией я должен подчеркнуть, что термины алгоритм и алгоритмический относятся к чему угодно, что может быть достоверно смоделировано на компьютере общего назначения. Сюда включается, конечно, как параллельная обработка, так и нейросети или машины с переменной структурой связей, эвристика, обучение где всегда заранее задается определенный фиксированный шаблон, по которому машина должна обучаться, а также взаимодействие с внешним миром которое может моделироваться посредством входной ленты машины Тьюринга.

Наиболее серьезным из этих контраргументов является следующий чтобы действительно убедиться в истинности утверждения , нам нужно знать, какой именно алгоритм использует математик, и при этом быть уверенным в правомерности его использования в качестве средства достижения математической истины.Если в голове у математика выполняется очень сложный алгоритм, то у нас не будет возможности узнать, что он из себя представляет, и поэтому мы не сможем сконструировать для него утверждение геделевского типа, не говоря уже об уверенности в обоснованности его применения.

Такого типа возражения часто выдвигаются против утверждений подобных тому, которое я привел в начале этого раздела, а именно, что теорема Геделя свидетельствует о неалгоритмическом характере наших математических суждений.Но сам я не нахожу это возражение слишком убедительным.

Предположим на мгновение, что способы, которыми математики формируют осознанные суждения о математической истине действительно являются алгоритмическими. Попробуем, используя теорему Геделя, доказать абсурдность этого утверждения от противного. Прежде всего мы должны рассмотреть возможность того, что разные математики используют неэквивалентные алгоритмы для суждения об истинности того или иного утверждения.Однако и это одно из наиболее поразительных свойств математики может быть, почти единственной в этом отношении среди всех прочих наук истинность математических утверждений может быть установлена посредством абстрактных рассуждений Математические рассуждения, которые убеждают одного математика, с необходимостью убедят и другого при условии, что в них нет ошибок и суть нигде не упущена.

Это относится и к утверждениям типа геделевского.Если первый математик готов согласиться с тем, что все аксиомы и операции некоторой формальной системы всегда приводят только к истинным утверждениям, то он также должен быть готов принять в качестве истинного и соответствующее этой системе геделевское утверждение. Точно то же самое произойдет и со вторым математиком.

Таким образом, рассуждения, устанавливающие математическую истину, являются передаваемыми.Отсюда следует, что мы, говоря об алгоритмах, имеем в виду не какие-то неясные разномастные построения, которые, возможно, рождаются и бродят в голове каждого отдельного математика, а одну универсально применяемую формальную систему, которая эквивалентна всем возможным алгоритмам, использующимся математиками для суждений о математической истине.

Однако мы никак не можем знать, является ли эта гипотетическая универсальная система той, которая используется математиками для установления истинности. Ибо в этом случае мы могли бы построить для нее геделевское утверждение, и знали бы наверняка, что оно математически истинно.Следовательно, мы приходим к заключению, что алгоритм, который математики используют для определения математической истины, настолько сложен или невразумителен, что даже правомерность его применения навсегда останется для нас под вопросом.

Но это бросает вызов самой сущности математики Основополагающим принципом всего нашего математического наследия и образования является непоколебимая решимость не склоняться перед авторитетом каких-то неясных правил, понять которые мы не надеемся.Мы должны видеть по крайней мере, в принципе что каждый этап рассуждений может быть сведен к чему-то простому и очевидному. Математическая истина не есть некая устрашающе сложная догма, обоснованность которой находится вне границ нашего понимания она строится из подобных простых и очевидных составляющих и когда они становятся ясны и понятны нам, с их истинностью соглашаются все без исключения.

Математическая истина это не то, что мы устанавливаем просто за счет использования алгоритма.Кроме того, наше сознание это решающая составляющая в нашем понимании математической истины. Мы должны видеть истинность математических рассуждений, чтобы убедиться в их обоснованности.

Это видение самая суть сознания. Оно должно присутствовать везде, где мы непосредственно постигаем математическую истину. Когда мы убеждаемся в справедливости теоремы Геделя, мы не только видим ее, но еще и устанавливаем неалгоритмичность природы самого процесса видения.Возникает вопрос а откуда, собственно, берется неалгоритмическая деятельность нашего сознания Существует гипотеза сэра Роджера Пенроуза 1, что это следствие некоторых квантовых процессов в нашем мозге.

Квантовая система живет по своим внутренним - сложным, но точно предсказуемым - законам до тех пор, пока не вступит в контакт с классической системой. Этот контакт называется измерением, а то состояние, в котором система например, электрон оказывается после этого - результатом измерения.Состояние описывается так называемой пси-функцией. Так вот, во время квантовой жизни эта пси-функция плавно и красиво эволюционирует в абстрактном математическом пространстве, самым невероятным образом изменяет свою форму, но увидеть этого мы не можем Если же мы поймаем электрон и посадим его под микроскоп, то увидим там одну из ничтожно малого количества заранее известных пси-функций И даже точно рассчитав всю эволюцию электрона в его квантовой жизни, мы можем узнать только вероятность того, что измерение даст нам ту или иную из разрешенных к наблюдению пси-функций.Превращение некоей невидимой пси-функции в реально наблюдаемую называется редукцией, или схлопыванием.

Обозначим это превращение буквой R. Главная физическая идея, которой придерживается автор, выдвигалась в той или иной форме многими.

Она состоит в том, что R можно рассматривать как реальное физическое явление, связанное с выбором той или иной конфигурации пространства-времени, в котором находится наша квантовая система. Более того, редукция может происходить по двум причинам.Одна из них - взаимодействие со средой, с классическими объектами.

Когда это так, редукция носит вероятностный характер. Так вот, основная гипотеза в том, что существует еще и такое явление, как объективная редукция, OR, прерывающая квантовую жизнь любой системы независимо ни от каких измерений, если в ней слишком много частиц, или накопилось слишком много энергии, или она просто слишком долго не схлопывалась. Эта самая OR как раз и предполагается невычислимой.В обычных условиях, когда квантовая система очень быстро вступает во взаимодействие со средой, R и OR практически неотличимы друг от друга.

Но если квантовая система изолирована от среды и долго живет в так называемом сцепленном состоянии, называемом еще когерентной квантовой суперпозицией, в ней происходит OR, результат которой алгоритмически непредсказуем. Итак, кандидатура на роль невычислимого ингредиента найдена - точнее, названа.Но при чем здесь сознание Да и где в мозгу могут происходить квантовые процессы, влияющие на работу нейронов Нейрофизиологи уже давно задумывались над возможными квантовыми механизмами, связанными с работой мозга.

В 1987 году вышла пионерская работа Стюарта Хамероффа основателя нанобиологии - книга Ultimate Computing Biomolecular Consciousness and NanoTechnology, где речь шла о своеобразных вычислениях, происходящих в так называемых микротрубочках цитоскелета. Микротрубочки - важная часть скелета клетки.Это полые цилиндрические трубочки диаметром примерно 25 нм. Они состоят из субъединиц - тубулинов.

Тубулины - это молекулы-димеры, то есть они могут существовать по крайней мере в двух пространственных конфигурациях конформациях. Для того чтобы произошло переключение из одной конформации в другую, достаточно чтобы единственный электрон переехал с места на место. Поверхность микротрубочки составлена из тубулинов, расположенных в узлах правильной решетки. Конфигурация каждого тубулина зависит от конфигурации его соседей.Прямо-таки компьютер, изготовленный самой природой Микротрубочки есть во всех клетках всех организмов, за исключением некоторых бактерий и водорослей.

Хамерофф предположил, что микротрубочки нейронов играют важную роль в работе мозга. В них могут возникать вычисления - последовательные перестройки конфигурации тубулинов, нечто вроде того, что происходит в игре Жизнь. Эти вычисления, в свою очередь, влияют на передачу сигналов между нейронами.Идеи Пенроуза и Хамероффа укладываются в общую картину следующим образом. Есть косвенные экспериментальные свидетельства, а также некие физические соображения в пользу того, что в микротрубочках тубулины могут образовывать большие когерентные квантовые системы.

Другими словами, большая совокупность тубулинов может некоторое время жить квантовой жизнью, а потом переходить в классическое состояние с помощью невычислимой процедуры OR. Вот этот переход и есть момент сознания, или, как пишут авторы, используя терминологию английского философа Уайтхеда, элементарный фактор чувственного опыта.

Поток таких событий и образует субъективно ощущаемый поток сознания. Теперь, обзор критики этого подхода. Во-первых, геделевские аргументы требуют, чтобы алгоритм был, хотя бы в принципе, познаваем. А кто сказал, что встроенный в головы математиков алгоритм они математики могут познать Может быть, выбор только в том, чтобы верить или не верить в это Далее, в рассуждениях было нужно, чтобы алгоритм на самом деле был правильным.А если в наши головы встроен алгоритм, но он неправильный то есть иногда делает ошибки Между прочим, к этой точке зрения склонялся Тьюринг.

Сам же Гедель считал, что математическая интуиция в принципе может быть сведена к некоей теоремной машине, но доказать этот факт будет невозможно, даже случайно обнаружив эту машину. Пенроуз аргументирует очень развернуто и конкретно, что и дает прекрасные возможности для критики в его адрес. И критика сразу же начинается - жесткая и, я бы даже сказал, свирепая.Разбирать здесь аргументы и контраргументы невозможно, и не нужно.

Он собрал всю известную ему критику его предыдущих работ, добавил к ней несколько возражений, придуманных им самим, и отвечает по пунктам и с формулами. Через два года после выхода книги, в 1996 году, в журнале Psyche прошла большая дискуссия по ней с участием крупнейших специалистов. Интересно, что вся критика касалась только первой части отрицательной программы. Оставляя в стороне математические аргументы, я хочу упомянуть только о двух моментах.Первый связан с непознаваемостью алгоритма.

Очень трудно логически аргументировать против того, что у нас в головах есть некий непознаваемый и несознаваемый алгоритм, который управляет математическим мышлением.К непознаваемому алгоритму нельзя непосредственно применить теорему Геделя Но, не отказываясь от виртуозной логической аргументации, Пенроуз спрашивает почему мы должны всеми силами держаться за саму идею алгоритмичности нашего мышления Что в ней такого уж естественного Каким образом, например, мог универсальный математический алгоритм возникнуть в процессе эволюции Зачем природа могла снабдить охотника на мамонтов сверхсложным аппаратом, уже содержащим, в определенном смысле, и неевклидову геометрию, и К-теорию Не проще ли предположить, что в процессе естественного отбора совершенствовался некий универсальный механизм понимания Второй момент - возможность того, что некий хаотический, то есть детерминированный, но стохастический с виду процесс может отвечать за математику в нашем мышлении.

Для этого необходимо, чтобы хаотический процесс мог хотя бы более или менее эффективно приблизить невычислимый процесс.

Таких примеров, по-видимому, пока нет. В любом случае речь идет лишь о приближении, ибо хаотический процесс можно - в принципе - точно смоделировать.А на практике, как это обычно и делается, точно смоделировать нельзя, но можно смоделировать типичный хаотический процесс того или иного вида. С этой темой связана еще одна интересная проблема, о которой говорит Пенроуз проанализировать возможность возникновения невычислимой динамики в рамках уже известных законов физики или химии.

Подведем некоторые итоги. В современной науке можно выделить четыре наиболее характерные точки зрения о связи сознательного мышления и вычислений на компьютере A. Мышление целиком и полностью является вычислением. В частности, ощущение осознания вызывается просто выполнением соответствующих вычислений.B. Сознание есть один из результатов физического действия мозга. Любое физическое действие может быть вычислительно смоделировано.

Однако само по себе вычислительное моделирование не может вызвать осознание. C. Определенное физическое действие мозга вызывает осознание. Однако это физическое действие не может быть вычислительно смоделировано ни в каком разумном смысле. D. Сознание невозможно объяснить ни в рамках физики, ни в рамках теории вычислений, ни вообще в рамках науки.В своем докладе, сначала я показал разницу между A и B, приведя рассуждение Серла о китайской комнате.

Далее показано, что наше сознание неалгоритмично, более того, можно привести теорему Тьюринга о не существовании алгоритма, отвечающего на вопрос работает ли алгоритм верно. Это дает некоторые основания говорить, что наше сознание смоделировать нельзя. Затем, я попытался раскрыть C, указав на возможный источник нашего неалгоритмического сознания. Схемы доклада.Приложение 1. Из истории ИИ. Первые исследования, относящиеся к искусственному интеллекту, были предприняты почти сразу же после появления вычислительных машин.

В 1954 году А. Ньюэлл A. Newell решил написать программу для игры в шахматы. Этой идеей он поделился с аналитиками корпорации Рэнд RAND Corporation, www.rand.org Дж. Шоу J. Shaw и Г. Саймоном H. Simon, которые предложили Ньюэллу свою помощь.В качестве теоретической основы программы было решено использовать метод, предложенный в 1950 году Клодом Шенноном C. E. Shannon, основоположником теории информации.Формализация этого метода была выполнена Аланом Тьюрингом Alan Turing.

Он же промоделировал его вручную. К работе была привлечена группа голландских психологов под руководством А. де Гроота A. de Groot, изучавших стили игры выдающихся шахматистов. Через два года совместной работы этим коллективом был создан язык программирования ИПЛ1 IPL1, по-видимому первый символьный язык обработки списков. Вскоре была написана и первая программа, которую можно отнести к достижениям в области искусственного интеллекта.Это была программа Логик-Теоретик 1956, предназначенная для автоматического доказательства теорем в исчислении высказываний.

Собственно же программа для игры в шахматы, NSS, была завершена в 1957 г. В основе ее работы лежали так называемые эвристики правила, которые позволяют сделать выбор при отсутствии точных теоретических оснований и описания целей. Управляющий алгоритм пытался уменьшить различия между оценками текущей ситуации и оценками цели или одной из подцелей.В 1960 г. той же группой на основе принципов, использованных в NSS, была написана программа, которую ее создатели назвали GPS General Problem Solver - универсальный решатель задач.

GPS могла справляться с рядом головоломок, вычислять неопределенные интегралы, решать некоторые другие задачи. Эти результаты привлекли внимание специалистов в области вычислений. Появились программы автоматического доказательства теорем планиметрии и решения алгебраических задач.Джона Маккарти J. McCarthy из Стэнфорда заинтересовали математические основы этих результатов и вообще символьных вычислений.

В 1963 г. им был разработан язык ЛИСП LISP, от List Processing, в основу которого легло использование единого спискового представления для программ и данных, применение выражений для определения функций, скобочный синтаксис. В это же время в СССР в МГУ и Академии наук был выполнен ряд пионерских экспериментальных исследований под руководством Вениамина Пушкина и Дмитрия Поспелова, целью которых было выяснить как же решает переборные задачи человек см. врезку на стр. 17 К исследованиям в области искусственного интеллекта стали проявлять интерес и логики.

В том же 1964 г. была опубликована работа ленинградца Сергея Маслова Обратный метод установления выводимости в классическом исчислении предикатов, в которой впервые предлагался метод автоматического поиска доказательства теорем в исчислении предикатов.Годом позже в США появляется работа Дж. А. Робинсона J. A. Robinson, посвященная несколько иному методу автоматического поиска доказательства теорем в исчислении предикатов первого порядка, который был назван методом резолюций и послужил отправной точкой для создания в 1971 г. Пролога PROLOG - нового языка программирования со встроенной процедурой логического вывода. В 1966 году Валентином Турчиным СССР был разработан язык рекурсивных функций Рефал, предназначенный для описания языков и разных видов их обработки.

Хотя он и был задуман как алгоритмический метаязык, но для пользователя это был, подобно ЛИСПу и Прологу, язык обработки символьной информации.

В конце 1960-х годов появились первые игровые программы, системы для элементарного анализа текста и решения некоторых математических задач геометрии, интегрального исчисления. В возникавших при этом сложных переборных проблемах количество перебираемых вариантов резко снижалось благодаря применению всевозможных эвристик и здравого смысла. Такой подход стали называть эвристическим программированием.Дальнейшее развитие эвристического программирования шло по пути усложнения алгоритмов и улучшения эвристик. Однако вскоре стало ясно, что существует некоторый предел, за которым никакое улучшение эвристик и усложнение алгоритма не повысит качества работы системы и, главное, не расширит ее возможностей.

Программа, которая играет в шахматы, никогда не будет играть в шашки или карты.Постепенно исследователи стали понимать, что всем ранее созданным программам недостает самого важного - знаний в соответствующей области.

Специалисты, решая задачи, достигают высоких результатов благодаря знаниям и опыту если программы смогут обращаться к знаниям и применять их, то они тоже будут работать несравненно лучше. Это понимание, возникшее в начале 70-х годов, по существу, означало качественный скачок в работах по искусственному интеллекту.Основополагающие соображения на этот счет высказал в 1977 году на 5-й Объединенной конференции по искусственному интеллекту американский ученый Э. Фейгенбаум E. Feigenbaum.

Уже к середине 70-х годов появляются первые прикладные интеллектуальные системы, использующие различные способы представления знаний для решения задач - экспертные системы. Одной из первых была экспертная система DENDRAL, разработанная в Стэнфордском университете и предназначенная для порождения формул химических соединений на основе спектрального анализа. Система MYCIN предназначена для диагностики и лечения инфекционных заболеваний крови.Система PROSPECTOR прогнозирует места залегания полезных ископаемых. Имеются сведения о том, что с ее помощью были открыты месторождения молибдена, ценность которых превосходит сто миллионов долларов.

Система оценки качества воды, реализованная на основе российской технологии SIMER MIR, несколько лет назад помогла локализовать источник загрязнения Москвы-реки в районе Серебряного Бора, где были превышены предельно допустимые концентрации загрязняющих веществ.Система CASNET предназначена для диагностики и выбора стратегии лечения глаукомы. Приложение 2. Современные направления развития ИИ. Представление знаний и моделирование рассуждений Представление знаний knowledge representation - одно из наиболее сформировавшихся направлений искусственного интеллекта.

Традиционно к нему относилась разработка формальных языков и программных средств для отображения и описания так называемых когнитивных структур 1. Сегодня к представлению знаний причисляют также исследования по дескриптивной логике, логикам пространства и времени, онтологиям.

Пространственные логики позволяют описывать конфигурацию пространственных областей, объектов в пространстве с их помощью изучаются также семейства пространственных отношений. В последнее время эта область, из-за тесной связи с прикладными задачами, становится доминирующей в исследованиях по представлению знаний.Например, для задач роботики важно уметь по изображению некоторой сцены восстановить ее вербальное формальное описание, дабы использовать его, например, для планирования действий робота.

Объектами дескриптивной логики являются так называемые концепты базовые структуры для описания объектов в экспертных системах и связанные в единое целое множества концептов агрегированные объекты. Дескриптивная логика вырабатывает методы работы с такими сложными концептами, технику рассуждений об их свойствах и выводимости на них. Дескриптивная логика может быть использована, кроме того, для построения объяснительной компоненты базы знаний.Наконец, онтологические исследования посвящены способам концептуализации знаний и методологическим соображениям о разработке инструментальных средств для анализа знаний.

Различные способы представления знаний лежат в основе моделирования рассуждений, куда входят моделирование рассуждений на основе прецедентов case-based reasoning, CBR, аргументации или ограничений моделирование рассуждений с неопределенностью, рассуждения о действиях и изменениях, немонотонные модели рассуждений и др. Остановимся на некоторых из них. CBR Здесь главные проблемы - поиск алгоритмов адаптации, фокусировка поиска на использовании прошлого опыта, вывод, основанный на оценке сходства и технологии визуализации.

Пусть заданы прецеденты как множество пар СЛУЧАЙ, РЕШЕНИЕ , множество зависимостей между различными атрибутами СЛУЧАЕВ и РЕШЕНИЙ, а также целевая проблема ЦЕЛЬ. Для возникающего нового случая требуется найти пару НОВЫЙ СЛУЧАЙ, ИСКОМОЕ РЕШЕНИЕ , которая решает целевую проблему.Алгоритмы для таких задач обычно основаны на сравнении прецедентов с новым случаем в какой-либо метрике с использованием зависимостей между атрибутами случаев и атрибутами решения.

Такие зависимости могут задаваться человеком при построении базы случаев или обнаруживаться в базе случаев автоматически. При поиске решения для целевой проблемы выполняется адаптация уже имеющегося в базе прецедентов решения. Для этой адаптации и используются означенные зависимости.Важной проблемой CBR является проблема выбора подходящего прецедента.

Естественно искать подходящий прецедент в той области пространства поиска, где находятся решения сходных проблем. Но как определить, какие именно решения считать сходными Во врезке слева приведен пример, поясняющий применяемые подходы.Методы CBR уже применяются во множестве прикладных задач - в медицине, управлении проектами, для анализа и реорганизации среды, разработки товаров массового спроса с учетом предпочтений разных групп потребителей и т. д. Следует ожидать приложений методов CBR к задачам интеллектуального поиска информации, электронной коммерции предложение товаров, создание виртуальных торговых агентств, планирования поведения в динамических средах, компоновки, конструирования, синтеза программ.

Немонотонные модели рассуждений Сюда относятся исследования по автоэпистемическим логикам, логикам Мак-Дермота D. McDermott, логике умолчаний default logic, логике отменяемых defeasible рассуждений, логике программ, теоретико-аргументационой характеризации логик с отменами, характеризации логик с отношениями предпочтения, построению эквивалентных множеств формул для логик с очерчиванием circumscription и некоторые другие.

Такого рода модели возникают при реализации индуктивных рассуждений, в задачах машинного обучения и ряде других. Типичная ситуация, в которой говорят о немонотонности, возникает в задачах моделирования рассуждений на основе индукции.Пусть некоторая гипотеза Н возникла на основе N положительных примеров допустим, экспериментов.

Однако никто не может дать гарантии, что в базе данных или в поле зрения алгоритма не окажется N1-й пример, опровергающий гипотезу или меняющий степень ее истинности. Если же это происходит, то ревизии должна быть подвергнута не только сама гипотеза Н, но и все ее следствия. Рассуждения с неопределенностью Сюда относится использование байесовского формализма в системах правил и сетевых моделях.Байесовские сети bayesian networks - это статистический метод обнаружения закономерностей в данных. Для этого используется первичная информация, содержащаяся либо в сетевых структурах, либо в базах данных.

Под сетевыми структурами в этом случае понимается множество вершин и отношений на них, задаваемое с помощью ребер. Ребра интерпретируются как причинные связи.Всякое множество вершин Z, представляющее все пути между двумя заданными вершинами X и Y, соответствует условной зависимости между ними. Далее задается распределение вероятностей на множестве переменных, соответствующих вершинам графа, и проводится некая процедура минимизации сети, на которой мы останавливаться не будем.

Полученная сеть называется байесовской. На таких сетях можно использовать так называемый байесовский вывод, то есть вычислять с некоторой натяжкой вероятности следствий событий по формулам теории вероятностей. Иногда рассматриваются так называемые гибридные байесовские сети, с вершинами которых связаны как дискретные, так и непрерывные переменные.Байесовские сети часто применяются для моделирования технических систем.

Приобретение знаний, машинное обучение и автоматическое порождение гипотез Работы в области приобретения знаний интеллектуальными системами были и остаются важнейшим направлением теории и практики ИИ. Целью этих работ является создание методологий, технологий и программных средств переноса знаний или, как иногда говорят, компетентности в базу знаний системы. При этом в качестве источников знаний выступают эксперты высококвалифицированные специалисты предметных областей, тексты и данные, например хранимые в базах данных.

Соответственно различию источников развиваются и различные методы приобретения знаний Машинному обучению в мире уделяется большое внимание. Существует множество алгоритмов машинного обучения, среди самых распространенных - так называемые алгоритмы класса C4. Пример алгоритма этого класса - алгоритм декомпозиции, который строит дерево решений.Исходной информацией для построения этого дерева является множество примеров.

На каждом шаге с каждой вершиной дерева ассоциируется наиболее часто встречающийся класс примеров. На следующем шаге этот принцип рекурсивно применяется к текущей вершине, то есть множество примеров, связанных с текущей вершиной, тоже разбивается на подклассы. Алгоритм завершает работу либо при удовлетворении некоторого критерия, либо при исчерпании подклассов если они заданы. Активно исследуются методы обучения причинам действий.Иногда говорят о так называемой теории действий, имея в виду ситуационное исчисление в духе Джона Маккарти.

В этой теории причины действий и сами действия описываются в виде клаузальных структур, важным примером которых служит логическое выражение вида ABCD Ю X. Методы индуктивного логического программирования модифицируются для поиска клаузальных структур. Когда такие структуры найдены, их можно использовать в языках логического программирования для рассуждений о действиях и их причинах.Многие работы этого направления посвящены нейронной парадигме.

Нейросетевой подход используется в огромном количестве задач. Для примера назовем кластеризацию информации из Интернета, автоматическую генерацию локальных каталогов, представление образов в рекурсивных нейронных сетях. Среди активно изучаемых в последнее время тем упомянем неоднородные нейронные модели с отношениями сходства heterogeneous neural networks with similarity relation.Отношение сходства определяется на множестве входов и множестве состояний сети. Мерой сходства является скалярное произведение двух векторов либо евклидово расстояние между ними первый - вектор входов, второй - распределение весов нейронов, описывающее текущую ситуацию.

Работы по автоматическому порождению гипотез связаны, главным образом, с формализацией правдоподобных рассуждений, поиском зависимостей причинно-следственного типа между некоторыми сущностями.В качестве примеров можно привести порождение гипотез о свойствах химических соединений прогноз биологических активностей, о возможных причинах дефектов диагностика и т. п. Интеллектуальный анализ данных и обработка образной информации Это сравнительно новое направление, основу которого составляют две процедуры обнаружение закономерностей в исходной информации и использование обнаруженных закономерностей для предсказания прогнозирования.

Сюда относят задачи выбора информативных данных из большой их совокупности, выбора информативных характеристик некоторого объекта из более широкого множества его характеристик, задачи построения модели, позволяющие вычислять значения выбранных информативных характеристик по значениям других характеристик, и т. п. Значительную часть этого направления составляют исследования различных аспектов распознавания изображений, в частности с помощью нейросетей включая псевдооптические нейросети.

Изучаются методы распознавания последовательностей видеообразов на основе декларативного подхода и извлечения семантически значимой информации.К этому же направлению принадлежат исследования по графической технологии программирования в Интернете.

Многоагентные системы, динамические интеллектуальные системы и планирование Это новое впрочем, в теоретических, поведенческих аспектах - скорее хорошо забытое старое направление, изучающее интеллектуальные программные агенты и их коллективы.Интеллектуальный агент - это программная система, обладающая автономностью агенты действуют без непосредственного участия человека и могут в некоторых пределах сами управлять своими действиями социальными чертами агенты взаимодействуют с другими агентами и, возможно, человеком посредством некоторого языка коммуникации реактивностью агенты воспринимают окружающую среду, которая может быть физическим миром, множеством других агентов, сетью Интернет или комбинацией всего этого, и реагируют на ее изменения активностью агенты могут демонстрировать целенаправленное поведение, проявляя при этом инициативу.

Основные задачи в этой области таковы реализация переговоров интеллектуальных агентов и разработка языков для этой цели, координация поведения агентов, разработка архитектуры языка программирования агентов.

Следует подчеркнуть, что агентские технологии появились лишь шесть-семь лет назад, но и за такое короткое время интерес к ним уже переместился из сферы академических исследований в сферу коммерческих и промышленных приложений, а идеи и методы агентских технологий быстро мигрировали из ИИ в практику разработки программного обеспечения. Планирование поведения, или ИИ-планирование это способность интеллектуальной системы синтезировать последовательность действий для достижения желаемого целевого состояния.

Работы по созданию эффективных методов такого синтеза ведутся уже около тридцати лет. Планирование является основой интеллектуального управления, то есть автоматического управления автономным целенаправленным поведением программно-технических систем. Среди методов ИИ-планирования выделяют классическое, то есть планирование в условиях статической среды динамическое, то есть планирование в условиях изменения среды с учетом этого изменения иерархическое, когда действия абстрактного плана высокого уровня конкретизируются более детальными планами нижнего уровня, частично упорядоченное или монотонное, когда план строится на основе частично упорядоченного множества подпланов.

При этом общий план элементами которого являются подпланы обязан быть монотонным, а каждый из подпланов может быть немонотонным монотонность предполагает, что каждое действие по плану уменьшает различия между текущим состоянием и целью.

Например, план движения робота, при котором каждый шаг приближает его к цели, монотонен. Если робот наткнулся на препятствие и вынужден его обойти, то монотонность плана нарушится. Однако если план обхода препятствия выделить в отдельный подплан и рассматривать оный как элемент исходного плана, то монотонность последнего восстановится.Активно ведутся работы и в области распознавания планов, построения планировщиков и расширения их возможностей, эвристического планирования с ресурсными ограничениями, управления планированием посредством временной логики, планирования с использованием графов.

Рассматриваются подходы к планированию, при которых построение текущих планов выполняется непрерывно для каждого состояния системы в реальном времени. Для этого предусмотрен непрерывный мониторинг объекта управления.Задачи планирования относятся к наиболее важным и перспективным направлениям в ИИ. Динамические интеллектуальные системы - результат интеграции экспертных систем с системами имитационного моделирования.

Это двухкомпонентные динамические модели, где один из компонентов - база знаний, а другой компонент имеет континуальный характер.Разрабатываются методы выбора логик для описания временных зависимостей при построении динамических интеллектуальных систем. Работы в области систем поддержки принятия решений посвящены моделированию сложных технологических и технических систем, поиску решений в условиях чрезвычайных ситуаций, задачам проектирования систем управления техническими объектами, использованию вероятностных подходов и сценариев при принятии решений, ряду других проблем.

Обработка естественного языка, пользовательский интерфейс и модели пользователя Это направление связано с разработкой систем поддержки речевого общения решением проблем уточнения запроса в информационных системах задачами сегментации текстов по тематике задачами управления диалогом задачами анализа естественного языка с использованием различных эвристик.

Сюда же включаются проблемы дискурса иногда под дискурсом понимают совокупность речевых актов и их результатов.По-прежнему актуальны задачи обучения контекстному анализу текста, задачи приобретения знаний интеллектуальными системами и извлечения информации из текстов. Важнейшей проблемой в процессе извлечения информации, как, впрочем, и в процессе приобретения знаний, является минимизация роли эксперта - участника процесса.

Важность этого направления нельзя недооценивать.Причина тому - возрастание потоков текстовой информации, социальный заказ на поиск релевантной информации в Интернете, на анализ текстовой информации, на извлечение данных из текстов. Предметом исследований является также динамическое моделирование пользователя, в частности в системах электронной коммерции, развитие фреймового подхода для представления запросов пользователя, адаптивный интерфейс, мониторинг и анализ покупательского поведения в Интернете.

Нечеткие модели и мягкие вычисления Это направление представлено нечеткими схемами вывода по аналогии, взглядом на теорию нечетких мер с вероятностных позиций, нечеткими аналитическими моделями геометрических объектов, алгоритмами эволюционного моделирования с динамическими параметрами, такими как время жизни и размер популяции, методами решения оптимизационных задач с использованием технологий генетического поиска, гомеостатических и синергетических принципов и элементов самоорганизации.

Разработка инструментальных средств Это обширная сфера деятельности внутри ИИ, ставящая перед собой задачи создания программных средств приобретения знаний для автоматизированного переноса компетентности в базы знаний.При этом в качестве источников такой компетентности могут выступать не только ее прямые носители - эксперты различных областей, но и текстовые материалы - от учебников до протоколов, а также, разумеется, базы данных имплицитные источники знаний.

Вербализация, то есть перевод таких источников в эксплицитную форму, составляет содержание методов обнаружения знаний в данных, в том числе различных методов обучения на примерах включая предобработку больших массивов данных для дальнейшего анализа реализации программных средств поддержки баз знаний реализации программных средств поддержки проектирования интеллектуальных систем.Набор таких средств обычно содержит редактор текстов, редактор понятий, редактор концептуальных моделей, библиотеку моделей, систему приобретения знаний от экспертов, средства обучения по примерам и ряд других модулей.

Приложение 3. Определения. Под сознанием, по А. Г. Спиркину, имеется в виду способность идеального психического отражения действительности, превращения объективного содержания предмета в субъективное содержание душевной жизни человека, а также специфические социально-психологические механизмы и формы такого отражения на разных его уровнях.Именно в субъективном мире сознания осуществляется воспроизведение объективной реальности и мысленная подготовка к преобразующей практической деятельности, ее планирование, акт выбора и целепола-гание. Под сознанием понимается не просто психическое отражение, а высшая форма психического отражения действительности общественно развитым человеком.

Оно представляет собой такую функцию человеческого мозга, сущность которой заключается в адекватном, обобщенном, целенаправленном и осуществляющемся в речевой или вообще в символической форме активном отражении и конструктивно-творческой переделке внешнего мира, в связывании вновь поступающих впечатлений с прежним опытом, в выделении человеком себя из окружающей среды и противопоставлении себя ей как субъекта объекту.

Сознание заключается в эмоциональной оценке действительности, в обеспечении целеполагающей деятельности в предварительном мысленном построении разумно мотивированных действий и предусмотрений их личных и социальных последствий, в способности личности отдавать себе отчет как в том, что происходит в окружающем материальном мире, так и в своем собственном мире духовном.

Таким образом, сознание не просто образ, а идеальная психическая форма деятельности, ориентированная на отражение и преобразование действительности.Из отмеченных А. Г. Спиркиным характерных признаков сознания вытекает следующее определение сознания Сознание это высшая, свойственная только человеку и связанная с речью функция мозга, заключающаяся в обобщенном, оценочном и целенаправленном отражении и конструктивно-творческом преобразовании действительности, в предварительном мысленном построении действий и предвидении их результатов, в разумном регулировании и самоконтролировании поведения человека Термин интеллект intelligence происходит от латинского intellectus что означает ум, рассудок, разум мыслительные способности человека.

Соответственно искусственный интеллект artificial intelligence ИИ AI обычно толкуется как свойство автоматических систем брать на себя отдельные функции интеллекта человека, например, выбирать и принимать оптимальные решения на основе ранее полученного опыта и рационального анализа внешних воздействий.

Интеллектом называется способность мозга решать интеллектуальные задачи путем приобретения, запоминания и целенаправленного преобразования знаний в процессе обучения на опыте и адаптации к разнообразным обстоятельствам.В этом определении под термином знания подразумевается не только ту информацию, которая поступает в мозг через органы чувств.

Такого типа знания чрезвычайно важны, но недостаточны для интеллектуальной деятельности. Дело в том, что объекты окружающей нас среды обладают свойством не только воздействовать на органы чувств, но и находиться друг с другом в определенных отношениях.Ясно, что для того, чтобы осуществлять в окружающей среде интеллектуальную деятельность или хотя бы просто существовать, необходимо иметь в системе знаний модель этого мира. В этой информационной модели окружающей среды реальные объекты, их свойства и отношения между ними не только отображаются и запоминаются, но и, как это отмечено в данном определении интеллекта, могут мысленно целенаправленно преобразовываться.

При этом существенно то, что формирование модели внешней среды происходит в процессе обучения на опыте и адаптации к разнообразным обстоятельствам. Мы употребили термин интеллектуальная задача.Для того, чтобы пояснить, чем отличается интеллектуальная задача от просто задачи, необходимо ввести термин алгоритм один из краеугольных терминов кибернетики. Под алгоритмом понимают точное предписание о выполнении в определенном порядке системы операций для решения любой задачи из некоторого данного класса множества задач.

Термин алгоритм происходит от имени узбекского математика Аль-Хо резми, который еще в IX веке предложил простейшие арифметические алгоритмы.В математике и кибернетике класс задач определенного типа считается решенным, когда для ее решения установлен алгоритм.

Нахождение алгоритмов является естественной целью человека при решении им разнообразных классов задач. Отыскание алгоритма для задач некоторого данного типа связано с тонкими и сложными рассуждениями, требующими большой изобретательности и высокой квалификации. Принято считат ь, что подобного рода деятельность требует участия интеллекта человека.Задачи, связанные с отысканием алгоритма решения класса задач определенного типа, будем называть интеллектуальными. Литература. 1 Пенроуз Р. Тени разума.

В поисках науки о сознании Части 1,2 2 Пенроуз Р. Новый ум короля О компьютерах, мышлении и законах физики Пер. с англ. Общ. ред. В. О. Малышенко.М. Едиториал УРСС, 2003. 384 с. 3 Алексеев П.В Панин А.В. Философия Учебник. 3-е изд перераб. и доп. М. ТК Велби, Изд-во Проспект, 2003. 608 с. 4 Дубровский Д.И. Сознание, мозг, искусственный интеллект Институт философии РАН 5 Иваницкий А. Сознание и мозг журнал Сознание и мозг ноябрь 2005 стр. 3-10. 6 Осипов Г. Искусственный интеллект основные направления и состояние исследований журнал Компьютерра 30 от 02 августа 2002 года.