Понятие рефлексии. Исследования в области искусственного интеллекта возникли под влиянием идей кибернетики - прежде всего идеи общности процессов управления и передачи информации в живых организмах, обществе и компьютерах. Примечательно, что снятие идеологических запретов на кибернетику в период оттепели повлекло за собой бурное развитие исследований по кибернетике, и та ее область, которая впоследствии была осознана как проблематика создания систем искусственного интеллекта, сформировалась особенно быстро.
Интересно отметить, что реабилитация кибернетики и, в частности, проблемы искусственного интеллекта или как тогда говорили, создание мыслящих маши отнюдь не была сопряжена с общим процессом деидеологизации науки. Оправдание кибернетики произошло стараниями нескольких крупных ученых, искренне доказывавшими материалистический характер кибернетического воззрения на мир. Вслед за учеными эту задачу взяли на себя профессиональные философы.
Философская приемлемость проблематики искусственного интеллекта в ее традиционном виде была обусловлена лежащим в ее основе представлением о том, что порядок и связь идей те же, что порядок и связь вещей. Тем самым создать в компьютере структуру, воспроизводящую мир идей, означало означало попросту создать структуру изоморфную структуре вещественного мира, т. е. построить электронную модель мира. Эта модель интерпретировалась как компьютерная модель человеческих знаний о мире. Процесс человеческого мышления интерпретировался в компьютере как машинный поиск таких трансформаций модели, которые должны были перевести компьютерную модель в некое финальное состояние например, матовую позицию в шахматах.
Для этого система искусственного интеллекта нуждалась в знаниях о том, как осуществлять трансформации состояний модели, приводящие к заранее заданной цели - состоянию с определенными свойствами.
В первое время было распространено убеждение в принципиальной способности компьютера к самостоятельному исследованию хранящейся в нем модели, т. е. к самообучению стратегии достижения поставленной цели. Данная гипотетическая способность интерпретировалась как возможность машинного творчества, как основа создания будущих мыслящих машин. И, хотя в реально разрабатывавшихся системах достижение цели осуществлялось на основе человеческого опыта с помощью алгоритмов, основанных на теоретическом анализе создаваемых моделей и результатов проводимых на них экспериментов, идеи построения самообучаемых систем многим казались наиболее перспективными.
Лишь к 80-му году была осознана значимость проблемы использования в интеллектуальных системах человеческих знаний о действительности, повлекшая серьезную разработку баз знаний и методов извлечения личных знаний экспертов. С развитием изучения данного направления возникла идея рефлексивного управления.
До этого момента в кибернетике управление рассматривалось как передача объекту сигналов, непосредственно воздействующих на его поведение, а эффективность управления достигалась с помощью обратной связи - получения информации о реакциях управляемого объекта. Рефлексивное же управление - есть передача информации, воздействующей на имеющийся у объекта образ мира. Тем самым обратная связь излишняя - состояние субъекта известно передающему информацию.
Интересными оказались компьютерные модели, в которых успех достигался за счет включения рефлексии о противодействующих намерениях партнеров. Философская традиция называет рефлексией мысль о мысли, т. е. ситуацию, когда предметом мысли оказывается не вещь, а факт мышления. Св. Фома Аквинский определял рефлексию как мысль, догоняющую мысль. Сам факт рефлексии означает, что деятельность человеческого сознания отнюдь не ограничивается созданием моделей, воспроизводящих отражающих внешнюю действительность.
Рефлексия - мнение субъекта об имеющемся у него образе действительности, т. е. критический образ этого образа, подразумевающий оценку создаваемых в воображении моделей. Классическая парадигма искусственного интеллекта игнорирует данное обстоятельство и поэтому не интересуется рефлексией. Вероятно, что такое игнорирование связано с бытующим взглядом на рефлексию как на критическое сомнение, которое мешает последовательному проведению эффективных действий.
Классическая парадигма искусственного интеллекта предполагала наличие жесткого целеполагания, т. е. ясной и не подлежащей сомнению цели, достижение которой означает решение проблемы независимо от используемых средств если последнее обстоятельство не противоречит основным принципам построения самой интеллектуальной системы. В системе с развитой рефлексией цель также может оказаться предметом критической рефлексии. Человек, способный к глубокой рефлексии, не может быть абсолютно целеустремленным, ибо он способен усомниться в безоговорочной ценности поставленной перед ним цели. Традиционные системы искусственного интеллекта основаны на идеологии целеориентированного поведения типа шахматной игры, где цель обоих партнеров состоит в том, чтобы поставить мат другому ценой любых жертв.
Не случайно именно шахматные программы оказались столь важными для отработки методов искусственного интеллекта. Неотъемлемость рефлексии Стоит ли считать рефлексию неотъемлемой частью систем искусственного интеллекта Иначе говоря - должен ли мыслящий аппарат понимать, что он мыслит, и контролировать этот процесс Ответом с технической точки зрения может служить следующее. Как и любая компьютерная программа, наделенная средствами самодиагностики и самоисправления а такие средства уже становятся стандартном, т. е. средствами повышения надежности, системы искусственного интеллекта должны контролировать происходящие процессы - как внешние, так и внутренние.
Однако, может показаться, что в этом смысле будет достаточным просто развитая структура обратных связей.
Сразу надо оговориться, что под обратной связью следует понимать только ответную реакцию или получение информации о ней после какого-то конкретного действия системы. Обратная связь лишь предоставляет данные, информацию, но ни в коей мере не интерпретирует их. Норбертом Винером в книге Кибернетика, или управление и связь в животном и машине были приведены примеры нарушений нервной системы людей и их последствия.
Так люди с нарушением системы ориентации собственных конечностей в пространстве не чувствующие своих рук и ног, случай, когда конечности немеют должны были визуально контролировать свои действия. Это было типичное нарушение обратной связи. Рефлексия же подразумевает анализ полученной картины. Математика - наука абстрактная. Любую предметную область, с которой работает математик, он описывает с помощью моделей, структура и сложность которых зависит от конкретных поставленных задач.
Анализ функционирования собственной модели или модели всей окружающей действительности в рамках поставленной задачи, контроль над ее состоянием, прогнозирование состояния - есть ни что иное, как реализация рефлексии. Рефлексия - есть некий метауровень. С применением языков высокого уровня, таких как язык Пролог, позволяющий формулировать цели и строить логические выводы достижимости этих целей, задача реализации рефлексии уже может быть частично решена. С их помощью можно построить некую метаструктуру, надстройку, некий метауровень, позволяющий оценивать поведение предыдущего. Однако, при рассмотрении термина глубокая рефлексия или многоуровневая рефлексия встает проблема построения моделей самой системой.
Здесь на помощь могут приходят абстрактные типы данных. Они позволяют оперировать структурами данных любой конечной сложности. Таким образом можно считать, что системы искусственного интеллекта могут содержать модель рефлексии математика оперирует только моделями.
Это может быть ответом на вопрос Можно ли машину заставить понимать, что она понимает, но не на вопрос о обязательном включении рефлексии. Попробуем ответить от противного а можно ли отвергнуть рефлексию, можно ли считать интеллектуальную систему полноценной без умения оценивать, понимать свои действия Думаю, что нельзя. Более того, рефлексию следует считать одним из главных инструментов построения поведения систем. Как ни забавно это звучит, но говоря самоконтроля и самопонимания, можно говрить о некоторой этике поведения системы.