Классификация сейсмических сигналов на основе нейросетевых технологий

Оглавление.Аннотация 2 Введение 1. Основные положения теории нейронных сетей 2. Постановка задачи классификации сейсмических сигналов 3. Статистическая методика решения задачи классификации 3.1 Выделение информационных признаков из сейсмограмм 3.2 Отбор наиболее информативных признаков для идентификации 19 3.3 Процедуры статистической идентификации 3.4 Оценка вероятности ошибочной классификации методом скользящего экзамена 4. Обзор различных архитектур нейронных сетей , предназначенных для задач классификации 4.1 Нейрон-классификатор 4.2 Многослойный персептрон 4.3 Сети Ворда 4.4 Сети Кохонена 4.5 Выводы по разделу 5. Методы предварительной обработки данных 5.1 Максимизация энтропии как цель предобработки 31 5.2 Нормировка данных 5.3 Понижение размерности входных данных 3.1 Отбор наиболее информативных признаков 3.2 Сжатие информации. Анализ главных компонент 5.4 Выводы .по разделу 6. Реализация нейросетевой модели и исследование ее технических характеристик 6.1 Структура нейросети 6.2 Исходные данные 6.3 Определение критерия качества системы и функционала его оптимизации 6.4 Выбор начальных весовых коэффициентов 6.5 Алгоритм обучения и методы его оптимизации 6.6 Формирование обучающей выборки и оценка эффективности обученной нейросетевой модели 7. Программная реализация 7.1 Функциональные возможности программы 7.2 Общие сведения 7.3 Описание входного файла с исходными данными 52 7.4 Описание файла настроек 7.5 Алгоритм работы программы 7.6 Эксплуатация программного продукта 7.7 Результат работы программы 8. Заключение 61 Список литературы 63 Приложение 1. Пример выборки сейсмограмм 2. Пример файла с векторами признаков 3. Файл с настройками программы 4. Пример файла отчета 67 5. Файл описания функций, типов переменных и используемых библиотек “nvclass.h” 6. Файл автоматической компиляции программы под ОС Unix -“Makefile” 7. Основной модуль - “nvclass.с” 74 Введение. Применение аппарата нейронных сетей для решения различных задач науки и техники обусловлено огромными потенциальными возможностями, этих технологий.

Существуют задачи, решение которых просто невозможно аналитическими методами, а нейросети успешно с ними справляются.

Даже в том случае, если можно найти решение при помощи уже изученных алгоритмов, нейронные сети порой позволяют сделать то же самое быстрее и более эффективно.

В данном дипломе рассматривается задача, возникающая при сейсмическом мониторинге, –классификация сейсмических сигналов по типу источника, т.е. определение по записанной сейсмограмме землетрясений или взрывов.

Несмотря на то, что для ее решения, в настоящее время успешно применяются методы статистического анализа, продолжается поиск более эффективных алгоритмов, которые бы позволили проводить классификацию точнее и с меньшими затратами.

В качестве таких методов предлагается использовать аппарат нейронных сетей.

Основная цель дипломной работы – исследовать возможность применения нейронных сетей для идентификации типа сейсмического сигнала, выяснить, насколько данное решение будет эффективным в сравнении с уже используемыми методами.

Первая глава посвящена описанию основных положений теории нейронных сетей, а также областям науки и техники, в которых эти технологии нашли широкое применение.

Последующие два раздела предназначены формализовать на математическом уровне задачу классификации сейсмических сигналов и способе ее решения на основе статистических методов. Обзор различных архитектур нейронных сетей, предназначенных для решения задачи классификации, их основные положения, достоинства и недостатки, а также методы предварительной подготовки данных приведены в разделах 4 и 5. В шестой разделе говорится непосредственно о нейросетевом решении рассматриваемой задачи, построенном на основе известной, и часто используемой парадигмы – многослойного персептрона, детально обсуждаются основные алгоритмы обучения, выбора начальных весовых коэффициентов и методы оценки эффективности выбранной модели нейронной сети. В разделе “

Программная реализация

Программная реализация ” описывается специально разработанная программа, реализующая основные идеи нейросетевого программирования и адаптированная для решения поставленной задачи.

Также в этом разделе представлены результаты экспериментов по обработке сейсмических сигналов, проведенных на базе созданной программы.

И в заключении изложены основные выводы и рекомендации по направлению дальнейших исследований в применении нейронных сетей для решения задачи классификации сейсмических сигналов. 1.

Основные положения теории нейронных сетей

Он состоит из элементов трех типов. Нелинейный преобразователь реализует нелинейную функцию одного аргумен... Пусть у нас имеется некоторая база данных, содержащая примеры из разны... Поэтому качество обучения сети напрямую зависит от количества примеров... Следует отметить, что задачи классификации очень плохо алгоритмизируют...

Постановка задачи классификации сейсмических сигналов

Международная система мониторинга (МСМ), сформировавшаяся в мире за по... Дальнейшая обработка этой информации позволяет оценить различные физич... за счет того, что в этом случае можно пренебречь искажениями сигнала, ... Она состоит в том, чтобы по сейсмограмме определить причину возникнове... 3.

Статистическая методика решения задачи классификации

Статистическая методика решения задачи классификации. В данном разделе рассматривается методика определения типов сейсмических событий, основанная на выделении дискриминантных признаков из сейсмограмм и последующей классификации векторов признаков с помощью статистических решающих правил.[8] 3.1

Выделение информационных признаков из сейсмограмм

Выделение информационных признаков из сейсмограмм. Из всей сейсмограммы выделяется часть («временное окно»), которое соде... 2. в) Обратное преобразование Фурье (ОБПФ), для того чтобы получить отфил... 3.2 .

Отбор наиболее информативных признаков

Отбор наиболее информативных признаков для идентификации

Несколько тщательно отобранных признаков могут обеспечить вероятность ... Отбор признаков основан на оценивании по векторам, состоящим из различ... Первый элемент в каждой паре - это признак, отобранный на предыдущем ш... Функция D(k), получаемая в результате процедуры ранжирования признаков... В этом случае функция P(k) на каком то шаге k0 между 1 и p имеет миним...

Оценка вероятности ошибочной классификации методом скользящего экзамена

Процедура повторяется для всех nl +n2 обучающих векторов. Вычисляемая ... Значения дискриминатора, полученные в результате процедуры скользящего... Приступая к разработке нейросетевого решения, как правило, сталкиваешь... Рассмотрим алгоритм обучения подобной структуры, приняв f(x)&#6162... Итак, в p-мерном пространстве задана обучающая выборка x1,…,xn (первый...

Нейрон-классификатор

Нейрон-классификатор получал на свои входы уже линейно-разделимые множества.

Такие структуры носят название многослойные персептроны [1-4,7,10] (рис. 1.3). Легко показать, что, в принципе, всегда можно обойтись одним скрытым слоем, содержащим, достаточно большое число нейронов. Действительно, увеличение скрытого слоя повышает размерность пространства, в котором выходной нейрон производит классификацию, что, соответственно, облегчает его задачу.

Персептроны весьма популярны в нейроинформатике. И это обусловлено, в первую очередь, широким кругом доступных им задач, в том числе и задач классификации, распознавания образов, фильтрации шумов, предсказание временных рядов, и т.д причем применение именно этой архитектуры в ряде случаев вполне оправдано, с точки зрения эффективности решения задачи. Рассмотрим какие алгоритмы обучения многослойных сетей разработаны и применяются в настоящее время.[7,10]. В основном все алгоритмы можно разбить на две категории: • Градиентные алгоритмы; • Стохастические алгоритмы.

К первой группе относятся те, которые основаны на вычислении производной функции ошибки и корректировке весов в соответствии со значением найденной производной. Каждый дальнейший шаг направлен в сторону антиградиента функции ошибки. Основу всех этих алгоритмов составляет хорошо известный алгоритм обратного распространения ошибки (back propagation error).[1-5,7,10]. ,где функция ошибки Многочисленные модификации, разработанные в последнее время, позволяют существенно повысить эффективность этого алгоритма.

Из них наиболее известными являются: 1. Обучение с моментом.[4,7]. Идея метода заключается в добавлении к величине коррекции веса значения пропорционального величине предыдущего изменения этого же весового коэффициента. 2. Автономный градиентный алгоритм (Обучение с автоматическим изменением длины шага ). [10] 3. RPROP (от resilient –эластичный), в котором каждый вес имеет свой адаптивно настраиваемый темп обучения.[4] 4. Методы второго порядка, которые используют не только информацию о градиенте функции ошибки, но и информацию о вторых производных .[3,4,7]. Стохастические методы обучения выполняют псевдослучайные изменения величин весов, сохраняя те изменения, которые ведут к улучшениям характеристик сети. К этой группе алгоритмов относятся такие как 1. Алгоритм поиска в случайном направлении.[10] 2. Больцмановское обучение или (алгоритм имитации отжига). [1] 3. Обучение Коши, как дополнение к Больцмановскому обучению.[1] Основным недостатком этой группы алгоритмов является очень долгое время обучения, а соответственно и большие вычислительные затраты.

Однако, как пишут в различных источниках, эти алгоритмы обеспечивают глобальную оптимизацию, в то время как градиентные методы в большинстве случаев позволяют найти только локальные минимумы функционала ошибки.

Известны также алгоритмы, которые основаны на совместном использовании обратного распространения и обучения Коши. Коррекция весов в таком комбинированном алгоритме состоит из двух компонент: направленной компоненты, вычисляемой с использованием алгоритма обратного распространения, и случайной компоненты, определяемой распределением Коши. Однако, несмотря на хорошие результаты, эти методы еще плохо исследованы. 4.3 Сети Ворда. Одним из вариантов многослойного персептрона являются нейронные сети Ворда. Они способны выделять различные свойства в данных, благодаря наличию в скрытом слое нескольких блоков, каждый из которых имеет свою передаточную функцию (рис.4.4). Передаточные функции (обычно сигмоидного типа) служат для преобразования внутренней активности нейрона.

Когда в разных блоках скрытого слоя используются разные передаточные функции, нейросеть оказывается способной выявлять новые свойства в предъявляемом образе.

Для настройки весовых коэффициентов используются те же алгоритмы, о которых говорилось в предыдущем разделе. 4.2 Сети Кохонена.

Сети Кохонена – это одна из разновидностей нейронных сетей, для настройки которой используется алгоритм обучения без учителя. Задачей нейросети Кохонена является построение отображения набора входных векторов высокой размерности на карту кластеров меньшей размерности, причем таким образом, что близким кластерам на карте отвечают близкие друг к другу входные векторы в исходном пространстве. Сеть состоит из M нейронов, образующих, как правило одномерную или двумерную карту (рис. 4.2). Элементы входных сигналов {xi} подаются на входы всех нейронов сети. В процессе функционирования (самоорганизации) на выходе слоя Кохонена формируются кластеры (группа активных нейронов определённой размерности, выход которых отличен от нуля), характеризующие определённые категории входных векторов (группы входных векторов, соответствующие одной входной ситуации). [9] Алгоритм Кохонена формирования карт признаков. Шаг 1. Инициализировать веса случайными значениями.

Задать размер окрестности &#61555;(0), и скорость &#61544;(0) и tmax. Шаг 2. Задать значения входных сигналов (x1,…,xp). Шаг 3. Вычислить расстояние до всех нейронов сети. Расстояния dk от входного сигнала x до каждого нейрона k определяется по формуле: где xi - i-ый элемент входного сигнала, wki - вес связи от i-го элемента входного сигнала к нейрону k. Шаг 4. Найти нейрон – победитель, т.е. найти нейрон j, для которого расстояние dj наименьшее: j:dj < dk &#61474;k&#61625;p Шаг 5. Подстроить веса победителей и его соседей.

Шаг 6. Обновить размер окрестности &#61555;(t) и скорость &#61544;(t) &#61555;(t)=&#61555;(0)(1-t/tmax ) &#61544;(t)=&#61544;(0)(1-t/tmax ) Шаг 7. Если (t < tmax), то Шаг 2, иначе СТОП. Благодаря своим способностям к обобщению информации, карты Кохонена являются удобным инструментом для наглядного представления о структуре данных в многомерном входном пространстве, геометрию которого представить практически невозможно.

Сети встречного распространения.

Еще одна группа технических применений связана с предобработкой данных. Карта Кохонена группирует близкие входные сигналы Х, а требуемая функция Y = G(X) строится на основе обычной нейросети прямого распространения (например многослойного персептрона или линейной звезды Гроссберга[1]) к выходам нейронов Кохонена. Такая гибридная архитектура была предложена Р. Хехт-Нильсеном и имеет название сети встречного распространения[1-3,7,9]. Нейроны слоя Кохонена обучаются без учителя, на основе самоорганизации, а нейроны распознающих слоев адаптируются с учителем итерационными методами.

Пример такой структуры для решения задачи классификации сейсмических сигналов приведен на рис. 4.5. Второй уровень нейросети используется для кодирования информации. Весовые коэффициенты tij (i =1 M; j=1,2) – коэффициенты от i-го нейрона слоя Кохонена к j-му нейрону выходного слоя рассчитываются следующим образом: где Yi – выход i- го нейрона слоя Кохонена Sj – компонента целевого вектора (S={0,1} – взрыв, S={1,0}-землетрясение) Таким образом после предварительного обучения и формирования кластеров в слое Кохонена, на фазе вторичного обучения все нейроны каждого полученного кластера соединяются активными (единичными) синапсами со своим выходным нейроном, характеризующим данный кластер.

Выход нейронов второго слоя определяется выражением: (11) где: Kj - размерность j-ого кластера, т.е. количество нейронов слоя Кохонена соединённых с нейроном j выходного слоя отличными от нуля коэффициентами.

R - пороговое значение (0 < R < 1). Пороговое значение R можно выбрать таким образом, чтобы с одной стороны не были потеряны значения активированных кластеров, а с другой стороны - отсекался "шум не активизированных кластеров". В результате на каждом шаге обработки исходных данных на выходе получаются значения Sj,.