Основы нейроинформатики

Основы нейроинформатики. Нейронные сети это всего-навсего сети, состоящие из связанных между собой простых элементов формальных нейронов.

Большая часть работ по нейроинформатике посвящена переносу различных алгоритмов решения задач на такие сети. В основу концепции положена идея о том, что нейроны можно моделировать довольно простыми автоматами, а вся сложность мозга, гибкость его функционирования и другие важнейшие качества определяются связями между нейронами.

Каждая связь представляется как совсем простой элемент, служащий для передачи сигнала.

Коротко эту мысль можно выразить так: “структура связей все, свойства элементов ничто”. Совокупность идей и научно-техническое направление, определяемое описанным представлением о мозге, называется коннекционизмом (connection связь). С реальным мозгом все это соотносится примерно так же, как карикатура или шарж со своим прототипом.

Важно не буквальное соответствие оригиналу, а продуктивность технической идеи. С коннекционизмом тесно связан следующий блок идей: однородность системы (элементы одинаковы и чрезвычайно просты, все определяется структурой связей); надежные системы из ненадежных элементов и “аналоговый ренессанс” использование простых аналоговых элементов; “голографические” системы при разрушении случайно выбранной части система сохраняет свои свойства.

Предполагается, что широкие возможности систем связей компенсируют бедность выбора элементов, их ненадежность и возможные разрушения части связей.

Для описания алгоритмов и устройств в нейроинформатике выработана специальная “схемотехника”, в которой элементарные устройства (сумматоры, синапсы, нейроны и т.п.) объединяются в сети, предназначенные для решения задач.

Для многих начинающих кажется неожиданным, что ни в аппаратной реализации нейронных сетей, ни в профессиональном программном обеспечении эти элементы вовсе не обязательно реализуются как отдельные части или блоки. Используемая в нейроинформатике идеальная схемотехника представляет собой особый язык описания нейронных сетей и их обучения.

При программной и аппаратной реализации выполненные на этом языке описания переводятся на более подходящие языки другого уровня. Самый важный элемент нейросистем адаптивный сумматор, который вычисляет скалярное произведение вектора входного сигнала x на вектор параметров a. Адаптивным он называется из-за наличия вектора настраиваемых параметров a. Нелинейный преобразователь сигнала получает скалярный входной сигнал x и переводит его в заданную нелинейную функцию f(x). Точка ветвления служит для рассылки одного сигнала по нескольким адресам.

Она получает скалярный входной сигнал x и передает его на все свои выходы. Стандартный формальный нейрон состоит из входного сумматора, нелинейного преобразователя и точки ветвления на выходе. Линейная связь синапс отдельно от сумматоров не встречается, однако для некоторых рассуждений бывает удобно выделить этот элемент. Он умножает входной сигнал x на “вес синапса” a. Итак, мы коротко описали основные элементы, из которых состоят нейронные сети.