ЧАСТЬ ПЕРВАЯ. САМОЗАРОЖДАЮЩИЕСЯ И РАЗРУШАЮЩИЕСЯ СТРУКТУРЫ

1.2. Обучение через уничтожение (саморазрушающиеся нейросети)

Существует право, по которому
мы можем отнять у человека жизнь,
но нет права, по которому мы могли бы
отнять у него смерть.

Ф.Ницше.

Классическое задание модели самообучающейся систем предполагает решение следующих задач:

1) создание модели отдельного элемента;

2) определение топологии связей между элементами;

3) определение правил изменения связей при получении данной системой информации.

При этом в зависимости от способа решения названных задач получаемая модель может менять свое название в достаточно широком диапазоне имен - от классической компьютерной программы с операторами условия до нейросети.

В данной работе в качестве основы построения модели утверждается, что принципиально новая для системы информация приводит к рождению новых или гибели имеющихся у системы элементов, т.е. к перечисленным выше пунктам добавляется еще один:

4) определение правил рождения и гибели элементов системы. Далее попробуем пойти следующим путем:

1) зададим множество случайно связанных элементов, каждый из которых способен самостоятельно решать какую-либо задачу;

2) определим правила функционирования этого множества случайно связанных элементов так, чтобы обучающая выборка, поступающая на его входы и выходы, приводила к уничтожению тех элементов, которые максимально мешают получению требуемого результата.

Воспользовавшись приведенными неформальными обоснованиями, выдвинем следующие правила, которые и образуют базис модели саморазрушающихся нейросетей:

1) каждая система состоит из множества простейших неделимых частиц - формальных нейронов, которые в дальнейшем будем называть просто нейронами или элементами системы;

2) каждый нейрон связан с несколькими другими формальными нейронами, не обязательно ближайшими соседями;

3) входные и выходные сигналы (сообщения) для формального нейрона в данной модели будем обозначать целыми положительными и отрицательными числами. При этом наличие "О" рассматривается как отсутствие сигнала;

4) каждый нейрон суммирует поступающие в него сигналы (сообщения) по всем связям (каналам);

5) выходным каналом является тот, по которому поступил сигнал наименьшей "силы";

6) выходной сигнал по выходному каналу j рассчитывается по следующей формуле

Wj = (SVi) - Vj

где

SVi - сумма всех входных сигналов по всем каналам кроме j

Vj - входной сигнал по каналу j.

7) передача сигнала от одного нейрона к другому по одной связи приводит к его затуханию (уменьшению на 1) и осуществляется за единицу времени;

8) блокирование нейрона, т.е. создание условий при которых нейрон в течение определенного времени (к единиц) не может выдавать никакого выходного сигнала по причине воздействия на него равными по величине, но противоположными по содержанию сообщениями, приводит к его уничтожению;

9) создание условий при которых нейрон выдает выходной сигнал в канал, по которому поступает противоположный по знаку сигнал, приводит к переключению более слабого нейрона, т.е. к смене знака сигнала;

10) v-кратное переключение нейрона приводит к его уничтожению;

11) при смене масштаба наблюдения (элемент, подсистема, система, суперсистема и т.д.) принципы, изложенные в п.п.1-10, сохраняются, меняется только язык взаимодействия объектов исследуемого образования.

Для программирования систем по принципу изменения связей (нейросети) существуют сотни методик, базирующихся на разных типах структур, возможности элементов и их связей. Точно такое же многообразие учебных программ существует для обучения систем на принципе гибели элементов. Понятно, что перечисленные выше одиннадцать правил образуют один из возможных вариантов самообучения системы на принципе гибели элементов. Сложность или простота общей схемы обучения во многом определяются функциональными возможностями элементов, составляющих эти системы.

В разделе 1.1 была продемонстрирована одна из схем обучения на принципе уничтожения элементов, здесь будет предложена несколько иная, основанная на том же самом принципе, но более примитивная. Примитивизм обусловлен тем, что в отличие от схемы раздела 1.1 в данном случае элементы систем функционально подобны, а значит, могут быть унифицированы правила, управляющие их поведением, рождением и смертью.

Возьмем для рассмотрения исходную структуру, состоящую из девяти функционально однородных элементов, соединенных друг с другом в случайном порядке. Входные и выходные элементы для данной структуры на рис. 1.4 обозначены жирным контуром, это нейроны с номерами 1,2,9.

Рис. 1.4. Исходная структура.

Исследуем "способности" данной структуры к реализации, например, операции логического умножения:

-1 & -1= -1

-1 & 1 =-1 1&-1=-1 1& 1 = 1.

Пусть на вход подано сообщение (1,1). Тогда продвижение его по структуре объекта может быть представлено в следующем виде (значения сигналов проставлены на дугах, соединяющих между собой элементы исходной структуры):

Рис. 1.4.1.

Полученный выход нас вполне удовлетворяет. Он полностью соответствует последней строке таблицы.

Теперь можно пойти дальше и рассмотреть ситуацию, когда на вход подано сообщение (-1,-1):

Рис. 1.4.2.

На следующем рисунке показано, что на входное сообщение вида (-1,+1) ответа не будет:

Рис. 1.4.3.

Рис. 1.4.4.

Все кончилось полученной на выходе +1, что в данном случае нас совершенно не устраивает. Внешняя среда, в большинстве своем состоящая из "нормальных" систем, будет насыщена -1, и только исследуемая нами структура будет конфликтовать с ней. В результате ближайшие соседи начнут методично ей "подсказывать", затирая ее +1 своими -1. В том случае, если входные сообщения вида (-,+) станут наиболее популярными (частыми), нейрон с номером 9, находящийся на границе сред, под внутренним и внешнем давлениями, равными по величине и противоположными по содержанию, будет разрушен.

рис. 1.4.5.

Нейрон благополучно разрушен, но картина не изменилась.

рис. 1.4.6.

Подошла очередь нейрона под номером 7

рис. 1.4.7.

Затем внешняя среда как бы сама выбирает внутри данной системы нейрон, который должен представлять систему во внешнем мире. В разрушенной структуре на роль выходного нейрона может быть выбран нейрон под номером 5. Тогда появится возможность получения требуемого выходного результата, правда, только в случае более сильного воздействия на входы.

Проверим, не изменились ли ответы системы на первоначальные сообщения (-1,-1) и (+1.+1).

рис. 1.4.8.

Рис. 1.4.9. Почти все осталось без изменений.

Таким образом, было показано, как информационные процессы могут приводить окружающий материальный мир к разрушению. При этом в результате развития этих информационных процессов остается "сухой остаток" - упрощенная структура и множество ушедших в небытие элементов, факт гибели которых придал уцелевшей системе новые способности.

Доказательство того факта, что подобная система в принципе не может защититься, если не изменен алгоритм ее функционирования, тривиально. Процесс обучения неизбежен, а значит, неизбежна гибель элементов, таким образом, постоянно идет обеднение схемы. Здесь важно во время ощутить оптимальную точку, т.е. то критическое количество элементов, которых еще достаточно для понимания окружающего мира; дальнейшая гибель их уже будет вести систему не вперед в будущее, а назад к деградации, к растворению в мире, к нирване. Этим путем идет природа, порождая многообразие форм, а затем стирая их. Ив этом смысле одним из важных результатов данной работы можно считать пусть более иллюстративную, чем строго доказанную гипотезу о том, что любая смерть не может быть бессмысленной, особенно если речь идет о познании. Возможно, что аналогичным образом работает и мозг человеческий в котором каждый день гибнут и только гибнут, не возрождаясь, десятки тысяч нейронов.

Благодаря их гибели мы осмысливаем свое предназначение в этом мире помня свое прошлое.

Там же. где ещё сохраняется нетронутый знаниями нейронный хаос, хранится информация о наших прошлых жизнях, которых, конечно. никогда и не было. Любая нейронная структура является памятью о чем-то. То, как мы будем трактовать это что-то, определяется уже нашей фантазией, целью и потребностями.

В приведенных примерах из данного раздела и раздела 1.1 хорошо просматривается зависимость между функциональными возможностями отдельных элементов и сложностью правил самообучения всей системы в рамках одного и того же принципа самообучения. Выбор схемы обучения в соответствии с заданными критериями из потенциально возможного многообразия схем, которое значительно превосходит по численности исходное число элементов системы, требует отдельного серьезного исследования.

Вполне возможно, что основным критерием выбора той или иной схемы обучения является Время.

Психология bookap

Для любой информационной самообучающейся системы переход от сегодняшней структуры к завтрашней - это серьезная проблема существования во времени. Понятно, что процессы самообучения на принципе гибели элементов необратимы, исходя из своей сути. Поэтому там, где речь идет о подобных информационных самообучающихся системах, к прошлому возврата нет.

"Информационные объекты" живут несколько в другом измерении, чем объекты классической физики. Для них обратной дороги нет и быть не может. Конечно, можно попытаться унестись воспоминанием в далекое прошлое, но это уже будет не настоящее прошлое, а его жалкая модель. И с каждым вновь прожитым мгновением, эта модель будет претерпевать неизбежное разрушение.