Нейрокодирование

Которые исключительно своим трудолюбием нажили столько добра :)
http://nazdarru.livejournal.com/89493.html
Например, таким трудом: гугл швейцария германия украденный диск
Для создания центров теневого управления выбираются страны с населением, которое немного того. Например, евреи – обрезание в раннем возрасте приводит к психологической травме и жестокости, а отсутствие крайней плоти вызывает половое созревание немного раньше, так как более активно стимулируются нервные окончания, а организм больше тянет к плотскому, а не возвышенномую.
Или вот швейцарские кретины – их легко изначально взять под контроль и установить свои порядки.

Читал в википедии новый стандарт С++, и по ссылкам плавно перешел к определению метрического пространства. В целях креативного продуктивного развлечения, решил скрестить образы метрического пространства и ИНС.
Сначала возникло: «Элементы множества – нейроны, расстояние между нейронами определяется как сила некоторого коэффициента в межнейронной связи… ». Но это в каком году надо было такое писать? Явно не в 2010. Поэтому вторая попытка:
Элементам метрического пространства ставятся в соответствие отдельные кластеры нейросети. Можно ставить не отдельные кластеры, а отдельные нейронные цепочки – так как последний кластер такой цепочки будет соответствовать все тому же «один кластер».
Расстояние между элементами пространства задается при помощи нейронных цепочек из одного или более кластеров
Архитектура цепочки, которая хранит информацию о расстоянии между объектами, может быть различной. Пусть А и Б – нейронные кластеры, соответствующие некоторым элементам множества, на котором определено метрическое пространство. Тогда расстояние может сохраняться (см. рисунок, нейроны на рисунке обозначают кластеры):

Варианты хранения информации о расстоянии между А и Б

Вариант 1. Есть кластер с тремя связями: от А, Б и от кластера с информацией о расстоянии. Для того, чтобы оперировать с информацией о расстоянии, могут применяться различные механизмы. Но для начала, кластер, обозначенный как «d=1.7», нужно активировать. В схеме 1 – активировать А и Б, далее служебный кластер частично активируется (нечеткое распознавание), на нем концентрируется внимание, он распознается полностью, и активирует кластер «d=1.7». Чтобы убрать нечеткое распознавание, можно пойти другим путем – снизить порог срабатывания.
Вариант 2. Чтобы убрать стадию нечеткого распознавания, добавлен отдельный кластер. Связь «вперед» должна также полностью активировать следующий кластер. Как видно, во всех этих вариантах соблюдается условие симметрии А и Б – так как они должны активироваться одновременно.
Вариант 3. В многозадачной ИНС кластеры, объединяющие А и Б, могут хранить не только информацию о расстоянии. Чтобы не путать такие кластеры, в данном случае добавлен кластер вопроса «d?». Для того, чтобы узнать расстояние, нужно активировать кластеры обоих объектов и кластер вопроса о расстоянии. Нечеткое распознавание не нужно.
Вариант 4. То же, что и в пункте 3, но расстояние хранится не в одном кластере, а в цепочке – в данном случае, цепочке знаков, которые можно преобразовать в число.

В вариантах 1-2-3 кластер «d=1.7» мог соответствовать последнему кластеру цепочки, похожей на вариант 4, которая кодировала расстояние побуквенно. Для обработки такой цепоки нужно умение счета, умение сравнивать числа на величину и т. д. А можно добавить такую возможность в ИНС на базовом уровне, где за операции с числами будет отвечать интерфейс к калькулятору. Тогда нужно меньше нейронов (один кластер вместо цепочки), и вариант 4 не нужен.

Кстати, между нейронами показываются стрелочки – эту функцию можно отключать через контекстное меню ради ускорения прорисовки больших количеств нейронов.

Пусть некоторый сигнал поступает постоянно. Например, «АААА». Рассмотренные схемы на такой ввод будут запоминать каждое вхождение признака, что может быть избыточно в некоторых случаях. Не во всех. Например, некоторое правило может срабатывать только на четвертое появление признака. Тогда к четвертому появлению признака можно привязать более точное прогнозирование, и т. д. Поэтому в некоторых случаях, нужно заносить все вхождения признака и оставлять исходную цепочку. Но в некоторых случаях это может быть излишне. Например, может быть достаточно признака «пошел повтор признака А». Решение о том, что выгоднее, должна принимать ИНС на основе вычисления приоритета – связи каких высокоуровневых цепочек оказались более востребованными.
Вместе с признаком «пошел повтор сигнала А», логично добавить и дополняющий к нему признак «повтор сигнала А прекращен».
Признаки типа «пошел повтор сигнала А» могут заноситься в цепочку памяти периодически – на порядок реже, чем встречается А. Например, на каждую десятую встречу исходного признака. Это экономит нейросети множество ресурсов. Для нормальной работы прогнозирования и других механизмов, может понадобится, чтобы при повторной прозвонке исходной цепочки, после активации такого высокоуровневого признака, он бы оставался в активном состоянии в течении нескольких циклов. До встречи признака «следует прекратить активацию» или в течении некоторого срока. Такие высокоуровневые признаки могут выделяться гиппокампом.

Аналогом высокоуровневого признака «обнаружен повтор» может выступать периодическое занесение в память распознающей цепочки из нескольких признаков. Например, цепочка из 10 повторяющихся признаков. На большую длину она не растет. После распознавания всех 10 признаков, очередной распознающий кластер ничто не тормозит, он заносится в память. Со следующего цикла эта же цепочка начинает запоминание с самого начала заново. Разбивка каждой цепочки на максимум 10 элементов может быть выгодной и в других случаях. С биологической точки зрения, короткие цепочки реализовать легче, чем единую неразрывную цепочку по всему гиппокампу.

За счет усложнения возможностей работы обычных цепочек, можно получить нечто среднее между запоминанием одного признака «встречен повтор» и запоминанием всей исходной цепочки. Для этого нужно, чтобы распознающая цепочка работала медленнее, чтобы на переход к следующему кластеру (на распознавание) требовалась бы активация нескольких низкоуровневых признаков.