Запоминание повторений
Пусть некоторый сигнал поступает постоянно. Например, «АААА». Рассмотренные схемы на такой ввод будут запоминать каждое вхождение признака, что может быть избыточно в некоторых случаях. Не во всех. Например, некоторое правило может срабатывать только на четвертое появление признака. Тогда к четвертому появлению признака можно привязать более точное прогнозирование, и т. д. Поэтому в некоторых случаях, нужно заносить все вхождения признака и оставлять исходную цепочку. Но в некоторых случаях это может быть излишне. Например, может быть достаточно признака «пошел повтор признака А». Решение о том, что выгоднее, должна принимать ИНС на основе вычисления приоритета – связи каких высокоуровневых цепочек оказались более востребованными.
Вместе с признаком «пошел повтор сигнала А», логично добавить и дополняющий к нему признак «повтор сигнала А прекращен».
Признаки типа «пошел повтор сигнала А» могут заноситься в цепочку памяти периодически – на порядок реже, чем встречается А. Например, на каждую десятую встречу исходного признака. Это экономит нейросети множество ресурсов. Для нормальной работы прогнозирования и других механизмов, может понадобится, чтобы при повторной прозвонке исходной цепочки, после активации такого высокоуровневого признака, он бы оставался в активном состоянии в течении нескольких циклов. До встречи признака «следует прекратить активацию» или в течении некоторого срока. Такие высокоуровневые признаки могут выделяться гиппокампом.
Аналогом высокоуровневого признака «обнаружен повтор» может выступать периодическое занесение в память распознающей цепочки из нескольких признаков. Например, цепочка из 10 повторяющихся признаков. На большую длину она не растет. После распознавания всех 10 признаков, очередной распознающий кластер ничто не тормозит, он заносится в память. Со следующего цикла эта же цепочка начинает запоминание с самого начала заново. Разбивка каждой цепочки на максимум 10 элементов может быть выгодной и в других случаях. С биологической точки зрения, короткие цепочки реализовать легче, чем единую неразрывную цепочку по всему гиппокампу.
За счет усложнения возможностей работы обычных цепочек, можно получить нечто среднее между запоминанием одного признака «встречен повтор» и запоминанием всей исходной цепочки. Для этого нужно, чтобы распознающая цепочка работала медленнее, чтобы на переход к следующему кластеру (на распознавание) требовалась бы активация нескольких низкоуровневых признаков.
Filed under: записи с метками Теги/метки: нейронные сети No Comments »
« wargasm | Home | Метрические пространства и ИНС »
Leave a Reply
You must be logged in to post a comment.
