Нейрокодирование

(далее…)

Что делать в ночь с Пт на Сб, когда голова после рабочей недели уже не работает, а делать что-то хочется? Можно сделать видео :). Треть видео занимает слайд-шоу – экранные снимки эволюции Нейролаборатории. Дальше большую часть занимает видео демонстрации ее работы. Финальные кадры напоминают, что ИИ будет использован в первую очередь для Войны.
Исходники без редактирования и без звука: «Видео НЛ в более высоком качестве» ( http://neurocod.net/blog/tag/2009/06/видео-нл-в-более-высоком-качестве )

Рекомендую в самом начале проигрывания остановить и подождать две секунды для буферизации.
embedded by Embedded Video

Download Video
Музыка – Fear Factory «Self Immolation (Liquid Sky Mix)», видео – Slayer «Final Six».

Разделение ИНС на контуры, а также управление нейронами при помощи виртуальных связей, описываемое далее – чрезвычайно важный инструмент. Он позволяет на порядок упростить разработку семантических ИНС. Я очень радовался, когда его увидел. Ведь выложенные в этом ЖЖ заметки – лишь небольшая часть тех задач в области ИНС, над которыми я работал. Причем, как правило, в отличии от упорядоченного изложения, разработка велась иначе – не снизу вверх, а «сверху вниз»+ «вширь», требований возникало много и все сразу. Без этого инструмента разработка была очень сложной – комбинаторный взрыв вариантов + отслеживание всех условий работы ИНС + доказательство того, что разрабатываемые алгоритмы делают то, что от них требуется… Этот инструмент я еще практически не начал использовать по серьезному (нехватка времени), так что вы можете догнать и перегнать мои разработки – чему теперь (и уже) я буду только рад.

Рассмотрим работу ИНС с предыдущей заметки. Если внутрикластерная обработка сигнала задержится на один такт, придется задуматься над тем, что делать с активацией на нисходящей цепочке – она или пропадет, или пойдет дальше по цепочке. Делать нейроны задержки и в нисходящей цепочке? Можно. Но если в другом режиме нужна другая задержка? Использовать несколько нисходящих цепочек с разными задержками? Или программно управлять сигналом, хитрить с функцией накоплении и угасания сигнала и т. п.?

Решение. Все нейроны заносятся в некоторый контур. «Контур» – это нейроны, срабатывающие в отдельный такт. Сигнал может накапливаться на нейронах некоторого контура в любое время, в том числе за время срабатывания любого количества других нейроконтуров, но посылка сигнала и другая обработка нейронов данного контура осуществляется синхронизировано.

При создании, в зависимости от числового типа нейрона, нейрон заносится в список нейронов контура соответствующего типа. На некотором шаге алгоритма, вместо кода обработки всех нейронов, цикл обработки проходит только по нейронам некоторого контура.

Пример – первая фаза выделения совпадений. Нейроны и соответствующие контуры разделены по роли, которую они играют в кластере: нейроны/контур нисходящих цепочек, гностический контур признаков, контур задержки и т. д.

Заметим, что обмен циклов в нейронах некоторого контура происходит непосредственно перед обработкой этого контура, а не после посылки сигналов на нейроны этого контура. (Кнечно, под обменом также подразумевается и другая обработка, типа угасания сигналов). Тогда можно более легко добавлять и удалять взаимодействие этого контура с другими – обмен остается все равно один и на том же месте. Отсрочка обмена до последнего помогает и при отладке ИНС в нейроредакторе. Также, посыл сигналов данному контуру (нейронам данного контура) возможен даже из другого режима – обмен будет произведен только один раз. Привычка производить обмен непосредственно перед обработкой контура уберегает от ошибок, от забываний произвести обмен, и от многократных обменов.

Резюмируя, преимущества разделения (искусственной) нейросети на контуры: упрощение передаточных функций, функций угасания сигнала, часто – устранение необходимости в нейронах задержки. Ускорение вычислений на не полностью парралельных компьютерах – нейроны тех контуров, которые не задействованы, не обрабатываются. Облегчение понимания работы ИНС – вместо разглядывания запутанных связей и разгадывания режимов работы конечных автоматов, можно прочитать самоописываемый код. Облегчение доказательства правильной работы. Сокращение количества ошибок. Стандартизация кодирования.








Fear Factory – Concrete

Audio clip: Adobe Flash Player (version 9 or above) is required to play this audio clip. Download the latest version here. You also need to have JavaScript enabled in your browser.

К сожалению, нормальные видео с youtube убирают, потому остается показывать только такие полуфабрикаты. Следующая мелодия всегда начинает играть внутри после значительных достижений. Эта быстрая и размеренная долбежка, синхронная со срабатыванием нейроконтуров, беспощадно делающих выводы; эта стиснутая в удары агрессия… Звуки приближающегося будущего…
embedded by Embedded Video

Download Video

Fear Factory – Resurrection
Хорошая группа, с хорошей музыкой и текстами.
embedded by Embedded Video

Download Video