Джефф Хокинс (Jeff Hawkins) известен как основатель Palm Computing и изобретатель карманного компьютера Palm Pilot. После своего первого стартапа он основал компанию Handspring и создал устройство Treo. Сейчас этот неординарный ум пытается доказать ещё одну свою идею: возможность создания искусственного интеллекта по образцу неокортекса человеческого мозга. Чтобы проверить теорию, Джефф Хокинс смоделировал неокортекс для машинного разума. С помощью этой системы независимые программисты могут создавать самообучающиеся компьютерные программы нового поколения.
Для работ в области искусственного интеллекта Хокинс основал компанию
Numenta, и сейчас она, наконец-то, выпустила свой первый продукт: экспериментальное ПО, в котором реализованы алгоритмы «иерархической временной памяти» (Hierarchical Temporal Memory, HTM): это и есть аналог неокортекса.
Система HTM представляет собой программную среду, которая максимально приближена к человеческому мозгу: она поддерживает принципы самообучения для поиска решения проблем. Базовым инструментарием являются «сенсоры», через которые в систему поступает исходная информация для анализа. Дизайн HTM — это древовидная структура, в каждом узле которой находится базовая функция для обучения и запоминания. Иерархия объектов в памяти HTM моделирует структуру мира, которая по своей природе иерархична во времени и пространстве.
Подробнее о системе HTM можно почитать в документации (
PDF), а также посмотреть в презентации Джеффа Хокинса на конгрессе по когнитивным вычислениям (
видео 152,9 МБ). Как вариант, можно почитать книгу Хокинса
“On Intelligence” — там в шестой главе есть частичное описание HTM.
Дополнительно:
Обсуждение “On Intelligence” на форуме «Искусственный Интеллект: программирование»
Дефф Хокинс «Об интеллекте» (рус.; книга в формате .DOC)
комментарии (17)
В книге в первую очередь излагается некий концептуально-понятийный каркас (framework) для одной из основных проблем на стыке многих наук - как микроуровень нашего мозга связан с макроуровнем. Вобще подобные задачи связи макро и микро уровня при изучении сложных систем - наиболее проблематичная область. Из строения атома кислорода проблематично вывести, например, законы идеального газа.
Как и во всякой научной работе (хотя достаточно популярный характер книги я не отрицаю) в начале дается обзор того, что сделано в области исследования до этого, таким образом можно любую пролистаную диссертацию упрекнуть в том, что это всего лишь конспект из литературы по теме.
>Существуют тучи алгоритмов работы нейронных сетей как с учителем так и без него, существует масса эффектных примеров успешной работы этих сетей.
Да, это не то, трижды не то, даже не потому что элемент нейросети это не есть математическая модель нейрона (существуют, например проекты вроде glisom и slisom, которые направлены на построение сетей из более точно смоделированых нейронов - но это отдельная история), а потому что при создании нейросетей отсутствует ключевой момент - архитектура самой сети, есть только слабая надежда что при сто первой перенастройке все само-собой организуется и получится более или менее эффективная сетка для решения определенной узкой задачи. В книге без каких либо противоречий с существующими на данный момент результатами исследований нейрофизиологов даются вполне четкие ответы на вопросы в каком виде информация поступает в наш мозг, сохраняется в нем, как она обрабатывается и структурируется.
Базовых алгоритмов для создания нейросеток не так много, приблизительно сколько пальцев на руке и ничего принципиально нового в плане них в книге не рассказывается. Мало того, HTM без особых изменений использует один из них - байесовских сеток. Насчет их эффективного применения: примеры, пожалуйста, видимо вы просто никогда не работали с ними не практике при решении конкретных задач, а максимум знакомились с ними по популярной литературе, которую, возможно, так же пролистывали.
Те же нейрофизиологи склонны относиться к его книге как к откровению, нежели как к конспекту.
Степень доходчивости изложения материала настолько высока даже для неспециалиста, что непонимание сути концепции меня, лично, просто удивляет.
Стройно излагаете, попробую все таки прочитать.
Собственно проблемы выбора архитектуры (слои, блоки и т.д., а так же чисто технические вопросы, как, например, это дело на кластеры разносить) до сих пор актуальны как некогда.
Может numenta как IT и не добьется каких то сверхрезультатов в разработке конкретных продуктов на технологии HTM, но на их счету уже прорыв научного характера, связанный с пониманием проблематики изучения мозга и наиболее комплексного теоретического подхода изо всех существующих. Хотя к этому существуют предпосылки, в скором времени они уже готовы начать поставлять свою продукцию вкупе с SDK, если уже этого не делают, во всяком случае на их сайте уже существуют соответствующие разделы для клиентов, так что через некоторое время узнаем, что все это дает на практике. Правда существует серьезный технологический минус - огромные по современным меркам требования к оперативной памяти, хотя и в этой области грядут новые технологии, то же серийное производство памяти на нанотрубках, например.
При этом не совсем ясно как там на чисто техническом уровне все реализовано, ясно, что при разных реализациях пусть даже на основе одного и того же алгоритма количество памяти, уходящее на одну атомарную единицу будет разным.
Минского г-н Хокинс читать не стал...
Честно говоря, по статье в комьютерре, опубликованной несколько лет назад у меня как и у многих сложилось мнение как и многих комментаторов этой статьи - е-мое, еще один черти-кто вышибает гранты на малоперспективные проекты, связанные с нейросетками. После прочтения и перепрочтения склонен считать его скорее вторым энштейном.
Насчет стиля изложения - почитайте хотя бы того же Хьюбела или Роуза - так же вроде бы куча лирики, но почему то эти работы считаются одними из ключевых в нейрофизиологии.
Минский же пишет немного не о том.
Кому жалко своего времени - хотя бы прослушайте часовую запись лекции Хавкинса, была где то на ютюбе, на numenta.com можно найти ссылку.
2. По приведенной ссылке на обсуждение можно не ходить. КПД 0,1%.
3. В комплекте можно прочитать «Происхождение мозга» Савельева.