IBM
Компания
119,97
рейтинг
20 ноября 2012 в 00:38

Разное → IBM провела симуляцию нейрокомпьютера, сопоставимого с мозгом человека

На конференции Supercomputing 2012 компания IBM представила результаты работы нейросимулятора Compass на суперкомпьютере Sequoia (второе место в мировом рейтинге суперкомпьютеров). Впервые был достигнут масштаб, соответствующий человеческому мозгу — 530 миллиардов нейронов и 137 триллионов синапсов. Симуляция происходила в 1542 раза медленнее реального времени. В ней были задействованы все 1 572 864 ядер и полтора петабайта памяти.

Compass — система симуляции новой компьютерной архитектуры TrueNorth, которую в IBM называют «старшим братом Watson». В отличие от привычных нам компьютеров, основанных на архитектуре фон Неймана, TrueNorth построен по образу и подобию мозга, на базе разработанных IBM "нейросемантических ядер" — чипов, содержащих кремниевые нейроны и синапсы. Каждый чип содержит 256 нейронов, 1024 аксона и 256х1024 синапса. Площадь чипа, произведённого по 45-нанометровой технологии — 4.5 мм2. В рекордной симуляции была смоделирована работа 2084 миллиардов таких ядер.

Эта работа была проделана в рамках программы DARPA SyNAPSE, конечная цель которой — создать нейрокомпьютер, сравнимый с мозгом высших млекопитающих как по быстродействию и когнитивным способностям, так и по компактности и энергоёмкости. То есть фактически речь идёт о создании мозга для «терминаторов». Вот некоторые его характеристики:

  • 10 миллиардов нейронов
  • 100 триллионов синапсов
  • энергопотребление в пределах 1 кВт
  • занимаемый объём — меньше 2 дм3
  • интерфейсы для сенсорного восприятия и моторных функций


IBM работает над созданием «когнитивного компьютера» для DARPA уже несколько лет. Так, в 2009 году были представлены результаты нейорсимуляции в масштабах мозга кошки. Пока рано говорить о реалистичной имитации человеческого мозга, ведь кроме достаточного количества нейронов необходимо ещё знать схему их соединения и, самое главное, программу, которая управляет работой мозга. В этом направлении тоже есть прогресс. Одна из симуляций в рамках DARPA SyNAPSE была основана на схеме соединений нейронных комплексов в мозгу макаки, полученной в рамках проекта CoCoMac.



Автор: @ilya42
IBM
рейтинг 119,97

Комментарии (216)

  • +31
    Журналисты такие журналисты…
    > сопоставимого с мозгом человека
    > Симуляция происходила в 1542 раза медленнее реального времени.

    Не хочу шутить про эстонцев, но знаете, напрашивается :)

    • +3
      Про журналистов согласен.
      А в целом — это первая ласточка и имхо круто. Ведь на базе этого можно не только «терминаторов» делать, но и всякие сервисы, которые более человечно будут впаривать различные сервисы или же помогать человеку. В общем сфер применения уйма, однако железа тут мало — софт тоже нужен умный под стать.
      Но в целом очень порадовала данная новость — любопытно как это будет использоваться в дальнейшем.
      • 0
        Думаю, IBM будет использовать эту технологию для апгрейда того же Ватсона.
        • 0
          Я не думаю, что IBM оставит эту технологию только для себя — определённо не мало средств было вложено и их надо как-то отбивать. Потому уверен — в течение 2-3 лет так или иначе эти наработки будут использоваться в новых сферах.
          • 0
            Ну так Watson — это и есть стратегия по отбиванию средств. В IBM возлагают большие надежды на доходы от услуг, связанных с искусственным интеллектом, в частности называют цифру в 16 миллиардов долларов к 2015 году.
            • 0
              Я имею в виду не использование непосредственно Ватсона, а адаптирование технологии под более обычные сервера/облака.
              • 0
                А заинтересована ли IBM в портировании этой технологии на, грубо говоря, x86-платформу? Как-то сложилось впечатление, что когда IBM открывает (или делится с избранными «патнерами») какую-то технологию, то максимум успевает снять самые жирные сливки, но вот прибыль от массовости получают не они. Самые простые примеры: IBM PC и (Warp) OS/2, включая HPFS. Их наработки спустя десятилетия используют тысячи производителей «IBM-совместимых» ПК и, как минимум, один производитель ОС (бывший «партнёр»).
                • 0
                  Знаете, юмор данной ситуации в том, что современный IBM почти не занимается «IBM-совместимыми» ПК, и как-то не верится, что эта ситуация изменится в будущем.
                  • 0
                    А почему не занимается? Не потому ли, что открытость привела к большой конкуренции и, как следствие, снижению прибыли до недопустимых для руководства и акционеров пределов вплоть до убыточности?
                    • +5
                      Это явления совершенно разного масштаба. Если утрировать то звучит это как портирование реактивных двигателей от Боинг 747 на легковые автомобили.

                      Если уж они сделают нейрокомпьютер применимый в быту — зачем ему понадобится x86 в нагрузку?
                      • 0
                        Например, для поддержки более детерминированных алгоритмов, чем те, которые реализуются в нейрокомпьютере. В основном, обработка потоков ввода-вывода и их конвертация в более привычные нейрокомпьютеру кривые и растры.
                        Хотя будет ли это x86, ARM или что-то еще — не очень важно.
                        • 0
                          Хотя нет. Ничто не мешает закодировать те же преобразования непосредственно на нейрочипах (без обучения) подобно тому, как они сейчас кодируются на FPGA. Параллельность будет больше, а архитектура однороднее.
                          • 0
                            Вот мне тоже так кажется. Сначала они будут люто симулировать это все на супер компьютерах, а потом тупо зашьют все в процессор назовем его условно «нейрониум»©
                        • 0
                          Вы ходите сказать что в нейрокомпьютере не детермитированые алгоритмы?
                          Всё равно что сказать что человеческий мозг недетерменирован:)
                          • 0
                            В нейрокомпьютере (когда он работает в режиме обучаемой нейросети) вообще не алгоритмы. Там законы переходов из одного состояния в другое.
                          • 0
                            А, кстати, какие термины используются, чтобы отделить алгоритмы, которые со 100% надежностью решают четко поставленные задачи с единственным правильным ответом от алгоритмов, которые либо решают задачи типа «а не кажется ли тебе, что...», где ложное срабатывание не является поводом объявить алгоритм неправильным, либо решают четко поставленную задачу из статистических соображений (например, проверка числа на простоту)? Для себя я называю алгоритмы второго типа «эвристическими», но может быть, есть более общепринятая терминология?
                      • 0
                        Речь шла про обычные сервера/облака. Я предположил, что портировать не будут, поскольку захотят оставить технологии под своим контролем. Глядя на Apple например.
                        • 0
                          В каком качестве?

                          Как нейро-сопроцессор для решения задач пользователей или как внешняя система, которая к примеру анализируя статистику по дискам и лентам решает какие диски заменить, что забекапить и тп?
      • +1
        Конечно, мечтать о прогрессе и о счастливом будущем приятно, но как программист, хочу сказать что будущее, в котором мы будем повсеместно использовать процессоры подобной архитектуры, наступит еще не скоро (если наступит вообще)

        И дело не в том, что такие плохие производители железа не выводят на рынок гипер-параллелизированные решения, а в том, что подобные системы — просто ад для программистов.

        В качестве примера можете взять Sony Playstation 3 — очень мощная система с большим количеством ядер. Но только совладать с этой мощью могут единицы. Остальные просто забивают на присутствие дополнительных ядер, и фигачат только на главном — в результате получаем на капитально более мощном железе картинку хуже, чем на 3-х ядерном Xbox 360.

        • +9
          С привычным нам программированием когда-то тоже справлялись единицы. Но появились языки высокого уровня и стало легче. Аналогично будет происходить и в этой сфере.
          • –7
            Вы будете удивлены, но подобные решения существуют уже давно — та же самая java позволяет создавать многопоточные приложения.

            Только вот вы спросите у программистов с опытом работы с такими системами, стоит ли использовать это на практике. Скорее всего ответ будет «не стоит». И дело не в том, что это сложно для изучения, а в том, что в крупных многопоточных системах большая часть времени уходит на исправление проблем, которые в случае однопоточной системы просто не возникли бы.

            Бизнесу подобные решения не нужны — бизнесу нужны устойчивые и простые в поддержке системы. И пока программистов будут кормить не энтузиасты-ученые, а корпоративные клиенты, гипер-параллелизации мы не увидим.

            Капитализм, чтоб его…
            • +6
              «Позволяет создавать» и «позволяет создавать эффективно» несколько разные вещи. Скажем, программисту на Erlang практически нет (ну или не должно быть в теории) создавать приложение однопоточное, многопоточное в рамках одной системы или масштабирующееся на тысячи и миллионы систем.
              • +4
                В теории человечество уже построило колонии на Марсе, а на практике возникают проблемы с отправкой хотя бы центнера на Марс.

                Вот и с эрлангом примерно тоже самое — в теории мы уже распараллелились на миллионы компьютеров, а на практике сидим и ждем когда этот пузатый бородатый дядечка наконец напишет хоть одну нормально работающуюю программу.
                • +2
                  Не надо миллионов компьютеров, нужен один с миллионом ядер и общей памятью. Как уже VolCh пытался объяснить, разработка под это дело всего навсего вопрос инструментов. Гонка герцев закончилась, гонка ядер только началась.
                  • +1
                    >>всего навсего вопрос инструментов
                    Это ваше всего-навсего требует серьезных фундаментальных исследований.
                    Краеугольное для современной индустрии софтостроения понятие алгоритма, как строгой последовательности действий, плохо ложиться на многоядерную архитектуру. Боюсь одними функциональными языками этот вопрос не решить.
                    • +1
                      Было бы интересно узнать, каких это еще фундаментальных исследований еще не проведено в области параллельных вычислений.
                      • 0
                        Было бы интересно узнать какие фундаменатльные теории существуют для распараллеливания алгоритмов по произвольному количеству потоков.
                        • +1
                          Например, архитектура потока данных en.wikipedia.org/wiki/Dataflow_architecture
                          • 0
                            Спасибо, очень интересно. Когда-то слышал про это, но в деталях не знал. Есть статья и на хабре.
                  • +1
                    Общая память — это очень дорогое (в техническом плане) удовольствие, и я думаю, что рано или поздно от него откажутся. К общей памяти надо вести шину от всех ядер, надо делать арбитр и, кроме того, пропускная способность такой памяти делится между всеми ядрами. Длина шины ухудшает ее пропускную способность. Поэтому какая-то общая память, наверно, останется, но основная работа будет происходить в индивидуальной памяти, к которой будет иметь доступ только одно ядро или небольшое их количество. Собственно, облачные вычисления именно так и работают — без общей памяти.
                • +1
                  Используем Erlang в массово-параллельной системе для процессинга большого объема (петабайты) данных. Не испытываем трудностей с написанием массово-параллельных программ. Что мы делаем не так?
                  • 0
                    Вы всё делаете правильно, но будет проблематично объяснить это java-программисту…
            • 0
              Нисколько не удивлен и давно это знаю. Но это не противоречит моему утверждению нисколько. Наличие сегодня каких-то решений не означает, что эти решения конечны. Наоборот, это означает, что решения ищутся, находятся, оптимизируются и всячески развиваются.

              Возможность создания эффективных распараллеленных приложений — всего лишь вопрос времени. Да, несомненно, нужно проделать ооочень много, но прогресс не стоит на месте и более того, до сих пор он только ускорялся.

              Так что не паникуем, все будет ок :)
        • +12
          В данном случае речь не идет о процессоре в привычном понимании этого слова, так что и программирование, как мы его себе знаем, не применимо в случае нейронной сети. Все что нужно — правильно развести связи, и обучить нейронную сеть, используя те или иные алгоритмы. Потребности в том, что-бы вручную снабжать работой каждое из «вычислительных ядер» не будет, равно как и в человеческом мозге нет какого-то «центрального управляющего модуля», который бы загружал работой остальной мозг.

          Так что — вполне может быть, что технология приживеться, но она не станет заменой современным процессорам, скорее будет использоваться сибиоз обоих решений, т.к. современные процессоры не очень пригодны для симуляции нейронных сетей (очень медленные для этого), а нейронные сети — не очень подходят для «обычных строгих числодробильных задачь». В то же время, нейронные сети могут существенно ускорить довольно многие задачи, даже с куда меньшим обьемом нейронов, чем использовали IBM в вышеупомянутой симуляции.

          P.S. Интересно другое — смогут ли когда-нибудь эти IBM-овские чипы послужить заменой обычным нейронам в обычном человеческом мозгу? Т.е. например при удалении опухоли, удаляемый участок заранее сканируется, строится картина меж-сединений, электрохимических потенциалов, итп, потом все это реплицируется в памяти чипа, и чип подключается к «оторванным свободным выходам», оставшимся после удаления опухоли. Вот это было-бы круто, постепенно заменить свой мозг на набор микросхем, и получить фактически цифровое бессмертие — кому не интересно посмотреть, что будет через 100, 200, 1000 лет… А с цифровым мозгом и suspend режимом это будет куда проще ;) наскучило текущее время — просыпайся на 1 минуту в день, проверить новости, и уходи дальше в suspend :)
          • 0
            конкретно этот чип нет, а вообще — да.
          • –3
            Проблема старения никогда не будет отменена.
            Это организм природы.

            ну, я так думаю.
            • +1
              только трансплантация мозга, только хардкор!
              • +4
                Берите хардкорнее — трансплантация сознания.
                • +5
                  Как объяснял кто-то про fork/exec — Есть Петя, который умеет складывать два числа, есть Вася, который умеет делить два числа. Пете нужно выполнить операцию a/c + b. Вызов exec — позволяет заменить Пете заменить своё мозг на Васин и поделить два числа. Но Вася не знает что после деления чисел надо вернуть Петю на место, поэтому он пойдёт пить пиво, а Петя исчезнет как будто его не было. Но есть решение! Петя клонирует себя(fork), в клона пересаживает сознание Васи и говорит ему поделить два числа. После получения результата он убивает Васю и дальше всё идёт по плану.

                  Вот оно!
          • +2
            А с цифровым мозгом и suspend режимом это будет куда проще ;) наскучило текущее время — просыпайся на 1 минуту в день, проверить новости, и уходи дальше в suspend :)

            lleo.me/arhive/fan2006/mne_povezet.shtml
          • 0
            наскучило текущее время — просыпайся на 1 минуту в день, проверить новости, и уходи дальше в suspend :)

            Если просыпаться на минуту в сутки, то получиться ускорение в 60*24=1440 раз. А тут предлагается готовое решение, которое ускоряет всё вокруг в 1542 раза, заодно и «непрерывность сознания» обеспечивается как кто-то ниже просил :-)
            • 0
              Ага, вот только понять происходящее не получитя (ускорте фильм в 1542 раза и попробуйте понять сюжет).
              • 0
                ну можно будет хабр читать :-). Кое что, конечно придется пропускать, ну так это и так нормально. :-) Отмечу, что и для многих «биологических людей» основной инструмент «понимания происходящего» это что-нибудь читать.
          • 0
            тактака вот мне бессмертие не интересно, но у меня опухоль мозга… не отказался бы заменить поврежденные части…
          • 0
            Был кстати рассказ такой фантастический, где изобретателю подобной хрени прострелили голову, и как потом заменяли ему пол-мозга его же творением.
        • +1
          Это всё обывательские рассуждения. Многопоточность в играх используют довольно давно. Сложность PS3 в том, что там по другому всё и работать приходится почти на уровне железа, а xbox архитектурно обычный комп. Но и этот комментарий тоже на пальцах.
        • +1
          Нейрокомпьютерам не будет нужна параллельная программа. Программа максимум будет преобразовывать входы/выходы из него и настраивать параметры обучения. Сами нейроны должны управляться входными данными и никакая программа, кроме фиксированного алгоритма обучения, им не нужна.
          • 0
            Это смотря как их использовать. Если как нейронную сеть общего назначения или субстрат для искусственной личности/аплоада — то да. Но можно ведь и пользоваться этой архитектурой напрямую, загружая в неё оптимизированные детерминированные алгоритмы для конкретных задач.
            • 0
              Если они моделируют нейроны на уровне железа, то использовать их иначе как непосредственно нейросеть вряд ли представляется возможным. Слишком уж ограниченная там функциональность.
              • 0
                Можно, заранее просчитав и прошив связи, и запретив обучение там, где оно не нужно. А где нужно (использование параметров связи как памяти) — ускорив его до предела.
                А функциональность… разве эта структура не является Тьюринг-полной?
                • 0
                  Когда вы говорите про «обучение» — вы уже рассматриваете систему как нейронную сеть.

                  Она является тьюринг-полной, но реализация будет крайне неэффективна.
                  • 0
                    Просто для интереса — Вы разобрались в описании их нейрочипа? Я — пока еще нет. Но уже видно, что это не я «рассматриваю систему как нейронную сеть», а она уже так реализована, и надо исходить из имеющихся возможностей.
                    Про «неэффективность реализации» опять же — откуда сведения? Вы пробовали хоть что-нибудь на этой схеме запрограммировать?
                    • 0
                      Эгм. Прочитайте пожалуйста еще раз первый мой комментарий в ветке. Я вам с самого начала пытаюсь донести, что раз это нейроны на уровне железа, то пытаться использовать их как что-то отличное от нейросети, в частности для эмуляции чего-то близко к традиционным архитектурам для линейных алгоритмов — заведомо не эффективно. Я не читал их спеки, но знаю стандартную мат. модель нейрона и представляю возможные вариации. И именно на основе этого делаю вывод, что «детерменированные алгоритмы» там будут либо неотимальны в плане использования железа, либо неточны.
                      • 0
                        «Неоптимальны в плане использования» — если на уровне 10% от оптимума, то я бы сказал, что это достаточно хорошо. Современные программы используют железо ненамного лучше, потому что оптимизация — корень всех зол, а пользователи должны покупать новое железо.
      • НЛО прилетело и опубликовало эту надпись здесь
        • 0
          Кроме обучения, не забывайте, что каждый мозг — уникален. И именно эта уникальность ведет к появлению различных точек зрения даже на одну и ту же проблему.

        • +9
          Пока не способны самообучаться более высокоуровневым конструкциям. Но сознательная направленная селекция и возможность практически мгновенно и, что немаловажно, без потерь и искажений передавать накопленную одной «особью» информацию другим, могут сократить сотни миллионов лет, которые потребовались природе и естественному отбору, на порядки и порядки порядков :)
          • НЛО прилетело и опубликовало эту надпись здесь
            • 0
              К сожалению, не уверен в наличии русского перевода, но тем не менее хочу порекомендовать: в книге Тэда Чана The Lifecycle of Software Objects вопросы которые задает DankoUA освящаются с потрясающим, я бы сказал «бытовым» реализмом. Вопрос о том «возможно ли» как-то отпадает, остается только вопрос «когда». И вот судя по этой новости, уже во вполне обозримом будущем.
              • 0
                Хорошая книга. До неё я не очень осознавал, что разумная программа не обязательно будет уметь пользоваться вычислительными способностями «своего» компьютера напрямую и «решать головоломки» лучше людей.
                Вот только там разумы развивались прямо в коде виртуальной реальности (как и в «Диаспоре» Грега Игана), а нейрокомпьютер выглядит автономной сущностью «на один разум». Не очень понятно, насколько важно это различие. Будет ли нейрокомпьютер осознавать наличие у него выделенного физического носителя, или будет считать себя жителем Интернета?
                • 0
                  Мне как раз описанная в книге последовательность кажется правдоподобной и даже естественной — сперва для таких «дигиэнтов» будут реальность симулировать (это гораздо удобнее, в том числе с экспериментальной точки зрения), а уже потом, возможно, как следующий и в чем то даже «незначительный» шаг, они в качестве входной информации будут получать не симуляцию, а трансляцию из физической реальности. Причем, будет ли этот «двух-литровый нейрочип» лежать в банке на складе, выделяться в виде области в 100 литровой платформе нейровиртуализации, или же будет вместе насажен на «тело» с датчиками транслирующими информацию из физической реальности, мне кажется совершенно не важным, в том числе с точки зрения самосознания. Убежден, что если бы реальный мозг удалось разместить где то «на складе» связав надежным каналом связи с «датчиками» тела, на самосознание это бы вообще говоря не влияло, в конце-концов эмпирически это было бы не так просто узнать.
                  • 0
                    Что удобнее, не известно. Скорее всего, на вход AI будет подаваться двумерная картинка, совместимая с нашей реальностью. И в случае его развития в видеочате картинку для него лучше синтезировать не совсем такой, которая подается на экраны пользователям из RL — ведь у AI совсем другое управление («он не хотел управлять аватаром — он хотел быть им»). А для картинок физического мира готовым решением будет любая видеокамера.
                    Но это, конечно, вопрос нескольких сотен строк кода — копейки по сравнению с собственно разработкой AI.
                    Если бы они сразу разделили интерфейс и реализацию, трагедии бы не было. Но не было бы и половины сюжета…
        • +3
          Вы не поверите…
          Возникнет. Суть не только в граничном [для инициации самоосознания как ключевой характеристики разума] количестве нейронов, а еще в том, что связи между ними — динамические, и непрерывно достраиваются и обрываются. А пороговая цифра уже достигнута — количество нейронов в мозгу оценивается порядком 100 миллиардов.
        • 0
          Кстати youtu.be/er7XrYCe7cA
          • 0
            вопрос по видео: а что если я вижу как робот берет яблоко? сработают ли зеркальные нейроны? ;)
            • +4
              Зависит от коэффициента мимимишечности робота.
        • +4
          У современного человека интеллект тоже не сам по себе возникает — его 20 лет учить нужно.
      • 0
        Начнут всё же с военных разработок, весь прогресс работал так :)
      • +3
        Нет! Мы должны делать терминаторов!
        Скайнет! Скайнет!
        Смерть человекам!
        • +1
          Мы должны стать терминаторами!
          • +6
            Где можно записаться в терминаторы?
    • +9
      Нормально всё. Главное получить качественную сопоставимость, качественную эмуляцию процессов в мозге происходящих. Ускорить быстродействие на три порядка куда более простая задача, имхо, это чисто техническая, инженерная, но не научная задача.

      А, главное, результаты работы одного такого «мозга» переносятся в другой практически (по сравнению с человеком) мгновенно., скорость размножения ограничена только экономическими факторами, а не 20+ лет воспитания в человеке возможности думать самостоятельно и передачи ему квинтэссенции знаний предыдущих поколений. Создать 1542 компьютера, когда уже есть один, куда более простая технически задача, чем воспитать, скажем, специалиста с высшим образованием. Это просто про рядовых специалистов, способных решать типовые задачи. Но ведь и направленную селекцию куда проще производить. Сейчас у человечества нет возможности воспроизводить статистически случайных гениев, а тут создать тысячи и даже миллионы копий кремниевых Эйнштейна или Сахарова лишь вопрос денег, если один получится, причём полностью готовых специалистов. Уверен, что советская власть очень жалела, что нет второго Сахарова, который работал бы над другими задачами, в то время пока Сахаров работал над теми, над которыми работал. А был бы равный ему по эффективности компбтер, то второй был создан очень быстро и ему ставились бы другие задачи.
      • 0
        Посмотрите на это с немного другой стороны.

        Знаете, за что люди ценят компьютер? За то, что он не умеет ошибаться. Компьютер всегда делает то, что ему сказали, и всегда может повторить результат.

        Но на протяжении истории существует немало примеров, когда именно ошибки и идеи, которые считались ошибочными приводили к научным скачкам.

        Так что, какая бы ни была умная машина, у нее не будет таких возможностей, как у человека с 20+ годами воспитания. И вычислительные мощности тут не причем — возьми ты хоть 1542, хоть миллион компьютеров — это не научит их ошибаться и иррационально мыслить.
        • +3
          «Всегда может повторить результат» не совсем справедливо. Для этого ему нужно предоставить абсолютно те же самые входные условия. А условия предоставляет человек, которому свойственно ошибаться. Более того, зачастую человек сознательно требует, чтобы результаты были разные на один и тот же набор входных данных. Чтобы далеко не ходить, буквально пару часов назад я сделал коммит, с большой степень вероятности гарантирующий, что даже в пределах одной секунды два разных потока выдадут разные и непредсказуемые со стороны человека значения на одинаковое входное.

          А ещё и компьютер может ошибаться в человеческом понимании этого слова. Не просто так вводят в аппаратные и программные архитектуры всякие ECC, CRC и прочие биты чётности. А уж в программно-аппаратных комплексах с требованием повышенной надежности (космос, оборонка, авиация, медицина и т. п.) многократно дублируют все устройства и связи, применяют различные алгоритмы выбора из нескольких различных результатов, которые в теории должны быть одинаковыми, но вмешиваются как чкловеческий фактор, так и какое-нибудь реликтовое излучение. И всё равно никто (кроме шарлатанов и маркетологов) не может гарантировать 100% безошибочность — меряются девятками после запятой, вероятностями ошибок и т. п. То есть безошибочность это нерешенная техническая задачаА если вариативность, возможность ошибки будет сознательно вводиться в архитектуру?
          • 0
            Начнем про непредсказуемые значения.
            Генератор псевдослучайных чисел — это тоже алгоритм, и он так же обладает свойством повторяемости результата.
            Поэтому, кажущиеся непредсказуемыми со стороны человека результаты — это всего лишь иллюзия.

            Что касается CRC и прочее — они были созданы не по причине того, что компьютер может ошибаться, а по причине того, что существующие системы хранения и передачи данных сильно зависят от окружающей среды. Если бы вероятность ошибки при передачи данных хотя бы приближалась к вероятности ошибки, скажем, в оперативной памяти ( не говоря уже о процессоре), то практического смысла использования CRC бы просто не было.

            Кроме того, не забывайте, что ошибка в компьютере часто приводит к неработоспособности компьютера — это следует как раз из правила повторяемости результата. Конечно, сейчас существуют ситемы, способные не утратить или даже восстановить свою работоспособность после возникновения ошибки.

            Но не существует систем, способных проанализировать эту ошибку и сделать общие выводы о природе этой ошибки, придя к уникальным выводам, к которым никто до них не приходил.

            • +2
              То, что их не существует, не означает, что к их созданию не стоит стремиться.
              • +2
                Ага, чтобы в результате получить 42? :)

                • +2
                  Зачем? 42 и 146 мы уже получили, можно зарание исключить эти результаты.
        • +6
          Знаете, за что люди ценят компьютер? За то, что он не умеет ошибаться. Компьютер всегда делает то, что ему сказали, и всегда может повторить результат.

          Возьмём простой пример в духе топика: анализатор капч на нейросетях. Это компьютер? Компьютер. Он ошибается? Ошибается. Причём ошибается точно так же, как и человек: «Я думал, что это 1, а там искажённая 7 с короткой чёрточкой».

          Нейросети — это не привычные компютерные алгоритмы, а именно имитация человеческого «железа» и человеческих «программ» в купе с имитацией всех достоинств и недостатков.
          • +1
            в духе топика, эта нейросеть подумает: «обычный человек принял бы эту 7-ку с чертокой за 1»
      • +2
        Если поставить такой умной штукенции ( универсальному ИИ ) задачу,
        получить системные ресурсы и «расширить сознание» — он это сделает, запросто,
        с уже существующими ресурсами. Просто сам станет супер-умным вирусом червем, и получит.

        + Тут есть одна интересная весчь. Кто знает, сколько % мозга требуется на решение аналитических задач?
        Ведь дофига процентов отвечают за сохранения дыхания, контроль пульса,
        частоту сердечных сердцебиений. Все это — железяке не нужно.

        Задача человечества, в этой области, на данном этапе
        — научиться формулировать идеи, для искусственного мозга,
        чтобы тот понимал их таким образом, как понимает произвольный
        ( достаточно умный, к слову ) человек. И воплощал их, во что бы то ни стало,
        если его решения не способствует нашему вымиранию
        и ограничению свобод.
        • +1
          Проще говоря, задача научить компьютеры анализировать и синтезировать.
        • +1
          а заодно подумать над определением тем самых свобод и прочих деталей, а то знаете ли трактовка штука такая…
      • +2
        >Ускорить быстродействие на три порядка куда более простая задача, имхо, это чисто техническая, инженерная, но не научная задача.
        Не факт. 3 порядка это просто очень много. Текущий рекорд скорости космического аппарата от скорости света отделяет меньше 4 порядков.
        И нельзя ускорить работу компьютера просто поставив рядом еще 1542, накладные расходы на передачу данных сделают бессмысленным добавление уже третьего.
        • 0
          С одной стороны очень много, с другой стороны закон Мура. 20 лет назад мой ПК имел тактовую частоту 625 кГц и складывал два восьмибитных числа 4 такта, сейчас я даже точно не знаю сколько у меня ГГц на каждом из ядер, за 2 точно, а складывает как бы не несколько 64-бит чисел за такт на одном ядре.

          Но даже если считать, что закон Мура прекратил действовать, то далеко не всегда нам нужно быстродействие в 1542 раза большее. Если человек решает какую-то задачу за секунду, то для очень многих задач будет достаточно чтобы 1542 компьютера решили 1542 задачи за 1542 секунды. С точки зрения результата это уже будет быстродействие человека, если требуется решить пакет задач, если отдельное решение самостоятельного значения не имеет, а не индивидуально каждую и решение предоставлять каждую секунду.
          • 0
            Кстати, 1542 раза — по сравнению с гипотетическим будущим процессором, а не с мозгом…
    • +1
      Симуляция — это выполнение того же самого в программном видео на классическом суперкомпьютере. Это медленно.
      Реальный, не симулированный процессор, выполненый по этой модели, будет работать в 1542 раза быстрее, чем происходила симуляция. Он будет сопоставим с мозгом человека. Будучи реально изготовленный, а не смоделированный.

      Что журналисты-то?
    • 0
      Вообще-то, это невероятно быстро. Потом, подумаем, за какое время компьютеры станут в 1500 раз быстрее… лет за 20, а то и существенно меньше. И здравствуй, терминатор.
  • –2
    Вот если честно, немного не по себе от всего этого. Человек еще себя не изучил толком, не научился ладить, нормально относиться к другим существам и миру, в котором живет, а уже пытается создавать нечто, что не тупее его. Если посмотреть вокруг куча народа занимается всякой фигней — постоянным потреблением, набиванием своих карманов и всеми остальными непотребствами. Это не говоря о том, что еще ни одного года не было прожито без убийств или вообще войн.
    По моему сначала надо над человеком хорошенько поработать, а не новые виды разума плодить.
    • +9
      Только увидел ваш коммент, мне моментально вспомнился этот пост
      • +4
        С точностью до наоборот. Я не за то, что бы категорически прекращать такие исследования. Я только считаю что на исследование человека и его поведения тратится непозволительно мало усилий. Человечество достигло огромных успехов во множестве технических областей, но поведение людей изменилось намного меньше.
        • 0
          А лично вы, занимаетесь исследованиями на которые тратится «непозволительно мало усилий»? Каждый занимается тем, чем ему нравится, судя по ваших интересам из профиля, вы тоже свободное время IT так или иначе посвящаете ;)
        • 0
          Так пост про IMB, чисто технологическую компанию, и вы хотите, чтобы она так же занялась исследованиями психологии человека? Это уж ей решать, куда вкладывать деньги. И очень радует, что это одна из немногих корпораций, вкладывающая их в фундаментальную науку, а не в популярные на данный момент гаджеты/сервисы, с целью сиюминутно отбить бабло.
    • +2
      да что вы? а может вот такие открытия всю эту ерунду и заглушат?
      человечество больше двух тысяч лет с собой совладать не может.
      • 0
        Угу, особенно открытия курируемые и финансируемые Агентством по перспективным оборонным научно-исследовательским разработкам Министерства обороны США — они-то точно спят и видят, как совладать с человечеством.
    • 0
      Как правило (не всегда) убивают и воюют несколько другие люди, чем те кто двигают вперёд AI :)
      • 0
        Как правило, первые люди находят возможности использовать результаты труда вторых для убийства и войн. Если не прямо эти результаты и труд заказывают и оплачивают. В частности DARPA курирует и финансирует прежде всего исследования применимые в военных целях. И не думаю, что слово «Defence» в его названии кого-то вводит в заблуждение. За последние 54 года сколько раз армия (в широком смысле слова) США защищалась, а сколько нападала? Хотя бы 50/50 есть паритет?
        • +2
          ok. Если копать глубже, я представляю себе ситуацию следующим образом:
          Люди, в плане эволюции, пока ещё недалеко ушли от животных. Есть ряд инстинктов, которыми они руководствуются. Всякое стремление к прогрессу, цивилизованность, альтруизм, гуманизм и прочие хорошие вещи — в значительной степени наносное, нагромождено поверх инстинктов. Соответственно, войны ведутся не потому, что кто-то там наверху плохой (в той или иной стране). А потому что это людям необходимо. И вариант когда за счёт этого стремления удалось выбить финансы на освоение космоса и некоторые другие гражданские применения дорогих технологий — не так уж плох.
          Тоже самое касается «общества потребления», всяких там способов выделится за счёт демонстрируемых вещей, собственности и пр.
          За последние лет 50 стало немного полегче за счёт того, что научились удовлетворять инстинктивные потребности менее разрушительным для человечества образом, нежели мировые войны. Частично удалось заменить войны конкуренцией в экономике. Часть людей устраивают войны в бизнесе, как замена войн реальных.
          Автор исходного коммента предлагает сначала поработать над человеком. Как это реализовать? Евгеника? По-моему очевидно, что ничем хорошим такие вещи не кончатся.
          Войны роботов с роботами и уничтожение инфраструктуры вместо уничтожения живой силы противника — не самый плохой вариант. Лучший выбор из худших, я бы сказал.
          • +2
            Войны ведутся потому, что это самое экономически выгодное мероприятие.
            • 0
              Да. Но это уже следствие. Почему оно экономически выгодно? Есть же масса всяких занятий, но по какой-то причине они не так выгодны. Наиболее выгодно как раз то, что прямо или косвенно завязано на всякие низкоуровневые вещи.
              • 0
                Погодите. Вся человеческая деятельность завязана на всякие низкоуровневые вещи. Без всяких низкоуровневых мотиваций человек ничего не будет делать, потому как высокоуровневым мотивациям появиться будет неоткуда. Грехи и пороки перечислены в художественной литературе на полке «религия», но без них человек — блажен, читайте — овощ.
          • 0
            Да нет у человека инстинктов. Войны и бизнес — это и есть такая вот цивилизованность. «Общество потребления» воспитывается, оно не прирождённое.
          • 0
            Вообще «поработать над человеком» — не значит сразу кидаться его модифицировать. Хотя бы потому, что не до конца еще ясно почему человек получается такой, какой получается. Сколько из этого заложено в нем изначально, а сколько приобретается в процессе роста и восприятия окружающей действительности.
            И уж тем более не понимаю почему вы считаете, что создание искусственного разума менее безопасно, чем попытки работы непосредственно с человеком. И то и другое при неправильном подходе предельно опасно.
        • +1
          Лучшая защита это нападение.
    • –4
      Вы боитесь появления Бендера? :)
      image
      • +4
        Бендер был сделан на MOS6502
        • +2
    • +9
      А модель мозга человека это не способ изучить человека?
    • –3
      Человек еще себя не изучил толком, <...> а уже пытается создавать нечто, что не тупее его

      Фундаментальная вещь. Даже если человек когда-нибудь не то чтобы даже толком, а полностью изучит себя, он, тем не менее, совершенно точно все равно не сможет создать нечто, что умнее его, а самое большее, на что сможет расчитывать при должном уровне развития технологий — это максимальное приближение «нечта» к своему уровню.
      • +1
        все равно не сможет создать нечто, что умнее его

        Не согласен.

        Положим, человечество создаёт аналог человеческого мозга, но быстрее (очень правдоподобно). Некоторое количество таких автоматических мозгов начинает с немыслимой скоростью развивать науку. Люди только радуются и записывают результаты. А мозги всё ускоряются. И в конце концов возникает ситуация, когда человек за свою жизнь не успевает изучить достаточно, чтобы не только развивать, но и понимать результаты, выдаваемые автоматическими мозгами.

        Уже сейчас объём накопленных человечеством знаний очень велик, и каждому новому поколению учёных приходится всё дольше изучать, прежде чем начинать делать собственные новые выкладки. Если человек сам не изменится, то упрётся в потолок. (Я думаю, что человек тоже изменится. Киборги FTW.)

        Блин, рассказик попадался про сверхлюдей: люди придумали, как создавать сверхлюдей, у которых более широкие мыслительные возможности. Сверхлюди изобрели свой способ обмена информацией, более эффективный для них. Людская наука постепенно вырождалась в одну науку — расшифрование достижений сверхлюдей. Ни автора не помню, ни ссылки найти не могу. Кто-нибудь подскажет? :)
        • +3
          … “The ultraintelligent machine… is a machine that believes people cannot think.”
          I. J. Good
        • –2
          Я не увидел доводов в пользу несогласия :)
          Ни умнее, ни совершеннее (думаю, второе слово точнее) машина, созданная человеком быть не может принципиально, тут вообще глубоко философский вопрос. Если говорить о Вашем примере — ну сделали люди «аналого человеческого мозга, но быстрее», ок, допустим. Но это все равно инструмент. Здорово, что машина (или что там у нас теперь получилось) может делать открытия и выкладывать их на блюде человеку, который использует их, создавая еще более совершенные вещи. В том числе еще более быстрые мозги и т.д. Тут можно до бесконечности фантазировать, но всегда человек будет как бы на шаг впереди.

          Кстати, возможно, мы рассуждаем немного о разном.
          • 0
            Можно согласиться с тем что машина не может превзойти своего создателя, но давно «придуман» принцип обучения, при котором лимитирующим «создателем» является весь окружающий мир. В принципе ничто не мешает сделать самообучающуюся систему без присущих человеку физических ограничений в обьеме и времени жизни и в пределе она будет «умнее» :)
          • 0
            А если к машинам подключить манипуляторы, которые будут создавать ещё более совершенные машины без участия человека?
          • +4
            Ни умнее, ни совершеннее (думаю, второе слово точнее) машина, созданная человеком быть не может принципиально, тут вообще глубоко философский вопрос.

            Формализуйте «умнее» и «совершеннее», пожалуйста. В моей системе ценностей компьютер, который может делать всё, что умею я, только быстрее — это и умнее, и совершеннее.
          • 0
            Программа, которую я написал, обыгрывает меня в крестики-нолики. Что вы там говорите про «создание не может быть совершеннее создателя»?
            • 0
              Deep Blu обыгрывал Каспарова в шахматы. Это единственное, что умел делать Deep Blu.
              (Ну, я надеюсь, мыль понятна.)
        • 0
          Дело за малым. Осталось оцифроватьобнейронить творческое начало научной деятельности.
      • 0
        Почему?
  • +4
    интересно какие ощущения были у симуляции — что ей давали на вход или это была сенсорная депривация?..
    • +2
      На вход ничего не подавали. Машина симулировала состояние нирваны, чистого незамутнённого сознания…
    • 0
      Это, кстати, действительно очень важное замечание — уже происходить создание возможности зарождения сознания, как оно зарождалось в растущем эмбрионе/организме человека. Оно в самом деле может сразу получить сознание очнувшегося в незнакомом месте разума, не наделенного телом, или еще чего. Ох, как все это сложно и опасно.
      • +2
        Ничего особо страшного. В лучшем случае, мы все умрем :)
        • 0
          Ну не знаю, может оказаться, что отключение такой машины — убийство сознания, находящегося в ней. Откуда он появится, куда оно денется и что будет после включения совершенно не ясно, и, к сожалению, никогда не поможет нам в понимании природы этого явления.
          • 0
            Ну можно подумать на примере человека — люди теряют сознание и приходят в себя. Сначала не могут вспомнить, как оказались на полу/земле/в кювете, а потом, через некоторое время, если повезет, вспоминают. Но функции сознания, самоосознание не нарушается, личность остается прежней, но в ее опыте теперь есть потеря сознания.
            Возможно, так будет и с искусственным разумом
          • 0
            Не совсем понял, что может/не может помочь нам в понимании природы сознания. Одно ясно, что человек — существо локальное, и к нелокальным измерениям не приспособленное. С другой стороны я уверен, что сознание — локальное проявление каких-то процессов, как и любой другой процесс из наблюдаемых нами.
            С вопросами к процессам, протекающим вне нашего восприятия, эффективнее обратиться к религии. Только религия способна пролить свет на то, что наше сознание в связи со свойствами этого сознания воспринять не может. :)
            У машины сознание будет локализовано так-же как и у человека. И также как и человеческому сознанию, зачастую выгодно это сознание уничтожить.
            В любом случае, в вопросах искусственного интеллекта поднимать вопросы морали немного… ммм… притянуто за все возможные уши. Это как убивать миллионы ни в чем не повинных клеток чеснока для поддержания удовлетворительного количества витамина цэ в организме.
            Даже, если в отсутствии интеллекта, пить витамин цэ бесполезно (цэ)
  • +2
    эх, с кончика пера статью увели :)
    может вы и обзор вышедшей книги «How to create a mind» напишете? :)
  • 0
    Человек (обезьяна, кошка, Джастин Бибер) это не только набор переключателей в голове, но и набор сенсоров количеством близким с числу переключателей. Суть настоящего «мыслительного» процесса — это реакция на изменение состояния сенсоров, причём не только содержимым черепа, но и самими сенсорами. Пока, что их головой можно только в футбол играть и в шахматы.
    • 0
      Уж чего чего, а сенсоров такой штуковине можно дать несоизмеримо больше, чем человеку.
  • 0
    Вот мне интерестно, как они ассоциацитивную память и выборку событий реализовывать будут? И когда расшифруют алгоритм выбора наиболее правильного варианта из миллионов путем *чуства* а не методом перебора всех результатов? Насколько я помню то же управления самолетами особенно в нестандартных ситуациях никогда недоверялась автопилотам ибо они неспособны за очень короткое время произвести анализ около сотни факторов чтобы принять решение на поворот рулей высоты с убавлением газа для того чтобы выровнять самолет (утрированный пример). То есть дальше именно анализа и обучения одной конкретной задаче (то же распознавание картинок) дело пока непойдет. Или сопостовление разрозненных по времени и и пространству факторов и составление единой картины происходящего. Без этого процессоры так и останутса процессорами а не мозгами.
    • 0
      ассоциативную память, которая по части находит целое или по искаженному находит оригинал уже научились делать. См. сети Хопфилда.
      а кто сказал, что ваше «чувство» это не результат перебора? Вот товарищ Курцвайл, например, очень даже пытается всех убедить, что именно перебор-то и происходит в неокортексе. Даже цифру приводит — порядка 300 млн. концепций в мозгу может уместиться. А благодаря параллельности весь перебор происходит за один шаг.
      • 0
        То есть мозг в единицу времени может одновременно обработать 300 млн. вариантов с учетом порядка 100 входящих параметров?
        • 0
          вообще да, но я не понял что за входящие параметры вы имеете в виду?
          он считает, что в мозге хранится 300 млн паттернов. Все входящие сигналы редуцируются с многомерных до одномерных последовательностей на которых уже и происходит поиск этих самых паттернов. Без каких либо внешних параметров.
          • 0
            300 млн паттернов на 1 ситуацию или всего? Тот же самолет-входные данные-температура воздуха, направление полета, направление и скорость ветра, дождь, видимость, показания приборов.
            • 0
              всего :) на весь неокортекс.
              и входные данные — линеаризованные последовательности сигналов с инпута.
              • –1
                300 млн паттернов, на самом деле я недумаю что хранятса именно паттерны. Потому что в критических ситуациях у нас НЕТ паттерна в большинстве случаев. Паттерны применимы для изученных действий. А вот как быть когда человек действует по наитию правильно? Ведь именно этого у машин нет-адаптативности обучения в зависимости от задач.
                • 0
                  вот этот момент меня тоже смущает в его размышлениях.
                  а с наитием еще сложнее — как вы его определите?
                  плюс к тому, не стоит оценивать работу мозга с точки зрения сознанательной деятельности, потому что сознательная деятельность есть продукт работы мозга. В частности, многие иллюзии восприятия есть ни что иное как результат неточной «передачи» данных из мозга в сознание.
                  Например, для вас изображение с сетчатки глаза плавное и непрерывное. По факту это далеко не так. Так что не исключено, что «по наитию» это просто результат определенных действий мозга. Вопрос в том, каких?
                  • 0
                    Мне кажется что имеются в виду не 300 млн паттернов решения конкретных задач, а 300 млн. патернов подхода к самому процессу решения задач сферических в вакууме
                    Например мне кажется, что у многих в жизни попадались случаи
                    когда оказываясь в нестандартной ситуации вы находите какое-то оригинальное нестандартное решение самостоятельно, понимая какой вы хотите получить результат, и анализируя имеющееся у вас в распоряжении средства. Проходит некоторое время и вы узнаете, что точно так же, или практически так же, аналогичную задачу решил кто-то другой, совершенно обособленно от вас. И тут поневоле начинаешь задумываться, что вся твоя, как тебе казалось, «креативность», нестандартность и оригинальность подхода, на самом деле оказалась не такой уж и оригинальной, и стало быть обусловлена какой-то общей логикой, вот именно об этой логике видимо и идет речь — набор паттернов который своей целью имеет не столько решение конкретной задачи, сколько описание самого процесса решения как явления, не зависимо от поставленной задачи и входных данных.

                    PS: Из собственного опыта: Довелось поработать сервисным инженером, рабочее место в сервисном центре в изобилии кишело «мертвыми» HDD, там-же стоял старый советский холодильник дверца которого не закрывалась плотно, мы было решили что замена уплотнителя на оной решит проблему, но оказалось, что деформировалась сама дверца и замена уплотнителя ничего нам не дала, выкидывать было жалко, опытным путем было выяснено, что оказывая на дверцу незначительное давление в момент закрытия, она таки закрывалась хорошо. Первыми в голову полезли идеи очевидные, аля пружины, и тут меня осенило, что у нас полным полно мощных магнитов (если что они есть в HDD), установив по одному на каждый угол дверцы под основание уплотнителя мы добились очень таки впечатляющего эффекта. Спустя несколько лет захожу в офис к друзьям, говорят «хочешь Коллы — возьми в холодильнике», открываю дверцу с до до боли знакомым усилием, смотрю обычная с виду дверца, спрашиваю «А почему так плотно дверца закрывается?», ну и что бы вы думали? — «А мы туда под уплотнитель магниты запихали» :) (только как выяснилось не из HDD, а продаются сейчас во всяких барахолках как таблетки маленькие и мощные). Само собой тогда я не был не с кем из них знаком, да как они утверждают — сами додумались.
                    • 0
                      ну вот я вчера домучал таки How To Create A Mind и если описывать Курцвейловский подход к пониманию работы мозга, то там все относительно просто: иерархия распознавателей паттернов. внизу иерархии — все более примитивно, вверху — более концептуально. Но сами паттерны — это вполне конкретные последовательности сигналов. Концептуализация идет на уровне классификаций: на вот такой вот набор входящих паттернов будем выдавать вот такой паттерн.
                      Так что я тут вообще не вижу как можно применить терминологию «подход к решению задач». Там нет задач, там есть паттерны. Именно в этом, кстати, я и не согласен с его трактовкой. Но из книги слов не выкинешь :)
  • +6
    Я сам недавно начал детально интересоваться AI и с большим интересом слежу за подобными проектами. Недавно вышел новый фильм о Blue Brain:


    И еще, Рэй Курзвейл выпустил новую книгу — How To Create A Mind. Рекомендую.
    • 0
      прочитали уже? :)
      • 0
        Нет еще, но книга однозначно нравится.
        • 0
          да, и чем же? :)
          • 0
            Рэй в популярной форме рассказывает про то как устроен наш мозг (и других mammals) и почему человеческая цивилизация в ближайшем будущем сможет воссоздать искуственный разум и в дальнейшем очень быстро улучшать. В рамках человеческого мозга Рэй в основном говорит о неокортексе о его повторяющейся структуре, паттернах. Вот, например, очень емкая цитата о повторяющейся структуре нашего неокортекса в сравнение с лесом:
            Let’s think about what it means to be complex. We might ask, is a forest complex? The answer depends on the perspective you choose to take. You could note that there are many thousands of trees in the forest and that each one is different. You could then go on to note that each tree has thousands of branches and that each branch is completely different. Then you could proceed to describe the convoluted vagaries of a single branch. Your conclusion might be that the forest has a complexity beyond our wildest imagination.

            But such an approach would literally be a failure to see the forest for the trees. Certainly there is a great deal of fractal variation among trees and branches, but to correctly understand the principles of a forest you would do better to start by identifying the distinct patterns of redundancy with stochastic (that is, random) variation that are found there. It would be fair to say that the concept of a forest is simpler than the concept of a tree.


            Полагаю, для тех кто довольно близок с нейробиологией книга будет не интересна. А если кто-то совершенно не согласен с концептом технологической сингулярностью в рамках прогнозов Рэя и вовсе раздражающей.

            А вы работаете в области нейробиологии и AI или просто интересуетесь? Вижу у вас есть несколько статей на эти темы.
            • 0
              Ах, вижу вы книгу уже прочитали. Буду ждать вашей рецензии :-)
              • 0
                ну вот сегодня-завтра надеюсь дописать. но если честно, я как-то большего ожидал от Рея.
            • 0
              скажем, ИИ это мое хобби :)
  • 0
    В двадцать первом веке человечество было охвачено ликованием — свершилась давняя мечта: мы, Homo Sapiens, отмечали великий прорыв — создание AI.
    • +4
      Возможно, так и напишут. Только не «мы», а «они»…
      • +2
        «Сейчас не 1999 год, как ты считаешь. На самом деле, ближе к 2199. Какой точно, сказать не могу. Ведь мы сами не знаем. Впрочем, словами всего не объяснить.»
  • +2
    Мне одному в последнее время страшно читать новости, в которых встречается слово DARPA?
    • +3
      Да. Остальная часть человечества от этих новостей просто в восторге.
  • +1
    Очень и очень важное направление исследований.

    Однако, далеко не факт, что такой искусственный мозг будет думать как человек. На забывайте про маргинальные теории сознания, такие как теория о квантовом сознании (см. Пенроуз, «Тени разума. В поисках науки о сознании»).

    Пока не привели никаких результатов, только заголовок. Да и какие могут быть результат, если для достижения уровня младенца 3 лет у такой системы уйдет 4.5 тыс. лет.

    Если создадут реал-тайм мозг, то все человечество будет наблюдать за его развитием. И после 5-6 лет развития можно будет сделать вывод: думает оно как человек или действует по инстинктам, как животное.

    Если эксперимент будет удачен, то:

    1. Это будет означать, что кроме мозга ничего нет. Следовательно, нет и жизни после смерти (все религии станут бессмыслеными).
    2. Человеческая личность больше не будет иметь высшую ценность. Сознание можно будет бекапить и восстанавливать из бекапа. Убил человека — только оплати тех. расходы на восстановление и моральный ущерб за необходимость провести остаток жизни в компьютере.

    Если эксперимент будет не удачен, то:

    1. Есть еще что-то кроме мозга и это нужно будет изучать. Это ударит по самолюбию человечества.
    2. В зависимости от того, какую природу имеет это «нечто», изменится наше отношение к ценности жизни и смерти личности.
    • +1
      1. Это будет означать, что кроме мозга ничего нет. Следовательно, нет и жизни после смерти (все религии станут бессмыслеными).

      Не согласен с этим выводом. Всегда можно сказать, что кроме мозга есть сам «наблюдатель», то, что осознаёт/воспринимает информацию. Является ли это нечто функцией мозга — непонятно. Как проверить наличие этой «осознающей точки» у людей в состоянии «овоща» — тоже неясно. Если есть способы, просветите, буду рад.
      • 0
        Опять же, 2 варианта:

        1. Если сознание лишь наблюдает, но никак не влияет на ход мыслей — то проверить его наличие путем моделирования не возможно.

        2. Если же сознание оказывает некое влияние — то разница между мышлением искусственного мозга (не управляемого сознанием) и настоящего (управляемого сознанием) может быть установлена.

        Вы как считаете, оказывает ли ваше сознание некое влияние на ход ваших мыслей или даже на поведение?
        • 0
          Боюсь, мой ответ на этот вопрос ничего общего с реальным положением вещей не имеет. :) Но мне ближе первый вариант исходя из собственного опыта и опыта других людей, почерпнутого из литературы.
          • 0
            Однако такая теория сознания подходит далеко не для всех религий.

            В христианстве и исламе, к примеру, именно дух человека должен управляет плотскими желаниями. А в данной трактовке дух не может оказать никакого влияния, только наблюдать.

            Учитывая что христиан и мусульман в мире подавляющее большинство, то эти эксперименты очень сильно повлияют на религизоные воззрения людей.

            Итак, если искусственный мозг ничем не будет отличаться от настоящего — уходят со сцены христианство и ислам.

            Если же искусственный мозг не будет работать как настоящий — уходит со сцены буддизм (и индуизм?).

            В любом случае этот эксперимент должен подорвать верования многих миллионов людей.
            • +2
              Наоборот, можно будет организовать рай на сервере, и после смерти поселиться там
              • 0
                Наоборот, можно будет организовать рай на сервере, и после смерти поселиться там


                Я о религиях. Это уже не тот рай, о котором учат религиозные учения.
                • +2
                  Уверен, они что-нибудь придумают.

                  Думаю, сначала объявят, что перенесенное в компьютер сознание не обладает душой, и поэтому не попадёт в рай / попадёт в ад / не является человеком (выберите вариант по вкусу)

                  Потом, наоборот, объявят, что душа переселяется в новый процессор вслед за сознанием.
                  • 0
                    Уверен, они что-нибудь придумают.


                    А я вот, думаю, что искусственный мозг будет работать по другому и по его работе будет видно, что он сильно отличается от нас. А когда начнут разбираться в чем проблема — придут к пониманию квантовой природы сознания.
                    • 0
                      Хотя никаких квантовых процессов в нейронах до сих пор не обнаружено, даже если это так, квантовые процессы можно моделировать, потеряв в скорости.
                      • 0
                        Профессор Пенроуз писал про микротрубочки и возможность вляния квантовых эффектов в них. Однако проверить это, насколько я понимаю, очень не просто (особенно если работает только в живом мозгу).
                        • 0
                          ну на самом деле посчитали. оказалось, что квантовые эффекты там возможны на временах порядка 10е-15 сек что ли. Что совсем не вяжется со скоростью работы сознания.
                          Ох, чую придется писать про квантовое сознание отдельную главу.
                          • 0
                            А можно ссылку?

                            И не понятно причем тут время отклика все системы, ко времены отклика отдельных частей системы?
                            • +2
                              ошибся. там 10е-13 сек.
                              Рей Курцвайл в своей книге ссылается на физика Max Tegmark.
                              Я не понял что вы имеете ввиду под временами откликов. Эта численная оценка приводится как время, в течение которого квантовые эффекты могут влиять на процессы в микротубулах. На более длительных временах, соответственно, влияние этих квантовых эффектов усредняется и на временах порядка милисекунд, на которых имеет смысл разговаривать о сознании, они оказываются очень точно описываемы классическими методами. А классические методы наблюдения за микротубулами не выявили никакого прямого их воздействия на сознание.
                              Опосредованое влияние, конечно же, может быть, как может влиять, например, на ваше сознание информация о ценах на пшеницу в Уганде. Но такое влияние не представляет интереса с точки зрения понимания механизмов возникновения и работы сознания.
            • +1
              Итак, если искусственный мозг ничем не будет отличаться от настоящего — уходят со сцены христианство и ислам.

              Если же искусственный мозг не будет работать как настоящий — уходит со сцены буддизм (и индуизм?)
              Вам самому не смешно такое писать?
              Религия — не естественнонаучная теория, которую можно повергнуть, доказав неверность постулатов. Это вера в чистом виде, она вообще здравому смыслу не подчиняется.

              Советское государство вело пропаганду атеизма, но люди, верящие в колдунов, гадалок и прочих саентологов никуда не делись.

              Будет ли искусственный мозг работать (ставлю рубль, что будет, пусть и не сразу), не будет ли — религиям от этого ни горячо ни холодно. Всегда будут необразованные/малообразованные/воспитанные верующими родителями люди, искренне верящие в сказки, рассказываемые им служителями культа. И большинство из них даже знать ничего не будет про этот эксперимент.

              • –1
                Всегда будут необразованные/малообразованные/воспитанные верующими родителями люди, искренне верящие в сказки, рассказываемые им служителями культа

                Вы недооцениваете религию и ее доказательную базу. Это православие ассоциируется с забитостью (и то они уже подтягиваются). Современная религия старается отвечать требованиям современного общества. Не забывайте, что та же США состоит на 75% из христиан, большинство из которых каждое воскресенье ходят в церкви. А США имеет вооружение, которое превосходит все другие страны вместе взятые (а у кого сила — тот и прав).

                Христианство считается с научными открытиями. К примеру, все течения, единодушно, признали ошибочность геоцентризма, хотя ранее свято в него верили (а некоторые и сжигали на костре). Папа Римский признал теорию эволюцию…

                Это намного более важный эксперимент. Собственно, он ответит на главный вопрос философии да и религии. Однако, будьте готовы к сюрпризам, возможно ошибаются не они а вы…
        • +2
          Если сознание лишь наблюдает, но никак не влияет на ход мыслей
          Для интересующихся, кстати, этот взгляд называется эпифеноменализм.
          По поводу христианства и ислама (вашего другого комментария), мне кажется они не совместимы с нынешними знаниями уже сейчас, но это не мешает этим религиям существовать. И, кстати, как-то читал уже предложения теологов по этому поводу, что, к примеру, роботы тоже будут обладать душой.
          • 0
            мне кажется они не совместимы с нынешними знаниями уже сейчас, но это не мешает этим религиям существовать

            А в чем несовместимость? Папа Римский ведь признал эволюцию…
            • 0
              В данном случае я не про эволюцию, а про современные знания в области нейронаук, прежде всего.
              • +1
                Насколько я понимаю, не все так однозначно.

                Профессор Роджер Пенроуз, возглавляющий кафедру метематики Оксфордского университета (почетный профессор многих университетов) уверен в квантовой природе сознания и необходимости создания новой науки для его исследования. Просмотрите его книгу «Тени Разума. В поисках науки о сознании.».

                Так что, пока есть люди с ученым званием, утверждающие такие вещи — рано говорить о «не совместимомсти с наукой».

                Не редко маргинальные научные гипотезы оказываются истиной, а ортодоксальные — ошибкой.

                Последнее слово за экспериментом. С результатами эксперимента никто спорить не будет.
                • 0
                  Пенроуз, тем не менее, атеист, да и взгляды его можно рассматривать в рамках физикализма (т.е. квантовые эффекты тоже являются физическими феноменами). Конечно взгляды Пенроуза могут не быть физикалистскими, но квантовая природа сознания физикализму не противоречит.

                  Потом я все-таки не о природе сознания, а об ограничениях, которые наша биология накладывает на него. Классический дуализм при современных знаниях в лучшем случае проблематичен, а по мне так и вовсе бессмысленен. Без него же христианство или ислам должны либо производить ревизию своих взглядов, либо расписаться в своей ошибочности.
                  • 0
                    Физикализм, дуализм… Все эти философствования — не являются стержнем ни мусульманства ни христианства. Даже если церковь в данное время и придерживается таких философий — это все очень быстро меняется при обстоятельствах.

                    Так, в свое время, произошло с геоцентризмом. На основании Библии церковь утверждала, что Земля находится в центре мира и все вокруг нее крутится. Кто не согласен — могли и на костер отправить… Сейчас же и Папа и Патриархи осознали ошибку геоцентризма и признали эволюцию (теологическую) как возможную гипотезу создания мира.

                    Стержень христианства — это жизнь после смерти. Если опровергнуть это — то ничего от христианства (как и от мусульманства) не останется. Собственно, ради жизни в раю все и делается.

                    Вот этот эксперимет и покажет, есть ли бессмертная душа, или же все управляется лишь мозгом.
                    • 0
                      В основе христианской теологии лежит греховная природа человека. Но если желания человека можно изменить при помощи химических реакций в мозгу, то это делает христианские положения бессмысленными. Если вы можете избавить человека от греховных желаний при помощи инъекции какого-нибудь гормона, то определенно что-то с христианским учением не так.
                      • 0
                        Вообще в той же Библии не раз упомянуты вещества, изменяющие восприятие реальности. Среди них: вино, сикера, мандрагоры, уксус с желчью (так переведено, но на самом деле наркотик, который давали казненным чтоб не мучались).

                        Считается, что мандрагоры вызвали гипер-сексуальное желание больше виагры. Сикера делала человека глупым.

                        И жизненные обстоятельства и вещества могут влиять на восприятие реальности.

                        И считается, что Бог оценивает тот или иной поступок в зависимости от внешних обстоятельств. К примеру, если украл от голода, не имея возможности заработать — это почти не грех.
                        • 0
                          Уточню: вино делает глупым, а сикера делает буйным. Чем не изменение восприятия реальности?

                          Однако, даже если восприятие реальности искажено — действия человека зависят от его сознания.

                          Если два разных человека напьються до потери памяти — каждый из них будет действовать по разному. Кто-то станет хулиганить а кто-то просто пойдет спать. То есть какая у него душа, скажем так…
    • +2
      Ну с бэкапами не все так просто. Если взять сознание человека, поместить в его клона, не убивая исходник, то получится два одинаковых сознания, которые сразу же станут разными, т.к. с этого момента их опыт станет отличаться. Т. е. клон с копией сознания другого человека будет уже отдельной личностью. Так что и в случае смерти исходника, восстановление бэкапа вряд ли станет восстановлением прежней личности, т.к. по факту она уже будет мертва. Тогда выходит, что ценность заключается не только в самом сознании, но и в его непрерывности.
      • +1
        ценность заключается не только в самом сознании, но и в его непрерывности.


        А сознание как раз прерывно. Мы теряем сознание каждый раз в момент глубокого сна.
        • 0
          Сознание вы теряете, но мозг не теряет состояния.
          • 0
            Как это? Я — это и есть сознание. Кроме меня у моего мозга другого сознания нет.
            • 0
              Ну мозг же не перестает работать когда вы спите.
              • 0
                Если я не помню об этом и ничего не знаю об этом — как это отражается на моей личности?
                • 0
                  Сны вы видите и они влияют на вашу личность.
                  • 0
                    Сны не всегда есть. А когда есть — их часто забывают.

                    Даже если не ограничиваться сном — возьмем кому. Разве человек становится другим после комы?
                    • +2
                      То, что вы забываете сны, не значит, что они не оставили след в подсознании.
                      Глубокий сон мне видится, как что-то вроде hibernate mode. Т.е. мозгу, в отличие от машины, требуется физический отдых, поэтому приходится дампить самое важное и отключаться. Но когда вы просыпаетесь, вы совершенно точно осознаете, что вы все еще являетесь тем же сознанием, что и прежде, не копией и не восстановленным из бэкапа.
                      А вот о коме сложнее рассуждать.

                      Но в целом, возможно, я не совсем верное слово подобрал. Может быть, непрерывность, не совсем подходит.

                      В любом случае, я пытался сказать, что если есть возможность, не убивать исходник при копировании сознания куда-либо, то переносом сознания это сложно назвать.

                      Эта тема, кстати, была затронута в «Линии грез» у Лукьяненко. Там были атаны, которые заключались в том, что если человек умирал, то в ближайшем центре воскрешения, оживлялась его копия путем заливки в нее дампа сознания. И вот если там исходник по факту не умирал, то копия не обретала реального «сознания», а сидела и пускала слюну, не смотря на то, что все необходимое в голову уже залито.
                      • 0
                        Мне сон кажется процедурой рефакторинга сознания — оптимизируются ассоциативные блоки, происходит перераспределение информации на кратко- и долговременную память… Активную обработку новой информации приходится блокировать.
                        И если эту оптимизацию выполнит внешний агент, да ещё и со сменой носителя… возможно, разницы и не будет заметно. А может быть, непрерывность нарушится сильнее.
                      • +1
                        Насколько я знаю по последним научным данным и своему личному опыту, сновидения человек видит даже в самых глубоких фазах сна, а вовсе не только в БГД фазе. Другой вопрос, что сновидения в этих фазах имеют свою специфику и большинство не тренированных в сновидениях людей не может их вспомнить после пробуждения. Другими словами мозг человека во сне никогда не отключается, но замедляет активность — те если сравнивать с компьютерами глубокий сон это не hibernate, а режим sleep например iPad, когда он по прежнему принимает почту и push нотификации, но при этом потребляет минимум энергии.

                        При пробуждении/выходе из комы или клинической смерти человеку кажется, что он является тем же сознанием, что до этого, но не исключено, что копиям будет казаться ровно тоже самое.

                        По сути главный вопрос в том является ли мозг компьютером или же тонким клиентом (радио приемником). Те считает все внутри себя или же подключатся к чему-то внешнему о чем мы пока до конца не знаем.
                        • 0
                          Буду признателен за ссылки на последние научные данные о фазах глубокого сна.
                          А по поводу того, кажется копии что-то или не кажется, на самом деле все равно имеет место быть факт, что исходник мертв или жив. Т.е. факт, что копия не есть то же самое сознание.
                          А когда человек выходит из комы, мы точно знаем, что человек тот же самый, хотя, возможно и с некоторыми изменениями в сознании и психике. Остальное, в принципе, не важно
                          • +1
                            В той же вики даже это расписано — активность мозга есть во всех стадиях — просто она разная:
                            ru.wikipedia.org/wiki/%D0%A1%D0%BE%D0%BD

                            Копий пока нет — поэтому мы не можем знать, что они будут думать.
                            Но сами по себе наши воспоминания и их «непрерывность» не более чем наши мысли — каких либо объективных доказательств, что мы не копия созданная секунду назад или сегодня утром быть не может.

                            Копия и оригинал разумеется разные сущности — но обе могут быть одинаково уверены в своей оригинальности. Если только нет некой неведомой силы ака души в которой на самом деле все и заключено, а мозг не является просто приемником сигналов от нее.
                        • 0
                          При пробуждении/выходе из комы или клинической смерти человеку кажется, что он является тем же сознанием, что до этого, но не исключено, что копиям будет казаться ровно тоже самое.

                          Как то подростками баловались с потерей сознания (гипервентиляция легких, потом нажать на грудную клетку). Я после потери сознания минут 10 не мог вспомнить почему я здесь нахожусь и что со мной произошло.

                          Значит была прерывность. Стал ли я другой личностью после этого?
                          • 0
                            В некоторой степени каждую секунду мы становимся уже другой личностью.
                            С другой стороны общая конва личности сохраняется — но если экстраполировать в этом направлении тогда даже плохая копия уже будет по сути той же личностью — так что тут все очень туманно.
                • +1
                  Тут дело даже не в личности, хотя и она будет отчасти менять свое состояние. Я про то, что непрерывность может быть важна не только на уровне сознания, но и на физическом уровне.
            • 0
              ну у вас, может, и нет, а ввобще есть люди с несколькими Я в мозгу :)
    • 0
      То что человеку нужно 20 лет на развитие, вовсе не значить что эмитирующему человеческий чип мозгу тоже нужно будет проходить этот путь. Ребенок рождается с кучей заложенных рефлексов, 20 лет созревания, не более чем эволюционный фактор, теоретический, можно было бы и сразу родится умным унаследовав например, часть памяти своих родителей. Просто природе это нахрен не надо, ибо она для того людей и убивает, что бы они постоянно рождались и умирали, экспериментируя, таким образом, с разными вариантами развития личности.
      Если же мы говорим о чипе, то его вполне можно сразу будет создать максимально умным ( как естественно и сделают).
      • 0
        Есть такой процесс как «обучение нейронной сети» и он не быстрый. Когда обучат — можно будет информацию сохранить и на ее основе клонировать искусственные мозги.

        Но на обучение в любом случае требуется время.
  • 0
    Вообще-то всё, что человек знает и умеет (код и данные) делится на два основных источника информации:
    1) многовековый опыт, накопленный человечеством — наука и культура
    2) многовековый опыт, накопленный природой человека — ДНК

    Развитие мозга, начинается с работы программы ДНК, которая изначально ни разу не является нейронной сетью. А вот на ее основе уже строится нейронная сеть для сложных приспособленческих задач. И сеть эта, опять же, не просто желе, а сложно структурированный механизм, неразрывно связанный с телом человека. «Обучение» мозга как нейронной сети на самом деле происходит не только при жизни человека. Он (его структуры) формировался эволюцией очень долго.
    • +1
      А в чем вы видите проблему? Есть же проект по исследованию коннектома человека. Вроде как, по последним данным, коннектом оказался намного проще, чем думали ранее.
      • 0
        Угу, физики тоже думали что с открытием протона, нейтрона и электрона-строение атома разгадано.
        • 0
          А выши пронозы каковы? Не смогут понять всех мелочей в ближайшие 100 лет?
          • 0
            Есть всего одна мелочь, это то что мозг и тело человека неделимо, и делимо небудет. Да, голова отвечает за управление, но другие органы человека не менее важны не только в энергетическом плане, но и в плане выработки ферментов и гормонов. В данный момент ученые рассматривают только нейроны и их соединения. А ведь ещё ферромоны и гормоны и их воздействие на ЦНС.
            • +1
              Насколько я понимаю, действие этих веществ достаточно хорошо изучено. То есть с моделированием, по идее, проблем не будет.

              Кроме того, не все из них важны. Некоторые не оказывают принципиального влияния на личность. Даже если получится аналог вечного ребенка без сексуальных желаний — эксперимент будет удачным.
            • 0
              Ну человек без рук-ног и нижней части туловища остается таким же человеком так что эти части тела точно можно отбросить.
              Автономная голова на жизнеобеспечении вроде как тоже какое-то время может существовать — опыты подобные вроде как делали еще в середине века — следовательно все что нужно для мышления есть в голове.
              Разумеется есть не нулевая вероятность, что влияет еще нечто, что современная наука не может детектировать (астрал, душа, квантовые механизмы или нечто подобное).
              Задача эмуляции в первую очередь создать AGI — те машину которая может решать произвольные задачи так же как человек, при этом копирование мозга с его соединениями и телом с его гормонами это лишь один из самых прямолинейных путей. Но с хорошей вероятностью в процессе удастся понять, как это на самом деле работает и сделать все куда более эффективно.
              • 0
                Есть проблема, что обьединяет человека и машину сегодня? Способность решать задачи с помощью обучения. Что различает-то что человек может решать множество задач и для этого нам ненжна смена ПО. То есть пока машина несможет сформулировать самой себе задачу-построение исскуственного мозга невозможно.
                • 0
                  да машина много чего не может, например научиться отличать кошку от собаки на произвольных картинках.
                  про постановку задач: какие-то ученые научили свой ИИ делать теории, ставить эксперименты и верифицировать теории результатами. Давно, но был такой момент, сейчас уже не помню деталей.
                  • 0
                    Насчет кошки и собаки уже может =)
                    Недавно же гугл натравил свою нейронную сеть на видео и фотки и она научилась сама понимать как выглядит кошка и отличать ее от других изображений. =)
                    • 0
                      я знаю о чем вы :) Вы о работе Andrew Ng.
                      И таки да, действительно, они нашли нейрон, который чаще других активировался на изображение кошки и реже всего на все остальное.
                      Но если от кошки у нас на картинке будет только хвост и задняя лапа, чего нам вполне хватит, то его система эту кошку не распознает. Потому что обратное распространение сигнала показало, что паттерн, который максимально вероятно активирует этот нейрон напоминает лицо кошки. А не концепт кошки.
                      • 0
                        Да — разумеется оно еще далеко от совершенства, но начало положено и старый мем, что компьютер не может отличить кошку от собаки уже пережил свое время. =)
                        • 0
                          нет, тут я не могу с вами согласиться.
                          принципы, заложенные в основу проекта те же самые, что используются давно и во многих системах. Можно, конечно, сказать, что начало положено, но оно было положено еще сетями Хопфилда, если честно.
                          С тех пор, как видно, принципиально мало что изменилось, разве что суперкомрьютеры стали быстрее. А идеология та же самая. И как она тогда не приводила к интеллекту, так и сейчас не приводит.
                          В конце концов, даже пчелы и муравьи ведут относительно интеллектуальный образ жизни, имеют потрясающую точность контроля своих движений, способны на социализацию, а у них нейронов-то всего ничего. Так что дело не в количестве нейронов, а в том, что мы не понимаем сути.
                          • 0
                            В этом плане я совершенно согласен: да сути пока не понимаем. У Курцвела, впрочем, в последней книге есть теория, но сложно сказать насколько и она правдоподобна.
                            • 0
                              это вы про книгу, которую мы обсуждаем тут: habrahabr.ru/post/159715/? :)
                              • 0
                                Ага — про нее — про паттерны паттернов =)
                          • 0
                            Ну на мой взгляд тот факт, что сети Хопфилда — это supervised learning, а автоэнкодеры и RBM — unsupervised learning довольно значимы. Так что это как раз можно считать принципиальным отличием.
                            • 0
                              окей, это различие принципиальное, но несущественное :)
                              вот если бы там были разные модели представления данных…
  • 0
    Мне одному вспомнилась вчерашняя статья «Правозащитники призывают принять Первый закон роботехники»?
    Да и про «терминаторов» уже в статье упомянули…
    • 0
      Ну все по любому идет к терминаторам =)
      Только если боевые роботы воюют пока «где-то там», то обычные роботы и развитый искусственный интеллект будет вытеснять с рабочих мест людей везде =)

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.

Самое читаемое Разное