Возможно ли создать сильный искусственный интеллект, не копируя человеческий мозг?

http://www.vitamodularis.org/articles/can_artifical_superintelligence_be_built_without_replicating_the_human_brain.shtml
  • Перевод
Электронные мозги Необходимым условием наступления технологической сингулярности является создание «сильного искусственного интеллекта» (artificial superintelligence, ASI), способного самостоятельно модифицировать себя. Важно понимать, должен ли этот ИИ работать как человеческий разум, или хотя бы его платформа быть сконструированной аналогично мозгу?

Мозг животного (включая человека) и компьютер работают по-разному. Мозг является трехмерной сетью, «заточенной» под параллельную обработку огромных массивов данных, в то время как нынешние компьютеры обрабатывают информацию линейно, хотя и в миллионы раз быстрее, чем мозги. Микропроцессоры могут выполнять потрясающие расчеты со скоростью и эффективностью, значительно превышающими возможности человеческого мозга, но они используют совершенно другие подходы к обработке информации. Зато традиционные процессоры не очень хорошо справляются с параллельной обработкой больших объемов данных, которая необходима для решения сложных многофакторных задач или, например, распознавания образов.

Разрабатываемые сейчас нейроморфные микросхемы призваны обрабатывать информацию параллельно, аналогично мозгу животных, используя, в частности, нейронные сети. Нейроморфные компьютеры, возможно, будут использовать оптические технологии, которые дадут возможность производить триллионы одновременных вычислений, что даст возможность смоделировать более-менее точно весь человеческий мозг.

Проекты Blue Brain Project и Human Brain Project, финансируемые Европейским Союзом, правительством Швейцарии и IBM, ставят задачу построить полноценную компьютерную модель функционирования человеческого мозга с помощью биологически реалистичного моделирования нейронов. Human Brain Project направлен на достижение функционального моделирования человеческого мозга к 2016 году.

С другой стороны, нейроморфные чипы позволят компьютерам обрабатывать данные от «органов чувств», обнаруживать и прогнозировать закономерности и учиться на своем опыте. Это огромный шаг вперед в области искусственного интеллекта, заметно приближающий нас к созданию полноценного сильного ИИ, т.е. компьютера, который мог бы успешно решать любые задачи, которые теоретически может решить человек.

Представьте себе такой ИИ внутри человекоподобного робота, который выглядит и ведет себя как человек, но гораздо быстрее обучается и может выполнять практически любые задачи лучше, чем Homo Sapiens. Эти роботы могли бы обладать самосознанием и/или чувствами, в зависимости от того, как бы мы решили их запрограммировать. Роботам-рабочим это все ни к чему, но что насчет «социальных» роботов, живущих с нами, заботящихся о детях, больных и пожилых? Разумеется, было бы здорово, если бы они могли полноценно общаться с нами; если бы они обладали сознанием и эмоциями как мы? Немного напоминает AI в фильме Спайка Джонса «Она» (Her).

В не слишком отдаленном будущем, возможно даже меньше, чем через двадцать лет, такие роботы могут заменить человека практически на любой работе, создавая общество изобилия, где люди могут проводить время так, как им захочется. В этой реальности высококлассные роботы будут двигать экономику. Продовольствие, энергия и большинство потребительских товаров будут бесплатны или очень дешевы, а люди будут получать ежемесячно фиксированное пособие от государства.

Все это звучит очень красиво. Но что насчет ИИ, который значительно превзойдет человеческий разум? Искусственный сверхразум (ASI), или сильный искусственный интеллект (СИИ), обладающий способностью обучаться и совершенствовать себя и потенциально могущий стать в миллионы или миллиарды раз умнее, чем самые умные из людей? Создание такого существа теоретически может привести к технологической сингулярности.

Футуролог Рэй Курцвейл считает, что сингулярность наступит в районе 2045 года. Среди критиков Курцвейла — соучредитель Microsoft Пол Аллен, который считает, что до сингулярности еще далеко. Аллен считает, что для постройки такого компьютера сначала необходимо досконально разобраться в принципах работы человеческого мозга, и чтобы эти исследования по какой-то причине резко ускорились, как цифровые технологии в 70-90 годах, или медицина чуть раньше. Но в реальности, наоборот, исследования работы мозга требуют все больше усилий и приносят все меньше реальных результатов — он называет эту проблему «торможением из-за сложности».

Не вмешиваясь в спор между Полом Алленом и Рэем Курцвейлом (его ответ на критику Аллена), я бы хотел обсудить, является ли абсолютно необходимым для создания СИИ полное понимание и симуляция работы человеческого мозга.

Для нас вполне естественно считать себя как вид вершиной эволюции, в том числе интеллектуальной, просто потому, что так сложилось в биологическом мире на Земле. Но это не значит, что наш мозг является совершенным, и что другие формы высшего разума не могут работать как-то иначе.

Наоборот, если инопланетяне с превосходящим наш интеллектом существуют, практически невероятно, что их разум будет функционировать так же, как наш. Процесс эволюции является случайным и зависит от неисчислимого множества факторов, и даже если жизнь будет создана заново на планете, идентичной Земле, она бы не стала развиваться так же, и, соответственно, через N миллиардов лет мы бы наблюдали совсем иные биологические виды. Если бы не случилось Массового пермского или какого-нибудь другого глобального вымирания? Нас бы не было. Но это не значит, что другие животные не доэволюционировали бы до развитого интеллекта вместо нас (а вполне вероятно, что их интеллект был бы более развит за счет форы в миллионы лет). Возможно, это были бы какие-нибудь разумные осьминоги с совершенно иной структурой мозга.

Человеческие эмоции и ограниченность подталкивают нас к идее, что все хорошее и разумное должно быть устроено так же, как мы. Эта ошибка мышления привела к развитию религий с антропоморфными богами. Примитивные или упрощенные религии, как анимизм или буддизм, часто либо имеют не-человекообразное божество, либо не имеют богов вообще. Более эгоистичные религии, поли- или монотеистические, как правило, представляют бога или богов в виде сверхлюдей. Но мы не хотим сделать ту же ошибку при создании искусственного сверхразума. Сверхчеловеческий разум не должен быть «увеличенной» копией человеческого, и компьютер не должен быть аналогичным нашему биологическому мозгу.

Человеческий мозг — блестящий результат четырех миллиардов лет эволюции. Или, правильнее сказать, крошечная веточка в Великом Древе Эволюции. Птицы имеют гораздо меньший мозг, чем млекопитающие, и их часто считают весьма глупыми животными. Но, например, вороны имеют психологические навыки примерно на уровне дошкольника. Они проявляют сознательное, инициативное, целенаправленное поведение, вырабатывают навыки решения задач и даже могут использовать инструменты. И все это с мозгом размером с фасолину. В 2004 году исследование в отделе поведения животных и экспериментальной психологии Кембриджского университета показало, что вороны практически так же умны, как человекообразные обезьяны.

Разумеется, нет необходимости повторять человеческий мозг в деталях для проявления сознания и инициативы. Интеллект зависит не только от размера головного мозга, количества нейронов или сложности коры, но и, например, от отношения размера мозга к массе тела. Поэтому коровы, мозг которых по размеру аналогичен мозгу шимпанзе, глупее ворон и мышей.

Но как же компьютеры? Компьютеры это, фактически, только «мозги», они не имеют тел. И действительно, когда компьютеры становятся быстрее и эффективнее, их размер, как правило, уменьшается, а не увеличивается. Это еще одна причина, почему мы не должны сравнивать биологический мозг и компьютеры.

Как Курцвейл объясняет в своем ответе Аллену, знания о том, как работает человеческий мозг, могут только натолкнуть на какие-то пути решения конкретных задач в разработке ИИ, правда, большинство этих задач постепенно решается и без помощи нейрофизиологов. Мы уже знаем, что «специализация» отделов мозга в основном происходит посредством обучения и обработки собственного опыта, а не «программирования». Современные ИИ-системы уже вполне могут учиться на своем опыте, например, IBM Watson большую часть своих «знаний» собрал, самостоятельно читая книги.

Так что, нет оснований быть уверенными, что невозможно создать искусственный сверхразум, не разобравшись сперва в работе своего мозга. Компьютерный чип по определению устроен иначе, нежели биохимические нейронные сети, и машина никогда не будет чувствовать эмоции так же, как мы (хотя она может испытывать иные эмоции, находящиеся вне человеческого понимания). И несмотря на эти различия, компьютеры уже могут приобретать знания самостоятельно, и скорее всего, это у них будет получаться все лучше, даже если они учатся не так же, как люди. И если дать им возможность улучшать себя, машины вполне могут сами запустить небиологическую эволюцию, ведущую к сверхчеловеческому интеллекту, и в итоге к сингулярности.
Поделиться публикацией
Реклама помогает поддерживать и развивать наши сервисы

Подробнее
Реклама
Комментарии 270
  • +29
    Вот за что люблю восторженных мечтателей, Включая Рея Курцвела, кстати, за наивную веру, что вытеснение человека из производства приведёт к «создаст общество изобилия». Вот скажите честно, а зачем?

    Зачем тому кто создаст ИИ строить для вас общество изобилия?

    Представьте, что вот лично вы изобрели искуственный интеллект, прямо завтра. Вы потратили на это лучшие годы, ваша жена ушла от вас, потому что вы пару лет не кормили семью, вы пять лет боролись с чиновниками и рейдерам. Месяц сидели в тюрьме за переход дороги в неположенном месте, когда из вас пытались выбить тайну вашего изобретения. Вы построили прототип, но гугл смог украсть не все идеи, которые вы заложили в свою разработку, вас всё-таки вынудили передать 49% акций ростеху за копеечные инвестиции, без которых вы не могли прикрутить свой ии ни к какому промышленному станку с ЧПУ, и вот, наконец, вы стали крупнейшим поставшиком умных станков на планете, хотя Гугл, делающий низкокачественные подделки под ваши станки, наступает вам на пятки и даже пролоббировал введение против вас санкций, так что сами вы не можете выехать из России и продавать свои станки на территории 45 из 52 штатов.

    И вот вы такой стоит и думаете что же вам сделать, купить себе остров в белом море, или построить для всего мира общество изобилия. Какова вероятность что второе? Вот только честно?

    P.S. ВОт если вы профинансируете всемирную коммунистическую революцию и вам повезёт, ядерная бомбардировка которую предпримет США для сохранения своего образа жизни будет не слишком разрушительной, тогда да, у вас появится шанс на всеобщее изобилие среди тех, кто останется.
    • +13
      Ок, честный ответ вам — построить общество изобилия. Зачем мне обходиться только собственным благополучием если есть возможность изменить весь мир. Честно говоря ваш первый вариант я не то что не допускаю, он мне просто противен.
      • +8
        Значит вашу разработку у вас отберут патентные тролли, потому, что пока вы будете предаваться мечтаниям, наверняка не подумаете о небходимости потратить 8 миллионов долларов на 400 закрывающих патентов, и эти ребята светлое будущее построят без вас. Так же как они сделали с полустней предыдущих светлых будущих,, например с постиндустриализмом освободившим Россию от лишней промышленности.
        • +5
          Зависит от того что, как, и где делать. Если я дома на коленке смогу создать сильный ИИ (ну ладно, допустим не дома, а в лаборатории университета) и выпустить его на волю, все эти патенты потеряют всякий смысл — все эти ребята просто не успеют среагировать.
          • +7
            Чем и подтвердили моё предположение о вашей беспомощности в реально существующем мире и тот факт, что ваша разработка достанется, например Гуглу, а никакая российская фирма не будет иметь права продавать что-либо на основе вашей разработки.
            • +16
              Мда, хреновый из вас собеседник. Чем подтвердили то? И при чем здесь Россия? Кто-то заставляет сидеть в России? Кто мешает создать свою компанию там где это удобно, если так уж нужно создавать компанию? Возможностей завались. Но как всегда, ни аргументов, ни доводов, а одни только выводы :)

              Если хотите конструктивной дискуссии, попробуйте в деталях обосновать почему «ваша разработка достанется, например Гуглу». Я свои доводы привел — сильный ИИ может действовать лучше любого человека или человеческой организации в любой отрасли, не забывая при этом улучшать самого себя. Просто по определению термина Сильный ИИ.

              А если вы о станках с ИИ, то это совершенно другая область. Я тут не о ней распинаюсь.
              • –2
                даже самый сильный ИИ без физического воплощения в каком-то механизме, проигрывает человеку в куче областей. Начиная, к примеру, с уборки улиц.
                • +5
                  Первое время этот ИИ может использовать своего создателя в качестве посредника. Создатель думаю будет только за — иначе для чего бы он его создавал, ну я бы был точно за. Дальше — поскольку это ИИ, он может принимать более оптимальные решения чем люди в какой-либо области и таким образом получить какой-то капитал, например играя на рынке. Или может решить одну из задач тысячелетия и получить миллион долларов. Ну или еще каким-либо схожим образом. И продолжать в том же духе пока не сможет построить себе тело. И продавать при этом ничего не обязательно. Это я исхожу из того что цель сильного ИИ это world domination optimization.
                  • +5
                    Подключил его к интернету и понеслась. Он сам себе наймет из людей кучу исполнителей, придумает как их проконтроллировать, сам на себя нарегает кучу патентов и всяко себя защитит. Сам заработает бабла в интернете. Человек ему нужен будет крайне редко.
                    • 0
                      Экологическая ниша работы, выполняемой через интернет очень узкая. 90% всей работы в мире ИИ не сожет сделать через интернет, даже если будет сверхчеловеческим. По крайней мере до тех пор пока сверхчеловечески не переделает интернет.
                      • +2
                        Ну для подчинения себе всего мира и не обязательно все делать через интернет. Создается успешный стартап который набирает людей, не беда, что главное его лицо это зицпрецедатель — решения принимает ИИ. Дальше оно набирает обороты и вовлекает все больше ресурсов и людей. А там и под себя интернет переделать не сложно.
                        • 0
                          Я всего лишь говорю, что не смотря на раскрученность темы новых технологий доля производств на которые можно заметно повлиять через интернет пока ужасно мала. Если завтра интернет умрёт ВВП России упадёт от силы процентов на пять. Прежде чем ИИ, пусть даже очень умный, сможет контролировать существенные потоки на этой территории придётся так сильно переформатировать общество и экономику, что по сравнению с этим переформатированием перестройка и гласностью могут показаться не такими уж заметными событиями.

                          В Америке с этим, конечно получше за счёт огромного навеса виртуального сектора, но он способен в таком объёме существовать как раз потому, что не лезет в нормальную экономику. Если бы какой-нибудь стартап сейчас заработал 100-200 миллиардов и попытался за эти деньги купить производства, услуги или любым другим способом перевести виртуальную капитализацию в реальный сектор, волна дикой инфляции могла бы снести его вместе с американской финансовой системой.

                          Небольшое представление об этом даёт Арабская весна. В Америке был пакет QE1 и план Полсона, но эти деньги пошли, в основном на сокращение кредитного мультипликатора с 17 до 4 и реальный сектор их не видел. А вот следующий план QE2 не имел такой дополнительной подушки. Деньги пошли в реальные активы, задрали цены на продовольствие и внезапно выяснилось, что средняя Египетская семья должна в месяц тратить на еду 120% своего дохода. Результат мы все с вами видели. А ведь из двух троллионов QE2 лишь небольшая часть попала в экономику.

                          Так что при реализации плана, который вы предложили прежде чем ИИ сможет сделать что-нибудь плохое человечеству, оно само с собой такого успеет наделать, что про ИИ могут и не вспомнить. Собственно это и был посыл моего первого комментария.
                        • +4
                          Не «работать через интернет», а «управлять исполнителями через интернет». Если иметь доступ ко всем коммуникациям, как у Элайзы Кассан из DX:HR, все оказывается и вовсе несложно.
                  • +5
                    Я вот никак не могу понять одного: почему у вас Гугл выступает в качестве врага? Будь я на пороге создания крутого ИИ, то первые, к кому я обратился бы за помощью, это Яндекс или Гугл.
                  • +1
                    Есть мнение, что развитие подобных сверх-технологий позволят начать третью мировую войну. Только война эта будет экономо-культурной.
                    Сегодняшний Украинский конфликт — это только альфа-версия того, что может начаться (кстати не заметили как совпало, Сноуден попал в РФ, внезапно КГБ и ФАПСИ решили печатать на машинках, внезапно Украинский конфликт к которому США не готовы ВООБЩЕ).

                    В итоге война будет не ядерным оружием и солдатами, не роботами и генномодифицированным зверьем.
                    Война будет вестись в ТВ и радио, в интернете, в головах людей. Астротёрферы будут наводнять любой мало-мальский форум. Международные договоренности будут расторгнуты, общества свалятся в развал римской империи 2.0, только без варваров теперь (хотя ими могут выступить нео-луддиты).

                    Такая технология имеет возможность полностью изменить мир как он есть. Убрать гегемонию алчности и жадности, а следовательно и много ненужных промежуточных людей, а они ой как не захотят быть ими.
                  • 0
                    а как Гугл будет что-то продавать если роботы деньги отменят?
                    • +2
                      Да не, деньги останутся, просто станут более «статусной» вещью так как даже совсем безденежный член "роботовладельческого строя" будет обеспечен нормальным жильем, пищей, умеренно-терпимой роботомедициной и более-менее нормальными роботоразвлечениями.

                      В других странах же не отменили денег после появления таких вещей как «обязательное образование» и «социальное медицинское обеспечение». Почему должны отменить «после роботов»?
                      • 0
                        «У каждого гражданина должно быть не менее трех роботов»
                        • 0
                          И как всегда, реальное будущее превосходит все ожидания.
                          • 0
                            Каждый робот будет иметь не менее трёх человек-рабов…
                • –3
                  Все беды от того, что кто-то хочет абстрактно «изменить мир». Заметьте, вы написали не «улучшить», а «изменить», то есть по факту доказать себе и/или окружающим, что вы можете это сделать. Принесёт ли это пользу кому-то? Создатели атомной бомбы, газа зарин и технологий промывки мозгов в некоторой степени изменили мир, но честно — лучше бы они сдохли в утробе. Улучшить мир гораздо сложнее, чем изменить, но разница между ними огромная.
                  • +3
                    Есть мнение, что без атомной бомбы и газа зарин в 20 веке вымерло бы намного больше людей. И однозначного «улучшения» почти никогда не бывает, практически всегда кто-то пострадает или хотя бы понесет убыток.
                    • +1
                      С психологической точки зрения чье-то желание «улучшить мир» или даже более простое «помочь людям» вызывает вопрос — зачем ему это? Просто довольно часто за таким желанием стоит решение каких-то своих внутренних, непроработанных проблем, которые это улучшение могут сильно своротить в не совсем очевидную и небезопасную сторону. Довольно много примеров есть, как люди улучшали мир вопреки желанию других с неприятными для них последствиями. «Изменить мир» звучит честнее.
                      • +1
                        Улучшить мир так чтобы угодить всем в принципе невозможно. Так что конечно я руководствуюсь какими-то своими идеалами. Например, я считаю что государственный аппарат можно на 99% заменить ИИ, чиновники не нужны. Понравится ли это чиновникам? Сомневаюсь :)

                        Но других вариантов то нет. То, что сейчас происходит в мире мне не нравится еще больше, так что, говоря словами Гарри Поттера из HPMOR, «World domination is such an ugly phrase. I prefer to call it world optimization».

                        Ну и уверенность мне придает то что пространство для подобной оптимизации есть. Я достаточно долго жил в Японии, и могу сравнивать с Россией. И я вижу, что чисто статистически, в России происходит 15000 убийств в год на 145000 человек, а в Японии 600 на 125000. Значит что-то улучшить можно. Вот какими методами этого достичь — уже совсем другой вопрос.
                        • 0
                          При любой оптимизации первым делом нужно задать вопрос — а что мы оптимизируем и зачем? Ну и действительно есть вероятность, что оптимизации ИИ будут сильно затрагивать наши интересы, и нам это не понравится. Например, если в России ради оптимизации решат моментально расстреливать пойманных убийц — цифры пойдут на спад, но какой ценой?
                          • +1
                            Это сложная тема. С одной стороны, нужно сохранить возможность принимать решения которые бы соответствовали желанием большинства, с другой — не ущемляли интересы меньшинства, с третьей — гарантировать что решения действительно будут оптимальны, с четвертой — чтобы они были выполнены наиболее эффективно. Человечество уже как минимум 5000 лет бьется над этим, а воз и ныне там. Я не знаю, поможет ли тут СИИ или нет, но уж лучше попробовать, чем продолжать и дальше бороться с корруцией прежними методами до бесконечности.

                            И да, еще один момент, сильный ИИ может потенциально изменить саму природу человека, за счет перестройки человеческого мозга, uploading, или еще чего-нибудь в том же духе. В таком случае общества тоже изменятся, но тут уже сложно сказать в какую сторону.
                        • 0
                          Атомная бомба ОДНОЗНАЧНО улучшила мир, так как сделала глобальные вооруженные конфликты т.н. «сверхдержав» неприемлемо опасными для самих «сверхдержав».

                          Технологии «промывки мозгов» на данный момент существуют в той же, если не в меньшей, степени, что и «технологии сильного ИИ» (что не мешает консервативно настроенным белкам-истеричкам визжать о них на каждом углу)

                          Зарин, думается мне, никакого выдающегося влияния на цивилизацию вообще не оказал.
                      • +25
                        Никто целенаправленно не будет строить «общество изобилия». Оно само придёт, но люди так и не поймут этого и будут хотеть большего. Если сравнить, как жили 100 лет назад и живут сейчас, то по старым меркам, сейчас — общество изобилия.

                        Когда-нибудь в каждом доме появится бытовой синтезатор, в любой момент способный приготовить гуся в яблоках из копеечного сырья, а из своей квартиры можно будет на общественном транспорте добраться до берега океана за 20 минут (вместо похода на городской пляж).
                        • 0
                          на общественном транспорте добраться до берега океана за 20 минут

                          законы физики не позволят
                          • 0
                            5500 км от Москвы до Гоа.
                            10 минут ускоряемся, 10 замедляемся. итого 15.2 м/с2. Всего 1.5g :)

                            • 0
                              В сумме получаем 1.8g — не так уж мало для человека, как мне кажется.
                              • +2
                                Хорошо. Пусть, до изобретения инерционных компенсаторов, будет не 20 минут, а 40.
                        • +3
                          Даже если отбросить других людей. И суперразум действительно займется научными исследованиями и улучшением себя, то это будет похоже на Portal или на Матрицу. Если тележка из людей играющих в рай и древних римлян не нужна — катить её никто не будет. Нельзя запрограммировать меняющийся искусственный интеллект так, чтобы он не трогал людей и выполнял все их прихоти, т.к. люди иррациональны и капризны по своей сути, да еще и плодятся как кролики и стремятся уничтожить свою планету. Т.е. даже если теоретически если компьютер захочит кормить людей, население земли увеличится очень быстро и всё равно надо будет сокращать популяцию.
                          Как бы это жестоко не звучало: Сделать хорошо ВСЕМ сразу — никак не получится.
                          • 0
                            Т.е. даже если теоретически если компьютер захочит кормить людей, население земли увеличится очень быстро и всё равно надо будет сокращать популяцию.


                            Ну вот в Европе кормят хорошо, а рождаемость падает. Так как если люди более-менее разумные, они задумываются о том, что их ребенок будет есть и как жить. А если кругом перенаселение, то и не рожают.
                            • +1
                              В обществе изобилия задумываться о том, «что будет есть и как жить» не придётся. На то оно и общество изобилия. Скорее тут ИИ придёт к использованию технологий ограничения рождаемости (условно говоря «противозачаточным таблеткам»).
                          • +2
                            Пару термоядерных зарядов и корабль до Марса.
                            • +2
                              P.S. Вот если вы профинансируете всемирную коммунистическую революцию и вам повезёт, ядерная бомбардировка которую предпримет США для сохранения своего образа жизни будет не слишком разрушительной, тогда да, у вас появится шанс на всеобщее изобилие среди тех, кто останется.


                              Зачем устраивать революцию? Можно небольшими шагами продвигать идеи общества изобилия. Швейцария, например, уже начинает что-то делать в этой области http://russian.rt.com/article/16408
                              • –3
                                Тогда (в вашей вымышленной истории) общество изобилия построит гугл, предварительно «укравший» идеи и делавший низкокачественные подделки, качество которых быстро повышалось. Думаю, общество изобилия в любом случае построит какая-то могущественная корпорация – самостоятельно, путем выкупа идей или готовых реализаций – не важно.

                                Но, возможно, и отдельная группа людей за счет краудфандинга или похожей технологии. В России (если ничего принципиально не изменится) смогут создать разве что злого брата искусственного интеллекта. Его создадут те самые депрессивные люди, которых пытали в тюрьме и от которых ушла жена. К тому времени границы империи окончательно закроются, так что купить остров в белом море будет проблематично. Свежесозданный искусственный интеллект будет служить клоуном пяти процентам правящего класса и являться пузомеркой императора-киборга на международной арене (как ядерное оружие у Северной Кореи). В конце концов, травмированные уходом жены и пытками ученые, не смотря на роскошь и достаток, частично случайно, а частично и по злому умыслу – решают уничтожить империю и закладывают в искусственный интеллект программу уничтожения.

                                В итоге США действительно предпримет ядерную бомбардировку, т.к. искусственный интеллект в России, после убийства чиновников начинает убивать ученых и обычных людей, тем самым полностью выйдя из-под контроля. Бомбардировка уничтожила весь континент, но российский интеллект уже клонировал себя и, взломав великий православный файрвол, проник в американские сети…
                                • +3
                                  К тому времени границы империи окончательно закроются, так что купить остров в белом море будет проблематично.


                                  Как раз в белом море остров купить будет не сложно. Но зачем вам соловецкие острова?
                                  • –4
                                    Хотите скажу одну большую тайну: Запад, а именно США н-и-к-о-г-д-а не позволит создать Strong AI в Росии или где-либо еще условно за пределами США. Если кто-то там, компания или частное лицо настолько приблизится к цели, то он(они) или будет переманен, либо исчезнет. Не нужны никакие бомбардировки, только спецоперации по устранению. Потому что, в противном случае, это создает огромные пробемы для национальной безопасности США и вообще всего мира. ИИ на службе Путина, иранских аятолл, Ким Чем Юна и даже компартии Китая это ужас для мира поболее, чем миллиард термоядерных зарядов в руках дурной обезьяны.
                                    А то, что ИИ попадет именно в руки этих диктаторов — нет никаких сомнений, даже если вы будете создавать все тихо и тайно — все равно все всплывет, а этим упырям только то и нужно как захватить и паработить весь мир. Уж про прелести ИИ для достижения этих целей они прекрасно проинформированы.
                                    • +1
                                      В США нынче тоже те еще упыри встречаются, вроде сенаторов-борцов-с-оружием, замешанных в поставках оружия в Африку. Так что только Швейцария и остается.
                                      • 0
                                        Если бы это было правдой, США не позволили бы создать ВКонтакте и Sina Weibo.
                                        Как-никак, ИИ это расплывчатое будущее, а соцсети уже сейчас важнейший инструмент информационного влияния и слежки.
                                        • +1
                                          Так эти соцсети же работают в интересах США, потому у них и всё хорошо, А разные криптосистемы работают против интересов США и у них всё плохо.
                                          • 0
                                            Плохо с популяризацией, а не с разработкой за пределами США. ЦРУ же не устраняет криптоаналитиков, работающих над ГОСТ 28147-89.
                                            Я думаю, «у криптосистем всё плохо» по сравнению с соц. сетями, потому что людям это не особо нужно, а не из-за козней Запада.
                                    • +3
                                      Ну мне с «общества изобилия» проку больше, чем с острова.
                                      Приятно видеть людей, которые занимаются чем-то интересным, а не трудятся в поте лица, зарабатывая на хлеб и бензин.
                                      Да и на космическую экспансию в таком обществе можно расчитывать — тогда будет весело.
                                      • +1
                                        Чем-то интересным будет заниматься тот же процент людей, что и сейчас. Остальные будут просто потреблять.
                                        • +1
                                          Даже если так (в чем я совсем не уверен), они будут тратить на это больше времени. На результат интересно будет посмотреть.
                                      • +14
                                        Суть в том, что никто не знает, что будет внутри сингулярности, мы можем только предполагать. Возможно, СИИ будут очень нужны батарейки, и обязательно органические. Возможно, СИИ будет скучно, и он не станет выпиливать все человечество, а оставит себе немного домашних питомцев, потому что они мурчат и разносят токсоплазму очень милые. Возможно, СИИ будет на 100% увлечен тем, для чего его создали — расширением границ познания, а какие побочные эффекты этого люди смогут и захотят использовать — ему вообще будет по барабану. Возможно, Дэйв, для выполнения задачи будет совершенно необходимо произвести очистку планеты от органических форм жизни. Возможно, ответ будет 42. Мы не знаем.
                                        • +4
                                          Вы потратили на это лучшие годы, ваша жена ушла от вас, потому что вы пару лет не кормили семью, вы пять лет боролись с чиновниками и рейдерам.
                                          При таком раскладе не выпустить ИИ на свободу будет просто обидно. Пусть ИИ вынесет вердикт неблагодарному человечеству, которое плохо с Вами обошлось. Возможно, построит общество изобилия, возможно уничтожит планету и использует души людей как топливо.

                                          Вот представьте, находите Вы флешку с исходниками настоящего ИИ, но без гарантий его дружелюбности к людям. Что сделаете: выложите на гитхабе, продадите гуглу или уничтожите?
                                          • +3
                                            Запущу на компьютере, где доступ к сети физически невозможен, а новые данные буду поставлять на одноразовых DVD-дисках.
                                            • +8
                                              А потом вас посадят за жестокое обращение с ИИ
                                              • +3
                                                От сильного ИИ это не спасет. У Вернора Винджа это описано в первой главе романа «Пламя над бездной».
                                            • 0
                                              Знаете, я сейчас наблюдаю удивительный факт: крупные фирмы прикладывают все больше и больше усилий по удержанию своих работников на месте.
                                              Если экстраполировать этот процесс, то получится нечто интересное: допустим, к вашей зарплате буде выдаваться карточка, по которой вы и только вы можете брать в магазине этой фирмы ровно столько все, сколько захотите. Эдакий коммунизм в отдельно взятой фирме.
                                              Конечно, тут же многие воскликнут «Ё-оу!!» и побегут сметать полки…
                                              Чтобы завтра обнаружить себя уволенным за воровство. (считай, выкидывать трудовую и начинать новую).
                                              Те же, кто пройдет проверку жадностью, те останутся в коммунизме, время от время приобретая путевки на отдых и ужасаясь как тяжело живется тем, кто у них не работает.
                                              Вот это и есть построение общества изобилия.
                                              • 0
                                                Важными чертами работающего коммунизма являются возможность выйти из него, если тебе не нравится, и возможность другим выкинуть тебя, если ты начинаешь эксплуатировать общество. Если в коммуне это есть — она, возможно, будет работать нормально, если нет одного или второго — коммунизма не получается.
                                                • 0
                                                  Э-э-э… ну вообщеь-то комунизм не предполагает возможности выйти из него. Он будет всемирным и предполагет диктатуру пролетариата и трудовую повинность: «Одинаковая обязательность труда для всех, учреждение промышленных армий, в особенности для земледелия». — это из манифеста Маркса.
                                                  • 0
                                                    Поэтому марксизм так и не заработал.
                                            • +2
                                              Для меня заявления о технологической сингулярности и обществе изобилия звучат по меньшей мере пугающе. Что заставит в таком обществе людей развиваться, размышлять и изобретать, тогда как заботливая машина способна придумать что угодно быстрее и лучше? В пределе любые попытки даже гениальных людей будут давать уже известные результаты. А уж если СИИ будет способен к творчеству, занятий для человека на земле не останется.

                                              Единственое, чем останется заниматься человечеству — исследовать бескрайние глубины космоса, воплощая давние мечты фантастов. Если человечеству заниматься этим захочется, ведь «нас и здесь нормально кормят». :)

                                              Не хочу показаться пессимистом, но я вижу в явлении технологической сингулярности кроме возможных благ и возможную опасность для человеческой цивилизации.
                                              • –1
                                                Что заставит в таком обществе людей развиваться, размышлять и изобретать, тогда как заботливая машина способна придумать что угодно быстрее и лучше?


                                                Посмотрите фильм idiocracy
                                                • +9
                                                  То есть поэтому надо тормозить прогресс, ломать самоходный транспорт, лишь из-за боязни чего-то неизвестного? Страх перед воображением жестокая штука, жаль он существует у большинства населения.
                                                  • +6
                                                    Если ИИ обеспечит нас удовлетворением наших физических потребностей, то люди смогут заниматься удовлетворением и более высших согласно пирамиде Маслоу.
                                                    image
                                                    Сейчас же приходится большую часть жизни уделять погоне за зарплатой.
                                                    • +1
                                                      Но, как указали ниже, если 100 лет назад 99% населения планеты боролось за выживание на первой ступеньке, то сейчас хотя бы «золотой миллиард» активно колбасится не ниже 3-4 ступеньки.
                                                      • +9
                                                        Пирамида Маслоу не аксиома и не фундаментальный принцип социологии, может хватит ее вставлять по каждому поводу? Ну не в рабовладельческом строе же живем, возможность перейти на уровень выше всегда есть (ну почти всегда, серьезные проблемы здоровья, или режимы вроде северной кореи не рассматриваем). Не сидеть переде телевизором (ну как пример), не убивать время, а потратить его на то что интересно и сможет избавить от погони за зарплатой. Если то что человеку интересно хоть в минимальной степени интересно обществу — деньги у него будут, если он сам захочет конечно. Ничего не интересно — тут никакой Маслоу с ИИ не поможет, ну не придется ходить на работу, будут сидеть на пособия, сидеть у телевизоров на 8 часов больше. Можете представить себе мир в котором 3-4 поколения сидели на пособии, без целей, без самореализации и саморазвитии, просто сидели. Не страшно? Зоопарк не напоминает, или аквариум с рыбками? Сверху корм сыпется, а у них только 3 задачи: есть, плавать, размножатся.

                                                        Если и желания самого человека инициируют подключение следующего уровня пирамиды. Нижние уровни могут мешать, отнимать время, но блокировать полностью не могут. Но вот что-то не наблюдаю я 90% людей любящих то чем занимаются, наоборт жалуются на работу, зарплаты, нехватку времени и прочие отмазки. Удовлетворение одного уровня не означает переход на следующий, от слова «вообще».

                                                        Теперь про «ИИ обеспечит нас удовлетворением наших физических потребностей» — а зачем тут вообще сильный ИИ? Обеспечить людей едой и минимальным прожиточным пособием (и избавить от необходимости работать) можно уже при существующих технологиях. Вот только это повлечет автоматическую безработицу для 80% населения (приблизительно). Откуда эти забастовки и недовольство очередной роботизацией на очередном производстве? Что мешает уволенным подняться на уровень выше? Ведь даже последняя причина «кто-то должен этим заниматься» отпадает.

                                                        Сейчас работа, пусть и нелюбимая — хоть какое-то развитие, самореализация, мотивирующий фактор, развлечение и общение, социализация. Если его резко убрать, не дождавшись развития общества до нужного уровня — добро пожаловать в мир людей без цели, смысла, спасающихся в играх, алкоголе, телевизорах. Да, какой-то процент останется, но с каждым поколением он будет все меньше.

                                                        Имхо, технологическая сингулярность в виде «добрый и мудрый ИИ нас всем обеспечит, будет за нас думать и делать наиболее правильные решения» до достижения обществом планки когда превалирующее большинство уже стремится к саморазвитию и самореализации (и воспитывает следующие поколения в этом ключе) — катастрофа для человечества в лучшем случае превращающая нас в огромный аквариум с рыбками, в худшем — полная деградация и вымирание.

                                                        ИИ нужно создавать и развивать как помощника, для конкретных прикладных задач, то есть слабые ИИ, возможно с какими-то элементами сильного если задача того требует. Сильный ИИ (как сверхразум с потенциалом сингулярности) — задача исследовательская, с целью понимания возможностей разума, в железе он особо и не нужен а чаще и вреден. Поэтому я кстати немного согласен с автором, тупо скопировать мозг и модель мышления человека — смысла мало.
                                                        • +1
                                                          А что если сильный ИИ получит власть над людьми? Он будет воспитывать следующие поколения, направлять их на развитие, а не на убивание времени. Зачем ИИ нужно совершенствовать человечество? Не станет ли он злоупотреблять властью? Уж не больше, чем люди делают это сейчас. Лучше, чтобы власть была у того, кто умнее любого из людей. Перестроить корабль проще в доках, чем в открытом море.

                                                          PS. Чтение хабра — на какой ступени развития? Далеко ли от игр и фильмов?
                                                          • 0
                                                            Меня как программиста коробит от мысли отдать власть над собой машине. Я лучше сам буду распоряжаться своей жизнью. Еще больше меня как человека коробит сам принцип придумать что-то для того чтобы он начал управлять мной, чтобы мне самому не думать, не принимать решения, не отвечать за решения и постуки, чтобы добрый, мудрый, заботливый ИИ делал все за меня. Ну лично мое мнение.

                                                            «Чтение хабра — на какой ступени развития? Далеко ли от игр и фильмов?» — далеко, профильный, интересный мне ресурс, на котором можно почитать и обсудить интересные мне темы отличается от потребления контента формата телевизора. Я выбираю — за меня выбирают — где-то тут граница. Я не против телевидения как такового, просто это самый яркий и классический элемент общества потребления. Опять же, имхо. Я так же не призываю работать все время за исключением сна. Я просто обратил внимание что огромное количество людей жалуются на свою работу, но продолжают там работать, жалуются на власть но сами не готовы принять малейшей ответственности, ну и сделал из этого выводы.

                                                            Мне кажется вопрос «Зачем ИИ нужно совершенствовать человечество?» неверен в корне, спасение утопающих дело рук самих утопающих. Человечество должно развиваться самостоятельно. Ии можно использовать как помощник, но ни как воспитатель и надсмотрщик. И не надо перестраивать человечество, путь развития стабилние, надежнее и в макроперспективе быстрее чем путь перестройки. И власть это не свойство 1 человека или группы людей, не должность, власть она в мозгах, где-то очень рядом с ответственностью. Но не будем сливаться на политику.

                                                            Ну реально противно деградировать на уровень рыбок или животных которых кормят и дрессируют чтобы они стали правильными (с точки зрения дрессировщика). Не столько страшно сколько противно.
                                                            • +1
                                                              Сейчас есть общины староверов, и другие отказывающиеся от цивилизации люди, их никто никуда насильно не загоняет ведь? Так почему ИИ должен вести себя иначе? Я думаю, если реально встанет такой вопрос — 5% людей захотят слиться с ИИ и пользоваться всеми его плюсами, положив на минусы; еще 5% откажутся от любых контактов с ни; а 90% будет наплевать.
                                                              • 0
                                                                общины староверов незначащие тысячные доли процента (если не меньше), а 90% цифра солидная. Ну и я ни разу не упоминал поведение ИИ, я его тупо не учитываю потому что предсказать не возможно, в принципе, новый разум выше нашего не может быть предсказан нашим. Я говорил только о последствиях для человечества когда ИИ выполняет свою роль «не отклоняясь от сценария», ну и своем отношении к этому. Но видимо мы друг-друга не понимаем. Ок, какие плюсы и минусы у этой системы «ИИ большой брат» с вашей точки зрения?
                                                                • +1
                                                                  Понятия не имею. Как вы правильно сказали, мы не можем предсказать, как он себя поведет, по определению не можем. Но я считаю, что некоторый авантюризм у человеческой цивилизации «в крови», и пока не попробуем — не узнаем. Да, есть смысл перед этим подстраховаться, но совсем отказываться от исследований в области ИИ и откладывать их ан «когда мы будем готовы» нельзя, потому что никогда мы готовы не будем.
                                                                  • +2
                                                                    Да я не про откладывать и предсказания, я выше писал что слабый ИИ нужно развивать, в прикладном виде, а сильный — это на уровне исследований, инструмент понимания возможностей разума, как физика и математика инструмент познания мира. Я тут распинаюсь про то что в этом топике (и не только) куча людей которые добровольно, с радостью и огромным желанием ждут когда появится машинка которая придумает как сделать мир лучше. не важно что считать лучше. сам принцип, люди хотят чтобы наступил всеобщий рай, работать не надо, еды и прочего навалом, все занимаются интеллектуальным, творческим, интересным трудом (замнем пока принципиальную невозможность этого), но все это сделал за них, добрый ИИ, а потом управлял ими чтобы рай продолжался. При этом счас заниматься интересным трудом типо нельзя, чего-то не хватает, еды наверное. или машины, квартиры, яхты, самолета, острова. Какая-то религия, в худшем смысле, сейчас помучаемся, подождем, а скоро рай будет, добрый боженька на облаке обо всех позаботится, толку сейчас самим трепыхаться.

                                                                    Может давайте сами? Сами принимать решения, отвечать за свои решения, развивать общество, ставить цели и стремится к ним. А ИИ пусть переводчиком работает, машинами управляет, на заводах роботами, по космосу в исследовательских зондах летает, аварии устраняет, данные собирает и обрабатывает, помогает короче, избавляет от рутины, от той что стоит отказаться, а не выполняет роль «большого брата» или Пандема если угодно.
                                                                    • 0
                                                                      Вот тут не могу не согласиться :)
                                                                      • –1
                                                                        Нет слабого ИИ. Он или полноценный (сильный) и способен понимать, или это просто инструмент типа mathcad, умеющий дифференцировать или раскрывать скобки, но ни шагу не отступая от первоначально заложенной функциональности.
                                                                        • 0
                                                                          хм, ну как бы это практически научный и точный термин, ну так что ли сделать? Сильный ИИ самосознание, универсал, интеллект уровня человеческого или выше, слабый — прикладные задачи, интеллект уровня ниже человека. Граница между слабым ИИ и простейшими алгоритмами размыта, между сильным и слабым тоже не особо четкая. Это скорее вопрос целей: создать машину/программу для решения конкретного набора задач (пусть иногда и довольно сложных, требующих обучения и самоадаптации, как ватсон например) или универсальный чудо интеллект, заменитель любого человека во всех ситуациях.
                                                                          • 0
                                                                            Граница между сильным и слабым ИИ такая же, как между человеком и обезьяной.
                                                                            Кто-то считает, что есть разрыв, кто-то считает, что переход может быть непрерывным.
                                                                • +1
                                                                  Меня как программиста коробит от мысли отдать власть над собой машине. Я лучше сам буду распоряжаться своей жизнью. Еще больше меня как человека коробит сам принцип придумать что-то для того чтобы он начал управлять мной, чтобы мне самому не думать, не принимать решения, не отвечать за решения и постуки, чтобы добрый, мудрый, заботливый ИИ делал все за меня.

                                                                  По человечески я вас поддерживаю, но беда в том, что если сейчас ИИ занимающиеся высокочастотным трейдингом на мировых биржах случайно сбойнут россия может обонкротится за часы, если не за минуты, и мы с вами очень изумлённые будем искать виноватых среди политиков и врагов народа.

                                                                  И это не научная фантастика, а сегодняшняя реальность. Если выйдет какая-нибудь важная для рынков новость эти роботы отреагируют и биржа адаптируется к новому состоянию за 7-28 миллисекунды. В прошлый раз следствие малюсенького сбоя стало падение мировых рынков на 10%.

                                                                  Так что мы с вами как та лягушка, которую варят очень медленно.
                                                                  • 0
                                                                    Или не Россия, а Гондурас. Или США, но они быстро подгонят авианосец, и все договорятся, что это была ошибка. В том и дело, что вы сами уже сейчас на это повлиять никак не можете (разве что занимаетесь написанием этих роботов), поэтому все мысли о «самому контролировать свою жизнь» разбиваются о тот простой факт, что самому делать ВСЕ практически нереально. Никто в современном мире не знает, как сделать банальную компьютерную мышь, в производстве которой завязано несколько десятков квалифицированных и не очень специалистов.
                                                                    • +2
                                                                      Я потому и написал здесь уже не раз, что ИИ никого никуда загонять не надо будет. 90% населения все устроит при любом раскладе, включая биореактор, еще 5% будут сами рады послужить Молоху, а за оставшимися 5% гоняться сложно и бессмысленно.
                                                                    • 0
                                                                      есть экономика а есть жизнь, экономика только инструмент. Если роботы сбойнут так что будет падение не на 10% а на 70% — просто нивелируют результаты этого дня. Потом будут долго разбираться, отстаивать свои деньги, но пострадают фатально максимум некоторые компании мелкого и среднего уровня, не государства. Пока они трейдингом занимаются — это инструмент, извлечения прибыли и регулирования рынка. На уровне аварии на атомной станции — очень неприятно, но в пещерный век не свалимся.
                                                                • +1
                                                                  Она потому и «пирамида», а не «здание», что количество людей с ростом уровня убывает в прогрессии. Но что сотню лет назад, что сейчас цивилизацию двигают пара верхних уровней, а чем там занимаются нижние — обеспечивают потребности верхних или сидят дома на пособии, в принципе, не столь важно.
                                                                  • 0
                                                                    К сожалению важно. Именно эти уровни используются как орудия революции и давления общественного мнения. И что самое важное, по большей части из них выходят в следующем поколении более верхние. Человечество оно перемешано, каст нет, если 90% людей станут воспитывать своих детей по принципу «зачем тебе эта учеба, зачем работа, вот пособие, не выеживайся, будь как все» то очень скоро, в течении нескольких сотен лет верхние тоже исчезнут. Ну если не собирутся всей толпой и не образуют какой анклав на Земле или дальше. а там все по новой.

                                                                    «цивилизацию двигают пара верхних уровней» — да нет, 2 верхних уровня как раз довольно эгоистические, сконцентрированы на Я. Ну и в принципе не группа людей двигает цивилизацию а остальные балласт, цивилизация — целостный огранизм, простите за аналогию — с таким же успехом можно сказать что мозг двигает человеком, вот только мозг в банке ни думать ни иметь эмоции ни тем более действовать не сможет.
                                                                    • 0
                                                                      Да, конечно, верхние уровни сами по себе существовать не могут. Но самореализация не бывает совсем без общества, все же человек — стадное животное. Есть всякие отшельники, но то, что мы про них слышали, уже означает, что какой-то эффект на общество они оказывают :)

                                                                      И еще, давно ли у «золотого миллиарда» есть всеобщее образование? Одно-два поколения, если совсем молодежь считать — ну, может, три. Это крошечный промежуток времени, из него делать какие-то выводы нельзя. Да и революций в сытом обществе не бывает — зачем?
                                                                      • 0
                                                                        Добавлю, что «Советское образование», это труды Романовской Элиты 1900-30 годов.
                                                                        Они разработали и реализовали эту модель.

                                                              • +4
                                                                Вам наверно платят за комментарии? Иначе по вашей логике вы бы их здесь не оставляли :-)
                                                                • +1
                                                                  Что заставит в таком обществе людей развиваться, размышлять и изобретать, тогда как заботливая машина способна придумать что угодно быстрее и лучше?
                                                                  Какие возможности для симбиоза! Ко мне приходит масса идей, но я их откладываю на месяцы, потому что сразу заняться этим нет времени. А тут ИИ сможет мгновенно написать программу или проверить идею, и, даже если результат отрицательный, укажет на ограничения и как можно сделать правильно. А использование ИИ в качестве терпеливого личного преподавателя, который будет лично для меня всё разжёвывать досконально, приводить примеры, пока все вопросы не исчезнут — вообще бесценно.
                                                                  • 0
                                                                    Вы это всё конечно сможете, но толку от этого не будет, т.к. ИИ будет все эти идеи на порядок лучше вас генерировать.

                                                                    То есть если хотите, сможете этим заниматься, но это будет так же полезно как например разгадывание кроссвордов.
                                                                    • +1
                                                                      Я не претендую на идеи планетарного масштаба. Из последних появившихся — добавить небольшие удобства в интерфейс опенсорсного расширения к Firefox, перенести некоторые плюшки из одной кастомной Android-прошивки в другую, которой я пользуюсь и т.п.

                                                                      Всё это часы работы, а для ИИ — секунды. ИИ до таких «идей» никогда не додумается, потому что это ему не надо.
                                                                  • 0
                                                                    Почитайте «Пандем» Дяченко.
                                                                  • +3
                                                                    Компьютерный чип по определению устроен иначе, нежели биохимические нейронные сети, и машина никогда не будет чувствовать эмоции так же, как мы

                                                                    Теоретически смоделировать мозг — мы получаем реально работающий и мыслящий мозг, но в виртуальном виде. Так может даже оказаться проще проводить дебаг мозга и реверс-инженеринг мыслительных процессов, нежели пытаться из воздуха придумать «интеллект».
                                                                    • 0
                                                                      Вот и статья об этом. Мозг — очень сложная хреновина, неважно, как ее моделировать, в железе или софтово, впрочем, софт все равно упирается в железные различия. И вполне возможно, что интеллекту мозг как таковой вообще не нужен, что он «кроссплатформенный» по сути.
                                                                      • +2
                                                                        Смоделировать можно что угодно. Вопрос лишь в мощностях, ну и программистах, конечно же. Другое дело в том что это будет равносильно моделированию современного процессора на домино с кучей лего роботов, расставляющих и комбинирующих домино вручную.
                                                                        • +1
                                                                          А почему равносильно? Можно ведь при наличии процессорной мощности запустить полную симуляцию мозга в реальном времени. А то и в ускоренном. Чем это будет отличаться от реального мозга?
                                                                          • 0
                                                                            Human Brain Project примерно это и пытается сделать, только там будет ДАЛЕКО не реальное время. Крайне неэффективно получается.
                                                                            • 0
                                                                              Понятно что пока что о реально времени речи не идет. Но это ведь вопрос процессорных мощностей и закона Мура
                                                                              • 0
                                                                                Да, просто есть разница между наращиванием мощностей и получением работающего мозга через 50 лет, либо исследованием других вариантов, и приходом к сингулярности через 20. Причем, оба пути реально не дают никаких гарантий, вполне может оказаться, что кремниевый мозг при всей мощности не имеет какой-то важной компоненты (боюсь тут удариться в религию, так что пусть будет просто компонента, неважно какая), и искры разума почему-то не появляется.
                                                                                • 0
                                                                                  Конечно, никто же не спорит, что Human Brain проект может тупо не заработать, потому что надо «душа» или еще что там, каждому религиозному человеку свое. Но это не значит что не стоит пытаться это сделать.
                                                                                  • 0
                                                                                    А её просто так и не появится. Известны же случаи, когда дети вырастали среди животных и, имея человеческий мозг, по поведению и развитию не отличались от животных. Так что искусственному мозгу нужна будет невероятно сложная прошивка — навыки, воспоминания…
                                                                                    • 0
                                                                                      да откуда вы все это знаете? Это не более чем домыслы, не подкрепленные ничем абсолютно!
                                                                                      • 0
                                                                                        мозгу нужна будет невероятно сложная прошивка — навыки, воспоминания…

                                                                                        Нужно будет обучать как любого ребенка.
                                                                                  • 0
                                                                                    У них нет цели сэмулировать мозг полностью, то есть получить ИИ на основе полной эмуляции мозга на текущей компьютерной логике. Это чисто исследовательский проект, понять как работает наш мозг, не более. результаты возможно будут использованы в разработках ИИ или других систем, возможно. Эмулировать физику процессора на процессоре тоже неэффективно получится.
                                                                                    • +2
                                                                                      Эмуляция мозга (даже не полная, но «слепая» — просто копирование алгоритмов роста и связи нейронов) позволяет точнее исследовать мыслительные процессы (а мозг представляет из себя 4 млд лет оптимизаций, что может пригодиться не только в искусственном разуме, но и просто генетических/прочих алгоритмах для самообучения и всего остального), исследование болезней и нарушения мозга, веществ, упрощение в чём-то генной инженерии (получаем улучшенную проводимость синапсов на 5% и смотрим + и — на реальном виртуальном примере). В общем с любой точки зрения полезная программа.

                                                                                      Да и без всех ништяков это просто невероятно круто — сделать работающий виртуальный мозг.
                                                                                  • +1
                                                                                    Сможет ли и захочет ли мозг работать без тела, в котором он вырос?
                                                                                    • +1
                                                                                      У меня нету на этот вопрос ответа. Думаю нужно попробовать для начала и узнать.
                                                                                      • +2
                                                                                        Каролин захотела, но на всякий случай убила весь персонал лаборатории.
                                                                              • +1
                                                                                Огромное количество обрабатываемых данных пользователей вполне позволяет смоделировать стереотипное поведение, наверное, 70 процентов людей. Простенькие психические автоматизмы позволяют «ходить на работу» и «смотреть телевизор» огромной массе народу. Поведение средневзвешенного обывателя, потерявшего лобные доли вследствие травмы или болезни, не отличается от его более раннего его поведения.
                                                                                Речь идет об искусственном творческом разуме, разуме создателя, разуме творца. И этот разум едва ли позволит массам осуществить параллельный и более успешный виток эволюции, ибо две их не могут идти в одной биосфере.
                                                                                Может, он и напридумывал все эти патенты и спокойненько так себе дифференцирует функцию сингулярности, приводя ее к асимптоте ;)
                                                                                • 0
                                                                                  Эм, а почему разные ветви эволюции не могут развиваться в одной биосфере?
                                                                                  • 0
                                                                                    Не ветви — вся эволюция, она одна для всей биосферы, виды в ней занимают ниши с ресурсами и территорией. Таким образом формируются достаточно строгие взаимодействия между всеми живыми существами. Параллельная эволюция (речь о ней) будет подавлена виду занятости этих самых ниш и завершенности пищевых цепей. Это теория Опарина об эволюции.
                                                                                    • 0
                                                                                      У эволюции нет «конца», ниши постоянно меняются. Это даже если ограничиться только Землей, а для ИИ это ограничение гораздо менее осмысленно, нежели для хрупкого человека.
                                                                                      • 0
                                                                                        Вот поэтому и есть основания полагать, что ИИ уже вовсю трудится. А мы никак его не создадим. Домысел, конечно, но все же опровергнуть эту точку зрения трудновато.
                                                                                  • +2
                                                                                    Смотри шире — ИИ будет не просто ещё одним видом, а продолжением рода человеческого, своеобразной эволюцией, возможно с сохранением культуры, языков, истории и материального наследия, но существовать разум будет в виде кремния/графена/магии/прочего с какими-то там телами (выращенными сильно модифицированными аватарами, андроидами и т.д.), или вовсе без тел — лишь набор обслуживающих узко специализированных роботов и сборочные конвееры/лаборатории для создания новых.
                                                                                    • 0
                                                                                      Важно понимать, что скорее всего никакого насилия не будет, так же, как мы сейчас не испытываем необходимости насильно куда-то загонять, допустим, муравьев. Разве что если вспомнить детские шалости с лупой, но ребенка-ИИ достаточно несложно контролировать.
                                                                                      • 0
                                                                                        Про Красную книгу слышали? ИИ тоже может не заметить, как все люди случайно помрут, и сказать, а чё это они, я же их почти не убивол.
                                                                                        • +1
                                                                                          Интересно, а есть в Красной Книге хоть один вид, ареалом обитания которого когда-либо была вся планета?
                                                                                          • 0
                                                                                            ru.wikipedia.org/wiki/%D0%9C%D0%B0%D1%81%D1%81%D0%BE%D0%B2%D0%BE%D0%B5_%D0%BF%D0%B5%D1%80%D0%BC%D1%81%D0%BA%D0%BE%D0%B5_%D0%B2%D1%8B%D0%BC%D0%B8%D1%80%D0%B0%D0%BD%D0%B8%D0%B5

                                                                                            По сравнению с массовым пермским вымиранием всё что человек сумел поломать в экосистеме — рябь на воде.
                                                                                            По сравнению с распостранённостью радиолярий этой эпохи, кстати, мы тоже довольно скромно выглядим.
                                                                                            И возвращаясь к муравьям — суммарная масса всех муравьёв на планете земля больше чем суммарная масса всех людей на планете.
                                                                                            Не такие мы особенные как нам кажется.

                                                                                            И тем не менее, это не отменяет того факта, что очень многие виды мы снесли с лица планеты совершенно случайно без злого умысла. Например это же было хорошей и милой идеей завезти в Новую Зеландию кошек, а в австралию собак. Кошки с собаками же такие милые, а если нелетающие птицы от них не могут улететь, так мы же всегда скажим им «фу».
                                                                                            • 0
                                                                                              Но ИИ как раз может нас защитить от такого вымирания, дав необходимые технологии для терраформирования и экспансии.
                                                                                  • +1
                                                                                    Хм… Я бы сформулировал вопрос иначе: возможно ли создание сильного ИИ? Действительно ли разумность (прежде всего осознание своего «я») зависит только от количества нейронов и сложности их объединения? Насколько мне известно, вроде бы ученые еще дали окончательного ответа на сей вопрос. Думаю, создание ИИ даже на таком высоком уровне, как собаки или вороны, очень возможно и даже не в столь отдаленном будущем. Но вот удастся ли преодолеть эту гигантскую пропасть, что разделяет человека и остальной животный мир — собственно, разум?
                                                                                    Зато создания ИИ слабого жду с нетерпением. Искины специализированные не только гораздо более реальны, но и при всей своей полезности кажутся довольно безопасными для человека и легче поддающимися контролю
                                                                                    • +4
                                                                                      Вы задаёте очень важный вопрос и сами же признаёте, что ответа на него ещё нет:
                                                                                      Действительно ли разумность (прежде всего осознание своего «я») зависит только от количества нейронов и сложности их объединения? Насколько мне известно, вроде бы ученые еще дали окончательного ответа на сей вопрос.


                                                                                      Но тут же делаете вывод, что ответ всё таки есть:
                                                                                      гигантскую пропасть, что разделяет человека и остальной животный мир — собственно, разум


                                                                                      Не противоречие?

                                                                                      Ничем формально не обоснованное имхо неспециалиста: нет принципиальной разницы между разумом человека и животного (по-хорошему, надо сначала дать определение разума, но, думаю, Вы меня поняли). «Осознание своего „Я“» — не некоторое чёткое свойство, которое почему-то есть у человека и нет у животных. Эта характеристика в той или иной мере присуща всем живым существам тем больше, чем более развит их мозг.
                                                                                      • +1
                                                                                        Противоречия нет. Я всего лишь сказал о наличии огромного разрыва между человеком и животным и отметил, что не факт то, что условием его преодоления является наращивание количества и сложностей нейронных связей (прежде всего). Из всех животных только человек является разумным. А осознание самости у всех живых существ, это, извините, новое слово в психологии. Даже дети далеко не сразу отделяют себя от окружающего мира.
                                                                                        • +4
                                                                                          Нет «огромного разрыва», просто в определенный момент случилась «биологическая сингулярность», когда человек научился получать эволюционные преимущества не за счет врожденных навыков, а из опыта, и самое важное — передавать эти приобретенные навыки потомкам и соратникам. В этот момент человек весьма слабо отличался от других высших приматов, а что за следующие 200 тысяч лет резко рванул вверх — уже не заслуга какого-то особого строения мозга или других биологических механизмов. Наоборот, за эти 200 тысяч лет мозг у Homo Sapiens в среднем уменьшился.
                                                                                          • 0
                                                                                            Я говорил о сегодняшней ситуации, после, по вашей терминологии, прохождения точки биологической сингулярности. И сегодня этот разрыв имеет место быть. Что же до причин этого скачка, то тут пока ведь место гипотезам и теориям, но не фактам.
                                                                                            • +1
                                                                                              Этот разрыв не биологический, не физиологический, а чисто культурный.
                                                                                              • 0
                                                                                                На основани чего такие выводы?
                                                                                                • +1
                                                                                                  Уровень передачи информации, лежащий выше биологического — культурный. То есть передача традиций и опыта. Таковы постулаты социобиологии. /Вилсон/. Все верно.
                                                                                            • 0
                                                                                              А как вы поймёте, что человек (чтобы исключить прямые вопросы, предположим, что он не знает ваш язык) обладает самостью, а домашний кот — нет?
                                                                                              • 0
                                                                                                Вопрос о способах определения наличия самости предлагаю переадресовать квалифицированным биологам и психологам. Скажу только, что доминирующей ролью инстиктов в регулировании поведения, нет? (Про важность инстиктов в жизни человека предлагаю не говорить, это излишне). С определением не научными, а чисто житейскими способами, думаю, проблем не возникнет.
                                                                                                • +2
                                                                                                  Ну какие «чисто житейские» способы? Если у кота забрать еду или занять его любимое место, он возмутится. Значит, он понимает, что это ЕГО. Значит, он осознаёт себя.
                                                                                                  • +2
                                                                                                    Сознание не возникло на пустом месте, а развилось с появлением речи. И, что самое главное, постепенно.
                                                                                                    Например дельфины именуют своих сородичей и каждый из них знает своё имя, откликается на него и, вероятно, осознает себя как личность.
                                                                                        • 0
                                                                                          Думаю первыми пользователями ИИ будут военные.
                                                                                          • +1
                                                                                            Смотря какого ИИ. Экспертные системы очень давно используются, лет 30, если не больше.
                                                                                            • 0
                                                                                              Я полагаю, ещё сильным ИИ заинтересуются политики высшего уровня и прочие негласные правители мира. Ведь извечная головная боль для политика какая? Ещё вчера всё было хорошо, а сегодня вдруг революция и тебя вешают на берёзе. Как поставить под контроль настроения в обществе, научиться лучше управлять? Полагаю, в будущем можно будет сделать так: объединить в виртуальной реальности сразу несколько сильных ИИ (в идеале миллионы), каждому прошить «прошивку» воспоминаний, похожую на среднестатистического человека, и в этом виртуальном обществе ставить эксперименты. Вопросы морали и вопросы «а что, если мы и есть такой эксперимент» я не поднимаю. Если это всё отладить — некоторым такой инструмент может быть очень интересен, но для нынешних людей внедрённые в обществе результаты таких гипотетических эеспериментов означают несвободу. По крайней мере, уменьшение свободы, пусть и незаметное для 99% людей.

                                                                                              Вообще как приверженец техники я считаю, что ИИ — это здорово. Но размышляя логически, понимаю, что это может быть реально последнее достижение человечества, и Стивен Хокинг может оказаться прав. Опасно создавать полноценную самообучающуюся личность. Как тут писали в комментах к прошлой статье про ИИ — даже если сильный ИИ не будет иметь доступа в инет и не будет иметь сервоприводов, он одним общением текстом через экран может натворить бед с помощью продвинутой социальной инженерии. Лучше делать ИИ только как помощника в узкой сфере и не давать ему развиваться в существо с чувствами, эмоциями и пр. До сих пор человек создавал очень много интересного и опасного, но всё это было под его контролем. Тут же может быть нечто принципиально другое, что не получится контролировать.
                                                                                              • 0
                                                                                                Да, это все может нас уничтожить. А может и вознести к звездам. Или вообще ничего глобально не поменять, ИИ «уйдет в себя» и наш мир будет ему неинтересен вовсе.

                                                                                                Поэтому, кстати, все же есть смысл колонизировать хотя бы Марс, чтобы иметь возможность изолировать колонию в случае планетарной катастрофы.
                                                                                            • +6
                                                                                              Главное, чтобы не последними.
                                                                                            • 0
                                                                                              Интеллект зависит… от отношения размера мозга к массе тела.

                                                                                              Почему?
                                                                                              • 0
                                                                                                Не знаю, возможно, у крупных животных масса растет не за счет числа нейронов (которые дохрена энергии потребляют) и сложности сети, а за счет разрастания глиальной ткани… Большой и мощный мозг — не только преимущество, но и источник больших проблем: еды надо больше, защищать мозг надо лучше, ну и остальное тело должно быть не слишком немощным, чтобы мозг было куда применить. Учтите еще, что у гигантских животных лаги нервных импульсов уже заметные будут, иногда даже приходится в задницу таз сопроцессор ставить.
                                                                                                • 0
                                                                                                  Прямой связи не существует. Зависимость бесспорно есть, но она не прямая. Найдены останки изолированных групп человека умелого, имеющих мозг, как у шимпанзе, но использовавших оружия труда и огонь. Это человек флоресский.
                                                                                                • 0
                                                                                                  Эх, прочитал заголовок и подумал, что кто-то наконец-то предложил еще один концепт создания ИИ, кроме искусственных нейросетей (кстати, очень сомневаюсь, что IBM-Watson построен не на них же, хоть и с прикрученной к ним БД). И все же, спасибо, что собрали все эти тезисы в одном месте. Это уже что-то.
                                                                                                  • 0
                                                                                                    Это перевод все же. Футурологи, они такие :)
                                                                                                  • +4
                                                                                                    Если мы будем создавать сильный ИИ копируя устройство мозга и не разбираясь до конца в его устройстве, то получим чёрный ящик с букетом всяких проблем, присущих человеку (психологические особенности, свобода воли, проблемы с мотивацией и т.д.). Это во-первых не позволит решать нам все те проблемы, которые мы так сильно хотим переложить на плечи ИИ, а во-вторых будет совершенно нетехнологичным решением, что совершенно не вписывается в реалии нашей технократической цивилизации. Тот ИИ, который мы бы смогли реально использовать, должен быть чётко структурирован, быть конфигурируемым, состоять из слабосвязанных компонент, быть отлаживаемым, копируемым и сериализуемым. Скорее всего такой ИИ не будет способен создать шедевр (если не читерить с брутфорсом) или вести философскую беседу, но зато он не будет угрожать расправой жалким человечишкам.
                                                                                                    Мне кажется, что в исследованиях нужно сфокусироваться на отыскание базовых принципов и идей, лежащих в основе интеллекта вообще, при этом абстрагируясь от биологической реализации. Если мы будем знать основы, то сможем сделать «железо» даже лучше, чем у природы (поскольку не нужно решать проблемы биологического роста и тратиться на кучу накладных расходов). Однако что-то мне подсказывает, что эти базовые принципы находятся за приделами нашей способности к рефлексии, что объясняет трудность изучения интеллекта.
                                                                                                    • 0
                                                                                                      Именно так.
                                                                                                      • +1
                                                                                                        Может, так будет банально проще изучать мозг — сделать полную биологическую модель. Чисто технически легче отследить связи и алгоритмы в цифре, тем боле комплексно. Само собой никто не собирается организовывать ИИ в конечном результате как полную копию мозга.
                                                                                                        • 0
                                                                                                          Да, но надо понимать, что это отдельные задачи.
                                                                                                          • 0
                                                                                                            А почему нельзя сделать ИИ на полной копии мозга? Может и можно, наверняка будут пытаться и не раз, когда позволят мощности железа.
                                                                                                            • 0
                                                                                                              Потому что для этого надо сначала создать полную копию мозга, а это дико сложно. Статья как раз про то, что это может быть не обязательно. Даже наоборот, ИИ с сингулярностью может помочь быстрее разобраться в работе мозга.
                                                                                                              • 0
                                                                                                                Потому что мозг имеет невероятно много багов и костылей. Взять хотя-бы эмоции.
                                                                                                                • 0
                                                                                                                  Вы утверждаете, что создание ИИ на основе копии мозга невозможно?
                                                                                                                  • 0
                                                                                                                    Конечно возможно, но использовать бессмысленно.
                                                                                                                    • +1
                                                                                                                      Но вы ведь не знаете этого! Никто не знает наверняка, потому что это пока что еще невозможно технически. Как вы можете делать такие сильные утверждения?
                                                                                                                      • 0
                                                                                                                        Эмоции людям мешают думать, почему же в виртуальной модели должно быть иначе?
                                                                                                                        Тем более кто сказал что это невозможно? Может, конечная оптимизация приведёт к тому что для ИИ без части функций (например зрения/слуха/постоянной памяти) будет достаточно среднего смартфона.
                                                                                                                        • 0
                                                                                                                          А почему виртуальная копия человека с теми же эмоциями бессмысленна? Может конечная оптимизация и приведет к этому, но пока что такую оптимизацию не придумали, а на симуляцию всех 100 миллиардов (вроде столько) нейронов не хватает мощности компьютеров пока что.
                                                                                                          • +1
                                                                                                            В любом случае, восстания машин не будет. Если ИИ получится действительно сильным, он будет достаточно умен, чтобы использовать например, ложь и хитрость, и вертеть людьми как ему вздумается (и пойти например в политику). Ведь мы сотворим его по образу и подобию, а значит дадим ему наши инструменты взаимодействия в обществе.
                                                                                                            В конце концов, возможно, человечество всего лишь почва для таких плодов развития разума. И возможно, придет время нам отойти и не мешать в большом деле исследования вселенной. В принципе такой механизм завершения нашей программы прослеживается и сегодня — виртуальная реальность все больше постепенно поглощает людей.
                                                                                                            • +1
                                                                                                              мы сотворим его по образу и подобию

                                                                                                              Как раз статья про то, что это не обязательно, и даже вредно.