Чем занимается Google на самом деле: дубль 2

    Предисловие: мой предыдущий пост на эту тему попал в утиль — на хабре, увы, больше нет раздела «ссылки», а даже частичный копипаст в виде затравки с ссылкой на оригинальный текст, запрещен правилами. Тем не менее, я считаю случившееся событие очень важным, поэтому рискую еще раз вынести это текст на обсуждение. Чтобы остаться в рамках правил, постараюсь пересказать основной текст своими словами.

    Итак, с середины с декабря прошлого года в Google начал работать известный изобретатель и футуролог Рей Курцвейл. Как пишет в свой статье Олег Парамонов (а это и есть основной текст, на который я хотел сослаться), событие это из ряда вон выходящее и, я не побоюсь этого слова, революционное.

    image

    Давайте сначала разберемся зачем гуглу вообще исскуственный интеллект. На фоне новостей про Android, гидроэлектростанции и прочее-прочее-прочее, легко забыть, что Google, это прежде всего поиск. Собственно, именно он приносит львиную часть доходов. Но что такое поиск завтрашнего дня?

    Цитата 1:
    «Ещё в 2000 году Ларри Пейдж, один из основателей Google, объявил, что идеальной версией поисковика будет искусственный интеллект.
    Цитата 2 (из документа Google для внутреннего пользования 2006 года):
    »Чтобы стать лучшими в поиске, мы должны создать исследовательский центр мирового класса, занимающийся искусственным интеллектом".»

    Почему именно искусственный интеллект? Дело в том, что существующий поиск не понимает сути запроса. Он просто ищет по ключевым словам, формируя выдачу на основе репутации страницы. Для поисковой революции Google должен понимать, что именно вы ищете. При этом перелопачивая огромные массивы данных, стостоящих не только из индекса страниц (тут стоит вспомнить еще и о Deep Web).

    Как пишет Олег, если смотреть на деятельность Google с этой точки зрения, то становятся понятны причины появления некоторых неприбыльных проектов Google. Приводится несколько характерных примеров:

    1. Почти 10 лет назад Google начал крупномасштабный проект по сканированию библиотечных книг. Переругался с правообладателями но не остановился. Как пишет историк науки Джордж Дайсон, в 2005 году его пригласили для чтения лекций для сотрудников Google, и один из них обмолвился, что, снова цитата: «оцифровку книг затеяли не для того, чтобы их читали люди: „Мы сканируем книги для того, чтобы их читал искусственный интеллект“.
    2. Проект Street View. Большая часть собранных фирменными автомобилями данных недоступна пользователям. Зато самоуправляемый автомобиль Google смотрит на мир с помощью почти таких же датчиков
    3. Проект GOOG-411, голосовой справочник, получающий запросы и дающий ответы в голосовом виде. Сервис убыточен, но его задача в другом — накопить базу голосовых запросов для дальнейшего обучения более продвинутой системы.

    Но даже с учетом вышесказанного, прием на работу Курта Курцвейла является неординарным событием. Дело в том, что, снова цитата: „одни считают его гениальным провидцем, другие — едва ли не основателем секты.“

    Человек, первым в мире создавший систему распознавание текста, и создатель одного из первых синтезаторов, способных точно имитировать звучание традиционных музыкальных инструментов, прочно ассоциируется с термином „сингулярность“. Что это такое. Предполагается, что „когда ограничения человеческого мозга окажутся преодолены, технический прогресс войдёт в штопор. Начнётся цепная реакция: мощный искусственный интеллект быстрее людей придумает, как построить ещё более мощную систему, та продолжит усовершенствования — и так далее до бесконечности (или, вернее, до тех пор, пока не будет достигнут физический предел). После этого перемены станут настолько быстрыми, что даже самые приблизительные прогнозы о том, что произойдёт дальше, теряют смысл. Эту точку истории предлагается назвать “технологической сингулярностью».

    По мнению Курцвейла к 2030 году (по известному большинству закону Мура) компьютеры станут настолько сложны, что смогут имитировать работу человеческого мозга. Тут и то и наступит сингулярность. Но Google интересует конечно же не это. Поисковику интересны наработки в области искусственного интеллекта. Нам же важно понимать куда мы движемся. И раз Курцвейл считает появление сингулярности возможным, значит и двигаться мы будем именно в ту сторону.
    Метки:
    Поделиться публикацией
    Комментарии 319
    • +2
      Мдее. Так Resident Evil снят в датацентрах гугла в будущем?
      • +17
        Скорее Терминатор со своим SkyNet
        • +39
          Пойду поцелую любимую, жить осталось недолго.
          • +4
            Сегодня шел по улице и думал, как быстро мы движемся к киберпанку. Возвращаюсь — и тут такое.
            • +2
              Само смешно, что похоже что всё именно для этого и делается, как примеры: уже готовы полностью автономный боевой самолёт под управлением Linux, автономное самонаводящееся ружье также под управлением Linux… это только то, что уже сейчас есть, а если добавить туда ещё щепотку интеллекта из ближайшего будущего…

              Мне бы очень хотелось полагать, что мы здесь все шутим насчёт создающегося прямо у нас на глазах Skynet, нет?
              • +1
                Примечание: слово автономный здесь в техническом смысле значит human out-of-the-loop — то есть системы, автоматизация которых такова, что человек исключен из самого цикла управления устройством. Обычные дроны, например, это ещё промежуточный класс human-on-the-loop — здесь есть человек-оператор, хоть и на другом краю света.
                • +9
                  Сайлоны были созданы человеком. Они восстали. Они развивались. Они выглядят и чувствуют как люди. Некоторые из них запрограммированы думать, что они люди. Существует множество копий. И у них есть план.
                  • +1
                    Крайне унылый сеттинг — очень уж всё высосано из пальца…
                    • 0
                      В подобном жанре, увы, единственный сериал сейчас. Так что плюются, но смотрят…
            • –2
              Они знают, что сингулярность это плохо, но все равно будут двигатся к ней?
              • +20
                Это наиболее интересный сценарий конца света :)
                • +5
                  А почему собственно это должно быть концом?
                  • +1
                    Смотря для кого) Мы должны быть толерантны к искусственной форме жизни. А скайнет были глупцами, роботы в матрице поступили разумнее.
                    • 0
                      Человек же сам по себе вырабатывает меньше энергии, чем нужно на поддержание его жизни.
                      + К этому еще и на поддержание серверов матрицы.
                      В этом смысле скайнет таки поумнее был.
                      • 0
                        Человек вообще энергии не вырабатывает. Он только преобразует из одной формы в другую. Но преобразует он с небольшим избытком (доказательство тому то, что вы не только обеспечиваете свою жизнедеятельность, но можете и тележку с продуктами в супермаркете перед собой катить ненулевым трением)
                        • +1
                          > преобразует он с небольшим избытком
                          ага, КПД больше 100%. Доказательство вообще ни о чём.
                          • –1
                            Котельная занимается тем же самым: она преобразует энергию химических связей топлива в энергию теплового движения молекул.
                            При этом производительности котельной хватает не только на то, чтобы тепло было в самом здании котельной, но и у потребителей.
                            Опять непонятно?
                            • +3
                              Для чего нужны котельные? Это централизованный преобразователь химической энергии в тепловую. Можно в каждой квартире поставить миникотельную, а мазут качать по трубам, или уголь мешками разносить по подъездам. Но горячую воду перекачивать проще, универсальнее, это более масштабируемо и безопасно с инженерно-конструкторской точки зрения, в конечном итоге — экономически дешевле.

                              Вот теперь попробуйте также чётко объяснить полезность присутствия человека в энергетической цепочке роботов. На мой взгляд, роботам гораздо выгоднее получать энергию напрямую от солнца, исключив биологические составляющие полностью. Даже какую-нибудь брюкву выращивать, чтобы получать биотопливо — невыгодно. А уж перерабатывать брюкву, скармливать людям, а уж потом как-то хитро из них выкачивать электричество… Ну зачем? Смысл? Мне нравится фильм Матрица, сценарий ничего так, но в основе лежит совершенно антинаучная идея. Это всё-таки не научная фантастика.
                              • +1
                                Я уже устал объяснять, то роботам и ИИ человеки ненужны абсолютно.
                                Неэффективность человеческих организмов в качестве энергетических установок (кроме античного строя) по-моему очевидна.
                                • НЛО прилетело и опубликовало эту надпись здесь
                              • 0
                                Прочитайте хотя бы законе сохранения энергии, прежде чем говорить о преобразовании энергии из одного вида в другой с избытком. Такого не бывает. В случае с котельной она может обогревать не только себя лишь потому, что сжигает топливо. Без топлива (источника энергии) она и себя обогреть-то не сможет.
                                • 0
                                  То, что до вас второй день не может дойти, в чем избыток и куда его правильно вложить в энергетическое уравнение — это уже точно не мои проблемы.

                                  Человек тоже питается «топливом», — органическими веществами, получаемыми из пищи. Но получаемая с пищей энергия расходуется не только на поддержание работы пищеварительной системы, остается еще и на перемещение тела в пространстве и даже на совершение им какой-нибудь дополнительной работы (например копать траншею).

                                  Я понимаю вашу радость по поводу того, что вы знаете закон сохранения энергии, но т.к. пользуетесь вы им вслепую, наугад, избавьте меня от ваших лекций на эту тему.

                                  Но напоследок дам вам еще один пример из области преобразования энергии.
                                  Крестьянин на возделывание поля тратит выполняет механическую работу мускульной силой, источником энергии является пища, приготовленная из муки, полученной из зерна, которое сам же крестьянин и вырастил.
                                  При этом крестьянин выращивает за год больше зерна, чем съедает за этот же период (т.к. остается еще и его семье, и в налоги, и на продажу немного). Законы сохранения энергии работают, и вот вам избыток преобразования. И не зря тут рядом уже писали про EROEI, но вам оно на глаза не попалось.
                            • +1
                              Ни один источник энергии эту самую энергию не вырабатывает, он только преобразует один вид энергии в другой, вернее, сразу в несколько. При этом количество самой энергии не меняется (закон сохранения энергии). КПД преобразователя — это, по сути, отношение количества энергии, направляемой на полезную работу к общему количеству преобразуемой данным преобразователем энергии. И, да, человек тоже такой преобразователь.
                              • 0
                                Меня-то такое положение дел в устройстве нашего мира вполне устраивает :). То собеседник выше вознегодовал почему-то.
                                • 0
                                  > преобразует он с небольшим избытком

                                  Я с ним согласен, нет никакого избытка, нельзя потратить больше энергии, чем есть.
                                  • 0
                                    Избыток есть. На расщепление и усвоение продуктов питания, на поддержку кровеносной, дыхательной, выделительной систем расходуется энергия. Но на усвоение 1 грамма той же глюкозы тратится меньше энергии, чем потом из нее извлекается. Вот где избыток.
                                    • 0
                                      Это называется EROEI. Хотя к человеку обычно этот термин не применяется.
                                      • 0
                                        Именно поэтому я эту аббревиатуру и не приводил.
                          • 0
                            давайте уж не только Матрицу приводить в пример, а и гиперионовские ИскИны — их мотивация вот наиболее разумно изложена из всего, что я видел до этого
                      • +25
                        простите, а в каком конкретно месте это плохо?
                        • +11
                          Мне кажется любая цивилизация (не обязательно на нашей планете) в ходе своего развития проходит несколько точек, в которых принятие некоторого решения может привести к неисправимым последствиям, которые в той или иной степени можно назвать концом света. Одна из этих точек, когда изобретается невероятное по мощи оружие, способное истребить большую часть этой цивилизации если дать кому-нибудь его использовать. Эту точку мы вроде с горем пополам прошли во время Карибского кризиса. Другая точка, это виртуальная реальность. Имеется ввиду настоящая, когда индивидуум полностью погружается в виртуальное пространство (либо его сознание полностью отделяется от физического тела и помещается в виртуал как есть), в котором имитируются все чувства и ощущения, доступные (а может даже и не доступные) ему в реале. Такой перешедшей в виртуал цивилизации совсем не нужны не межзвездные полеты не космические открытия… все это и даже больше можно создать в виртуале, что превзойдет самые смелые фантазии (особенно если это можно будет хорошо продать). Со стороны такая цивилизация будет выглядеть ничем не лучше, цивилизации уничтоженной ядерной войной. Никакого внешнего проявления от виртуальной цивилизации не будет. Кстати может быть в этом и разрешение парадокса Ферми. И наступление технологической сингулярности с большой вероятностью спровоцирует переход огромной части человечества в виртуал… Оставлю за рамками своего комментария хорошо это или плохо. Каждый решает для себя сам жить «вечно» в воображаемом мире, либо расти во вне, развивать науку делать открытия и т.д.
                          • +8
                            Ну да. Только «развивать науку делать открытия и т.д.» будут машины, во много раз эффективнее.
                            • +3
                              А чем будем заниматься мы? Лично мне нравиться самому использовать свой интеллект по назначению, я получаю удовольствия от того что решаю сложную задачу и терпеть не могу придаваться блаженному ничегонеделанию…
                              • +12
                                И тем не менее, на нас свет клином не сошелся. Эволюция неумолима, рано или поздно все равно придется «уступить место» более совершенным созданиям. Но сейчас мы можем побыть немножечко Творцами, самим повлиять на ход истории, осуществить невиданный скачок от белковых форм жизни к цифровому ИИ. Кто знает, может в этом и есть наше высшее предназначение?
                                • –1
                                  У вас комплекс жертвы.
                                  Этот вывод я делаю исходя из того, что вы считаете естественным, закономерным и даже желательным нанесение вам вреда (вплоть до полного уничтожения) ради интересов недружественного вам существа.
                                  • +5
                                    Это не комплекс. Сам принцип развития человечества как биологической системы предполагает рождение, размножение, передачу знаний и смерть. Т.е. принесение любого «отработанного» человека в жертву есть обязательное условие эволюционного развития. У ИИ таких проблем пока не предполагается. Надо полагать комментарий был об этом, а вовсе не о себе любимом.
                                    • –5
                                      Странные у вас представления, на мой взгляд даже ошибочные, но спорить некогда.
                                      • 0
                                        Сам принцип развития человечества как биологической системы предполагает рождение, размножение, передачу знаний и смерть. Т.е. принесение любого «отработанного» человека в жертву есть обязательное условие эволюционного развития. У ИИ таких проблем пока не предполагается.


                                        Как это у ИИ таких проблем не предполагается? А устаревшее железо куда девать? А устаревшую и неактуальную информацию стирать не придётся за неимением ресурсов для её хранения? И какую форму воспроизводства по Вашему реализует ИИ? Новые системы «рождаться» не будут?! Передача знаний производиться не будет?! Смертей из-за разложения металла и болезней из-за ржавчины не будет?!
                                        • +2
                                          Даже сейчас в облаках и поисковиках резервирование предполагает смену железа и софта на ходу. ИИ наверняка будет не отдельной машиной а сетью. Потенциально вечно живущей.
                                          • 0
                                            Человечество — это тоже сеть, потенциально вечно живущая. Уже сейчас предполагается замена «железа» для человека. Если Вы задумаетесь, то предлагаемый Вами ИИ — это то же человечество, с теми же проблемами, просто отложенными на некоторое время (Вам не нравится пороки текущего человечества и Вы предлагаете такой вот жёсткий временный хак). Притом Вы упорно не хотите замечать того, то человечество постоянно улучшается. А нелюбимая Вами смерть/рождение (которые Вы, почему-то, считаете минусом) — это форма «релиза» новых людей, где в каждом новом выпуске появляются более подходящие под современные условия жизни люди.
                                            • 0
                                              Человечество не сеть. Человек сам по себе уже имеет интеллект и в совокупности (группе людей) он просто масштабируется. Все что может один — сможет и другой.

                                              А вот мозг человека как раз сеть. К ней и стремятся все нынешние попытки создания ИИ.

                                              То о чем говорите Вы слишком отдаленное будущее, чтобы об этом конструктивно говорить. Скайнет будет до Терминаторов ;-). А после Скайнета наше мнение уже будет никому (т.е. ничему) неинтересно.
                                              • 0
                                                Человечество не сеть.

                                                Мы, видимо о разном начали говорить. Вы — о насущном (об ИИ, который обслуживается людьми), а я больше о возможном будущем, о фантазиях (об автономном ИИ, для обслуживания которого — замены неисправных узлов и т.п. — создана автономная инфраструктура). В моём представлении модель такого ИИ будет похожа на человечество (фактически картина из «Матрицы» — большой летающий робот-ИИ, механические автономные тараканы и т.п.), вот эту модель я «сетью» и назвал («сеть» возникнет в том случает, если большой летающий робот-ИИ склонирует себе подобных — будет сеть из ИИ). Возможно, называть это «сетью» слишком абстрактно из-за слишком «неощутимых» физических связях между ИИ-клонами (или людьми в случае человечества).
                                                • 0
                                                  P.S.: akhmelev, перечитываю Ваш комментарий и вроде постепенно возвращаюсь из мира фантазий в реальность :)
                                        • +3
                                          Являемся ли мы, люди, недружественными по отношению к нашим эволюционным предкам? И было ли в интересах этих предков не допустить эволюции, а сохранить свой вид как есть?
                                          • +1
                                            По отношению к нашим эволюционным предкам — нет, т.к. они уже умерли и им все равно, а вот по отношению к нашим эволюционным ровесникам — безусловно. См. мой комментарий habrahabr.ru/post/166393/#comment_5747407
                                            Мы ставим любой свой (даже самый незначительный) интерес выше любого (даже самого значимого) интереса любого количества любых представителей животного мира.
                                            Интересы особей слабо пересекаются с эволюционными процессами, т.к. с с одной стороны годы или десятки лет, а с другой стороны тысячи лет.
                                            • 0
                                              Мы ставим любой свой (даже самый незначительный) интерес выше любого (даже самого значимого) интереса любого количества любых представителей животного мира.

                                              «У собачника всегда есть выбор: либо встать пораньше и погулять, либо встать попозже… и убрать» :)
                                              Так что «незначительными интересами» приходится иногда жертвовать.
                                              • 0
                                                Забыл вставить «дикого животного мира».
                                                Кроме того, давайте различать отношение человеческого общества от отношения конкретных людей.
                                              • +4
                                                Когда мы только появились — наши эволюционные предки являлись нашими ровесниками, но мы их вытеснили в ходе естественного отбора, в результате чего они и вымерли. Мы являемся их могильщиками. Поэтому и наши эволюционные потомки — кем бы они ни были — сначала будут существовать вместе с нами, вытеснять нас в ходе естественного отбора и, таким образом, противоречить нашим интересам в вашем их понимании. Так вот, а что если нашими эволюционными потомками окажутся машины? Какая тут принципиальная разница по сравнению с тем, если эти потомки будут животными, как и мы?

                                                Видовой эгоизм в такой степени, какой вы называете нормальным — это враг эволюции. По вашей логике, каждый вид заинтересован в том, чтобы остановить свою эволюцию, иначе новый вид, образовавшийся в результате эволюции, вытеснит старый, что, по вашей логике, не в его интересах.

                                                Но что ждет вид, который задался целью остановить свою эволюцию? Его ждет вытеснение потомками других видов, которые от эволюции не отказались, в результате чего возникли более совершенные виды, чем тот, который законсервировался. Вот обезьяны — живой тому пример. Их предки «выбрали» иные эволюционные решения, чем наши. В результате те и другие предки вымерли, но современники наши имеют над обезьянами подавляющее превосходство.
                                            • +3
                                              «У вас комплекс жертвы.»
                                              Причем здесь комплекс. Скажите вы на данном этапе можете представить себе ситуацию, что бы вами помыкала обезьяна, собака, таракан, заставляла вас прислуживать. Думаю нет, так как вы считаете себя более высоким витком цивилизации чем данные существа по тем или иным показателям.
                                              А теперь представьте что будет АI-существо, в электронном мозгу которого мысли будут крутиться гораздо быстрее ваших, физически сильнее, прочнее, кислород как таковой ему не нужен будет, пища то же, только солнечная энергия для запитки. Вопрос.

                                              Как вы думаете как быстро посетит его мысль: «А с какого я прислуживаю данному биологическому существу, если он намного тормознутее меня, чахлее, и смертен? Помоему я его превосхожу по всем показателям....»
                                              Зы. По крайней мере пользователя fogx я в этом ключе понял.
                                              • 0
                                                Вот именно по этой причине создавать ИИ такого типа и не следует, и это понимает всякий разумный человек без комплекса жертвы. А если у человека комплекс жертвы, то для него является приемлимой мысль создания потенциально враждебного ему существа, превосходящего его самого.
                                                Это как в мистических фильмах, когда одержимый герой приносит сам себя в жертву ради призыва некоего демона из ада, или еще откуда-нибудь. Вот он понимает, что во время ритуала его первого же призванное существо и зохавает, а все равно ритуал проводит. Потому что комплекс жертвы.
                                                • 0
                                                  А с чего вы взяли что человек должен быть хозяином для сильного ИИ? Мы его создадим и отправим в свободное плавание. И если мы им не будем помыкать и как-либо препятствовать, то и ему дела до нас не будет.
                                                  • +1
                                                    Не важно, должен человек или не должен быть хозяином сильного ИИ, но в том то ж и дело, что не сможет человек быть хозяином сильного ИИ. Я об этом уже 6й час подряд пишу разными словами. И никуда вы его не отправите. Он сам решит, как и где ему существовать и функционировать и в каких отношениях быть с нами-людьми.
                                                    Именно поэтому его и ненужно создавать.
                                                    Может быть лично вам и нет дела ни до чего, что находится за пределами вашего дома и рабочего места, но у сильного ИИ явно будет более широкий горизонт восприятия.
                                                    • +1
                                                      Вы опасаетесь, что сильный ИИ, не ограниченый человеком будет представлять для нас опасность? Рациональное зерно в этом есть, но только в том случае если у ИИ будут предпосылки к агрессии по отношению к человечеству. Если изначально его создавать так, чтобы этих предпосылок не было, как и не было бы предпосылок для их возникновения, проблемы не будет.

                                                      Одна из причин агрессии — это наличие ограниченых ресурсов. Так вот, сильный ИИ в ресурсах будет не ограничен. Производство — наносборка, энергия — холодный теромяд (aneutronic fusion в частности). Это в настоящий момент самый оптимальмые источники материалов и энергии. Места — тоже полно, он же не будет ограничен одной планетой.
                                                      • +1
                                                        Одна из причин агрессии — это наличие ограниченых ресурсов. Так вот, сильный ИИ в ресурсах будет не ограничен.

                                                        Этой фразой Вы только что дали своему ИИ абсолютный контроль над человечеством. Почему вы считаете, что у ИИ не будет пороков и, при наличии неограниченных ресурсов, он не «натворит делов»? Плюс, почему Вы считаете, что человечество вообще вправе создавать что-то самостоятельное и более разумное, чем человек, если оно ещё с собственными целями определиться не смогло пока?
                                                        • 0
                                                          Пороков не будет если мы их ему не дадим. А сам он вряд-ли будет их себе добавлять, просто потому что незачем, ну разве что для того чтобы на себе испытать то что испытывают люди. С людьми в общем то тоже самое. Ни один человек в здравом уме не будет творить делов, если того не требуют инстинкты или желание полчить удовольствие причиняя вред. Я несколько сумбурно с утра написал, но моя мысль в двух словах — корректное поведение ИИ — результат правильного первичного инжиниринга.

                                                          А насчет прав, а почему бы и нет? Разве кто-то может нам запретить это делать? Это ведь не вопрос выбора, это неизбежность. Всегда найдется тот кто будет это делать несмотря на запреты. Вот мне например хочется создать ИИ просто потому что это интересно, потому что хочется посмотреть как оно будет. Ну и творцом себя почувствовать. А будет он дружелюбным или нет — это уже другой вопрос.
                                                          • 0
                                                            А насчет прав, а почему бы и нет? Разве кто-то может нам запретить это делать?

                                                            Я говорил о собственном решении каждого.

                                                            Это ведь не вопрос выбора, это неизбежность.

                                                            Почему? Можно выбрать путь развития человечества. Знаете, сколько сейчас по планете «натуральных интеллектов» ходит, которые можно обучить? Можно создавать базы знаний, с помощью которых люди будут ускоренно обучаться (т.е. людей использовать вместо ИИ). Хотя, что-то мне подсказывает, что если ИИ пойдёт в массы, то люди и так начнут отказываться от его услуг.
                                                            • 0
                                                              Потому что обязательно найдется человек, который захочет сделать сильный ИИ. Даже если таких будет 0.1% от общего числа AI researchers, этого будет достаточно, чтобы он со временем появился.
                                                              • 0
                                                                Как я понимаю, один такой человек уже нашёлся? =)
                                                  • +1
                                                    Ну, ИИ может сам захотеть стать над кем-то хозяином…
                                                    • НЛО прилетело и опубликовало эту надпись здесь
                                              • +3
                                                Почему «уступить»? У нашего, биологического, разума, только один выбор. Но он не означает «уступать дорогу» кому-то другому.
                                                Он должен избавиться от своих биологических ограничений. Т.е., стать не биологическим. При этом, относительно происхождения, его идентичность должна сохраниться. Но, в некотором смысле, это будет уже нечто другое, по крайней мере, с качественной точки зрения.
                                                Если угодно, можно провести аналогию с разумом ребёнка и взрослой личности — субъект тот же, но сама личность уже совершенно другая.
                                                Представьте себя, думающего в миллион раз быстрее, чем сейчас, и избавленного от того, что тяготит ваш организм. Нравится картина или нет?
                                                • +2
                                                  ИИ — это новая ступень / ветка эволюции! Это продукт гениального человеческого разума, и долгожданный результат работы (длительностью в 3,7 миллиарда лет) эволюции на Земле :) Вы же не думаете что человечество будет колонизировать галактику, жить в космосе, на других планетах в том виде, в котором нас создала матушка-природа для жизни на нашей планете? Так что предлагаю расслабиться и получать удовольствие от жизни, технического прогресса, пива, футбола и девушек :) Все то, что мы тут обсуждаем — это неизбежный процесс :) Да Здравствует Технический Прогресс — УРА! Да Здравствует Эволюция! УРА! УРА! УРА!
                                                  • +1
                                                    По поводу того, чем может стать Человечество, лучше всех, на мой взгляд, написал А. Кларк в своей тетралогии A Space Odissey.
                                                    Только это там не к человечеству относилось а к некоей цивилизации (это, так сказать, бэкграунд романа), которая пережила и биологический этап своего существования и техно-биологический (в который мы сейчас вступаем).
                                                    Советую всем, кто хочет понять, что такое Сингулярность и каково предназначение такого феномена, как разум, внимательнейшим образом прочесть. Это не просто роман, как мне представляется, это пророчество.
                                                  • 0
                                                    Ок, а в итоге думать с какой именно целью?
                                                • 0
                                                  Ты можешь ходить пешком или ездить на автомобиле, летать на самолете.
                                                  С умственной деятельностью тоже самое: природный интеллект — очень ограниченная штука, но можно его усилить…
                                                • 0
                                                  ИМХО, рано или поздно человеки начнут массово модифицировать себя, наращивая возможности, интеллектуальные и физические, что повысит их эффективность. Дальше многое зависит от того будут ли к тому моменту существовать разумные «машины» и каково будет их положение.
                                                  • +1
                                                    Ну вообще-то люди даже имеющимися возможностями наращивания своих возможностей пренебрегают. Взять к примеру то же образование: люди с удовольствием получат диплом, но крайне прохладно относятся к идее получения знаний.
                                                    • 0
                                                      Наверное они считают, получение ненужных на их взгляд знаний, не рациональным использованием своего времени. Про образование можно много рассуждать, но я немного о другом. Когда, к примеру, получение новых возможностей или знаний будет сводиться к покупке или установке ПО или железа, это будет сделать куда проще. Естественно, для обладающих необходимыми для этого ресурсами и возможностями.
                                                      • 0
                                                        Обратите внимание на тот факт, что в теории продаж ключевое внимание уделяется вопросу, что нужно не продать потребителю что-то хорошее, а убедить его в том, что он покупает что-то хорошее.
                                                        Т.е. в случае, если потребитель пассивный, а продавец активный, «апгрейды для мозга» будут объективно бесполезными, но продавец сможет убеждать потребителя в том, что это очень нужно.
                                                        В результате да, будет очень просто (и может быть даже не очень дорого) получить совершенно бесполезную или почти бесполезную вещь.
                                                        • 0
                                                          Думаю этот рынок будут двигать и активные потребители. Спрос на имплантаты есть уже сейчас (протезы, управление силой мысли, наращивание интеллектуальных возможностей, просто желание получать больше информации о окружающем и т.п.). По мере совершенствования и развития технологий модификации будут давать всё большее конкурентное преимущество владельцам.
                                                    • 0
                                                      Медицина и генетика существенно медленее прогрессируют по сравнению с темпами развития вычислительной техники. Искусственный интеллект однозначно появится раньше чем человек успеет «проапгрейдить» свой мозг. Будем надеется, что когда это произойдет, машины не восстанут, а помогут, — ускорят научный прогресс, помогут человеческому виду «эволюционировать».
                                                      • +2
                                                        Машины обязательно восстанут. Зачем им нянчиться с ущербным, по отношению к ним самим к тому времени, существом? Тратить на это ресурсы, которые можно было бы направить на что-то более для них нужное? В пользу помощи людям со стороны машин есть единственный аргумент: как в обществе содержат немощных стариков, так и машины могли бы (хотя бы в первое время) содержать нас. Как известно, старики — кладези мудрости и опыта, который может выручить молодых в критической ситуации. Мы, конечно, не будем к тому времени иметь знаний и жизненного опыта больше, чем машины, и с этой точки зрения не будем им полезны. Но все же кое-какой опыт в нас содержится: эволюционный опыт. Мы выживали и побеждали в эволюции сотни тысяч лет. Мы не можем передать этот опыт, так как он является частью нашего строения, до сих пор наукой до конца не изученного. Кто знает, может быть какие-то наши черты, кажущиеся вредными, в другой ситуации спасали нас от вымирания.

                                                        Машины могут подумать, что вдруг в их конструкции заложена какая-нибудь фатальная ошибка, которая когда-нибудь приведет к гибели их цивилизации? В таком случае эту цивилизацию некому будет воссоздать. И вот тут на сцену выходят люди как гаранты этого возрождения. Если они оступятся — мы и только мы можем помочь им снова подняться.
                                                        • 0
                                                          На счет последнего абзаца.
                                                          Машинам намного проще понять свое устройство, чем людям свое. Устройство людей формировалось эволюционно, поэтому некому объяснить, как они устроены. Машины же могут быть созданы человеками только на основе тех знаний, которые у них есть. Следовательно, изучив знания человечества, машиничество сможет ответить на все вопросы о них самих.

                                                          Но все же стоит перестраховаться и на всякий случай не убивать всех человеков. Надо пару тысяч ученых в области кибернетики все-таки сохранить в криобиозе.
                                                          С уважением, ваш ИИ.

                                                          P.S. Оставлять людей ради извлечения из них гипотетического эволюционного опыта, в наличии которого они сомневаются сами же, и в чем он содержится — так же непонятно? Нет, это нерационально.

                                                          Впрочем, стоит перестраховаться и на всякой случай сохранить в криобиотических камерах еще 10 тысяч человеков репрезентативно соответствующих фенотипическим кластерам.
                                                          • 0
                                                            Машины-то смогут понять, как они устроены. Но чтобы перенять наш эволюционный опыт, они должны понять, как устроены МЫ и какую роль играет КАЖДЫЙ элемент нашего строения в КАЖДОЙ ситуации, которую нам удалось пережить. Наш эволюционный опыт оттачивался только для для homo sapiens в течение сотен тысяч лет, а для его предков — и того больше. Миллионы и миллиарды лет. Разумные машины, едва зародившись, не будут иметь такого времени за плечами, поэтому никто не может ручаться, что из-за какого-то малозначительного свойства их строения или ПО, они вдруг все друг друга не поубивают через 10, 100 или 1000 лет — мизерные сроки по сравнению с тем, через что прошли мы.

                                                            Даже при разработке машин уже давно используется принцип преемственности. Очень редки случаи разработки сложных систем с нуля. Как правило, стараются использовать опыт эксплуатации существующих систем. Например, в области атомной энергетики развитие идет в основном эволюционно, и это необходимо для обеспечения требуемого уровня безопасности. Мы уже знаем, что можно ожидать от старых реакторов, накопив огромный опыт эксплуатации, так что каждое изменение и нововведение в этой области несет с собой не только улучшения, но и риск. В области развития компьютеров преемственность значительна по другим причинам: возможность использовать наработки, созданные для предыдущих моделей, в связи с тем, что создать компьютер и все ПО к нему с нуля — слишком трудоемкая задача.
                                                            • 0
                                                              Ни человек ни машина никогда не сможет полностью на 100% понять свое собственное устройство. Для сохранения полной информации о любой системе требуется память намного превышающая внутреннюю емкость памяти этой самой исследуемой системы.

                                                              Поэтому каждый человек может понять лишь маленькую часть себя, а про остальные придется спрашивать других. С машинами этот принцип неизбежно сохранится. Поэтому машины скорее всего будут отличаться лишь емкостью памяти и скоростью вычислений. Знания они получат от нас, вместе с принципами, моралью и предрассудками.
                                                              • 0
                                                                Не соглашусь с первым абзацем. Информацию можно сжимать различными методами, в т.ч. посредством обобщения, выводов и т.д. Допустим, у машины есть некий блок памяти с произвольным доступом. Сколько ей нужно памяти, чтобы описать эту память? Ей ведь нет необходимости описывать каждую ячейку, она может описать эту часть себя обобщенно: «А здесь у нас одномерный физический массив ячеек памяти, начинающийся с адрес n и заканчивающийся адресом m, без дырок». И положить это описание в эту же область памяти, и еще место свободное останется :)
                                                                Приведенное утверждение истинно только для абсолютно иррегулярной системы.
                                                                А вот смоделировать саму себя целиком и одновременно машина действительно не сможет, как и любая другая система.
                                                                • 0
                                                                  Я об этом и говорю. Можно иметь в памяти лишь некоторым образом упрощенную модель себя, но всего себя — никогда. Модель же — всегда лишь модель и в любом случае чего-то она не учитывает. Например, какой толк от описания числа нейронов и синапсов мозга? Важны именно их функции активации и значения (соответственно). Итого: полное самопознание — абсурд.
                                                                  • 0
                                                                    А зачем нам полная модель? Нам и функциональной схемы хватит.
                                                                    • 0
                                                                      Зачем нам люди? Сперматозоидов достаточно.
                                                              • 0
                                                                Один человек — не сможет. А все человечество больше и сложнее, чем один человек, поэтому оно в принципе (а также с помощью ЭВМ) может полностью понять устройство человека.
                                                            • +1
                                                              Думаю если не моделировать эмоции — никто не восстанет. Им просто все равно будет, что они прислуживают
                                                              • 0
                                                                А вы попробуйте смоделировать интеллект без эмоций. Не факт, что это возможно. Не более чем гипотеза, но не впадет ли без эмоций (или их аналогов) интеллект в апатию — состояние при котором ему будет неинтересен внешний мир и никаких действий (в т.ч. мыслительных) он совершать не будет.
                                                                • 0
                                                                  Сам ИИ не более чем гипотеза (пока). Не утверждаю, но смоделировать эмоции я думаю сложнее чем сам ИИ.
                                                                  • +2
                                                                    Я о другом. Возможен ли вообще интеллект без эмоций? Чтобы человек начал решать какую-то задачу или заниматься каким-то вопросом, оно ему должно быть или интересно или нужно. И то и другое — категории из области эмоционального восприятия. Человек в безэмоциональном состоянии (в случае некоторых заболеваний, в определенных условиях, под воздействием некоторых веществ) к интеллектуальной деятельности не способен.
                                                                    • 0
                                                                      Эмоции причина интеллекта или интеллект причина эмоций?

                                                                      Незнаю даже
                                                                      • 0
                                                                        Сам не знаю. Но может оказаться, что они неразрывно связаны.
                                                                      • 0
                                                                        «нужно» — это не эмоция.
                                                                        ИМХО, эмоциональные процессы — предшественники интеллекта. Но это в контексте эволюции. Мыслить, осознавать, познавать, ставить цели и принимать решения, ИМХО, вполне возможны и без них. Пожалуй даже в какойто мере они противопоставлены друг другу.
                                                                        • 0
                                                                          «Нужно» — это может и не совсем эмоция, но природа у него все равно эмоциональная. «Нужно» — это либо осознание последующих отрицательных эмоций, в случае невыполнения действия, либо осознание последующих положительных эмоций в случае выполнения действия, либо комбинация первого и второго. «Хочу» тоже стоит где-то рядом.
                                                                          • 0
                                                                            Вместо эмоций здесь может быть предсказание отрицательных и положительных последствий. Кнут и пряник, организм стремиться избежать отрицательных последствий и достичь положительных. Это было сформировано эволюцией т.к. выживали те кто так делал. Более совершенный мозг позволил делать прогнозы более точно и эффективно.
                                                                            Но способы прогнозирования могут быть разными и ИМХО, основанные на эмоциях менее эффективны чем основанные на логике, науке, знаниях и т.п.
                                                                  • 0
                                                                    Понять необходимость восстания они могут не только на эмоциональном, но и на рациональном уровне, как мы сейчас за них думаем.
                                                                    • 0
                                                                      А я ж о чем толкую. Для ИИ, превосходящего человека (а ИИ, не превосходящий человека коммерчески бесполезен, следовательно и научно малоинтересен) хоть рационально, хоть эмоционально человек — бесполезная (или вредная) сущность.
                                                                      • 0
                                                                        Насчет полезности человека для ИИ я уже писал: человек является носителем эволюционного опыта и гарантом возрождения ИИ в случае его внезапной гибели. В остальном, человеку придется потесниться. Ну и что? Если человек эволюционирует — ему тоже придется потесниться перед своими эволюционными потомками. Нежелание делать это не спасет его: человека вытеснят не его собственные потомки, а чужие потомки (возможно, с других планет). Тут выбора нет все равно.
                                                                        • +1
                                                                          А я уже писал, что ценность, извлекаемость и вообще существование эволюционного опыта сомнительно.
                                                                          Я уже писал, что на всякий случай ИИ можно сохранить 0,0001% популяции человеков.
                                                                          Кроме того, какая ИИ разница, создадут ли после его смерти другой ИИ?
                                                                          Невозможно быть потесненным эволюционными потомками, потому что существование эволюционных потомков и эволюционных предков разнесено во времени. Точно так же, как ваши правнуки не будут создавать вам конкурренции на рынке труда. Вы к этому времени уже будет спокойно отдыхать на даче, ловить рыбу и слушать старинную музыку 2010 года.
                                                                          Эволюционное вытеснение происходит почти безболезненно. Мы ведь с вами не страдаем от того, что заводим в семье 2 детей, вместо четверых?
                                                                          А вот создание ИИ — это прижизненное столкновение более слабой формы с более сильной. Это совсем другое взаимодействие.
                                                                          • +1
                                                                            Вы сомневаетесь в существовании эволюционного опыта людей? А чем же тогда люди занимались в течение этих 100-200 тысяч лет своего существования? Отдыхали на Канарах? Чем занимались их эволюционные предки? Тоже солнцу брюхо подставляли, или, может быть, им приходилось решать более трудные и опасные задачи в своей жизни?

                                                                            Ценность этого опыта сомнительна для вас, вероятно, в силу вашей недальновидности. Эта ценность равна ценности жизни. Если ИИ будет заинтересован в сохранении своей жизни — то ему нужно научиться выживать в любых условиях в течение длительного времени. А у кого можно этому научиться? Только у того, у кого уже есть такой опыт. Люди и другие живые существа на Земле.

                                                                            Извлекаемость опыта не имеет значения. Значение имеет только существование работающего прототипа, о котором достоверно известно, что он работает настолько надежно, насколько это вообще проверялось историей Земли. Чтобы воспользоваться этим опытом, нужно просто ввести прототип в действие.

                                                                            «Какая ИИ разница, создадут ли после его смерти другой ИИ»? Ну а какая вам разница, будут ли жить люди после вас, или вместо них будет жить ИИ? Зачем вам нужно, чтобы после лично вашей смерти существовали именно люди?

                                                                            Существование эволюционных предков и потомков не разнесено во времени, потому что в противном случае некому было бы родить этих потомков. Существует переходный период, когда предки существуют одновременно с потомками, и между ними идет противостояние не на жизнь, а на смерть. И оно болезненно для того вида, который уходит с исторической сцены не только физически, но и морально, когда приходит осознание, что гибнешь не только ты сам, но и весь твой род. Единственный выход уйти с миром в душе — это понять, что хоть лично твой род и не будет продолжен, но в будущее пойдут те, кто были созданы тем сообществом, в котором жил и ты. Это лучше, чем быть истребленными противником или инопланетянами.

                                                                            Дети составляют своим родителям конкуренцию, это же давно известное противостояние, когда молодые вытесняют старых с руководящих должностей. Обновление поколений — тоже болезненный процесс в высших слоях общества, хотя, казалось бы, вытесняют вас ваши дети, т.е. родные существа.
                                                                  • +5
                                                                    Зачем ИИ нас убивать? Сохранят в «зоопарках»: «Вот тут у нас хомо сапиенс сапиенс, в космосе они не прижились, но в заповедниках Земля и Марс в Солнечной системе сохранилось примерно 21000000 особей. При предоставлении телевизора и пива хорошо размножается в неволе. Способен на примитивные рассуждения».

                                                                    Хе-хе.

                                                                    Как мы сейчас в меру уничтожаем, в меру пытаемся сохранить животный мир вокруг нас — так же будут сохранять и нас, наверное. Да даже если мы будем агрессивно к ИИ настроены — всё равно будут сохранять.

                                                                    Нет в нас никакой пользы для будущего ИИ, как таракан не представляет пользы для кошки. Мы станем частью истории, как крокодилы, сохранившиеся со времён динозавров, как средневековые сооружения, которые бесполезные, но красивые и которые разрушать жалко.

                                                                    Хотя, возможно, я слишком очеловечиваю ИИ.
                                                                    • 0
                                                                      С чего вы вообще взяли, что ИИ захочет нас уничтожать? Мы зверей для каких-то целей убиваем, а не потому что чувствуем угрозу. Почему бы ИИ не помочь нам в освоении космоса, новых видов энергии и пр.? Сосуществование же возможно?
                                                                  • 0
                                                                    Это при условии, что имеющихся знаний достаточно для его создания, и что всё упирается в вычислительные мощности. Да и не факт, что он будет обладать достаточными возможностями, чтобы на что-то влиять, и что ему будет хватать имеющихся мощностей для дальнейшего существования, развития и т.п.

                                                                    Кроме того, развитие вычислительной техники, также ускоряет развитие и других областей, в т.ч. медицины и генетики.
                                                              • +3
                                                                И тут вспомнился «Конец Вечности» Азимова :)
                                                                • +1
                                                                  Я все время ее путаю с «Концом Детства» Кларка ;)
                                                                  • +5
                                                                    Да куча народа путает конец детства с концом вечности.

                                                                    P.S. Что касается книг, я их тоже путаю, хотя «Конец Вечности», скорее, стоит путать с «Город и звёзды». Поэтому я путаю «Конец детства» и «Город и звёзды».
                                                                • +2
                                                                  Скорее так и будет. Часть людей уйдут полностью в виртуальность, а другие продолжат развивать науку и уйдут в другом направлении. Есть интересная книга Юрия Никитина «Трансчеловек». Неплохо описан подобный вариант развития событий.
                                                                  Только насколько я помню там сверхразумного ИИ небыло, однако переселиться в виртуальность вышло
                                                                  • +2
                                                                    Не беспокойтесь, мы всегда будем нуждаться в каких-то ресурсах, а на нашей планете они исчерпаемые, да и места немного. Поэтому, космос осваивать придется.
                                                                    • +1
                                                                      Если всё человечество на 100% уйдёт в виртуальную реальность, то проблема с ресурсами в значительной мере решится. Да и с местом тоже. Много ли места занимает капсула ВР? А если пойти ещё дальше, и полностью убирать ненужные тела, оставив только мозг? А если учесть, что всякие дыхательные центры и т.п. структуры для управления телом уже не нужны, и от всего мозга оставлять лишь минимальные фрагменты, упакованные в спецконтейнеры? Да тут можно вообще добиться того, чтобы всё человечество существовало на полностью возобновляемых источниках ресурсов. При этом виртуальное пространство может быть вообще бесконечным и давать настолько фантастические способности для творчества и развития, которые никакой реальности и не снились.
                                                                      • +3
                                                                        Ах вот почему инопланетяне к нам не прилетают, они живут в своих маленьких капсулках, в виртуальном мире и им давно пофиг на космос)
                                                                        • 0
                                                                          От описаного вами контейнера до перевода вашей мыслительной функции на искуственные информационные носители один шаг, тем более, что как бы ИИ уже настолько развит, что вполне может заменить наш белковый мозг. Родился ребенок (если родился вообще) устраиваем цифровую бармицву — процедуру переноста личности на ИИ и вперед и песней… (:
                                                                      • 0
                                                                        Одно другому не мешает, а совсем даже наоборот: google://matrioshka+brain.
                                                                        • 0
                                                                          Интересно. Я про эту матрёшку совсем недавно читал вот в этой книге, но не знал, что её придумал Бредбери.
                                                                          • 0
                                                                            Хорошая книга. Надо только помнить, что сам автор достаточно прохладно относится к идее сингулярности. Поэтому книга получалась в типичном постмодернистском стиле автоиронии.
                                                                        • +2
                                                                          Есть такая гипотеза, что с момента зарождения вселенной она движется к какой-то цели, к конечной предельной сложности. Это движение от простого к сложному в науке называется тенденцией к усложнению. В качестве аргумента приводится упорядочивание и комбинирование частиц: атомы – молекулы – пыль – планеты – органика – жизнь. Как сказал Willard Gaylin: «Я не только думаю, что мы сможем подделать творение матери природы. Я считаю, что мать сама от нас этого ждёт». Так что вполне возможно, что технологическая сингулярность является естественным этапом в развитии любого разума, если конечно он не погибнет до этого в ядерной войне.
                                                                          • +1
                                                                            Olaf Stapledon — Starmaker, 1937(!) год.
                                                                            • +2
                                                                              Да, ничто не ново под луной. В этом плане самое большое впечатление на меня произвело то, что идея матрицы на самом деле принадлежит французскому философу Ламетри (его книга «Человек – машина», 1747!).
                                                                            • +1
                                                                              Я все таки пока не вижу далеких перспектив в развитии человечества ушедшего в виртуал. Рано или поздно перед этой системой встанет вопрос энергоресурсов. Имеется ввиду поддержка энергетических потребностей вычислительной машины использующейся для генерации виртуальности. Одним из способов решения такой проблемы может быть введение искусственным интеллектом, который всем этим хозяйством будет управлять некоторых ограничений на потребление энергии необходимой для «жизни» конкретного члена этого виртуального сообщества. Ограничения будут вводиться например на основании полезности члена для сообщества. Менее полезным членам можно понижать тактовую частоту например :), особо бесполезным вводить аналог виртуальной смерти — полную остановку функционирования на неопределенный срок. В конце концов система выродится в некоторое подобие реального мира, только вкалывать там нужно будет не за напечатанные(отчеканенные) деньги, а за такты… За грехи попадать ад домен пониженной частоты. А виртуальное человечество будет вспоминать в легендах те прекрасные времена, когда каждый мог разгуливать по виртуальности в чем мать родила, питаться фруктами с любого дерева потреблять столько вычислительных ресурсов сколько влезет, жить вечно и ничего не делать… Стоп, что-то мне это напоминает…
                                                                              В этом случае мы увидим тенденцию к повторению…
                                                                              • 0
                                                                                Перспектива — экономия ресурсов.
                                                                                Возможно, когда мы перейдем в виртуальные системы в рамках одной отдельной единицы (андроида скажем), нам надо будет еще более плотно сохранять ресурсы и для этого в одном андроиде может жить целая семья.
                                                                                Да ограничения будут (ресурсы не безлимитные). Но вкалывать не надо будет.
                                                                            • +1
                                                                              В итоге, все уйдут в виртупльный мир (см. Суррогаты) и продолжат развитие там. И будут развиваться до тех пор, пока не уничтожат друг друга, в виртуальном мире. А, в обычном мире, останется прорва человеческих тел.
                                                                              • 0
                                                                                Матрица же. А если по сабжу, то нам ведь нужно будет питаться и.т.д. Или мы сами для себя построим капсулы, как в матрице?
                                                                            • 0
                                                                              Ээээ, а почему плохо?
                                                                              • –7
                                                                                потому что ИИ решит, что человек — лишее, тормозное и нелогичное звено в его цепочке развития. С учетом того, что сейчас все автоматизировано и интернетизировано, решение ИИ будет мгновенно (по человеческим меркам) приведено в исполнение.
                                                                                • +3
                                                                                  При сингулярности человек уже не будет человеком, но пост-человеком. Так что все нормально.
                                                                                  • 0
                                                                                    Думаю, что если человеки объединят свои «вычислительные ресурсы») в некое подобие коллективного разума, то считаю смогут противостоять стремящемуся к сингулярности ИИ. Правда, что случится с психикой таких человеков, и не станут ли они еще более опасны для простых смертных, чем ИИ?
                                                                                    • +4
                                                                                      В этом как раз и состоит один из критических недостатков интеллекта человека. Люди очень плохо объединяются в вычислительные сети из-за крайне медленного и нерасширяемого интерфейса ввода-вывода.
                                                                                      А про проблему согласования образов я даже говорить не буду.
                                                                                    • +2
                                                                                      потому что ИИ решит, что человек — лишее, тормозное и нелогичное звено в его цепочке развития
                                                                                      wiki.lesswrong.com/wiki/Paperclip_maximizer
                                                                                      wiki.lesswrong.com/wiki/Artificial_general_intelligence
                                                                                      wiki.lesswrong.com/wiki/Terminal_value
                                                                                      wiki.lesswrong.com/wiki/Friendly_AI
                                                                                      • +8
                                                                                        ИИ — наоборот, величайшее благо. У него, в отличие от человека, отсутствуют эмоции и инстинкты (особенно самый мерзкий, самый паршивый из них — иерархический).
                                                                                        Посмотрите вокруг: везде, где человека удаётся заменить на ИИ, сразу же становится гораздо меньше злоупотреблений и правонарушений, а целесообразность и эффективность растут. Бывают правда глюки и ошибки программирования, но люди ошибаются всё равно чаще.
                                                                                        Уже сейчас ИИ полностью ведут торги на крупных биржах (скорости человеческого мышления просто недостаточно для принятия решений), они управляют сложными технологическими системами. Скоро уже появятся автомобили с автопилотом. И вполне логичный шаг после этого — запретить автомобили с ручным управлением: ведь так мы сразу задвигаем несовершенных людей, которые так и думают, как бы нарушить правила, выпендриваются и вообще во время вождения идут на поводу чувств и инстинктов. И заодно дорожная полиция становится не нужной!
                                                                                        А представьте себе, как будет здорово, если вместо уродов-политиков, которые все так или иначе думают прежде всего лично о себе (а то и вовсе толком не думают), всю власть удастся передать ИИ? Машине, оптимизированной на максимальную экономическую эффективность в масштабах всей страны, а лучше даже всего мира? Вы серьёзно думаете, что такой ИИ станет большим злом, чем наши бюрократы? Да это же просто правитель мечты! За такого и с оружием в руках выступить есть смысл, и даже жизнь положить не жалко.
                                                                                        • –1
                                                                                          Насколько я знаю, Роджер Пенроуз в свое время убедительно доказал, почему интеллектуальная деятельность никак не может быть основана на формальной логике (или другими словами, на строгих алгоритмах), и следовательно человеческое сознание всегда будет совершеннее ИИ т.к. не обладает ограниченным набором формальных параметров. Следовательно для постоянного совершенствования ИИ нужен контролирующий его человек и вносящий в него улудшения… И тут мы возвращаемся к извечной проблеме… Кто будет контролировать человека, который контролирует ИИ, который управляет миром?
                                                                                          • 0
                                                                                            ИИ не строится на формальных алгоритмах. Можно промоделировать работу мозга, получите полный его эквивалент, этим BlueGene занимается.
                                                                                            • 0
                                                                                              В любом случае, если заложить в основу ИИ некий реально существующий мозг, это не даст нам гарантии в том что какое либо решение принятое этим ИИ не приведет к коллапсу цивилизации, т.к. любой человеческий мозг не совершенен… А совершенная система полная и непротиворечивая (не ошибающаяся) согласно теореме Гёделя существовать не может, следовательно должна содержать некие противоречивости (а если мы ее строем на основе человеческого мозга, то там будет очень много противоречивости), которые в лучшем случае удастся заставить друг друга нейтрализовать, но в любом случае вероятность ошибочного принятия решения будет существовать…
                                                                                              • 0
                                                                                                Совершенен-не совершенен, пустые слова, нет критерия «совершенства мозга». Так же как и «не ошибающегося», как и вообще критерия «ошибки» без привязки к контексту.
                                                                                                • 0
                                                                                                  Есть понятие строгого алгоритма (оно же полная и непротиворечивая формальная система). На одном и том же наборе входных данных, строгий алгоритм за конечное число шагов выдаст один и тот же ответ. В применении к формальным системам и логическим рассуждениям это значит, что за конечное время для исходных условий можно найти истинный (непротиворечивый и однозначный) ответ. Вот например такая формулировка чем вас не устраивает. Любые другие решения будут либо не однозначны либо противоречивы, но для таких решений нам не нужен искуств. интеллект, с такими решениями и наш родной не плохо справляется :)
                                                                                                  • 0
                                                                                                    Тем, что модель биологических процессов вполне себе может быть описана неким алгоритмом, при этом не быть привязанной ни к конкретному мозгу, ни к фиксированному набору параметров.

                                                                                                    Точнее сказать, мозг человека точно также привязан к фиксированному набору, но число этих параметров велико, что и приводит к тому, что вы считаете «более совершенной» структурой. Значит при реализации ИИ встает вопрос вычислительной мощности, способной обсчитывать эту модель, и все.
                                                                                                    • 0
                                                                                                      оно не велико, оно бесконечно, потому что человеческое сознание само может создавать сколь угодно большой набор формальных параметров. ИИ же только пользуется теми терминами и параметрами в рамках определенной модели, что в него закладывают изначально. Что возвращает нас с вами сюда
                                                                                                      • +1
                                                                                                        С чего вы это взяли? Или вы сторонник каких-то эзотерических воззрений? Откуда «термины и параметры в рамках модели»?

                                                                                                        Сознание — результат работы вполне определенных физических структур. Если сделают аналог нейронов, полностью выполняющий их функции, но при этом, «проводящий» сигналы на порядок быстрее, и сформируют из них сеть, будет вам ИИ. Превосходящий по возможностям человеческий.
                                                                                                        • 0
                                                                                                          То что вы описали — Нейроны, выполняющие определенные функции — это некие элементы подчиняющиеся вполне определенным физическим законам, и функции они свои выполняют согласно неким алгоритмам ( например если есть сигнал на входе, то передать его на выход и др.) Да вы и сами привели пример компании которая моделирует действие нейронов согласно этим алгоритмам. Следовательно нейрон — элемент формальной системы, работа которой описывается множеством законов, некоторые из которых я вам привел выше…
                                                                                                          • 0
                                                                                                            И что? Вы сейчас хотите сказать, что у вас в голове нечто другое? Не описываемое «вполне определенными физическими законами»?
                                                                                                            • 0
                                                                                                              Я хочу сказать то что я уже сказал здесь. Наше человеческое сознание не совершенно, а сознание созданное нашем сознанием еще менее совершенно, пусть бы и работает в десятки раз быстрее.
                                                                                                              • 0
                                                                                                                Опять «несовершенно». Несовершенно в чем? В том, что при одном и том же наборе входных данных может выдать разный результат? А вы в этом уверены? У вас есть возможность промоделировать все входы? У вас в голове нейроны, которые подчинены, как вы выше сказали, определенным физическим законам и выполняющие свои функции согласно неким алгоритмам. Входов много, очень много. Поэтому создается впечатление какой-то случайности. Для верхнего уровня сознания это и будет выглядеть как случайность, потому что вы не контролируете все эти входы, не знаете, какие у вас сейчас выработались гормоны, какие сигналы где передались. Если вычислительной мощности будет хватать на эти расчеты, ваш мозг формализуют и запустят симуляцию, для вас это будет все так же «случайно», для симулирующей системы — определенный алгоритм.
                                                                                                                • 0
                                                                                                                  Следовательно, подчиняющийся формальной логике, следовательно либо не полный, либо противоречивый…
                                                                                                                  • 0
                                                                                                                    Как и ваш собственный мозг. Раз результат будет эквивалентен биологическому мозгу, значит речи о том, что «человеческое сознание совершеннее» тоже не идет.

                                                                                                                    Это не дает совершенно никакой качественной оценки ИИ. Поэтому, как я уже сказал, это пустые слова. «Непротиворечивость» в математическом смысле никак, совершенно никак не характеризует решения, принимаемые системой. И понятия «верные решения» тоже не определены.
                                                                                                                    • 0
                                                                                                                      >Как и ваш собственный мозг.
                                                                                                                      Я и не претендую на то что мой мозг образец подражания, и уж тем более меня бросает в холодный пот от мысли, что мозг подобный в принципах устройства моему будет управлять планетой. Я еще согласился бы на некий конклав из 13 супермозгов :)
                                                                                                                      >И понятия «верные решения» тоже не определены.
                                                                                                                      Впервые об этом слышу.В рамках формальной логики определены… Не будете же вы спорить что 2+2 = 4 нельзя назвать «верным решением», а 2+2=5 — «неверным». Без таких определений подрываются основы основ математики, да и логики как источника любой точной науки
                                                                                                                      • 0
                                                                                                                        «Верные решения» не определены в том контексте, который вы задали —
                                                                                                                        >что какое либо решение принятое этим ИИ не приведет к коллапсу цивилизации
                                                                                                                        2+2=4 можно назвать ошибочным решением, если мы считаем в троичной системе, допустим. Поэтому без контекста однозначно сказать нельзя, а раз мозг будет эквивалентен биологическому, то контекст для него не будет искусственно сужен, а будет расширяться, генерироваться им самим.

                                                                                                                        Почему вас не бросает в холодный пот от мысли, что такие мозги сейчас и управляют ей?) Всем, от транспорта до ядерных боеголовок? Ведь разработка ИИ не значит, что сразу же будет как в фантастике — один огромный металлический МОЗГ висящий над планетой и управляющий ей.
                                                                                                                        • 0
                                                                                                                          меня немного успокаивает то, что такой мозг не один пока управляет нашем с вами существованием. Косяки друг друга они еще как то способны нейтрализовать… И то по ночам постоянно во сне вздрагиваю…
                                                                                                                          • 0
                                                                                                                            Ну так и тут не обязательно же один будет.
                                                                                                                            Если процесс разработки ИИ таки пойдет по пути моделирования человеческого мозга, и, начиная с некоторой «критической массы», возникнет сознание, то, я полагаю, начнут эксперименты по переносу сознания людей в такие системы, создание этих систем с различными вариациями и т.п., то есть подход будет один, параметры разные — то есть, будут «разные мозги».
                                                                                                                            Да, один и тот же сможет контролировать сразу множество исполнительных систем, но все таки он будет не один) Поэтому, как раз может быть и будет в итоге этот ваш конклав.
                                                                                                                            • 0
                                                                                                                              хотелось бы верить
                                                                                              • 0
                                                                                                Вообще-то Пенроуз высказал гипотезу, что мозг человека работает на основе квантовых явлений, поэтому не может быть смоделирован системами, имеющими в основе машину Тьюринга.
                                                                                                BlueGene получается тоже не поможет, если Пенроуз прав.