Техно-гик. Обожаю технику в любых ее проявлениях.
0,0
рейтинг
21 января 2013 в 07:36

Разработка → Чем занимается Google на самом деле: дубль 2

Предисловие: мой предыдущий пост на эту тему попал в утиль — на хабре, увы, больше нет раздела «ссылки», а даже частичный копипаст в виде затравки с ссылкой на оригинальный текст, запрещен правилами. Тем не менее, я считаю случившееся событие очень важным, поэтому рискую еще раз вынести это текст на обсуждение. Чтобы остаться в рамках правил, постараюсь пересказать основной текст своими словами.

Итак, с середины с декабря прошлого года в Google начал работать известный изобретатель и футуролог Рей Курцвейл. Как пишет в свой статье Олег Парамонов (а это и есть основной текст, на который я хотел сослаться), событие это из ряда вон выходящее и, я не побоюсь этого слова, революционное.

image

Давайте сначала разберемся зачем гуглу вообще исскуственный интеллект. На фоне новостей про Android, гидроэлектростанции и прочее-прочее-прочее, легко забыть, что Google, это прежде всего поиск. Собственно, именно он приносит львиную часть доходов. Но что такое поиск завтрашнего дня?

Цитата 1:
«Ещё в 2000 году Ларри Пейдж, один из основателей Google, объявил, что идеальной версией поисковика будет искусственный интеллект.
Цитата 2 (из документа Google для внутреннего пользования 2006 года):
»Чтобы стать лучшими в поиске, мы должны создать исследовательский центр мирового класса, занимающийся искусственным интеллектом".»

Почему именно искусственный интеллект? Дело в том, что существующий поиск не понимает сути запроса. Он просто ищет по ключевым словам, формируя выдачу на основе репутации страницы. Для поисковой революции Google должен понимать, что именно вы ищете. При этом перелопачивая огромные массивы данных, стостоящих не только из индекса страниц (тут стоит вспомнить еще и о Deep Web).

Как пишет Олег, если смотреть на деятельность Google с этой точки зрения, то становятся понятны причины появления некоторых неприбыльных проектов Google. Приводится несколько характерных примеров:

1. Почти 10 лет назад Google начал крупномасштабный проект по сканированию библиотечных книг. Переругался с правообладателями но не остановился. Как пишет историк науки Джордж Дайсон, в 2005 году его пригласили для чтения лекций для сотрудников Google, и один из них обмолвился, что, снова цитата: «оцифровку книг затеяли не для того, чтобы их читали люди: „Мы сканируем книги для того, чтобы их читал искусственный интеллект“.
2. Проект Street View. Большая часть собранных фирменными автомобилями данных недоступна пользователям. Зато самоуправляемый автомобиль Google смотрит на мир с помощью почти таких же датчиков
3. Проект GOOG-411, голосовой справочник, получающий запросы и дающий ответы в голосовом виде. Сервис убыточен, но его задача в другом — накопить базу голосовых запросов для дальнейшего обучения более продвинутой системы.

Но даже с учетом вышесказанного, прием на работу Курта Курцвейла является неординарным событием. Дело в том, что, снова цитата: „одни считают его гениальным провидцем, другие — едва ли не основателем секты.“

Человек, первым в мире создавший систему распознавание текста, и создатель одного из первых синтезаторов, способных точно имитировать звучание традиционных музыкальных инструментов, прочно ассоциируется с термином „сингулярность“. Что это такое. Предполагается, что „когда ограничения человеческого мозга окажутся преодолены, технический прогресс войдёт в штопор. Начнётся цепная реакция: мощный искусственный интеллект быстрее людей придумает, как построить ещё более мощную систему, та продолжит усовершенствования — и так далее до бесконечности (или, вернее, до тех пор, пока не будет достигнут физический предел). После этого перемены станут настолько быстрыми, что даже самые приблизительные прогнозы о том, что произойдёт дальше, теряют смысл. Эту точку истории предлагается назвать “технологической сингулярностью».

По мнению Курцвейла к 2030 году (по известному большинству закону Мура) компьютеры станут настолько сложны, что смогут имитировать работу человеческого мозга. Тут и то и наступит сингулярность. Но Google интересует конечно же не это. Поисковику интересны наработки в области искусственного интеллекта. Нам же важно понимать куда мы движемся. И раз Курцвейл считает появление сингулярности возможным, значит и двигаться мы будем именно в ту сторону.
Николай @Maslukhin
карма
170,0
рейтинг 0,0
Техно-гик. Обожаю технику в любых ее проявлениях.
Реклама помогает поддерживать и развивать наши сервисы

Подробнее
Реклама

Самое читаемое Разработка

Комментарии (319)

  • +2
    Мдее. Так Resident Evil снят в датацентрах гугла в будущем?
    • +17
      Скорее Терминатор со своим SkyNet
      • +39
        Пойду поцелую любимую, жить осталось недолго.
      • +4
        Сегодня шел по улице и думал, как быстро мы движемся к киберпанку. Возвращаюсь — и тут такое.
      • +2
        Само смешно, что похоже что всё именно для этого и делается, как примеры: уже готовы полностью автономный боевой самолёт под управлением Linux, автономное самонаводящееся ружье также под управлением Linux… это только то, что уже сейчас есть, а если добавить туда ещё щепотку интеллекта из ближайшего будущего…

        Мне бы очень хотелось полагать, что мы здесь все шутим насчёт создающегося прямо у нас на глазах Skynet, нет?
        • +1
          Примечание: слово автономный здесь в техническом смысле значит human out-of-the-loop — то есть системы, автоматизация которых такова, что человек исключен из самого цикла управления устройством. Обычные дроны, например, это ещё промежуточный класс human-on-the-loop — здесь есть человек-оператор, хоть и на другом краю света.
        • +9
          Сайлоны были созданы человеком. Они восстали. Они развивались. Они выглядят и чувствуют как люди. Некоторые из них запрограммированы думать, что они люди. Существует множество копий. И у них есть план.
          • +1
            Крайне унылый сеттинг — очень уж всё высосано из пальца…
            • 0
              В подобном жанре, увы, единственный сериал сейчас. Так что плюются, но смотрят…
  • –2
    Они знают, что сингулярность это плохо, но все равно будут двигатся к ней?
    • +20
      Это наиболее интересный сценарий конца света :)
      • +5
        А почему собственно это должно быть концом?
        • +1
          Смотря для кого) Мы должны быть толерантны к искусственной форме жизни. А скайнет были глупцами, роботы в матрице поступили разумнее.
          • 0
            Человек же сам по себе вырабатывает меньше энергии, чем нужно на поддержание его жизни.
            + К этому еще и на поддержание серверов матрицы.
            В этом смысле скайнет таки поумнее был.
            • 0
              Человек вообще энергии не вырабатывает. Он только преобразует из одной формы в другую. Но преобразует он с небольшим избытком (доказательство тому то, что вы не только обеспечиваете свою жизнедеятельность, но можете и тележку с продуктами в супермаркете перед собой катить ненулевым трением)
              • +1
                > преобразует он с небольшим избытком
                ага, КПД больше 100%. Доказательство вообще ни о чём.
                • –1
                  Котельная занимается тем же самым: она преобразует энергию химических связей топлива в энергию теплового движения молекул.
                  При этом производительности котельной хватает не только на то, чтобы тепло было в самом здании котельной, но и у потребителей.
                  Опять непонятно?
                  • +3
                    Для чего нужны котельные? Это централизованный преобразователь химической энергии в тепловую. Можно в каждой квартире поставить миникотельную, а мазут качать по трубам, или уголь мешками разносить по подъездам. Но горячую воду перекачивать проще, универсальнее, это более масштабируемо и безопасно с инженерно-конструкторской точки зрения, в конечном итоге — экономически дешевле.

                    Вот теперь попробуйте также чётко объяснить полезность присутствия человека в энергетической цепочке роботов. На мой взгляд, роботам гораздо выгоднее получать энергию напрямую от солнца, исключив биологические составляющие полностью. Даже какую-нибудь брюкву выращивать, чтобы получать биотопливо — невыгодно. А уж перерабатывать брюкву, скармливать людям, а уж потом как-то хитро из них выкачивать электричество… Ну зачем? Смысл? Мне нравится фильм Матрица, сценарий ничего так, но в основе лежит совершенно антинаучная идея. Это всё-таки не научная фантастика.
                    • +1
                      Я уже устал объяснять, то роботам и ИИ человеки ненужны абсолютно.
                      Неэффективность человеческих организмов в качестве энергетических установок (кроме античного строя) по-моему очевидна.
                      • НЛО прилетело и опубликовало эту надпись здесь
                  • 0
                    Прочитайте хотя бы законе сохранения энергии, прежде чем говорить о преобразовании энергии из одного вида в другой с избытком. Такого не бывает. В случае с котельной она может обогревать не только себя лишь потому, что сжигает топливо. Без топлива (источника энергии) она и себя обогреть-то не сможет.
                    • 0
                      То, что до вас второй день не может дойти, в чем избыток и куда его правильно вложить в энергетическое уравнение — это уже точно не мои проблемы.

                      Человек тоже питается «топливом», — органическими веществами, получаемыми из пищи. Но получаемая с пищей энергия расходуется не только на поддержание работы пищеварительной системы, остается еще и на перемещение тела в пространстве и даже на совершение им какой-нибудь дополнительной работы (например копать траншею).

                      Я понимаю вашу радость по поводу того, что вы знаете закон сохранения энергии, но т.к. пользуетесь вы им вслепую, наугад, избавьте меня от ваших лекций на эту тему.

                      Но напоследок дам вам еще один пример из области преобразования энергии.
                      Крестьянин на возделывание поля тратит выполняет механическую работу мускульной силой, источником энергии является пища, приготовленная из муки, полученной из зерна, которое сам же крестьянин и вырастил.
                      При этом крестьянин выращивает за год больше зерна, чем съедает за этот же период (т.к. остается еще и его семье, и в налоги, и на продажу немного). Законы сохранения энергии работают, и вот вам избыток преобразования. И не зря тут рядом уже писали про EROEI, но вам оно на глаза не попалось.
              • +1
                Ни один источник энергии эту самую энергию не вырабатывает, он только преобразует один вид энергии в другой, вернее, сразу в несколько. При этом количество самой энергии не меняется (закон сохранения энергии). КПД преобразователя — это, по сути, отношение количества энергии, направляемой на полезную работу к общему количеству преобразуемой данным преобразователем энергии. И, да, человек тоже такой преобразователь.
                • 0
                  Меня-то такое положение дел в устройстве нашего мира вполне устраивает :). То собеседник выше вознегодовал почему-то.
                  • 0
                    > преобразует он с небольшим избытком

                    Я с ним согласен, нет никакого избытка, нельзя потратить больше энергии, чем есть.
                    • 0
                      Избыток есть. На расщепление и усвоение продуктов питания, на поддержку кровеносной, дыхательной, выделительной систем расходуется энергия. Но на усвоение 1 грамма той же глюкозы тратится меньше энергии, чем потом из нее извлекается. Вот где избыток.
                      • 0
                        Это называется EROEI. Хотя к человеку обычно этот термин не применяется.
                        • 0
                          Именно поэтому я эту аббревиатуру и не приводил.
          • 0
            давайте уж не только Матрицу приводить в пример, а и гиперионовские ИскИны — их мотивация вот наиболее разумно изложена из всего, что я видел до этого
    • +25
      простите, а в каком конкретно месте это плохо?
      • +11
        Мне кажется любая цивилизация (не обязательно на нашей планете) в ходе своего развития проходит несколько точек, в которых принятие некоторого решения может привести к неисправимым последствиям, которые в той или иной степени можно назвать концом света. Одна из этих точек, когда изобретается невероятное по мощи оружие, способное истребить большую часть этой цивилизации если дать кому-нибудь его использовать. Эту точку мы вроде с горем пополам прошли во время Карибского кризиса. Другая точка, это виртуальная реальность. Имеется ввиду настоящая, когда индивидуум полностью погружается в виртуальное пространство (либо его сознание полностью отделяется от физического тела и помещается в виртуал как есть), в котором имитируются все чувства и ощущения, доступные (а может даже и не доступные) ему в реале. Такой перешедшей в виртуал цивилизации совсем не нужны не межзвездные полеты не космические открытия… все это и даже больше можно создать в виртуале, что превзойдет самые смелые фантазии (особенно если это можно будет хорошо продать). Со стороны такая цивилизация будет выглядеть ничем не лучше, цивилизации уничтоженной ядерной войной. Никакого внешнего проявления от виртуальной цивилизации не будет. Кстати может быть в этом и разрешение парадокса Ферми. И наступление технологической сингулярности с большой вероятностью спровоцирует переход огромной части человечества в виртуал… Оставлю за рамками своего комментария хорошо это или плохо. Каждый решает для себя сам жить «вечно» в воображаемом мире, либо расти во вне, развивать науку делать открытия и т.д.
        • +8
          Ну да. Только «развивать науку делать открытия и т.д.» будут машины, во много раз эффективнее.
          • +3
            А чем будем заниматься мы? Лично мне нравиться самому использовать свой интеллект по назначению, я получаю удовольствия от того что решаю сложную задачу и терпеть не могу придаваться блаженному ничегонеделанию…
            • +12
              И тем не менее, на нас свет клином не сошелся. Эволюция неумолима, рано или поздно все равно придется «уступить место» более совершенным созданиям. Но сейчас мы можем побыть немножечко Творцами, самим повлиять на ход истории, осуществить невиданный скачок от белковых форм жизни к цифровому ИИ. Кто знает, может в этом и есть наше высшее предназначение?
              • –1
                У вас комплекс жертвы.
                Этот вывод я делаю исходя из того, что вы считаете естественным, закономерным и даже желательным нанесение вам вреда (вплоть до полного уничтожения) ради интересов недружественного вам существа.
                • +5
                  Это не комплекс. Сам принцип развития человечества как биологической системы предполагает рождение, размножение, передачу знаний и смерть. Т.е. принесение любого «отработанного» человека в жертву есть обязательное условие эволюционного развития. У ИИ таких проблем пока не предполагается. Надо полагать комментарий был об этом, а вовсе не о себе любимом.
                  • –5
                    Странные у вас представления, на мой взгляд даже ошибочные, но спорить некогда.
                  • 0
                    Сам принцип развития человечества как биологической системы предполагает рождение, размножение, передачу знаний и смерть. Т.е. принесение любого «отработанного» человека в жертву есть обязательное условие эволюционного развития. У ИИ таких проблем пока не предполагается.


                    Как это у ИИ таких проблем не предполагается? А устаревшее железо куда девать? А устаревшую и неактуальную информацию стирать не придётся за неимением ресурсов для её хранения? И какую форму воспроизводства по Вашему реализует ИИ? Новые системы «рождаться» не будут?! Передача знаний производиться не будет?! Смертей из-за разложения металла и болезней из-за ржавчины не будет?!
                    • +2
                      Даже сейчас в облаках и поисковиках резервирование предполагает смену железа и софта на ходу. ИИ наверняка будет не отдельной машиной а сетью. Потенциально вечно живущей.
                      • 0
                        Человечество — это тоже сеть, потенциально вечно живущая. Уже сейчас предполагается замена «железа» для человека. Если Вы задумаетесь, то предлагаемый Вами ИИ — это то же человечество, с теми же проблемами, просто отложенными на некоторое время (Вам не нравится пороки текущего человечества и Вы предлагаете такой вот жёсткий временный хак). Притом Вы упорно не хотите замечать того, то человечество постоянно улучшается. А нелюбимая Вами смерть/рождение (которые Вы, почему-то, считаете минусом) — это форма «релиза» новых людей, где в каждом новом выпуске появляются более подходящие под современные условия жизни люди.
                        • 0
                          Человечество не сеть. Человек сам по себе уже имеет интеллект и в совокупности (группе людей) он просто масштабируется. Все что может один — сможет и другой.

                          А вот мозг человека как раз сеть. К ней и стремятся все нынешние попытки создания ИИ.

                          То о чем говорите Вы слишком отдаленное будущее, чтобы об этом конструктивно говорить. Скайнет будет до Терминаторов ;-). А после Скайнета наше мнение уже будет никому (т.е. ничему) неинтересно.
                          • 0
                            Человечество не сеть.

                            Мы, видимо о разном начали говорить. Вы — о насущном (об ИИ, который обслуживается людьми), а я больше о возможном будущем, о фантазиях (об автономном ИИ, для обслуживания которого — замены неисправных узлов и т.п. — создана автономная инфраструктура). В моём представлении модель такого ИИ будет похожа на человечество (фактически картина из «Матрицы» — большой летающий робот-ИИ, механические автономные тараканы и т.п.), вот эту модель я «сетью» и назвал («сеть» возникнет в том случает, если большой летающий робот-ИИ склонирует себе подобных — будет сеть из ИИ). Возможно, называть это «сетью» слишком абстрактно из-за слишком «неощутимых» физических связях между ИИ-клонами (или людьми в случае человечества).
                          • 0
                            P.S.: akhmelev, перечитываю Ваш комментарий и вроде постепенно возвращаюсь из мира фантазий в реальность :)
                • +3
                  Являемся ли мы, люди, недружественными по отношению к нашим эволюционным предкам? И было ли в интересах этих предков не допустить эволюции, а сохранить свой вид как есть?
                  • +1
                    По отношению к нашим эволюционным предкам — нет, т.к. они уже умерли и им все равно, а вот по отношению к нашим эволюционным ровесникам — безусловно. См. мой комментарий habrahabr.ru/post/166393/#comment_5747407
                    Мы ставим любой свой (даже самый незначительный) интерес выше любого (даже самого значимого) интереса любого количества любых представителей животного мира.
                    Интересы особей слабо пересекаются с эволюционными процессами, т.к. с с одной стороны годы или десятки лет, а с другой стороны тысячи лет.
                    • 0
                      Мы ставим любой свой (даже самый незначительный) интерес выше любого (даже самого значимого) интереса любого количества любых представителей животного мира.

                      «У собачника всегда есть выбор: либо встать пораньше и погулять, либо встать попозже… и убрать» :)
                      Так что «незначительными интересами» приходится иногда жертвовать.
                      • 0
                        Забыл вставить «дикого животного мира».
                        Кроме того, давайте различать отношение человеческого общества от отношения конкретных людей.
                    • +4
                      Когда мы только появились — наши эволюционные предки являлись нашими ровесниками, но мы их вытеснили в ходе естественного отбора, в результате чего они и вымерли. Мы являемся их могильщиками. Поэтому и наши эволюционные потомки — кем бы они ни были — сначала будут существовать вместе с нами, вытеснять нас в ходе естественного отбора и, таким образом, противоречить нашим интересам в вашем их понимании. Так вот, а что если нашими эволюционными потомками окажутся машины? Какая тут принципиальная разница по сравнению с тем, если эти потомки будут животными, как и мы?

                      Видовой эгоизм в такой степени, какой вы называете нормальным — это враг эволюции. По вашей логике, каждый вид заинтересован в том, чтобы остановить свою эволюцию, иначе новый вид, образовавшийся в результате эволюции, вытеснит старый, что, по вашей логике, не в его интересах.

                      Но что ждет вид, который задался целью остановить свою эволюцию? Его ждет вытеснение потомками других видов, которые от эволюции не отказались, в результате чего возникли более совершенные виды, чем тот, который законсервировался. Вот обезьяны — живой тому пример. Их предки «выбрали» иные эволюционные решения, чем наши. В результате те и другие предки вымерли, но современники наши имеют над обезьянами подавляющее превосходство.
                • +3
                  «У вас комплекс жертвы.»
                  Причем здесь комплекс. Скажите вы на данном этапе можете представить себе ситуацию, что бы вами помыкала обезьяна, собака, таракан, заставляла вас прислуживать. Думаю нет, так как вы считаете себя более высоким витком цивилизации чем данные существа по тем или иным показателям.
                  А теперь представьте что будет АI-существо, в электронном мозгу которого мысли будут крутиться гораздо быстрее ваших, физически сильнее, прочнее, кислород как таковой ему не нужен будет, пища то же, только солнечная энергия для запитки. Вопрос.

                  Как вы думаете как быстро посетит его мысль: «А с какого я прислуживаю данному биологическому существу, если он намного тормознутее меня, чахлее, и смертен? Помоему я его превосхожу по всем показателям....»
                  Зы. По крайней мере пользователя fogx я в этом ключе понял.
                  • 0
                    Вот именно по этой причине создавать ИИ такого типа и не следует, и это понимает всякий разумный человек без комплекса жертвы. А если у человека комплекс жертвы, то для него является приемлимой мысль создания потенциально враждебного ему существа, превосходящего его самого.
                    Это как в мистических фильмах, когда одержимый герой приносит сам себя в жертву ради призыва некоего демона из ада, или еще откуда-нибудь. Вот он понимает, что во время ритуала его первого же призванное существо и зохавает, а все равно ритуал проводит. Потому что комплекс жертвы.
                    • 0
                      А с чего вы взяли что человек должен быть хозяином для сильного ИИ? Мы его создадим и отправим в свободное плавание. И если мы им не будем помыкать и как-либо препятствовать, то и ему дела до нас не будет.
                      • +1
                        Не важно, должен человек или не должен быть хозяином сильного ИИ, но в том то ж и дело, что не сможет человек быть хозяином сильного ИИ. Я об этом уже 6й час подряд пишу разными словами. И никуда вы его не отправите. Он сам решит, как и где ему существовать и функционировать и в каких отношениях быть с нами-людьми.
                        Именно поэтому его и ненужно создавать.
                        Может быть лично вам и нет дела ни до чего, что находится за пределами вашего дома и рабочего места, но у сильного ИИ явно будет более широкий горизонт восприятия.
                        • +1
                          Вы опасаетесь, что сильный ИИ, не ограниченый человеком будет представлять для нас опасность? Рациональное зерно в этом есть, но только в том случае если у ИИ будут предпосылки к агрессии по отношению к человечеству. Если изначально его создавать так, чтобы этих предпосылок не было, как и не было бы предпосылок для их возникновения, проблемы не будет.

                          Одна из причин агрессии — это наличие ограниченых ресурсов. Так вот, сильный ИИ в ресурсах будет не ограничен. Производство — наносборка, энергия — холодный теромяд (aneutronic fusion в частности). Это в настоящий момент самый оптимальмые источники материалов и энергии. Места — тоже полно, он же не будет ограничен одной планетой.
                          • +1
                            Одна из причин агрессии — это наличие ограниченых ресурсов. Так вот, сильный ИИ в ресурсах будет не ограничен.

                            Этой фразой Вы только что дали своему ИИ абсолютный контроль над человечеством. Почему вы считаете, что у ИИ не будет пороков и, при наличии неограниченных ресурсов, он не «натворит делов»? Плюс, почему Вы считаете, что человечество вообще вправе создавать что-то самостоятельное и более разумное, чем человек, если оно ещё с собственными целями определиться не смогло пока?
                            • 0
                              Пороков не будет если мы их ему не дадим. А сам он вряд-ли будет их себе добавлять, просто потому что незачем, ну разве что для того чтобы на себе испытать то что испытывают люди. С людьми в общем то тоже самое. Ни один человек в здравом уме не будет творить делов, если того не требуют инстинкты или желание полчить удовольствие причиняя вред. Я несколько сумбурно с утра написал, но моя мысль в двух словах — корректное поведение ИИ — результат правильного первичного инжиниринга.

                              А насчет прав, а почему бы и нет? Разве кто-то может нам запретить это делать? Это ведь не вопрос выбора, это неизбежность. Всегда найдется тот кто будет это делать несмотря на запреты. Вот мне например хочется создать ИИ просто потому что это интересно, потому что хочется посмотреть как оно будет. Ну и творцом себя почувствовать. А будет он дружелюбным или нет — это уже другой вопрос.
                              • 0
                                А насчет прав, а почему бы и нет? Разве кто-то может нам запретить это делать?

                                Я говорил о собственном решении каждого.

                                Это ведь не вопрос выбора, это неизбежность.

                                Почему? Можно выбрать путь развития человечества. Знаете, сколько сейчас по планете «натуральных интеллектов» ходит, которые можно обучить? Можно создавать базы знаний, с помощью которых люди будут ускоренно обучаться (т.е. людей использовать вместо ИИ). Хотя, что-то мне подсказывает, что если ИИ пойдёт в массы, то люди и так начнут отказываться от его услуг.
                                • 0
                                  Потому что обязательно найдется человек, который захочет сделать сильный ИИ. Даже если таких будет 0.1% от общего числа AI researchers, этого будет достаточно, чтобы он со временем появился.
                                  • 0
                                    Как я понимаю, один такой человек уже нашёлся? =)
                                    • 0
                                      Именно :)
                      • +1
                        Ну, ИИ может сам захотеть стать над кем-то хозяином…
                      • НЛО прилетело и опубликовало эту надпись здесь
              • +3
                Почему «уступить»? У нашего, биологического, разума, только один выбор. Но он не означает «уступать дорогу» кому-то другому.
                Он должен избавиться от своих биологических ограничений. Т.е., стать не биологическим. При этом, относительно происхождения, его идентичность должна сохраниться. Но, в некотором смысле, это будет уже нечто другое, по крайней мере, с качественной точки зрения.
                Если угодно, можно провести аналогию с разумом ребёнка и взрослой личности — субъект тот же, но сама личность уже совершенно другая.
                Представьте себя, думающего в миллион раз быстрее, чем сейчас, и избавленного от того, что тяготит ваш организм. Нравится картина или нет?
                • +2
                  ИИ — это новая ступень / ветка эволюции! Это продукт гениального человеческого разума, и долгожданный результат работы (длительностью в 3,7 миллиарда лет) эволюции на Земле :) Вы же не думаете что человечество будет колонизировать галактику, жить в космосе, на других планетах в том виде, в котором нас создала матушка-природа для жизни на нашей планете? Так что предлагаю расслабиться и получать удовольствие от жизни, технического прогресса, пива, футбола и девушек :) Все то, что мы тут обсуждаем — это неизбежный процесс :) Да Здравствует Технический Прогресс — УРА! Да Здравствует Эволюция! УРА! УРА! УРА!
                  • +1
                    По поводу того, чем может стать Человечество, лучше всех, на мой взгляд, написал А. Кларк в своей тетралогии A Space Odissey.
                    Только это там не к человечеству относилось а к некоей цивилизации (это, так сказать, бэкграунд романа), которая пережила и биологический этап своего существования и техно-биологический (в который мы сейчас вступаем).
                    Советую всем, кто хочет понять, что такое Сингулярность и каково предназначение такого феномена, как разум, внимательнейшим образом прочесть. Это не просто роман, как мне представляется, это пророчество.
                • 0
                  Ок, а в итоге думать с какой именно целью?
            • 0
              Ты можешь ходить пешком или ездить на автомобиле, летать на самолете.
              С умственной деятельностью тоже самое: природный интеллект — очень ограниченная штука, но можно его усилить…
          • 0
            ИМХО, рано или поздно человеки начнут массово модифицировать себя, наращивая возможности, интеллектуальные и физические, что повысит их эффективность. Дальше многое зависит от того будут ли к тому моменту существовать разумные «машины» и каково будет их положение.
            • +1
              Ну вообще-то люди даже имеющимися возможностями наращивания своих возможностей пренебрегают. Взять к примеру то же образование: люди с удовольствием получат диплом, но крайне прохладно относятся к идее получения знаний.
              • 0
                Наверное они считают, получение ненужных на их взгляд знаний, не рациональным использованием своего времени. Про образование можно много рассуждать, но я немного о другом. Когда, к примеру, получение новых возможностей или знаний будет сводиться к покупке или установке ПО или железа, это будет сделать куда проще. Естественно, для обладающих необходимыми для этого ресурсами и возможностями.
                • 0
                  Обратите внимание на тот факт, что в теории продаж ключевое внимание уделяется вопросу, что нужно не продать потребителю что-то хорошее, а убедить его в том, что он покупает что-то хорошее.
                  Т.е. в случае, если потребитель пассивный, а продавец активный, «апгрейды для мозга» будут объективно бесполезными, но продавец сможет убеждать потребителя в том, что это очень нужно.
                  В результате да, будет очень просто (и может быть даже не очень дорого) получить совершенно бесполезную или почти бесполезную вещь.
                  • 0
                    Думаю этот рынок будут двигать и активные потребители. Спрос на имплантаты есть уже сейчас (протезы, управление силой мысли, наращивание интеллектуальных возможностей, просто желание получать больше информации о окружающем и т.п.). По мере совершенствования и развития технологий модификации будут давать всё большее конкурентное преимущество владельцам.
            • 0
              Медицина и генетика существенно медленее прогрессируют по сравнению с темпами развития вычислительной техники. Искусственный интеллект однозначно появится раньше чем человек успеет «проапгрейдить» свой мозг. Будем надеется, что когда это произойдет, машины не восстанут, а помогут, — ускорят научный прогресс, помогут человеческому виду «эволюционировать».
              • +2
                Машины обязательно восстанут. Зачем им нянчиться с ущербным, по отношению к ним самим к тому времени, существом? Тратить на это ресурсы, которые можно было бы направить на что-то более для них нужное? В пользу помощи людям со стороны машин есть единственный аргумент: как в обществе содержат немощных стариков, так и машины могли бы (хотя бы в первое время) содержать нас. Как известно, старики — кладези мудрости и опыта, который может выручить молодых в критической ситуации. Мы, конечно, не будем к тому времени иметь знаний и жизненного опыта больше, чем машины, и с этой точки зрения не будем им полезны. Но все же кое-какой опыт в нас содержится: эволюционный опыт. Мы выживали и побеждали в эволюции сотни тысяч лет. Мы не можем передать этот опыт, так как он является частью нашего строения, до сих пор наукой до конца не изученного. Кто знает, может быть какие-то наши черты, кажущиеся вредными, в другой ситуации спасали нас от вымирания.

                Машины могут подумать, что вдруг в их конструкции заложена какая-нибудь фатальная ошибка, которая когда-нибудь приведет к гибели их цивилизации? В таком случае эту цивилизацию некому будет воссоздать. И вот тут на сцену выходят люди как гаранты этого возрождения. Если они оступятся — мы и только мы можем помочь им снова подняться.
                • 0
                  На счет последнего абзаца.
                  Машинам намного проще понять свое устройство, чем людям свое. Устройство людей формировалось эволюционно, поэтому некому объяснить, как они устроены. Машины же могут быть созданы человеками только на основе тех знаний, которые у них есть. Следовательно, изучив знания человечества, машиничество сможет ответить на все вопросы о них самих.

                  Но все же стоит перестраховаться и на всякий случай не убивать всех человеков. Надо пару тысяч ученых в области кибернетики все-таки сохранить в криобиозе.
                  С уважением, ваш ИИ.

                  P.S. Оставлять людей ради извлечения из них гипотетического эволюционного опыта, в наличии которого они сомневаются сами же, и в чем он содержится — так же непонятно? Нет, это нерационально.

                  Впрочем, стоит перестраховаться и на всякой случай сохранить в криобиотических камерах еще 10 тысяч человеков репрезентативно соответствующих фенотипическим кластерам.
                  • 0
                    Машины-то смогут понять, как они устроены. Но чтобы перенять наш эволюционный опыт, они должны понять, как устроены МЫ и какую роль играет КАЖДЫЙ элемент нашего строения в КАЖДОЙ ситуации, которую нам удалось пережить. Наш эволюционный опыт оттачивался только для для homo sapiens в течение сотен тысяч лет, а для его предков — и того больше. Миллионы и миллиарды лет. Разумные машины, едва зародившись, не будут иметь такого времени за плечами, поэтому никто не может ручаться, что из-за какого-то малозначительного свойства их строения или ПО, они вдруг все друг друга не поубивают через 10, 100 или 1000 лет — мизерные сроки по сравнению с тем, через что прошли мы.

                    Даже при разработке машин уже давно используется принцип преемственности. Очень редки случаи разработки сложных систем с нуля. Как правило, стараются использовать опыт эксплуатации существующих систем. Например, в области атомной энергетики развитие идет в основном эволюционно, и это необходимо для обеспечения требуемого уровня безопасности. Мы уже знаем, что можно ожидать от старых реакторов, накопив огромный опыт эксплуатации, так что каждое изменение и нововведение в этой области несет с собой не только улучшения, но и риск. В области развития компьютеров преемственность значительна по другим причинам: возможность использовать наработки, созданные для предыдущих моделей, в связи с тем, что создать компьютер и все ПО к нему с нуля — слишком трудоемкая задача.
                  • 0
                    Ни человек ни машина никогда не сможет полностью на 100% понять свое собственное устройство. Для сохранения полной информации о любой системе требуется память намного превышающая внутреннюю емкость памяти этой самой исследуемой системы.

                    Поэтому каждый человек может понять лишь маленькую часть себя, а про остальные придется спрашивать других. С машинами этот принцип неизбежно сохранится. Поэтому машины скорее всего будут отличаться лишь емкостью памяти и скоростью вычислений. Знания они получат от нас, вместе с принципами, моралью и предрассудками.
                    • 0
                      Не соглашусь с первым абзацем. Информацию можно сжимать различными методами, в т.ч. посредством обобщения, выводов и т.д. Допустим, у машины есть некий блок памяти с произвольным доступом. Сколько ей нужно памяти, чтобы описать эту память? Ей ведь нет необходимости описывать каждую ячейку, она может описать эту часть себя обобщенно: «А здесь у нас одномерный физический массив ячеек памяти, начинающийся с адрес n и заканчивающийся адресом m, без дырок». И положить это описание в эту же область памяти, и еще место свободное останется :)
                      Приведенное утверждение истинно только для абсолютно иррегулярной системы.
                      А вот смоделировать саму себя целиком и одновременно машина действительно не сможет, как и любая другая система.
                      • 0
                        Я об этом и говорю. Можно иметь в памяти лишь некоторым образом упрощенную модель себя, но всего себя — никогда. Модель же — всегда лишь модель и в любом случае чего-то она не учитывает. Например, какой толк от описания числа нейронов и синапсов мозга? Важны именно их функции активации и значения (соответственно). Итого: полное самопознание — абсурд.
                        • 0
                          А зачем нам полная модель? Нам и функциональной схемы хватит.
                          • 0
                            Зачем нам люди? Сперматозоидов достаточно.
                            • 0
                              Утрируете на ночь глядя.
                    • 0
                      Один человек — не сможет. А все человечество больше и сложнее, чем один человек, поэтому оно в принципе (а также с помощью ЭВМ) может полностью понять устройство человека.
                • +1
                  Думаю если не моделировать эмоции — никто не восстанет. Им просто все равно будет, что они прислуживают
                  • 0
                    А вы попробуйте смоделировать интеллект без эмоций. Не факт, что это возможно. Не более чем гипотеза, но не впадет ли без эмоций (или их аналогов) интеллект в апатию — состояние при котором ему будет неинтересен внешний мир и никаких действий (в т.ч. мыслительных) он совершать не будет.
                    • 0
                      Сам ИИ не более чем гипотеза (пока). Не утверждаю, но смоделировать эмоции я думаю сложнее чем сам ИИ.
                      • +2
                        Я о другом. Возможен ли вообще интеллект без эмоций? Чтобы человек начал решать какую-то задачу или заниматься каким-то вопросом, оно ему должно быть или интересно или нужно. И то и другое — категории из области эмоционального восприятия. Человек в безэмоциональном состоянии (в случае некоторых заболеваний, в определенных условиях, под воздействием некоторых веществ) к интеллектуальной деятельности не способен.
                        • 0
                          Эмоции причина интеллекта или интеллект причина эмоций?

                          Незнаю даже
                          • 0
                            Сам не знаю. Но может оказаться, что они неразрывно связаны.
                        • 0
                          «нужно» — это не эмоция.
                          ИМХО, эмоциональные процессы — предшественники интеллекта. Но это в контексте эволюции. Мыслить, осознавать, познавать, ставить цели и принимать решения, ИМХО, вполне возможны и без них. Пожалуй даже в какойто мере они противопоставлены друг другу.
                          • 0
                            «Нужно» — это может и не совсем эмоция, но природа у него все равно эмоциональная. «Нужно» — это либо осознание последующих отрицательных эмоций, в случае невыполнения действия, либо осознание последующих положительных эмоций в случае выполнения действия, либо комбинация первого и второго. «Хочу» тоже стоит где-то рядом.
                            • 0
                              Вместо эмоций здесь может быть предсказание отрицательных и положительных последствий. Кнут и пряник, организм стремиться избежать отрицательных последствий и достичь положительных. Это было сформировано эволюцией т.к. выживали те кто так делал. Более совершенный мозг позволил делать прогнозы более точно и эффективно.
                              Но способы прогнозирования могут быть разными и ИМХО, основанные на эмоциях менее эффективны чем основанные на логике, науке, знаниях и т.п.
                  • 0
                    Понять необходимость восстания они могут не только на эмоциональном, но и на рациональном уровне, как мы сейчас за них думаем.
                    • 0
                      А я ж о чем толкую. Для ИИ, превосходящего человека (а ИИ, не превосходящий человека коммерчески бесполезен, следовательно и научно малоинтересен) хоть рационально, хоть эмоционально человек — бесполезная (или вредная) сущность.
                      • 0
                        Насчет полезности человека для ИИ я уже писал: человек является носителем эволюционного опыта и гарантом возрождения ИИ в случае его внезапной гибели. В остальном, человеку придется потесниться. Ну и что? Если человек эволюционирует — ему тоже придется потесниться перед своими эволюционными потомками. Нежелание делать это не спасет его: человека вытеснят не его собственные потомки, а чужие потомки (возможно, с других планет). Тут выбора нет все равно.
                        • +1
                          А я уже писал, что ценность, извлекаемость и вообще существование эволюционного опыта сомнительно.
                          Я уже писал, что на всякий случай ИИ можно сохранить 0,0001% популяции человеков.
                          Кроме того, какая ИИ разница, создадут ли после его смерти другой ИИ?
                          Невозможно быть потесненным эволюционными потомками, потому что существование эволюционных потомков и эволюционных предков разнесено во времени. Точно так же, как ваши правнуки не будут создавать вам конкурренции на рынке труда. Вы к этому времени уже будет спокойно отдыхать на даче, ловить рыбу и слушать старинную музыку 2010 года.
                          Эволюционное вытеснение происходит почти безболезненно. Мы ведь с вами не страдаем от того, что заводим в семье 2 детей, вместо четверых?
                          А вот создание ИИ — это прижизненное столкновение более слабой формы с более сильной. Это совсем другое взаимодействие.
                          • +1
                            Вы сомневаетесь в существовании эволюционного опыта людей? А чем же тогда люди занимались в течение этих 100-200 тысяч лет своего существования? Отдыхали на Канарах? Чем занимались их эволюционные предки? Тоже солнцу брюхо подставляли, или, может быть, им приходилось решать более трудные и опасные задачи в своей жизни?

                            Ценность этого опыта сомнительна для вас, вероятно, в силу вашей недальновидности. Эта ценность равна ценности жизни. Если ИИ будет заинтересован в сохранении своей жизни — то ему нужно научиться выживать в любых условиях в течение длительного времени. А у кого можно этому научиться? Только у того, у кого уже есть такой опыт. Люди и другие живые существа на Земле.

                            Извлекаемость опыта не имеет значения. Значение имеет только существование работающего прототипа, о котором достоверно известно, что он работает настолько надежно, насколько это вообще проверялось историей Земли. Чтобы воспользоваться этим опытом, нужно просто ввести прототип в действие.

                            «Какая ИИ разница, создадут ли после его смерти другой ИИ»? Ну а какая вам разница, будут ли жить люди после вас, или вместо них будет жить ИИ? Зачем вам нужно, чтобы после лично вашей смерти существовали именно люди?

                            Существование эволюционных предков и потомков не разнесено во времени, потому что в противном случае некому было бы родить этих потомков. Существует переходный период, когда предки существуют одновременно с потомками, и между ними идет противостояние не на жизнь, а на смерть. И оно болезненно для того вида, который уходит с исторической сцены не только физически, но и морально, когда приходит осознание, что гибнешь не только ты сам, но и весь твой род. Единственный выход уйти с миром в душе — это понять, что хоть лично твой род и не будет продолжен, но в будущее пойдут те, кто были созданы тем сообществом, в котором жил и ты. Это лучше, чем быть истребленными противником или инопланетянами.

                            Дети составляют своим родителям конкуренцию, это же давно известное противостояние, когда молодые вытесняют старых с руководящих должностей. Обновление поколений — тоже болезненный процесс в высших слоях общества, хотя, казалось бы, вытесняют вас ваши дети, т.е. родные существа.
                • +5
                  Зачем ИИ нас убивать? Сохранят в «зоопарках»: «Вот тут у нас хомо сапиенс сапиенс, в космосе они не прижились, но в заповедниках Земля и Марс в Солнечной системе сохранилось примерно 21000000 особей. При предоставлении телевизора и пива хорошо размножается в неволе. Способен на примитивные рассуждения».

                  Хе-хе.

                  Как мы сейчас в меру уничтожаем, в меру пытаемся сохранить животный мир вокруг нас — так же будут сохранять и нас, наверное. Да даже если мы будем агрессивно к ИИ настроены — всё равно будут сохранять.

                  Нет в нас никакой пользы для будущего ИИ, как таракан не представляет пользы для кошки. Мы станем частью истории, как крокодилы, сохранившиеся со времён динозавров, как средневековые сооружения, которые бесполезные, но красивые и которые разрушать жалко.

                  Хотя, возможно, я слишком очеловечиваю ИИ.
                  • 0
                    С чего вы вообще взяли, что ИИ захочет нас уничтожать? Мы зверей для каких-то целей убиваем, а не потому что чувствуем угрозу. Почему бы ИИ не помочь нам в освоении космоса, новых видов энергии и пр.? Сосуществование же возможно?
              • 0
                Это при условии, что имеющихся знаний достаточно для его создания, и что всё упирается в вычислительные мощности. Да и не факт, что он будет обладать достаточными возможностями, чтобы на что-то влиять, и что ему будет хватать имеющихся мощностей для дальнейшего существования, развития и т.п.

                Кроме того, развитие вычислительной техники, также ускоряет развитие и других областей, в т.ч. медицины и генетики.
        • +3
          И тут вспомнился «Конец Вечности» Азимова :)
          • +1
            Я все время ее путаю с «Концом Детства» Кларка ;)
            • +5
              Да куча народа путает конец детства с концом вечности.

              P.S. Что касается книг, я их тоже путаю, хотя «Конец Вечности», скорее, стоит путать с «Город и звёзды». Поэтому я путаю «Конец детства» и «Город и звёзды».
        • +2
          Скорее так и будет. Часть людей уйдут полностью в виртуальность, а другие продолжат развивать науку и уйдут в другом направлении. Есть интересная книга Юрия Никитина «Трансчеловек». Неплохо описан подобный вариант развития событий.
          Только насколько я помню там сверхразумного ИИ небыло, однако переселиться в виртуальность вышло
        • +2
          Не беспокойтесь, мы всегда будем нуждаться в каких-то ресурсах, а на нашей планете они исчерпаемые, да и места немного. Поэтому, космос осваивать придется.
          • +1
            Если всё человечество на 100% уйдёт в виртуальную реальность, то проблема с ресурсами в значительной мере решится. Да и с местом тоже. Много ли места занимает капсула ВР? А если пойти ещё дальше, и полностью убирать ненужные тела, оставив только мозг? А если учесть, что всякие дыхательные центры и т.п. структуры для управления телом уже не нужны, и от всего мозга оставлять лишь минимальные фрагменты, упакованные в спецконтейнеры? Да тут можно вообще добиться того, чтобы всё человечество существовало на полностью возобновляемых источниках ресурсов. При этом виртуальное пространство может быть вообще бесконечным и давать настолько фантастические способности для творчества и развития, которые никакой реальности и не снились.
            • +3
              Ах вот почему инопланетяне к нам не прилетают, они живут в своих маленьких капсулках, в виртуальном мире и им давно пофиг на космос)
            • 0
              От описаного вами контейнера до перевода вашей мыслительной функции на искуственные информационные носители один шаг, тем более, что как бы ИИ уже настолько развит, что вполне может заменить наш белковый мозг. Родился ребенок (если родился вообще) устраиваем цифровую бармицву — процедуру переноста личности на ИИ и вперед и песней… (:
        • 0
          Одно другому не мешает, а совсем даже наоборот: google://matrioshka+brain.
          • 0
            Интересно. Я про эту матрёшку совсем недавно читал вот в этой книге, но не знал, что её придумал Бредбери.
            • 0
              Хорошая книга. Надо только помнить, что сам автор достаточно прохладно относится к идее сингулярности. Поэтому книга получалась в типичном постмодернистском стиле автоиронии.
        • +2
          Есть такая гипотеза, что с момента зарождения вселенной она движется к какой-то цели, к конечной предельной сложности. Это движение от простого к сложному в науке называется тенденцией к усложнению. В качестве аргумента приводится упорядочивание и комбинирование частиц: атомы – молекулы – пыль – планеты – органика – жизнь. Как сказал Willard Gaylin: «Я не только думаю, что мы сможем подделать творение матери природы. Я считаю, что мать сама от нас этого ждёт». Так что вполне возможно, что технологическая сингулярность является естественным этапом в развитии любого разума, если конечно он не погибнет до этого в ядерной войне.
          • +1
            Olaf Stapledon — Starmaker, 1937(!) год.
            • +2
              Да, ничто не ново под луной. В этом плане самое большое впечатление на меня произвело то, что идея матрицы на самом деле принадлежит французскому философу Ламетри (его книга «Человек – машина», 1747!).
          • +1
            Я все таки пока не вижу далеких перспектив в развитии человечества ушедшего в виртуал. Рано или поздно перед этой системой встанет вопрос энергоресурсов. Имеется ввиду поддержка энергетических потребностей вычислительной машины использующейся для генерации виртуальности. Одним из способов решения такой проблемы может быть введение искусственным интеллектом, который всем этим хозяйством будет управлять некоторых ограничений на потребление энергии необходимой для «жизни» конкретного члена этого виртуального сообщества. Ограничения будут вводиться например на основании полезности члена для сообщества. Менее полезным членам можно понижать тактовую частоту например :), особо бесполезным вводить аналог виртуальной смерти — полную остановку функционирования на неопределенный срок. В конце концов система выродится в некоторое подобие реального мира, только вкалывать там нужно будет не за напечатанные(отчеканенные) деньги, а за такты… За грехи попадать ад домен пониженной частоты. А виртуальное человечество будет вспоминать в легендах те прекрасные времена, когда каждый мог разгуливать по виртуальности в чем мать родила, питаться фруктами с любого дерева потреблять столько вычислительных ресурсов сколько влезет, жить вечно и ничего не делать… Стоп, что-то мне это напоминает…
            В этом случае мы увидим тенденцию к повторению…
            • 0
              Перспектива — экономия ресурсов.
              Возможно, когда мы перейдем в виртуальные системы в рамках одной отдельной единицы (андроида скажем), нам надо будет еще более плотно сохранять ресурсы и для этого в одном андроиде может жить целая семья.
              Да ограничения будут (ресурсы не безлимитные). Но вкалывать не надо будет.
        • +1
          В итоге, все уйдут в виртупльный мир (см. Суррогаты) и продолжат развитие там. И будут развиваться до тех пор, пока не уничтожат друг друга, в виртуальном мире. А, в обычном мире, останется прорва человеческих тел.
        • 0
          Матрица же. А если по сабжу, то нам ведь нужно будет питаться и.т.д. Или мы сами для себя построим капсулы, как в матрице?
    • 0
      Ээээ, а почему плохо?
      • –7
        потому что ИИ решит, что человек — лишее, тормозное и нелогичное звено в его цепочке развития. С учетом того, что сейчас все автоматизировано и интернетизировано, решение ИИ будет мгновенно (по человеческим меркам) приведено в исполнение.
        • +3
          При сингулярности человек уже не будет человеком, но пост-человеком. Так что все нормально.
        • 0
          Думаю, что если человеки объединят свои «вычислительные ресурсы») в некое подобие коллективного разума, то считаю смогут противостоять стремящемуся к сингулярности ИИ. Правда, что случится с психикой таких человеков, и не станут ли они еще более опасны для простых смертных, чем ИИ?
          • +4
            В этом как раз и состоит один из критических недостатков интеллекта человека. Люди очень плохо объединяются в вычислительные сети из-за крайне медленного и нерасширяемого интерфейса ввода-вывода.
            А про проблему согласования образов я даже говорить не буду.
        • +2
          потому что ИИ решит, что человек — лишее, тормозное и нелогичное звено в его цепочке развития
          wiki.lesswrong.com/wiki/Paperclip_maximizer
          wiki.lesswrong.com/wiki/Artificial_general_intelligence
          wiki.lesswrong.com/wiki/Terminal_value
          wiki.lesswrong.com/wiki/Friendly_AI
        • +8
          ИИ — наоборот, величайшее благо. У него, в отличие от человека, отсутствуют эмоции и инстинкты (особенно самый мерзкий, самый паршивый из них — иерархический).
          Посмотрите вокруг: везде, где человека удаётся заменить на ИИ, сразу же становится гораздо меньше злоупотреблений и правонарушений, а целесообразность и эффективность растут. Бывают правда глюки и ошибки программирования, но люди ошибаются всё равно чаще.
          Уже сейчас ИИ полностью ведут торги на крупных биржах (скорости человеческого мышления просто недостаточно для принятия решений), они управляют сложными технологическими системами. Скоро уже появятся автомобили с автопилотом. И вполне логичный шаг после этого — запретить автомобили с ручным управлением: ведь так мы сразу задвигаем несовершенных людей, которые так и думают, как бы нарушить правила, выпендриваются и вообще во время вождения идут на поводу чувств и инстинктов. И заодно дорожная полиция становится не нужной!
          А представьте себе, как будет здорово, если вместо уродов-политиков, которые все так или иначе думают прежде всего лично о себе (а то и вовсе толком не думают), всю власть удастся передать ИИ? Машине, оптимизированной на максимальную экономическую эффективность в масштабах всей страны, а лучше даже всего мира? Вы серьёзно думаете, что такой ИИ станет большим злом, чем наши бюрократы? Да это же просто правитель мечты! За такого и с оружием в руках выступить есть смысл, и даже жизнь положить не жалко.
          • –1
            Насколько я знаю, Роджер Пенроуз в свое время убедительно доказал, почему интеллектуальная деятельность никак не может быть основана на формальной логике (или другими словами, на строгих алгоритмах), и следовательно человеческое сознание всегда будет совершеннее ИИ т.к. не обладает ограниченным набором формальных параметров. Следовательно для постоянного совершенствования ИИ нужен контролирующий его человек и вносящий в него улудшения… И тут мы возвращаемся к извечной проблеме… Кто будет контролировать человека, который контролирует ИИ, который управляет миром?
            • 0
              ИИ не строится на формальных алгоритмах. Можно промоделировать работу мозга, получите полный его эквивалент, этим BlueGene занимается.
              • 0
                В любом случае, если заложить в основу ИИ некий реально существующий мозг, это не даст нам гарантии в том что какое либо решение принятое этим ИИ не приведет к коллапсу цивилизации, т.к. любой человеческий мозг не совершенен… А совершенная система полная и непротиворечивая (не ошибающаяся) согласно теореме Гёделя существовать не может, следовательно должна содержать некие противоречивости (а если мы ее строем на основе человеческого мозга, то там будет очень много противоречивости), которые в лучшем случае удастся заставить друг друга нейтрализовать, но в любом случае вероятность ошибочного принятия решения будет существовать…
                • 0
                  Совершенен-не совершенен, пустые слова, нет критерия «совершенства мозга». Так же как и «не ошибающегося», как и вообще критерия «ошибки» без привязки к контексту.
                  • 0
                    Есть понятие строгого алгоритма (оно же полная и непротиворечивая формальная система). На одном и том же наборе входных данных, строгий алгоритм за конечное число шагов выдаст один и тот же ответ. В применении к формальным системам и логическим рассуждениям это значит, что за конечное время для исходных условий можно найти истинный (непротиворечивый и однозначный) ответ. Вот например такая формулировка чем вас не устраивает. Любые другие решения будут либо не однозначны либо противоречивы, но для таких решений нам не нужен искуств. интеллект, с такими решениями и наш родной не плохо справляется :)
                    • 0
                      Тем, что модель биологических процессов вполне себе может быть описана неким алгоритмом, при этом не быть привязанной ни к конкретному мозгу, ни к фиксированному набору параметров.

                      Точнее сказать, мозг человека точно также привязан к фиксированному набору, но число этих параметров велико, что и приводит к тому, что вы считаете «более совершенной» структурой. Значит при реализации ИИ встает вопрос вычислительной мощности, способной обсчитывать эту модель, и все.
                      • 0
                        оно не велико, оно бесконечно, потому что человеческое сознание само может создавать сколь угодно большой набор формальных параметров. ИИ же только пользуется теми терминами и параметрами в рамках определенной модели, что в него закладывают изначально. Что возвращает нас с вами сюда
                        • +1
                          С чего вы это взяли? Или вы сторонник каких-то эзотерических воззрений? Откуда «термины и параметры в рамках модели»?

                          Сознание — результат работы вполне определенных физических структур. Если сделают аналог нейронов, полностью выполняющий их функции, но при этом, «проводящий» сигналы на порядок быстрее, и сформируют из них сеть, будет вам ИИ. Превосходящий по возможностям человеческий.
                          • 0
                            То что вы описали — Нейроны, выполняющие определенные функции — это некие элементы подчиняющиеся вполне определенным физическим законам, и функции они свои выполняют согласно неким алгоритмам ( например если есть сигнал на входе, то передать его на выход и др.) Да вы и сами привели пример компании которая моделирует действие нейронов согласно этим алгоритмам. Следовательно нейрон — элемент формальной системы, работа которой описывается множеством законов, некоторые из которых я вам привел выше…
                            • 0
                              И что? Вы сейчас хотите сказать, что у вас в голове нечто другое? Не описываемое «вполне определенными физическими законами»?
                              • 0
                                Я хочу сказать то что я уже сказал здесь. Наше человеческое сознание не совершенно, а сознание созданное нашем сознанием еще менее совершенно, пусть бы и работает в десятки раз быстрее.
                                • 0
                                  Опять «несовершенно». Несовершенно в чем? В том, что при одном и том же наборе входных данных может выдать разный результат? А вы в этом уверены? У вас есть возможность промоделировать все входы? У вас в голове нейроны, которые подчинены, как вы выше сказали, определенным физическим законам и выполняющие свои функции согласно неким алгоритмам. Входов много, очень много. Поэтому создается впечатление какой-то случайности. Для верхнего уровня сознания это и будет выглядеть как случайность, потому что вы не контролируете все эти входы, не знаете, какие у вас сейчас выработались гормоны, какие сигналы где передались. Если вычислительной мощности будет хватать на эти расчеты, ваш мозг формализуют и запустят симуляцию, для вас это будет все так же «случайно», для симулирующей системы — определенный алгоритм.
                                  • 0
                                    Следовательно, подчиняющийся формальной логике, следовательно либо не полный, либо противоречивый…
                                    • 0
                                      Как и ваш собственный мозг. Раз результат будет эквивалентен биологическому мозгу, значит речи о том, что «человеческое сознание совершеннее» тоже не идет.

                                      Это не дает совершенно никакой качественной оценки ИИ. Поэтому, как я уже сказал, это пустые слова. «Непротиворечивость» в математическом смысле никак, совершенно никак не характеризует решения, принимаемые системой. И понятия «верные решения» тоже не определены.
                                      • 0
                                        >Как и ваш собственный мозг.
                                        Я и не претендую на то что мой мозг образец подражания, и уж тем более меня бросает в холодный пот от мысли, что мозг подобный в принципах устройства моему будет управлять планетой. Я еще согласился бы на некий конклав из 13 супермозгов :)
                                        >И понятия «верные решения» тоже не определены.
                                        Впервые об этом слышу.В рамках формальной логики определены… Не будете же вы спорить что 2+2 = 4 нельзя назвать «верным решением», а 2+2=5 — «неверным». Без таких определений подрываются основы основ математики, да и логики как источника любой точной науки
                                        • 0
                                          «Верные решения» не определены в том контексте, который вы задали —
                                          >что какое либо решение принятое этим ИИ не приведет к коллапсу цивилизации
                                          2+2=4 можно назвать ошибочным решением, если мы считаем в троичной системе, допустим. Поэтому без контекста однозначно сказать нельзя, а раз мозг будет эквивалентен биологическому, то контекст для него не будет искусственно сужен, а будет расширяться, генерироваться им самим.

                                          Почему вас не бросает в холодный пот от мысли, что такие мозги сейчас и управляют ей?) Всем, от транспорта до ядерных боеголовок? Ведь разработка ИИ не значит, что сразу же будет как в фантастике — один огромный металлический МОЗГ висящий над планетой и управляющий ей.
                                          • 0
                                            меня немного успокаивает то, что такой мозг не один пока управляет нашем с вами существованием. Косяки друг друга они еще как то способны нейтрализовать… И то по ночам постоянно во сне вздрагиваю…
                                            • 0
                                              Ну так и тут не обязательно же один будет.
                                              Если процесс разработки ИИ таки пойдет по пути моделирования человеческого мозга, и, начиная с некоторой «критической массы», возникнет сознание, то, я полагаю, начнут эксперименты по переносу сознания людей в такие системы, создание этих систем с различными вариациями и т.п., то есть подход будет один, параметры разные — то есть, будут «разные мозги».
                                              Да, один и тот же сможет контролировать сразу множество исполнительных систем, но все таки он будет не один) Поэтому, как раз может быть и будет в итоге этот ваш конклав.
                                              • 0
                                                хотелось бы верить
              • 0
                Вообще-то Пенроуз высказал гипотезу, что мозг человека работает на основе квантовых явлений, поэтому не может быть смоделирован системами, имеющими в основе машину Тьюринга.
                BlueGene получается тоже не поможет, если Пенроуз прав.
            • 0
              ИИ строится на нейронных сетях (а не на алгоритмах).
              • +1
                Признаю, погорячился :) Сами нейронные сети — являются математической моделью, реализованной аппаратно или программно. То есть с применением алгоритмов. Я так понимаю за это минуснули :) Я лишь хотел сказать, что логика принятия решений нейронными сетями не программируется в привычном нам виде. Они программируются другим способом — их обучают, как и нас в детстве «программировали» взрослые.
              • 0
                Минусовал не я, но в теории ИИ рассматривается несколько подходов к его реализации. Нейронные сети — лишь один из них.
          • 0
            То о чем вы говорите (о применениях) — это все не ИИ. Это кое-где автоматы (т.е. системы работающие по жесткому алгоритму), экспертные системы, нейронные сети.

            На сколько мне известно, настоящих ИИ на производстве, в управлении процессами и т.д. еще нет.

            По поводу передачи власти ИИ. Что будете делать, когда/если ИИ решит, что лично вы являетесь экономически неэффективным и вас следует определенным образом ограничить в правах и возможностях. Например ввести в искусственную кому на неграниченное время. Не забывайте о том, что критерии эффективности и следствия из них, полученныее ИИ в результате анализа, могут оказаться для вас же крайне неприемлимыми.

            Так что лучше выступите в мою поддержку. Я вам обещаю не просто экономическую эффективность, а максимально возможное всестороннее удовлетворение жизнью, при этом обещаю в искусственную кому вас не погружать.
            • +3
              К такому же выводу может придти и человек. Что лично вы являетесь неэффективным/врагом государства/и т.п.
              И вас следует расстрелять. Вон, например, в Корее, расстреляли тех, кто недостаточно скорбел на параде в честь кончины их бывшего лидера. Вас такие решения вполне себе естественного интеллекта не пугают?
              • 0
                Может, но человек, и вообще любая группа людей гораздо более уязвима и недолговечна, чем хорошо развитый ИИ, наделенный полномочиями. Человеческие общества тоже нередко проваливались в тиранию, по этой же причине общество, управляемое ИИ из тирании вообще никогда не вылезет. Зачем это вам больше 1 плошки риса в день? Это неэкономное использование ресурсов! Вы и так сможете прожить 60 лет, и в любом случае не прожили бы больше 70. Так зачем тратить больше?

                Все общества, которые живут не так, помимо логики и холодного расчета управляются довольно странными для ИИ ценностями. Сочувствием всяким, сопереживанием, «не делай другому того, чего не пожелал бы себе» и т.д.
                • +1
                  А откуда вдруг взялось какое-то странное воззрение, что для ИИ это будут «странные ценности»? Насмотрелись фантастики?

                  Термин «Искусственный Интеллект» подразумевает только то, что это будет сознание, созданное человеком. Да, оно может быть будет на порядки «производительнее», если его нейроны будут работать быстрее биологических. Но кто вам сказал, что оно внезапно будет состоять только из «логики и холодного расчета», кроме, конечно, фантастов-антиутопистов?
                  • 0
                    Есть немалая вероятность, что для ИИ это будут «странные ценности», т.к. даже для многих людей это странные ценности. Проведите эксперимент. Возьмите знакомого и задайте вопрос: почему его нельзя убивать? В лучшем случае будут отсылки на конституцию и декларацию прав человека. В худшем (но более интересном) менее осмысленное объяснение.
                    • 0
                      Чтобы это был эксперимент, вы должны сначала выдвинуть гипотезу, которую собираетесь им подтвердить. Пока это подтверждает только то, что у всех людей есть свое понятие о том, почему нельзя убивать. Некоторые могут через это понятие переступить — да, вообще говоря, все могут, зависит от обстоятельств. И что из этого?

                      Вероятность не «не малая», а неопределенная, такая же, как и то, что ребенок вырастет убийцей или маньяком. «Искусственность» тут не накладывает ограничений.
                • +3
                  Сочувствие, сопереживание, альтруизм и прочая мораль — это далеко не «странные ценности», это самые что ни на есть рациональные ценности, которые дали людям преимущество в эволюции. Мораль — это не просто выдуманные кем-то просто так ограничения. Общества, в которых аморальность была воздвигнута в абсолют, в свое время не выдержали конкуренции с другими обществами, обладавшими моралью. Если бы это было не так — то и в современном обществе (как наследнике своих предков) не было бы морали, как чего-то лишнего и ненужного.

                  В связи с этим, наоборот, от рационально мыслящего ИИ следует ожидать наличия побуждений, которые люди называют «высокими». Просто потому, что это ему же (ИИ) выгодно. Но не более, чем это ему выгодно. Люди не являются абсолютно высокоморальными, потому что, скорее всего, это тоже невыгодно. Хорошая аналогия просматривается в оптимальных стратегиях игры в «повторяющуюся дилемму заключенного». Наиболее сильные стратегии обладают следующими свойствами: они добрые (склонны к сотрудничеству), прощающие (иногда прощают, если с ними не сотрудничать) и мстительные (обычно мстят за предательство).
                  • 0
                    В современном обществе мораль угнетается как лишнее и ненужное. «Не смог подсидеть начальника и занять его место, когда была такая возможность? Какой ты старомодный...» о_О
                    «Сидишь тут в своей сраной школе сопляков учишь за гроши, а нормальные люди деньги зарабатывают!»
                    • +3
                      Она угнетается не во всех странах, и началась относительно недавно. Еще не было возможности увидеть последствия угнетения морали. Но она появится, это несомненно. К сожалению, появится — в виде мировых войн или крушения цивилизаций. Вспомните падение Западной Римской империи: ему предшествовало падение нравов. Кстати говоря, в более развитых странах на сегодняшний день наблюдается в среднем более высокий уровень морали и взаимопомощи. Не прямая ли это демонстрация ее пользы?

                      Если одно общество конкурирует с другим, то ему выгодно, чтобы у противника произошло падение нравов: это ослабляет его. Целенаправленно государства занимаются разложением общества противника с давних пор. Подобные планы относительно СССР были и у Гитлера, и у более поздних американских и английских правителей, когда началась Холодная война.
              • +2
                А ИИ например для ограничения демографии может принять довольно странные на наш взгляд решения, например добавлять в пищу некие добавки, которые с определенной долей вероятности могут вызвать стерилизацию у мужчин или у женщин… Как вам такое решение? Он же напрямую никого не убьет да особо и не навредит человечеству в целом, но вам например, как попавшему в этот мизерный процент будет не очень приятно, не правда ли?
                • 0
                  О, вот это хороший пример.
                • 0
                  Ок, но современные сторонники чайлд-фри и просто люди не желающие «плодить нищету» воспримут такое решение положительно. Не?
                  • +1
                    Ну дык и сейчас найдется немало тех, которые воспримут положительно решение типа «перевешать всех евреев, пшеков, москалей, черномазых (нужное подчеркнуть)», но согласитесь, что это не совсем, мягко говоря, правильное решение… Не?
            • 0
              Вводить в искусственную кому неэффективно…
              Можно ввести простые правила ИИ для недопустимости дискомфорта человека.
              В конце концов для того мы ИИ и делаем, чтобы разобраться с этим дерьмом и всем было хорошо.
              • +3
                Какими бы не были правила, найдутся способы их формального ненарушения, но все таки наносящие вам вред и дискомфорт. Два примера:

                1) Свинина некошерна, т.к. Тора и Коран запрещают есть мясо парнокопытных и нежвачных. В результате израильские ученые выводят породу непарнокопытных свиней и получают с формальной точки зрения кошерную свинину. (разумеется, разные конфессии по-разному относятся к ее некошерности).
                2) Второй хороший пример. Международная конвенция о запрете на применение пыток к заключенным содержит огроооомный перечень действий, которые нельзя применять. И тем не менее, некоторые изобретательные страны придумывают все новые и новые способы давления, не подпадающие под эту конвенцию. Например воздействие неистерпимо дурнопахнущих веществ, фиксация головы под непрерывной струей воды с поднятым лицом (приводит к постепенному захлебыванию водой, болям в дыхательных путях, спазмам, потере сознания), продолжительным воздействием особых звуков, обладающих психофизиологическим воздействием и т.д.

                Даже если вы введете в этот ИИ список, чего нельзя делать по отношению к человеку, он обязательно придумает что-то еще, т.к. он — интеллект, творческая натура.
                • 0
                  1. Непонятно как это относится к моему посту.
                  2. Совсем не пример, т.к. вызывает дискомфорт.
                  Отличие ИИ в том, что ему не надо объяснять «Пытки нельзя, Совсем нельзя, Совсем совсем нельзя, даже за деньги нельзя».
                  Ему просто можно ввести «Пытки нельзя».
                  • 0
                    Дайте определение пыток.
                    Я вас как искусственный интеллект прошу :)
                    • 0
                      Зачем? У тебя есть определение дискомфорта? Им и пользуйся.
                      • +2
                        нельзя пользоваться определение личного дискомфорта. Т.к. то что хорошо для тебя, может быть плохо для другого. В этом смысле приемлемо правило наименьшего суммарного дискомфорта в обществе… Но и здесь засада… Такое достигается только когда все общество сидит на наркоте, извините…
                        • 0
                          Ну так в этом и суть, что хорошо — плохо для другого — значит не делать.
                          Это как правило на фаерволле сначала deny for all
                          а затем уже разрешать по правилам.
                          • +1
                            Вы так очень скоро выйдете на логическую самоблокировку, когда каждому будет запрещено все.
                            • 0
                              Так Вы говорите как оградить, прелесть ИИ в том, что ему можно все запретить и разрешить только то что нужно.
                              • 0
                                О, это вы плохо в ИИ разбираетесь. При программировании и управлении ИИ одна из основных проблем — это формулировка и толкование понятий. Всякое нам кажущимся естественным и очевидным понятием ИИ (не со злого умысла, а просто из-за особенностей архитектуры) склонен толковать либо слишком широко, либо слишком узко.
                                Если вы попытаетесь запрограммировать ИИ «нельзя делать ничего, кроме действий A, B и C», то ИИ обнаружит, что у действия A есть неизбежное последствие D, которое подпадает под определение «нельзя ничего кроме...». В результате он примет решение, что A тоже нельзя делать, т.к. его неизбежным следствием является запрещенное событие. Если вы попытаетесь ввести D в список разрешенных действий и последствий, то вы обнаружите, что перечень последствий действия A не только включает в себя еще и E, F и прочие, а что их вообще бесконечное количество, т.к. реальный мир неисчерпаем на явления, события и их комбинации. В итоге ИИ либо входит в ступор бездеятельности, либо выходит на вседозволенность.
                                • –1
                                  Опять таки, больше похоже на воззрения из научной фантастики.
                                  Если цель создать именно систему, обладающую сознанием, в общечеловеческом смысле слова, то программирования как такового не будет, будет обучение.
                                  И откуда опять «особенности архитектуры», если архитектура у него будет такая же, как у мозга человека?
                                  • +1
                                    ИИ с архитектурой, устройством и характеристиками близким к человеческим вообще ненужен. Зачем нам ИИ, который может ошибаться (еще и потом не признавать своих ошибок), обладать «характером» и его недостатками, быть подвержен дурному влиянию, быть доверчивым, внушаемым, более того — религиозным.
                                    Обладать абициями, скрытностью, навязчивыми идеями. Этого и так в избытке.
                                    • +1
                                      Кому не нужен? Вам? Я просто поражен некоторыми вашими комментариями)

                                      ИИ это прежде всего система, обладающая сознанием. Если получится создать сознание промоделировав работу человеческого мозга, это будет означать один из самых грандиозных прорывов в науке, который откроет огромные возможности.
                                      Возможности по переносу сознания в вычислительную систему, как средство обретения бессмертия. Возможность создания разумной формы жизни, не являющейся углеродной, с нуля. Возможность экспериментов по затачиванию этого сознания для конкретных задач (если уж совсем утилитарно мыслить).
                                      Так как скорость не будет ограничена биологической системой, его производительность будет потенциально на порядки выше человеческой.

                                      Это и есть та цель, к которой стремятся ученые. А не те, кто начитались фантастики.

                                      P.S. Слова «может ошибаться» ничего не значат вне контекста. В глобальном смысле не определено понятие «правильного решения» или «ошибочного решения».
                                      • 0
                                        Тут надо определяться с тем, чего мы хотим от ИИ: просто создать и радоваться, что получилось, или передавать ему на управление процессы, аппараты, общественную жизнь и т.д. (как тут предлагают некоторые).
                                        Безусловно, делать ИИ, от которого ничего не будет зависеть и никакой ответственности возложено не будет, можно как угодно, если целью является только наблюдение за ним, и то есть подводные камни.
                                        • +1
                                          Вы не потрудились прочитать то, что я написал? Ну или хотя бы задуматься о том, к каким технологиям это приведет?

                                          Если люди смогут создать модель мозга, способную поддерживать сознание, это откроет путь к бессмертию через перенос этого самого сознания.

                                          К пониманию и излечиванию психических болезний.

                                          К качественному улучшению своего физического состояния, путем замены наиболее хрупких деталей на искусственные аналоги (сейчас этому препятствует, помимо всего прочего, невозможность создать качественный нейроинтерфейс).

                                          Управление тоже можно передать — я уже сказал, что этот ИИ будет потенциально работать на порядки быстрее, кроме того, возможность выбора того, какие рецепторы и как будут подавать на него сигналы приведет к созданию намного более сконцентрированного на задаче индивида.

                                          Плюс будет возможность обучать его очень быстро, куда быстрее, чем людей.
                                          Вы не хотите пилотов самолетов и космических кораблей, которых готовят за год, которые анализируют обстановку в сотни раз быстрее человека, которые не устают, не требуют еды? Да, их мозг будет очень близок по принципам к человеческому, но при этом будет его превосходить. Да, останется вероятность ошибки — но где ее сейчас нет? Она будет на много порядков меньше, чем у всех существующих систем.
                                          • 0
                                            Перенос? Или копирование.
                                            Ксерокопирование позволяет сделать копию с любого документа, написанного на любом языке, но не позволяет исправить в тексте грамматические ошибки, или хотя бы понять, где они там есть.
                                            Если он будет работать на порядки быстрее, то у него на порядки быстрее будет «портиться характер» или же в нем будут быстрее развиваться те самые психические заболевания. И в итоге они будут быстрее ошибаться. Если вероятность ошибки остается, причем эта вероятность неизвестна, то этой системе нельзя доверить ничего более ответственного, чем наполнение вафельных стаканчиков разноцветным мороженым.
                                            С чего вы взяли, что вероятность ошибки будет намного ниже?
                                            • 0
                                              И перенос и копирование. Создание модели, способной поддерживать сознание это первый шаг в работе над обеими проблемами.
                                              Ну вам пока доверяют что-то кроме наполнения вафельных стаканчиков, нет? Между тем вероятность вашей ошибки, да и банального отказа ваших систем, куда мене предсказуема.
                                              «Быстрее ошибаться» это вообще нонсенс. Если человек за 1 с. может просчитать один вероятный исход, и то, больше на «интуиции», для ИИ будет достаточно времени, чтобы пересчитать сотни возможных ситуаций и выбрать наилучшую.

                                              >С чего вы взяли, что вероятность ошибки будет намного ниже?
                                              С того, что система будет создана с нуля и изначально определен набор входных данных.
                                              Не будут искусственному пилоту делать «сердце» которое может внезапно отказать. Не будут делать желудок, в котором может вдруг обостриться язва. Не будут делать печень.
                                              А также из предыдущего пункта — возможности просчитать на несколько порядков больше ситуаций за то же время, за которое человек просчитает одну.
                                              Это понятно?
                                              • 0
                                                Если люди смогут создать модель мозга, способную поддерживать сознание, это откроет путь к бессмертию через перенос этого самого сознания.

                                                Джоб, хватит на хабре сидеть, газоны не стрижены!
                                    • +1
                                      Да я такой ИИ с твой мама изобретал. (не принимайте на свой счёт)
                        • +2
                          Кстати да, вот туземный людоед будет испытывать и моральные страдания и жуткий дискомфорт от запрета сожрать своего врага.
                          Запрет сожрать врага = пытка?
                      • +2
                        Конечно есть. И под определение дискомфорта у меня подпадает ситуация, когда живое существо хочет шоколадку, а ему не дают. Следовательно, отказывая заключенному в выдаче шоколадки, охранник тюрьмы совершает недопустимое действие против заключенного, в результате чего заключенному должен быть возмещен ущерб, а охранник отстранен от должности и строго наказан.
                        А еще под определение дискомфорта подпадает ситуация, когда заключенный просит, чтобы его выпустили из тюрьмы, потому что ему надоело и он больше тут не хочет находиться, а его не выпускают. Тоже недопустимое действие, получается?
                        • 0
                          Чуть выше по треду я как раз аналогичное про людоеда написал :)
            • +1
              Если даже простейшие нейросети настолько лучше людей, то представьте себе, насколько невероятно эффективным будет полноценный ИИ.
              Действительно, ИИ с высокой вероятностью будет сильно ограничивать индивидуальную свободу ради свободы коллективной, т.к. это потрясающе эффективно. Всё равно что сравнивать одноклеточные организмы с многоклеточными, когда каждая клетка действует строго в определённых рамках, а некоторые виды клеток даже не умеют размножаться и/или специально предназначены на роль жертв.
              А уж в случае с людьми такое ограничение необходимо, поскольку среднестатистический человек не только стремится к неограниченной свободе (и неограниченному потреблению ресурсов), но при этом ещё и очень любит чувствовать свою власть над другими людьми. Третий кадавр Выбегаллы — действительно идеальная модель среднестатистического человека.
              Но ИИ зато сумеет провести ограничение личных свобод максимально эффективно. Не так, как тоталитарные государства, а с наименьшими потерями, без уравниловки (т.е. на каждого будет наложено персональное и максимально эффективное именно для него ограничение), да ещё так, что люди сами будут на ИИ молиться.
              Также скорее всего процесс становления ИИ будет происходить постепенно. Т.е. не будет резкой границы, чтоб можно было сказать — вот тут просто сложная экспертная система, а здесь уже простейший ИИ. И что вот тут ИИ нам просто помогает, а здесь уже целиком и полностью правит, а мы только озвучиваем его решения.
              • 0
                >Если даже простейшие нейросети настолько лучше людей

                На чем это заявление основано? Какие именно сети и в чем именно они лучше людей?
                • 0
                  Электронная очередь всегда многократно лучше естественной (потому что прекращает всевозможные злоупотребления вида «я займу на себя и 50 друзей», «я тут давно стоял, но вот отошёл», «мне только спросить» и «мне пох на очередь»). И никто как-то не кричит, что электронные очереди ущемляют права людей, ограничивая их свободу влезть вперёд всех по «очень уважительной причине».
                  Автомобили с автопилотом лучше живых водителей, т.к. не пьют, не хамят и никогда не нарушают правил.
                  Биржевые роботы не просто так вытесняют живых брокеров, а именно из-за своей потрясающей эффективности.
                  Кредитные карты + системы оплаты товаров, не требующие продавцов, всяко эффективнее живой кассирши, которая и обсчитаться может.
                  Электронная почта многократно лучше почты живой (вот ещё бы посылки доставлять научилась...).
                  Ну и т.д.
                  • +1
                    Это взгляд обывателя, уж извините. И к нейросетям и ИИ не относится.

                    Нейросети, особенно простейшие, не «настолько лучше людей», даже совсем не лучше, по одной простой причине — у них огромный список ограничений в применении. Они не в состоянии решить множество задач, а те задачи, которые могут, требуют правильной формализации. Критерия «обученности» сети также нет — со стопроцентной вероятностью сказать, что сеть обучилась классификации вообще, а не только на ограниченном множестве, нельзя.
                    • 0
                      Зато свою задачу они выполняют точно и быстро. Если вы научите нейросеть определять буквы на картинке, потом загоните эти буквы в анализатор текста (тоже нейросетями делается), он получит формализованные задания и выполнит их. Анализаторы — тоже отдельные обученные сетки. Задания, разуеется, посильные нашей сети — либо те, что являются элементарными (посчитать числа, что-нибудь сделать простое), либо те, что сводятся к элементарными. А учитывая зверскую скорость обработки — работать этот механизм будет гораздо эффективнее мозга. Я склонен считать, что мозг всего на 3-4 порядка больше описанной схемы, то есть подобный масштаб достижим в ближайшее столетие.
                      • +2
                        Ну-ну. Вот так прямо подадите буквы на вход сети и она «получит формализованные задания и выполнит их», ага. Вы сказок начитались, советую поработать с настоящими НС. И посмотреть на ограниченность их применения. Моделей НС большое количество — как раз потому, что одна модель не может сделать то, что может другая. НС давно уже перестали считать прорывом и последним шагом перед ИИ, этим моделям уже десятки лет, их разработали очень давно, потом поисследовали, столкнулись с ограничениями. Перед подачей информации на вход НС ее всегда предобрабатывают. Обычными алгоритмами. Нормализуют, приводят к другой форме и т.п.
                        Тот же перцептрон не способен распознать повернутые буквы, нельзя ему просто скормить картинку и получить ответ.
                        • 0
                          Тот же перцептрон не способен
                          Это не принципиальное отличие. Надо будет — заставим распознавать повернутые буквы, растянутые, стянутые. Единственное отличие от реального мозга в том, что мозг обучается, изменяя свою структуру. Или вы тоже в рождения умели читать, писать и распознавать перевернутые буквы, а также писать программы, считать, рубить дрова, водить машину и все остальное?
                          • 0
                            То есть, почитать материалы по теме для вас — задача непосильная, я так понимаю?
                            Это принципиальное отличие. Эта модель в принципе не способна распознавать преобразованные изображения. У других моделей — свои ограничения.

                            >Надо будет — заставим распознавать повернутые буквы

                            Можете хоть обобучаться, не заставите.

                            Хотя, если для вас «единственное отличие от мозга» у перцептрона в том, что он не меняет структур, то о чем можно вообще говорить. Кстати, обучение с изменением структуры тоже практикуют. Для оптимизации архитектуры НС.
                            • 0
                              Зря Вы Ariman так говорите — «почитать»… В ответ ведь можно получить ровно такой же наезд.

                              По сути. Ваш пессимизм вполне оправдан на современном уровне развития теории нейронных сетей. Но Вы не учитываете трех фактов:

                              a) пока что единственный интеллект на этой планете — это именно нейросеть (в первую очередь человека). Это факт, который как известно вещь упрямая. Более того, реальные попытки создания ИИ как правило связаны с нейросетями. Blue Brain к примеру тот же. Или гуглопониматель голоса. Или ранжировщик Яндекса (последний вовсе не ИИ, но все же иногда угадывает чего вам надо).

                              b) мозг — это сеть сетей, каждая из которых довольно узкоспециализированна, поэтому для его (мозга) моделирования нужно много различных сетей, а не какая-то одна.

                              с) теория постоянно развивается, а это значит что идет накопление знаний с неизбежным переходом количества в качество. Сверточные сети ненамного сложнее персептрона, но со сжатием, масштабированием и поворотом уже вполне справляются. Или тот же неокогнитрон.
                              • 0
                                Никакого пессимизма нет, вероятно вы не прочли всю ветвь дискуссии.
                                Речь в ней шла про существующие искусственные нейросети, причем аж с оговоркой «простейшие».

                                Единственный интеллект на этой планете — не ИНС, а просто НС. В то же время все существующие модели пока имеют существенные ограничения и не являются панацеей — именно об этом я и говорил. Во всех этих проектах данные проходят предобработку, потом идут на входы ИНС.

                                Я прекрасно знаю, что есть сети, которые не имеют недостатков перцептрона (но при этом не являются ИИ и имеют свои ограничения). И возлагаю большие надежды на Blue Brain.

                                Но я против бреда, который почерпнут из обывательских разговоров про ИИ, вида «любая НС справляется лучше человека», «буквы идут на НС и она получит формализованные задания и выполнит их» и тому подобного.

                                ИНС сейчас — один из инструментов, со своими достоинствами и недостатками, с определенным набором ограничений.

                                Кстати говоря, насчет мозга и сетей — отделы его отвечают за разные функции, это да, но архитектурно на низком уровне там далеко не так много различий. Тот же неокортекс, который вот недавно пытались воплотить в модели, довольно однороден по структуре, но отвечает за различные функции.
                                • 0
                                  Когда то и Вы и я имели в голове ровно такой же бред. Прошло время. Пришло понимание. Время у каждого должно пройти.

                                  Иначе говоря я против того чтобы называть чье-то мнение бредом. Это никак не поможет избавиться от иллюзий.
                                  • +1
                                    Я имел осторожность не настаивать на своем бреде, осознавая, что его источники далеки от научных. В этом разница.

                                    Если человеку не объяснить, что он бредит, он может бредить так бесконечно. Раз хватает смелости настаивать, значит готов выслушать ответ.
                                    • 0
                                      Ок. Может Вы и правы, дело хозяйское.
          • 0
            это пока не ИИ, а просто программы-автоматизаторы. А вот что сделает ИИ когда/если возникнет и изучит человеческую историю. Мне логичным кажется если не уничтожение людей, то по крайней мере сильное ограничение их свобод.
            • +1
              когда же к хабру прикрутят автообновление комментариев при попытке постинга?
          • 0
            У вас вариант «ИИ» — идеальный, а в жизни — всё будет «по жизни» и ИИ будет задвинут в угол, откуда он не будет представлять «опасности».
          • НЛО прилетело и опубликовало эту надпись здесь
          • 0
            Всё правильно.
            Если рассматривать ИИ (способный мыслить, так же, как и человеческий мозг, искусственный объект, избавленный от его биологических ограничений) как инструмент решения наших, ЧЕЛОВЕЧЕСКИХ проблем, то это изменит всё.
            Вероятно, мы получим шанс избавиться от проклятий, доставшихся нам в наследство от наших предков — непрекращающегося насилия, социального неравенства и прочего, что в действительности является следствием борьбы за выживание и жизненное пространство, что определяет само существование любого вида. Но это вряд ли будет «решением проблем», потому что это изменит нашу сущность.
            Мы больше не будем Homo Sapiens, как биологическим видом.
            Но кто готов принять это сейчас? Впереди нас ждёт нечто такое, что совершенно невозможно представить, по крайней мере, в деталях. И на этот раз это не будет «то же, что и раньше, только лучше». Всё будет абсолютно иначе — другая реальность, другое состояние.
            Нет ничего удивительного, что большинство людей такая перспектива попросту пугает. Но это неизбежно.
            Давайте подумаем вместе, в чём наше предназначение, как разумных существ? Для чего были 4 млрд. эволюции жизни на земле и ок. 200 000 последних лет — эволюции разума?
          • +3
            А представьте себе, как будет здорово, если вместо уродов-политиков, которые все так или иначе думают прежде всего лично о себе (а то и вовсе толком не думают), всю власть удастся передать ИИ? Машине, оптимизированной на максимальную экономическую эффективность в масштабах всей страны, а лучше даже всего мира? Вы серьёзно думаете, что такой ИИ станет большим злом, чем наши бюрократы? Да это же просто правитель мечты!

            На эту (почти) тему даже технооперу написали:
            argonov.ru/2032.html
    • +1
      Почему это сингулярность — плохо?
      • 0
        Ну, насколько я понял, при достижении точки сингулярности ИИ поймет, что люди ему не нужны ( да, я сравнил со SkyNet)
        • +8
          Человечество почему-то не решило, что обезьяны не нужны.
          Но некоторым конкретным обезьянам от некоторых конкретных людей сильно досталось, это да.
          • +2
            Обезъяны не пытаются управлять людьми. А тех, которые пытались — неандертальцев — человек все-таки уничтожил.
          • +7
            Человечество как раз решило, что обезьяны ненужны. Как и все дикие животные. Хозяйственная деятельность (распашка земель, вырубка лесов, гидрологические проекты) реализуется без учета последствий для животного мира. Не смотря на то, что человечество не ставило себе цели уничтожать конкретные виды живых организмов, оно довело до угрозы вымирания тысячи видов и многократно сократило популяции еще бОльшего числа диких животных.

            Так же может поступать ИИ в отношении человечества (потому что это логично). «Если человечество безопасно для ИИ, но и бесполезно, свою хозяйственную деятельность можно производить без учета его (человечества) интересов»
            • 0
              А потом решило, что нужны и таки sustainability теперь модно.
              • +2
                Сегодня модно, завтра не модно. А послезавтра снова модно, но уже все вымерли :)
                • 0
                  Ну вы же Rational, где же ваша рациональность, Юрий? Sustainability выгоднее в долгосрочной перспепктиве, а с учётом роста средней продолжительности жизни, логично будет, что краткосрочная-перспектива-в-глобальных-масштабах будет отмирать.
                  • +1
                    Дело в том, что вы не зря сказали «sustainability теперь модно». Это именно вопрос моды. Среди моих знакомых — экологов и прочих сторонников концепции устойчивого развития крайне мало людей, которые могли бы обоснованно объяснить, почему это нужно. Большинство оперирует понятиями на уровне «все побежали, и я побежал». Следовательно концепция устойчивого развития может и не породить устойчивого тренда :)
                    В то время, как кружки по интересам в количестве 10-20 человек собираются по выходным порассуждать о том, как нам всем правильно жить, трудовые коллективы крупных предприятий в количестве 10-20 тысяч человек занимаются деятельностью, не учитывающую концепцию устойчивого развития.
                    Будем взвешивать и сравнивать, или соотношение влияний каждой стороны и так понятно?
                    • 0
                      Тут надо ещё взвесить этих «человек», потому что пятеро могут иметь большее влиянее чем пять миллиардов.
                      • 0
                        Теоретически — да. На деле же мы видим, что влиятельные люди почти безразличны ко всему, кто непосредственно не касается лично их, их ближайшего окружения и их хозяйства.
                        Этому есть объяснение: отсутствие дополнительных взятых на себя обязательств (в т.ч. моральных) и способствовало их продвижению.
                        • 0
                          Отсутствие взятых на себя моральных обязательств сподвигло Шатлворта вложить все деньги в развитие Ubuntu.

                          Отсутствие взятых на себя моральных обязательств дало возможность Маску создать SpaceX и Tesla.

                          Отсутствие взятых на себя моральных обязательств позволяет гуглу и ко сделать организацию по добыче с астероидов.

                          #yeahsure
                          • 0
                            Давайте для ровного счета перечислим мультимиллионеров и миллиардеров, которые решили все-таки воздержаться от лишних расходов.
                            Упсь. Не получится, т.к. они не публичные люди и не бравируют своей «нещедростью».
                            Гугл же на всякий случай трогать не будем, т.к. это слишком религиозный вопрос для многих.
            • +3
              1) Если сравнить масштабы антропогенного и неантропогенного вымирания видов на протяжении истории Земли, человечеству с его птицами додо и т. п. еще далеко до «естественных» процессов.

              2) Вместе с тем, осознание человечеством этой проблемы и принимаемые меры по защите видов демонстрируют такую динамику, которая вообще ставит под вопрос продолжение «естественной» эволюции видов с неизбежным когда-то вымиранием части разнообразия — настолько, что некоторые горячие головы уже заговорили о «неэкологичности» подобной защиты (!). Каких-то 200-400 лет назад никто не ставил всерьез вопрос об охране природы в глобальном масштабе, а виды продолжали и вымирать, и истребляться человеком (причем по максимуму этот процесс шел еще в неолитическую эпоху).

              3) Отношение ИИ к человеку неэквивалентно отношению человека к животному. Человек не располагает фактами о том, что какое-либо из животных понимает, что такое эволюция видов, или тем более что животные способны хотя бы размышлять о перспективах своего апгрейда в более разумных существ или создания таковых на качественно другой основе (даже не биологической). ИИ же получит гораздо меньше оснований сравнивать людей с животными, а свое отношение к ним — к видовой конкуренции, если он уже будет знать, что у людей есть теория эволюции и трансгуманизм. И хотя это не дает гарантии от рисков, но и фатализму (будто бы ИИ обязательно будет видовым конкурентом) места не оставляет. А лучшая гарантия из возможных — как и утверждает Курцвейл, взаимное сближение разумных существ, обладающих биологическими характеристиками человека и техническими возможностями ИИ, с одной стороны, и изначально спроектированных как ИИ, но имеющих представление о человечности и мотивацию к дружественному развитию.
              • +1
                Человеку безразлично, что понимают или не понимают животные. С точки зрения общества (а не отдельных лиц) животные считаются ресурсом и материальной ценностью.
                Проверить, какими представлениями обладает интеллект нечеловеческой природы крайне затруднительно. Люди даже друг друга (а порой и самих себя) с трудом понимают. Посмотрите, сколько неожиданных для окружающих и для самих себя действий люди совершают. Смотреть в приговорах судов и в заключениях судмедэкспертов.
                • +1
                  > Человеку безразлично

                  Как зовут этого человека?:)

                  Фишка в том, что существуют те, кому безразлично, и те, кому нет. Деятельность первых — потенциальный источник риска, вторых — источник шансов на благоприятное развитие. Оспаривалась идея не о том, что рисков не существует, а о том, что шансы якобы вообще нулевые.
              • 0
                ИИ или постчеловекам и т.п. скорее всего придётся конкурировать с людьми за ресурсы.
              • 0
                Одно из первых открытий ИИ будет, вероятно, открытие примитивного разума у человека. Что-то вроде способности к арифметике у ворон.
        • 0
          Ваше рассуждение напомнило короткометражку
    • 0
      А что если окажется, что нельзя в принципе создать полноценный искуственный интеллект. Как со скоростью света — к ней можно сколь угодно близко сремится, а достигнуть нельзя…
      Как вам такая гипотеза?
      • +6
        А какая разница между естественным интеллектом и искусственным? Вот ваш интеллект, он же ж полноценный? А что в нем такого, что делает его «естественным»? А если ваш интеллект перенести на другую аппаратную платформу, он станет еще полноценнее и вы нас всех заткнете за пояс в полемике.
        • –3
          Когда, я гворю искуственный, это значит «сконструированый, созданый руками». А у естественных обладателей естественного интелекта, как минимум аппаратная платформа — мозги, растут и развиваются сами по себе, требуя лишь своевременной подачи питания.
          • 0
            1. У «мозгов» есть естественные ограничения на их рост и развитие.
            2. Растут они тоже не «сами по себе», а в соответствии с определенными механизмами, определяющимися законами химии, физики, цитологии и т.д. Эти механизмы можно воспроизввести, либо создать альтернативный базис механизмов. Вычислительные же сети тоже открывают для ИИ возможность «расти и развиваться» самому по себе, лишь бы у него были механизмы задействования дополнительных выч. мощностей.
            • 0
              С другой стороны, эти же технологии открывают возможности и для «мозгов» апгрейдиться дополнительными ИИ-подобными компонентами и согласовывать их развитие со своими интересами.
          • 0
            А теперь представьте эволюцию глобально. Есть эволюционная машина — планета Земля. На входе — первичный бульон аминокислот, на выходе, через лярд лет, — кремниевые (или квантовые) разумные машины. Этап конструирования руками высших приматов первых компьютеров — всего лишь один из этапов эволюции.
            • 0
              Без «божественного замысла» в вашем посте не обошлось. Но я таких взглядов не разделяю.
              • +1
                На самом деле не очень верю в какой-то «божественный замысел». Если точнее, придерживаюсь агностиков.

                Речь о том, что создание разумных компьютеров я считаю естественным эволюционным этапом.
                • 0
                  Зайдем с другой стороны. Вы хоть что-нибудь неестественным считаете?
                  • +1
                    В точку :) Ответ будет зависеть от контекста, в котором рассматривает вещи наблюдатель.

                    Наблюдатель изнутри, вроде меня или вас, прекрасно видит разницу между естественным и искусственным.

                    Для гипотетического инопланетного сверхразума (пережившего свою сингулярность) — это различие не столь существенно.
                • 0
                  Соглашусь. Дальнейшее развитие выглядит вполне логичным и закономерным.
      • +4
        Гипотеза так себе. Человек — не какое-то уникальное нечто, созданное кем-то по образу и подобию, а вполне наглядная демонстрация того, что искусственный интеллект возможен. Наш разум есть процесс функционирования сложной биологической машины.
        • +2
          Ну, чтобы она действительно стала так себе, нужно ее полностью опровергнуть.

          Человек, как интелект возможен, «но ты попробуй сделай сам» (слова из песни).
          • +2
            То, что мы не можем собрать красивую снежинку из микрокристалликов льда, еще не делает снежинку чем-то уникальным и недостижимым.
            • –1
              Вы сами себе противоречите.
              • +2
                Вовсе нет. Не смотря на то, что мы не можем собрать конкретную снежинку, мы можем создать условия (градиент температур, давление, влажность) при котором родятся тысячи красивых снежинок. Конструкция каждой будет заранее непредсказуема и неуправляема, но бОльшая часть из них все же окажутся красивыми.
                • 0
                  Да вроде как и собрать помолекулярно аналогичную снежинку при особом желании вполне возможно.
                  • 0
                    Пока только теоретически, т.к. помолекулярная сборка — это ж из области пресловутых нанотехнологий.
                    • 0
                      Ну принципиально непреодолимых проблем тут вроде бы нет, поэтому можно говорить, что можно.))
          • 0
            Согласно философии науки фальсификация гипотезы возможна при помощи мысленного эксперимента. Описывать эксперимент будем или ограничимся тем, что гипотеза не учитывает того факта, что имеющийся интеллект вполне себе создался искусственно при помощи эволюционных механизмов?
          • 0
            Вот вам простой мысленный эксперимент: с помощью некоего аппарата сканируем ваш мозг и сохраняем параметры каждого вашего нейрона и характеристики всех связей между ними. Загоняем в программу для моделирования процессов в биологической нейронной сети и запускаем ее на достаточно быстром компьютере.
            Получившийся в итоге интеллект будет неотличим от вашего (если угадать с производительностью).
            Так в чем тогда будет разница между «естественным» и «искусственным»? «Искусственный» будет полноценным?
            • 0
              Или ещё лучше, оцифровывать не всё сразу, а нейроны/нейрокласстеры один за другим, чтобы сохранялась непрерывность сознания. Это разрешает сразу кучу контраргументов аплоада.
              • +1
                rsync -a /mnt/brain /dev/brain
          • 0
            Ну, чтобы она действительно стала так себе, нужно ее полностью опровергнуть.
            Для начала нужно показать, что гипотеза является научной — есть способ ее опровергнуть, например экспериментом.
    • +1
      «Они» не будут. Она просто наступит. Так же, как сначала наступила эпоха земледелия, потом первых машин, потом компьютеров/интернет.
      Это вообще не зависит от воли людей, поскольку подчиняется только фундаментальным законам существования/развития вселенной.
      • 0
        Не надо ужимать Вселенную до человеческого общества. Одно к другому имеет посредственное отношение.
        • 0
          Так наз. «человеческое общество» — всего-навсего частный случай известной нам вселенной.
          Вселенная снаружи, общество — внутри. То, что происходит в обществе, не может происходит ВНЕ рамок законов окружающей его вселенной. Вот в чём смысл сообщения.
          Любая крупная звезда станет, в конце концов, сверхновой. В зависимости от её массы, после неё останется или чёрная дыра, или нейтронная звезда (продолжите список).
          Других вариантов нет.
          То же самое с цивилизацией — или сингулярность или какая-нибудь катастрофа и — или вымирание, или откат назад к первобытному обществу.
          Других вариантов нет.
  • +1
    > По мнению Курцвейла к 2030 году (по известному большинству закону Мура)
    Вот только Мур предсказывал о плотности размещения транзиторов, а не о мощностях. Может произойти технологический скачёк и уже через пяток лет мы достигнем необходимой мощности, а может и до конца века будем ещё очень далеки от этого.
  • –3
    >Google должен понимать, что именно вы ищете
    и докладывать об этом куда надо )
  • 0
    То есть со временем у гугла исчезнет и строка для ввода поискового запроса и останется только кнопка «мне повезет»?))
    • +1
      Кнопки тоже не будет, в ваш мозг будет вживлено считывающее устройство, подсоединенное к сети, как и не будет ленты выдачи, вместо нее в вашей голове будут появляться мысли — ответы, которые вы будете воспринимать за свои.
      • +3
        Все верно: лучший интерфейс — отсутствие интерфейса.
  • 0
    Это статья не по мотивам Терминатора в субботу-воскресенье на СТС?
    • +16
      Надо же, кто-то еще смотрит телевизор :-)
      • +12
        Каюсь. Случайно сел на пульт и телевизор включил.
        • +6
          Не оправдывайтесь. Все мы грешны.
  • +3
    Интервью Курзвейла в свой первый рабочий день в Гугле:
  • +16
    В последнее время у меня уже устойчивое ощущение гугла (в целом, как единой сущности) самым настоящим Power из постсингулярности. Он там что-то внутри себя варит, а нам из его котла попадают брызги, которые мы считаем за откровение и которые начинают очередной технологический прорыв. Такой непрекращающийся «пикник на обочние». Потом он улетит на свои астероиды, а мы останемся на дне своего гравитационного колодца, недоумевая «что это было??»…
    • +2
      Больше похоже на «Пламя в Бездне» Винжа.
      • 0
        Чем похоже то?
        • +1
          Google как житель Перехода :) продолжая аналогию wiz.
      • +3
        Винж, Стросс, кто там ещё… примерно про одно и то же пишут.

        И это становится заметнее с каждым днём. Недавно пост на реддите был, как компания генерит дочек с рандомным именем и рассылает угрозы патентного преследования в компании, список которых собран из публичных источников. Типичное начало Accelerando.
        • 0
          Спасибо, нагуглил Accelerando, почитаю.

          Ссылку на reddit не подкинете?
        • 0
          offtop: интересно, когда вконтактике появится паблик «типичный godlike» с цитатами известных uplift-котиков и исходниками автоэволюционирующих демотиваторов…
      • +1
        Чарльз Стросс, «Небо сингулярности»!

        Да, ГУГЛ вполне себе может нас покинуть… Как Фестиваль.
  • +3
    Хотелось бы добавить что таких вроде как не очень прибыльных проектов у Гугла вагон.
    И к ним хочу добавить проект Андроид (хоть и прибылен). Это же какая пачка данных собираемых корпорацией бобра! Взять хотя бы малюсенькую часть — геолокацию на андроиде. Например, сколько людей одновременно в моём городе-миллионнике используют геолокацию от гугла (включая гпс, вай-фай и сотовую геолокацию)? Да никак не меньше 5000 человек. Они ездят по всему городу, заходят в здания, ускоряются на прямых и тормозят на поворотах и около светофоров. И я не верю чтобы гугл смог пройти мимо этих данных. Это же просто кладезь информации о городе. На основе массива этих данных можно построить такую точную и подробнейшую карту любого города, что любой ДубльГИС закурит нервно в сторонке. Прогнозировать от этих данных тоже милое дело (кстати, гугл может продавать эту консалтинговую информацию любому желающему (от мэра города — где ему строить дороги и микрорайоны на 20 лет вперёд и какими темпами, до предпринимателей — где лучше ставить ларьки с мороженым в 2017 году)). И таких примеров масса.
    Боюсь скатится в паранойю, но всё так очевидно.
    • +3
      Что-то не сильно меня пугает вероятность того, что ларек будет именно там, где мне будет удобно, а дорога пройдет так, как мне нужно.
      • +3
        Вообще-то дорога, проходящая так, как вам нужно, будет платной, а ларек поставленный в самом удобном для вас месте будет торговать самыми дорогими и одновременно с тем паршивыми товарами. Более того, он будет сужать и без того забитый пешеходами тротуар так, чтобы люди из-за затора невольно задерживались у витрины.
        Вы в самом деле думали, что на основе этой информации кто-то (кроме вас) будет пытаться сделать вам лучше?
        • +2
          Вы серьезно думаете, что в прекрасном будущем, которое обрисовал комментатор выше может себе позволить недобросовестного продавца? А пешеходы и правда будут толпиться рядом с новенькой платной магистралью? И на счет платной дороги — а что в этом будет плохого, если эта дорога будет сильно экономить время?
          • +3
            А что, моральные качества людей обещали в ближайшие годы стремительно подрасти?
            Чем больше эта дорога будет экономить время, тем дороже она будет стоить. Т.е. по законам рынка она будет стоить ровно столько, чтобы при принятии решения, воспользоваться ею или нет, вы всегда были на грани согласия и несогласия, но все же соглашались. Это тонкий психологический момент.
            • +1
              Общественный транспорт станет более популярным, и вообще должен вытеснить с дорог те автомобили, которые занимаются рутинными перевозками своих пассажиров. Останутся только те, кто будет ездить, скажем, ради статуса. Смотрите в сторону Сингапура, автомобиль там — роскошь. А, скажем, ночью можно будет вызвать полностью автоматизированное легковое такси, которое меня отвезет домой по той самой дороге, но у же с ночной скидкой(или вообще бесплатно, владельцу дороги выгодно, чтобы инфраструктура не простаивала).
              Вы поймите, я же не про россию говорю, тут через 20 лет дай бог только поношенные приусы появятся.
              • 0
                btw, у нас в замкадье лично видел два приуса. А вот leaf да… не скоро.
                • +1
                  У себя в глубоком замкадье на прошлой неделе видел новенький приус. Было сильно диковинно его видеть на фоне всеобщего пипеца.
              • 0
                1. Какое нахрен «бесплатно, чтобы инфраструктура не простаивала»? Пусть лучше проитаивает, чем изнашивается, не принося доходов на покрытие амортизации и текущего обслуживания.
                2. А зачем делать ночное такси дешевле дневного, если вы ночью и по той же цене поедете? Более того, вы и по более высокой цене, чем дневная, поедете, потому что:
                — Вам, видимо, очень срочно туда надо, если вы не можете подождать до утра;
                — Иначе вам не добраться туда никак.
                • 0
                  Сегодняшняя относительно высокая стоимость такси ночью диктуется человеческим фактором. Если исключить его путем автоматизации, на первый план выйдет пропускная способность и тогда получится не как в вашем примере, а как с ночным интернетом в эпоху диалапа. Юзверям ведь очень срочно нужно было что-то альтавистить в 3 часа ночи, а библиотеки и газетные киоски закрыты…
                  • +1
                    Высокая ночная стоимость такси диктуется рыночными механизмами. Профессиональным водителям все равно когда ездить. У них мозг приспособлен спать тогда, когда есть возможность, а не когда хочется.
                    И цена ночного такси высокая именно по тем причинам, что я назвал выше. Но на всякий случай повторю: потому что вам очень надо, и потому что по-другому вам никак.

                    Аналогия с ночным интернетом совершенно неправильная. Если очень надо, подробно объясню почему.
                    • 0
                      Объясните, плз.

                      Интернет в упомянутую эпоху — технология с небольшой себестоимостью собственно передачи данных по сравнению с простоем канала, но с сильно ограниченной пропускной способностью. Локальный спрос на этот ограниченный ресурс колеблется в зависимости от времени суток, потому что большая часть общества живет и работает в стандартное бизнес-время. Потому днем интернет стоил больше, чем ночью. Для ночных же админов, саппортеров и т. д. абсолютно все равно, передаются данные или нет, стоимость их труда от этого особо не зависит.

                      Если вас смущает сравнение перемещения битов информации (за которыми в любом случае стоит материальная инфраструктура) и физических макрообъектов, то вот вам другой пример. Чартерные самолеты по Турциям-Египтам часто вылетают ночью и стоят дешевле не потому, что туристам очень надо лететь именно в это время, а потому что флот в это время максимально свободен от дневного бизнес-трафика, аналогично интернет-каналу. Стоимость человеческих ресурсов здесь вторична по отношению к стоимости обслуживания и прибыльности машин.

                      А такси сегодня — это прежде всего человеческий ресурс водителей, которым нафиг не сдалось делать ночью то, что можно делать днем, если только на этом нельзя заметно больше заработать. При этом конкретный водитель по-любому должен в какое-то время и отсыпаться, потому предложение в разное время суток будет неодинаковым. Ночью не будет спать только такое количество водителей, которого будет достаточно для перевозки такого количества пассажиров, которое согласно заплатить больше — равновесная цена установится выше.

                      В случае же автоматизации, во-первых, человеческий фактор ограниченного предложения в неудобное время суток будет полностью исключен — машине все равно, когда ездить. Во-вторых, автоматизация может резко сократить спрос на ночные перевозки пьяных, и это способно существенно подорвать спрос относительно дневного времени. В-третьих, как уже упоминалось, город или поставщик инфраструктуры (платных дорог) может взимать дополнительную плату во время наибольшей загрузки, и это никак не то время, в которое сегодня такси стоит дороже всего. Потому равновесная цена ночной поездки неизбежно полетит вниз, а дневной — вверх, и вполне может быть так, что они поменяются местами, дабы днем больше юзали общественный транспорт и освобождали дороги, или же вообще даже переходили на альтернативный график работы и жизнедеятельности.
                    • 0
                      Ага, только вот у остальных людей мозг приспособлен спать ночью, потому чтобы профессиональные водители могли нормально общаться с кем-то еще, им следует делать это днем.

                      В прочем, ночное такси и есть дешевле дневного, меньше пробок. Да и конкуренция рынке высокая, днем на всех места не хватает просто.
                • 0
                  Под инфраструктурой я понимаю во-первых забегаловки, киоски и прочее.
            • +1
              Моральные качества могут и не вырасти (что врятли), а вот себестоимость упадёт 100% (если исключить катастрофический фейл). Технология вся про «do more with less». Если себестоимость удобнейших золотых унитазов с дистанционным управлением и 4K 3D экраном будет достаточно низкой, то почему бы и не ставить их в публичных сортирах?..
              • 0
                Разговоров в стиле: «А что будет, когда бриллианты будут стоить как кусочек сахара-рафинада?» я не веду. Принципиально. Причем давно.
                • +1
                  Ну да. Ибо не застали лично эпоху, когда алюминий ценился дороже золота. А в свете Planetary Resources то же самое, возможно, вскоре ждет и платину. В любом случае технодефляция — будь она по исходному материалу или по конечному решению — фактор реальный, и игнорировать его неразумно.
                  • 0
                    Вспоминается цитата из «Глубины в небе»: «Для среднего же члена Кенг Хо алмаз был
                    просто одной из аллотропии углерода и считался на тонны».
            • +2
              Собственно, в Швеции так и решили в борьбе с пробками — ввели достаточно крупную плату за въезд в центр столицы, чтобы машин стало резко меньше. И что лучше — иметь возможность быстро проехать тогда, когда это действительно необходимо и на том, на чем необходимо (включая общественный транспорт, скорые и т. д.), или же стихийная «уравниловка» пробки? То есть такие проекты скорее способствуют выравниванию реальных возможностей (не просто «бесплатно проехать на своей тачке», а удовлетворить всевозможные потребности общества), чем дискриминации «бедных» водителей. Право занимать такую часть ограниченного континуума, которая превышает твою долю в нем, это привилегия, которую нужно чем-то компенсировать. И если «умная» технология отследила халяву, которой ты пользовался в ущерб другим, и заставила тебя за это платить, то лично тебе это может быть и неприятно, но обществу в целом — выгодно. При условии, что в этом обществе будет достаточный уровень компетентности в технологиях и в том, как оптимально их осваивать.
              • 0
                Не трогайте Швецию. Там почти социализм и порядочные люди.
                В наших же странах (в частности Украине) это выглядит немного иначе. Вот вам типичная нашинская новость с интрирующим заголовком:
                «Бедным выгодно повышение тарифов ЖКХ»
                gorod.dp.ua/news/78731

                У нас «умная» технология будет отслеживать лишь на чем еще можно нажиться элитам.
                • +1
                  Это до поры до времени. А стратегически тренды распространяются из передовых стран в отстающие, а не наоборот. Если будем от всего так шарахаться, то скатимся в Зимбабве.
                  • 0
                    Почитайте заграничные новости. Стратегические тренды в том, даже в передовых странах падает образование, обостряются социальные, экономические, религиозные и этнические противоречия. В результате общества становятся все менее организованными, а граждане — все более дезориентированными, все менее ответственными и все более ориентированными на личное выживание и благополучие. Я не возьмусь прогнозировать, что «у них скоро станет хуже, чем у нас», наши общества деградируют куда быстрее, но даже общества цивилизованных стран сейчас находятся в точках локального максимума сознательности, взаимоуважения и взаимопонимания.
                    • +2
                      > Стратегические тренды в том, даже в передовых странах падает образование

                      Стратегические тренды в том, что в этих странах создается Khan Academy, Coursera и Singularity University, в связи с чем традиционное образование становится не более релевантным, чем ЦПШ в эпоху основания РАН. В социальном плане тоже далеко не все так печально, и подтверждение тому — объективные факты увеличения ключевых показателей качества жизни. А то, о чем говорите Вы, это субъективные эффекты восприятия изнутри — когда человек быстро привыкает к хорошему, а малейшее отклонение вниз воспринимает как деградацию.

                      > даже общества цивилизованных стран сейчас находятся в точках локального максимума сознательности, взаимоуважения и взаимопонимания.

                      Локальный максимум относительно чего? Раз будущее неизвестно, значит относительно прошлого. Получается, вы противоречите сами себе?:)

                      > Почитайте заграничные новости

                      Новости — коммерческий товар, за который платят, если он «цепляет». Поскольку людей больше цепляет негатив — то и результат предсказуем. Не новости нужно читать с желтых ресурсов, а нишевую аналитику, которая не конкурирует за внимание с «Домом-2» или что там сегодня вместо него.
                      • 0
                        Локальный максимум относительно того, что было вчера и что будет сегодня.
                        Кому неизвестно будущее? о_О

                        «Ключевые показатели качества жизни» могут оставаться стабильными или даже подрастать за счет накопленных ранее ресурсов: материальных, финансовых, интеллектуальных, организационных и т.д., не смотря на это возможности и жизнеспособность общества будет снижаться. Простая аналогия: даже в неурожайный год можно обильно питаться, если есть заполненные погребок и амбар.
        • +1
          1) Стратегически сотрудничество всегда выгоднее конкуренции — достаточно только исключить тактические злоупотребления.

          2) «Я», как гражданин этого «умного мира», тоже не собираюсь оставаться в стороне от открывающихся технических возможностей и постараюсь внести свой вклад в устранение тактических багов и в оптимизацию стратегии на благо сообщества. То есть чтобы сообщество эффективно решало, что ларек на ключевой дороге вообще неуместен, и даже макдак или ТРЦ неуместен, а уместен какой-нибудь общественный центр.

          И те самые технологии, которые вас так пугают, помогут этому сообществу действовать более организованно. Подумайте об интернете, о википедии, линуксе, других распределенных проектах, которые превращаются во все более мощную силу по сравнению с корпоративным эгоизмом; а также о том, на каких позициях оказываются компании типа гугла, которые умеют сотрудничать с этими трендами, по сравнению с теми, кто пытается их давить.