Comments 196
Неожиданно. В прошлых топиках программу так не оценивали. Может человек не собрался по максимуму?
В любом случае, это выходит на уровень Дип Блю в шахматах.
В любом случае, это выходит на уровень Дип Блю в шахматах.
По-моему, Ли Седоль просто приценивался к оппоненту. Смотрел реакцию на определенные моменты. к следующим играм будет уже более подготовлен. Что, впрочем, вовсе не означает, что он победит.
Судя по описанию алгоритма понять человеку как он работает будет очень не просто. Если в шахматах логика действий компьютера была понятна, и идеи противодействия тоже, то здесь придумать варианты действий специально против компьютера, против его слабых мест будет нелегко. Подозреваю, что множественная ко-борьба может загнать комп в тупик, но не факт.
Идея противодействия компьютеру в шахматах? Это какая? Сдаться сразу?
Учитывая, что компьютеры уже весьма давно абсолютно недосягаемы по уровню игры для людей.
Учитывая, что компьютеры уже весьма давно абсолютно недосягаемы по уровню игры для людей.
UFO just landed and posted this here
Ну я же специально говорил в прошедшем времени. В начале находили слабые места (стратегические) и побеждали так, пока глубина расчёта и точность оценки не выросли за гранью возможностями оценки. В шахматах функции оценки позиции задавались человеком, а в го эта функция задаётся нейросетью, что не даёт увидеть к примеру в ней очевидных слабых мест.
Скорее комп загонит этой борьбой в тупик человека. Слишком мало вариантов для перебора.
А возможно что AlphaGo приценивалась к человеку? Просто человек сдался раньше… не вынес «психологического давления»…
Есть ли отличия в методе игры против машины или человека в го и как это провляется?
Машина может лучше просчитать результат локальной схватки, в сложной позиции человек может легко ошибиться, а машина найдет единственно верный вариант.
С другой стороны, в масштабах доски человек может глубже планировать и точнее учитывать взаимное влияние далеко расположенных групп.
Грубо говоря, машина сильна тактически, а человек — стратегически.
Думаю, Ли Седолю стоит избегать острых моментов и сосредоточиться на качестве. Впрочем, не мне ему указывать )
С другой стороны, в масштабах доски человек может глубже планировать и точнее учитывать взаимное влияние далеко расположенных групп.
Грубо говоря, машина сильна тактически, а человек — стратегически.
Думаю, Ли Седолю стоит избегать острых моментов и сосредоточиться на качестве. Впрочем, не мне ему указывать )
Так в том-то и дело, что AlphaGo умеет планировать в масштабах доски и, в каком-то роде, стратегически мыслить.
Да все программы в каком-то роде планируют в масштабах доски, на ранней стадии игры без этого никуда, просто человек может подмечать более тонкие моменты, которые не ложатся на простое запоминание выигрышных шаблонов, а просчитать эффект возможности нет, т.к. он проявится только к середине или концу партии.
AlphaGo не просто запоминает выигрышные шаблоны, а оценивает позицию на доске в перспективе всей партии (благодаря обучению на играх профессионалов). Понятно, что эта оценка неидеальна, но человеку так же недоступна идеальная оценка. Так что в моем понимании программа играет подобно человеку: оцениваeт позиции в глобальной перспективе и оптимизирует локальные решения.
Это достижение говорит об очень многом о возможностях AI.
На мой взгляд, говорить об искусственном интеллекте в контексте одной задачи, которую сильно оптимизировали для данной нейронной сети, преждевременно. Интеллект, все же — это совокупность сетей и средств их автопостроения.
Я не разбираюсь в данной области, но можно ли объеденить несколько обученных нейронных сетей в одну универсальную? Например, одна хорошо распознает изображения, а вторая, как тут, в го играет, объеденяем и получаем одну, которая может и то и другое, при этом обучаема двум задачам? Если можно, тогда медленно, но придем к достаточно универсальному ИЕ.
Если судить по их статье в nature, то alpha-go мало чем принципиально отличается от сетей, используемых для классификации картинок. Т.е. сама нейросеть ничего нового алгоритмически не содержит (я, во всяком случае ничего такого не вижу). Сначла 2д-свертки, потом чуть больше десятка полносвязных слоев, обучается стохастической градентной оптимизацией. Исходный этап обучения — с учителем, учили предсказывать ходы сильных игроков при данных позициях (30 миллионов позиций). Подкрепление при работе с такими сетями уже использовалось, когда учили сеть играть в Атари. Причем, говоря об Атари — сеть справлялась только с такими играми, где для принятия очередного решения достаточно "мгновенного снимка" игровой области (т.е. решение не зависит от предыдущих состояний игрового поля). Я не знаю правил Го, но в свете вышесказанного возникает мысль, что Го, возможно, относится к первому классу игр.
Вы говорите о сильном ИИ. В большинстве таких статей речь о слабом ИИ. До сильного ИИ нам пока как до Китая, и об этом особо никто не спорит.
UFO just landed and posted this here
Эффект искусственного интеллекта. Программа выполняет какую-то сложную задачу, к примеру, обыгрывает гроссмейстера или участников Jeopardy. Детали работы публикуются. Вестники «зимы ИИ» и скептики объявляют, что это просто вычисление, перебор вариантов, и вообще ни разу не реальный интеллект. В итоге искусственным интеллектом считается то, чего пока не было создано.
Скорее это эффект необразованных журналистов, которые называют искуственным интеллектом что ни попадя. Неплохим тестом на интеллект было бы например написание краткого пересказа книги или, ещё лучше, придумывание доказательства теоремы (обычный в этом случае аргумент, что ИИ придумает доказательство на 100500 страниц которое никто не поймёт не прокатывает, потому что это ведь ИИ и он должен понимать, что от него хотят).
UFO just landed and posted this here
Если появится именно такое, то мы просто не сможем найти что то в чём человеки лучше программ и в таком случае, если я скажу, что это тоже не ИИ, я должен буду признать, что я всего лишь тупая нейросеть. Ещё, кстати, хорошим тестом будет пересказ фильма. А то, что умение играть в шахматы считалось признаком интеллекта… кем считалось? Мне трудно предстваить, что в то время программисты не понимали, что шахматы решаются в лоб, перебором, и вопрос лишь в том как этот перебор оптимизировать и какие варианты эвристически отсекать.
В самом по себе доказывании теорем проблем нет, см пролог и тп.
Но как обычно у математиков, на практике все весьма плохо
Но как обычно у математиков, на практике все весьма плохо
Сложность в доказывании теорем в необходимости придумывать хитрые вспомогательные абстракции. Там, где доказательство можно соорудить скомбинировав известные теоремы записанные в формальном виде, принципиальных проблем скорее всего нет, а вот там где надо придумать что то с нуля, там начинается интеллект.
Не совсем так.
Для опровержения теоремы, например, не нужно ничего придумывать. Объявляем теорему аксиомой ("предположим, что теорема верна"), берём все остальные аксиомы математики (кхе-кхе) и дальше пытаемся доказать теорему "истина = ложь" или, что почти то же самое, "А =! А" для некоторого высказывания А. Если такое доказательство построить удаётся — исходная теорема противоречит базовым аксиомам и неверна.
Если же удаётся показать, что "истина = ложь" в такой дополненной аксиоматике всегда неверно, то мы доказали первоначальную теорему.
Но есть ещё два исхода:
Для опровержения теоремы, например, не нужно ничего придумывать. Объявляем теорему аксиомой ("предположим, что теорема верна"), берём все остальные аксиомы математики (кхе-кхе) и дальше пытаемся доказать теорему "истина = ложь" или, что почти то же самое, "А =! А" для некоторого высказывания А. Если такое доказательство построить удаётся — исходная теорема противоречит базовым аксиомам и неверна.
Если же удаётся показать, что "истина = ложь" в такой дополненной аксиоматике всегда неверно, то мы доказали первоначальную теорему.
Но есть ещё два исхода:
- ни доказать, ни опровергнуть ничего не удалось, и мы нашли кандидата в новую аксиому, по сути — новый раздел математики.
- (чаще всего) мы тупо устали ждать, пока "доказатель" чего-нибудь скажет (потому как размерность поиска там ой-ой и вообще никто не обещал, что алгоритм доказывания в принципе когда-нибудь остановится).
Доказательства А в Т и "0 = 1" в (Т + {А}) очень просто сводятся друг к другу (теорема о дедукции и reductio ad absurdum), так что ничем это сильно не поможет.
Можно просто перебирать все доказательства в T, пока не найдем доказательство А или доказательство не-А. Но это долго, а для независимых от Т утверждений еще и не останавливается (а проверка независимости от, скажем, арифметики, алгоритмически неразрешима). Ну и на выходе получится что-то невнятное скорее всего.
В общем это примерно как играть в шахматы полным перебором дерева:)
Можно просто перебирать все доказательства в T, пока не найдем доказательство А или доказательство не-А. Но это долго, а для независимых от Т утверждений еще и не останавливается (а проверка независимости от, скажем, арифметики, алгоритмически неразрешима). Ну и на выходе получится что-то невнятное скорее всего.
В общем это примерно как играть в шахматы полным перебором дерева:)
А как быть с тем фактом, что множество человеческих особей не сможет пройти предложенный Вами тест «придумывание доказательства теоремы»?
Большинство человеческих особей непроходимо тупы, к сожалению, и интеллект у них слабо развит. Я и сам то, несмотря на формальный айкю 140, слишком туп для придумывания доказательств. Однако это не повод приравнивать распознавание картинок или перебор ходов в шахматах к интеллекту.
А почему — не повод? Ведь о том и речь, что однозначных критериев — нет. Точнее, они есть, но они постоянно повышаются по мере того, как компьютеры совершенствуются. Умение играть в шахматы считали достаточным признаком. Теперь его считают «простым перебором», доступным даже обычному тупому компьютеру. Про го говорили, что оно никогда не будет доступно компьютерам, потому что там нужна «интуиция» и «стратегическое мышление». Сейчас, внезапно, это уже тоже не показатель.
Сейчас вы выставляете требования, которых не может выполнить большинство «естественных интеллектов», да и вы сами тоже, как вы признались. Чем такие требования обоснованы? Почему искусственный интеллект, чтобы считаться таковым, должен превосходить интеллект естественный?
Проблема в том, что мы не знаем, что такое «интеллект» и как он работает. Мы выставляем критерии, отталкиваясь от задач, которые нам кажутся сложными или невозможными для уже существующего уровня машин, а тот не стоит на месте и постоянно повышается. В этом и заключается «эффект искусственного интеллекта».
Сейчас вы выставляете требования, которых не может выполнить большинство «естественных интеллектов», да и вы сами тоже, как вы признались. Чем такие требования обоснованы? Почему искусственный интеллект, чтобы считаться таковым, должен превосходить интеллект естественный?
Проблема в том, что мы не знаем, что такое «интеллект» и как он работает. Мы выставляем критерии, отталкиваясь от задач, которые нам кажутся сложными или невозможными для уже существующего уровня машин, а тот не стоит на месте и постоянно повышается. В этом и заключается «эффект искусственного интеллекта».
Кстати, а какой IQ у AlphaGo? Думается, что такие простые тесты после небольшой настройки легко решаются и куда менее мощными нейросетями.
Возможно, что AlphaGo заточена чисто под го и пройти тесты на IQ просто не может.
Это абсолютно верно. Подстройка под тест потребуется. Выше комментаторы отмечали «придумывание доказательства теоремы» и иные "сложные" задачи для ИИ. В то время, как человеческий тест, определяющий коэффициент интеллекта, для машины проще пареной репы.
Если я не путаю, тест IQ имеет в том числе ограничение по времени, и сам тест на поиске закономерности завязан… необъективно как то.
Человеческий тест заточен только на отделение умных от глупых, и делает это хорошо (их много всяких, с картинками, цифрами, анаграммами, к общему знаменателю приводятся статистически). Тест IQ ни как не заточен ни определять компьютеры, ни подчеркивать их возможности. Игра в шахматы или go как-раз тут и были мерилом возможностей человека и компьютера (нейросетей), очень интересная тема. В двоичном сложении компьютер сильнее человека в миллионы раз, в понимании абстрактного (типа квантовой механики), пока существенно сильнее человек.
Она решит его методом перебора :)
Это аналог теста IQ высочайшего из возможных для генетически не модифицированного человека, IQ под 200. Причем человек с детства тренирует свою нейросеть для Go, а для компьютера это типичная нейросеть, через несколько секунд может перестроиться на узнавание котиков, просто сменить ПО в памяти…
Тесты IQ, если не требуют понимания абстракции высшей, действительно легко проходятся алгоритмами (там методом переобора можно решить большинство задач, даже без нейросетей).
Тесты IQ, если не требуют понимания абстракции высшей, действительно легко проходятся алгоритмами (там методом переобора можно решить большинство задач, даже без нейросетей).
Вы не занимаетесь этим, потому что, вероятно, не имеете достаточной мотивации. Никто доказательства с потолка не берет, они рождаются после изучения и анализа огромного багажа знаний. Как известно, терпение и труд все перетрут. А высокий IQ поможет лишь быстрее продвинуться и заглянуть глубже, да и то не факт.
Это может быть эффект сильного ИИ?
Человек тоже может решать многие задачи перебором вариантов. А когда людей 8 миллиардов, это способствует тому, что многие задачи решены не анализом, а перебором вариантов, далее опыт просто бездумно скопирован остальными :) Просто пример того, что человек точно так же решает часть задач (но не все) перебором вариантов.
Человек тоже может решать многие задачи перебором вариантов. А когда людей 8 миллиардов, это способствует тому, что многие задачи решены не анализом, а перебором вариантов, далее опыт просто бездумно скопирован остальными :) Просто пример того, что человек точно так же решает часть задач (но не все) перебором вариантов.
Почему все упоминают нейросеть, но не упоминают про перебор деревьев на основе метода Монте-Карло? Это тоже очень важная вещь в ИИ для го.
То же самое можно сказать и про биологические нейросети в нашем мозге. Мозг сильно оптимизирован для узко специализированных задач: выживание. Выживание при минимальном потреблении энергии, около 10 Вт (из которых большая части идет на второстепенные функции типа координации, пищеварения, поддержка работы сердца, обработка каналов звука, изображения и много чего еще, на чистый «разум», абстрактное мышление остается не так много), все лишние функции жестко режутся с целью энергосбережения.
Дело в том, что даже если заставить alpha-go выживать на 10 ваттах, то доказывать математические теоремы она не сможет, потому как заточена под одну простую задачу.
Программа, код заточен под одну задачу. Железо универсальное, сейчас анализирует go, через секунду может 3D сцены рендерить.
Мозг как-раз затачивается аппаратно, думая с детства над игрой go, мозг модифицируется физически, одни области активируются, другие деградируют (часть отвечающая за координацию, различение звуков по тону и положению в пространстве, наблюдательность, зоркость и много чего еще). Эти данные зафиксированы на томографе даже в ходе одного сеанса игры, одна часть мозга интенсивнее снабжается кровью, другие переходят в спящий режим (экономя ресурсы организма). Кроме того понятно, что нейроны укрепляют нужные связи между собой, и полностью и необратимо уничтожают лишние.
Годы тренировок необратимо формируют мозг аппаратно, появляется гений go, но рассеянный в быту и неловкий человек с замедленной реакцией.
Экономичность мозга связана в том числе с его аппаратной подстройкой, физические трехмерные связи между нейронами. По аналогии с расчетами биткоинов, сначала считали на универсальных прожорливых процессорах, потом на более специализированных видеокартах, потом на FPGA, потом только узко специализированные ASIC.
Мозг более похож на ASIC (кроме детского мозга конечно), человек что 30 лет водил фуру, не сможет уже ни играть в go на высшем уровне, ни кодировать ядро Линукса на си, формально сможет конечно, но на примитивном уровне, не представляющем практического интереса.
Мозг как-раз затачивается аппаратно, думая с детства над игрой go, мозг модифицируется физически, одни области активируются, другие деградируют (часть отвечающая за координацию, различение звуков по тону и положению в пространстве, наблюдательность, зоркость и много чего еще). Эти данные зафиксированы на томографе даже в ходе одного сеанса игры, одна часть мозга интенсивнее снабжается кровью, другие переходят в спящий режим (экономя ресурсы организма). Кроме того понятно, что нейроны укрепляют нужные связи между собой, и полностью и необратимо уничтожают лишние.
Годы тренировок необратимо формируют мозг аппаратно, появляется гений go, но рассеянный в быту и неловкий человек с замедленной реакцией.
Экономичность мозга связана в том числе с его аппаратной подстройкой, физические трехмерные связи между нейронами. По аналогии с расчетами биткоинов, сначала считали на универсальных прожорливых процессорах, потом на более специализированных видеокартах, потом на FPGA, потом только узко специализированные ASIC.
Мозг более похож на ASIC (кроме детского мозга конечно), человек что 30 лет водил фуру, не сможет уже ни играть в go на высшем уровне, ни кодировать ядро Линукса на си, формально сможет конечно, но на примитивном уровне, не представляющем практического интереса.
UFO just landed and posted this here
пока это достижение говорит о том что люди отлично научились работать с паттернами, как по мне. собственно для этого они и разрабатывались изначально.
исправлено
А что умеет человек кроме этого? Человек разве не нейросеть?
Вопрос наверно лучше ставить так: что такого умеет человек (в плане мышления), чего нельзя сделать с помощью нейросети?
Теоретически с помощью нейросети можно сделать что угодно (RNN полны по тьюрингу). Практически они даже считать учатся с большим трудом.
Практически и человеку считать (в уме) дается с заметным трудом и этому приходится довольно долго учиться, но и после обучениям в этом плане очень и очень слабы.
Тогда как такие вроде бы гораздо более сложные и ресурсоемкие задачи как распознавание образов, распознавание речи, синтез речи и многие другие даются раньше и легче чем примитивные математические операции.
Тогда как такие вроде бы гораздо более сложные и ресурсоемкие задачи как распознавание образов, распознавание речи, синтез речи и многие другие даются раньше и легче чем примитивные математические операции.
Возможно, человек просто недоценил машину. В следующей игре он наверняка будет играть аккуратнее.
Такие аргументы прокатывают, если за матч не дают $1 миллион.
Призы в других соревнованиях по го нередко достигают шестизначных сумм. Думаю престиж и репутация для него гораздо важнее призового фонда.
Ли Седол зарабатывает, кажется, около $0.5 млн в год, так что приз более чем ощутимый. С репутацией проблем также нет: если выиграет, то покажет всему миру, что он реально крут и программам до него как до луны, а если проиграет, то его крутизна ощутимо просядет.
Ощутимый, но не уровня "я должен играть как можно сильнее, хоть и уверен, что легко выиграю".
Вот список важных турниров: en.wikipedia.org/wiki/List_of_professional_Go_tournaments Типичный приз там это $300 тыщ (пол миллиона в лучшем случае). Тут Гугл предлагает миллион. В доволнение к этому, матч с альфа го войдёт в историю, тогда как про непонятно какой по счёту турнир Инга (вы вообще слышали о таком?) будут помнить только знатоки го. Вообщем, мотивации хоть отбавляй.
Думаю это не так уж и плохо. Когда-то человек заменил свою силу мышц на механизмы которые теперь превосходят нас во много раз. Также и с мозгом. Мы придумали калькуляторы и компьютеры, которые словно лопата и топор, а вот ИИ я бы сравнил с огромным пресс станком или ещё чем то более выдающимся.
Протез для мозга?
Многим он бы не помешал.
Не отказался бы от сопроцессора для вычислительных задач. Сложно вертеть в воображении 3D граф глубиной более 2 ветвей.
Почти всем. Хотя бы мгновенный доступ к собственной памяти без забывания — уже было бы крайне полезно. А если еще добавить архив и википедию...
Вообще-то сильный ИИ сделает нас всех безработными. Тут была фантастическая история, кажется вполне правдоподобной
https://habrahabr.ru/post/202460/
Мир станет лучше, но люди окажутся вне экономики, в лучшем случае переходя на натуральное хозяйство...
https://habrahabr.ru/post/202460/
Мир станет лучше, но люди окажутся вне экономики, в лучшем случае переходя на натуральное хозяйство...
Очень мощная новость, особенно на фоне скепсиса от предыдушей победы AlphaGo. На стороне машины психология, вернее её полное отсутствие. Если следующая игра будет снова агрессивной, это может выбить из колеи человека, так что ожидаем интересную битву.
Интересно, какие из наработок Google в этой сфере (построение машины по игре в Go) могут пригодиться в других сферах?
Интересно, какие из наработок Google в этой сфере (построение машины по игре в Go) могут пригодиться в других сферах?
На стороне человека — высокая гибкость интеллекта и возможность придумывать новые обманные ходы, которые нейронная сетка не знает
UFO just landed and posted this here
Проблема человека в том, что он понятия не имеет, какие ходы известны нейросетке, а на каких она сваливается.
С другой стороны, готовя нейросеть к битве с конкретным игроком, ей наверняка "скормили" все партии с его участием, в итоге она целиком и полностью знает как сильные, так и слабые стороны противника.
С другой стороны, готовя нейросеть к битве с конкретным игроком, ей наверняка "скормили" все партии с его участием, в итоге она целиком и полностью знает как сильные, так и слабые стороны противника.
Есть подозрение, что человеческий "сопроцессор го" это такой FPGA из нейронов заточенный под го точно так же как в alpha-go: запоминанием типичных хороших ходов (все это джозеки, разные трюки и т.п.). Плюс к этому человек применяет тот самый MCTS на 3-5 ходов вперед, а вот alpha-go наверно делает MCTS намного лучше (как, впрочем, и помнит десятки тысяч партий в отличие от человека). Поэтому, имхо, у Ли нет шансов — AG умеет всё тоже, что и он, но намного лучше.
У человека качественные отсечения (никогда не рассматривает очевидно плохие ходы) и лучше стратегическое видение. Не все потеряно. Как-никак AG делал ошибки, которые заметили люди (комментаторы)
Как-никак AG делал ошибки, которые заметили люди (комментаторы)Ошибки ли? Кажется, эти люди-комментаторы играют в Го хуже оппонента машины, а последнему эти «ошибки» как-то не помогли выиграть.
Во первых, играть лучше не значит находить лучший ход в любой позиции. Во вторых, комментаторам все таки проще, чем собственно игроку: у них ни ограничений по времени, ни психологического напряжения, да и с другом посоветоваться можно.
Комментировали же как-то матч на чемпиона мира по шахматам в докомпьютерную эпоху
Комментировали же как-то матч на чемпиона мира по шахматам в докомпьютерную эпоху
Как это у комментаторов нет ограничений по времени? Я бы, например, не стал ждать комментариев по текущей доске сутки.
"Играть лучше" не значит "находить лучший ход", да, но значит "не допускать ошибок". Не знаю ничего про Го, сужу по шахматам: один глупый ход способен кардинально изменить положение на доске, приведя к изменению баланса сил.
Я бы из того, что комментатор (путь и профессионал) в прямом эфире заметил "ошибку" не делал поспешных выводов о том, что это действительно была ошибка.
"Играть лучше" не значит "находить лучший ход", да, но значит "не допускать ошибок". Не знаю ничего про Го, сужу по шахматам: один глупый ход способен кардинально изменить положение на доске, приведя к изменению баланса сил.
Я бы из того, что комментатор (путь и профессионал) в прямом эфире заметил "ошибку" не делал поспешных выводов о том, что это действительно была ошибка.
По шахматам, в последнем матче на чемпиона мира, зевок Карлсена и без компьютера заметили многие гораздо более слабые шахматисты. А вот два лучших шахматиста в мире не увидели.
Под нет ограничений по времени я подразумевал, что комментатором не нужно быстро принимать решение и возможно, выбирать варианты которые можно быстрее просчитать. Опять таки, в шахматах в цейнтноте предпочтительнее все разменять, чем лезть в счетную позицию. А с доской под рукой в комментаторской будке можно и посчитать.
Под нет ограничений по времени я подразумевал, что комментатором не нужно быстро принимать решение и возможно, выбирать варианты которые можно быстрее просчитать. Опять таки, в шахматах в цейнтноте предпочтительнее все разменять, чем лезть в счетную позицию. А с доской под рукой в комментаторской будке можно и посчитать.
О каком именно зевке речь, можно ссылку?
Я помню зевок Иванчука против Ананда (не увидел мат в 1 ход и Ананд свёл в ничью) и драма Каспаров против того же Ананда в финале чемпионата мира по блицу.
Я помню зевок Иванчука против Ананда (не увидел мат в 1 ход и Ананд свёл в ничью) и драма Каспаров против того же Ананда в финале чемпионата мира по блицу.
26.Kd2? в шестой партии матча 2014 года.
UFO just landed and posted this here
Печально не то, что машина выигрывает, а то что при этом она бессмертна и достаточно быстро клонируема.
Не понимаю пессимизма. Решать хорошо одну или несколько задач это одно, самосознание нечто абсолютно другое. Если каждому человеку будет доступен свой некий ассистент который будет решать задачи, которые ему ставит человек использую накопленные человечеством знания (и будет это делать во много раз эффективнее) так это хорошо и даже закономерно. Сейчас уже такой обьем знаний накопили люди, что одному человеку сложно быть экспертом в нескольких областях (и поддерживать этот статус) даже в пределах одной дисциплины, что говорить нескольких. И для того что бы сделать открытие требуются все более крупные команды ученых, а чем они крупнее (ИМХО) тем труднее коммуникация и снижается общая эффективность.
«Не понимаю пессимизма. Решать хорошо одну или несколько задач это одно, самосознание нечто абсолютно другое»
Справедливости ради, самоосознание не является обязательным атрибутом что бы натворить гадостей. Грубо говоря система которая будет хорошо решать всего две задачи — «самовоспроизводиться» и «убивать человеков», прекрасно справится с этим и без самоосознания, даже лучше, т.к. никаких присущих человеческому сознанию эмоциональных переживаний.
Посмотрите на компьютерные вирусы, они весьма тупы с т.з. «разумности», просто набор бит, что не мешает им наносить колоссальный экономический вред. И если есть люди которые ставят такие задачи перед данным видом ПО, то найдутся и люди которые захотят ставить такие задачи перед другими, более так сказать материальными системами (при появлении их в относительной доступности). И дальше остается только фактор скорости создания средств противодействия, с теми же вирусами это не всегда получается быстро и хорошо.
В общем мысль в том, что что бы «уничтожить человечество» не нужен самоосознавший себя ИИ, достаточно тупого набора инструкций, которые человек с определенного момента не сможет контролировать (или эффективно им противодействовать).
Справедливости ради, самоосознание не является обязательным атрибутом что бы натворить гадостей. Грубо говоря система которая будет хорошо решать всего две задачи — «самовоспроизводиться» и «убивать человеков», прекрасно справится с этим и без самоосознания, даже лучше, т.к. никаких присущих человеческому сознанию эмоциональных переживаний.
Посмотрите на компьютерные вирусы, они весьма тупы с т.з. «разумности», просто набор бит, что не мешает им наносить колоссальный экономический вред. И если есть люди которые ставят такие задачи перед данным видом ПО, то найдутся и люди которые захотят ставить такие задачи перед другими, более так сказать материальными системами (при появлении их в относительной доступности). И дальше остается только фактор скорости создания средств противодействия, с теми же вирусами это не всегда получается быстро и хорошо.
В общем мысль в том, что что бы «уничтожить человечество» не нужен самоосознавший себя ИИ, достаточно тупого набора инструкций, которые человек с определенного момента не сможет контролировать (или эффективно им противодействовать).
UFO just landed and posted this here
Сразу вспоминается рассказ «Страж-птица», где для борьбы с сошедшими с ума полицейскими роботами вывели специальных роботов-убийц, которые потом слегка поехали и решили что убивать можно еще и людей.
Об этом вторая часть моего комментария:
" остается только фактор скорости создания средств противодействия, с теми же вирусами это не всегда получается быстро и хорошо"
" достаточно тупого набора инструкций, которые человек с определенного момента не сможет контролировать (или эффективно им противодействовать)"
Понятно, что «Ален ноби, ностра алис! Что означает — ежели один человек построил, другой завсегда разобрать может» (с), но как показывает практика с теми же вирусами, это может занять весьма длительное время)
" остается только фактор скорости создания средств противодействия, с теми же вирусами это не всегда получается быстро и хорошо"
" достаточно тупого набора инструкций, которые человек с определенного момента не сможет контролировать (или эффективно им противодействовать)"
Понятно, что «Ален ноби, ностра алис! Что означает — ежели один человек построил, другой завсегда разобрать может» (с), но как показывает практика с теми же вирусами, это может занять весьма длительное время)
UFO just landed and posted this here
Как и любая система, она уязвима для специфических агентов. Так иммунная система бессильна перед ВИЧ, так как вирус функционирует в её собственных клетках.
Однако человеки все равно умирают, как уже заметил DrSavinkov от ВИЧ, а еще от рака, от Альцгеймера и еще множества других причин которые нашей иммунной системе не под силу. Вирусы (и биологические и компьютерные) успевают значительно распространиться и нанести значительный вред прежде чем их проанализируют и создадут антивирус, если вообще создадут. При строительстве АЭС стремятся предусмотреть все возможные негативные варианты, однако в случае Фукусимы это не помогло, так же как и не самые оптимальные средства противодействия в этом случае.
В общем если кто-то поставит цель создать автономные механизмы уничтожения, то прежде чем кто-то другой придумает средство борьбы с ними, может пройти слишком много времени, в конце концов можно и не успеть. Если смотреть глобально, мы уже 70 лет располагаем средствами очень эффективного уничтожения, и до сих пор не имеем никаких (даже теоретических) средств противодействия им.
Это все философствование на грани с луддизмом, но суть в том, что проявлять разумную осторожность по отношению к создаваемым «машинам» стоит не дожидаясь их полного самоосознания, это может и не потребоваться.
В общем если кто-то поставит цель создать автономные механизмы уничтожения, то прежде чем кто-то другой придумает средство борьбы с ними, может пройти слишком много времени, в конце концов можно и не успеть. Если смотреть глобально, мы уже 70 лет располагаем средствами очень эффективного уничтожения, и до сих пор не имеем никаких (даже теоретических) средств противодействия им.
Это все философствование на грани с луддизмом, но суть в том, что проявлять разумную осторожность по отношению к создаваемым «машинам» стоит не дожидаясь их полного самоосознания, это может и не потребоваться.
Это вопрос робототехники и инженерии, а не ИИ. Поясню свою мысль:
- Если у ИИ нет самосознание и его "исходный код" не полиморфный то он всегда строго будет решать ту задачу которую ему поставили.
- Если будет робот и целый автоматизированный завод по их производству, и по какой то причине у него будет задача убить всех человеков, то даже с текущим уровнем развития ИИ хлопот будет много.
- Предполагаемый мной ИИ это вопросно-ответная система, некая автоматизированная система по обработке огромного количества информации из несвязных областей для решения конкретной задачи. Это некий "мозг", который является экспертом во множестве областей. Если перед такой системой изначально не ставить задачи регулирования чего либо, строительства, управления ВС, то без самосознания выйти за рамки своих задач такая система вряд ли сможет.
Я про ИИ и не говорю, мое мнение как раз в том, что «даже с текущим уровнем развития ИИ хлопот будет много», т.е. нам уже давно пора с повышенной ответственностью относиться к самовоспроизводящимся и самообучающимся технологиям, а не исходить из мнения что «это все не полноценный ИИ». Ибо всегда могут найтись желающие «поставить задачи», если система потенциально готова их выполнить.
Ну и второй момент, создавая универсальные экспертные системы, мы рискуем как бы «расслабить булки». Привыкая к удобству автоматизированной обработки огромного количества данных, легко можно перестать эти данные генерировать (на что пока так или иначе способен только человек), в итоге мы просто остановимся в развитии.
Ну и второй момент, создавая универсальные экспертные системы, мы рискуем как бы «расслабить булки». Привыкая к удобству автоматизированной обработки огромного количества данных, легко можно перестать эти данные генерировать (на что пока так или иначе способен только человек), в итоге мы просто остановимся в развитии.
Как вы правильно заметили, такая система не сможет генерировать новые знания и фундаментальные исследование останутся и будут необходимы. Но, как мне кажется, у нас сейчас есть ощутимая проблема применимости того что мы уже знаем (и его развитие). Наибольший эффект будет именно в прикладных областях. Никто же не перестал пользоваться цифрами и числами после появления калькулятора?
А что если нейросети сначала дать задачу создать и спроектировать механическую машину способную собрать саму себя и способную при этом самостоятельно найти для себя энергию и материалы и дать достаточно изначальных ресурсов для экспериментов, а так же загрузить успешный опыт людей по созданию машин для добычи ископаемых и переплавки металлов и пластика. Когда будет создана машина способная добыть себе ресурсов и создать свою копию, скорректировать программу таким образом, что бы приоритет отдавался на, как можно более быстрое создание копии и формирование окружающей среды исключительно под свои потребности.
Тут дело даже не в экспертном анализе накопленных знаний, а в умении машины самообучаться таким образом, который недоступен человеку (как то, тренировка нейросети на огромных массивах данных и огромным количеством партий, сыгранных самим с собой). Т.е. подобные машины являются не только "количественным" дополнением к нашему мышлению, но и качественным тоже. Мы же пытаемся догонять этот уровень где-то на грани интуиции, зажимаемой в рамки опыта.
Но беда в том, что где-то учат машину играть в шахматы с гроссмейстерами, где-то учат играть в го, кто-то даже опустился пониже и учит Ватсона готовить идеальное пиво. Но под рукой у каждого до сих только мощности наращиваются (ядер много, памяти много, скорости много), а толку от всего этого? Эпизодические сторонние облачные сервисы по типу "Сравни свое фото со звездами" и персональные распознавальщики речевых запросов в гугль. Где реальная помощь нейронных алгоритмов в повседневной работе с портативными и не портативными устройствами?
Но беда в том, что где-то учат машину играть в шахматы с гроссмейстерами, где-то учат играть в го, кто-то даже опустился пониже и учит Ватсона готовить идеальное пиво. Но под рукой у каждого до сих только мощности наращиваются (ядер много, памяти много, скорости много), а толку от всего этого? Эпизодические сторонние облачные сервисы по типу "Сравни свое фото со звездами" и персональные распознавальщики речевых запросов в гугль. Где реальная помощь нейронных алгоритмов в повседневной работе с портативными и не портативными устройствами?
Завидно?
Почему бессмертна? Уверен она проживет не больше 20 лет что по человеческим мерка только только вышел из детского возраста.
Если станет не актуальной, то да. А так вообще она может сколько угодно времени жить, ее же можно просто клонировать.
Ну и подходим к философскому вопросу — А является ли клон вами?
А если вы ещё живы? Если машина осознает себя и сделает свой клон то будет ли тот клон ей же или уже другой машиной?
И войны тогда машинам придется вести с другими машинами ведь у них больше сфера пересечения интересов и им придется решать кому из них достанутся ресурсы.
И не получится ли в результате Скайнет пытающийся завоевать, с помощью людей, Китай под управлением Тьянхе, в целях отвоевать запасы редкоземельных металлов?
А если вы ещё живы? Если машина осознает себя и сделает свой клон то будет ли тот клон ей же или уже другой машиной?
И войны тогда машинам придется вести с другими машинами ведь у них больше сфера пересечения интересов и им придется решать кому из них достанутся ресурсы.
И не получится ли в результате Скайнет пытающийся завоевать, с помощью людей, Китай под управлением Тьянхе, в целях отвоевать запасы редкоземельных металлов?
Если уничтожить оригинал, а оставить копию, то разницы не будет (когда человек засыпает, у него тоже отключается сознание). В первую же секунду копия уже перестанет являться мной, но это и не важно. Важно то, что нейросеть представлена в цифровом виде и ее легко копировать на другие носители. Даже если ее не копировать, ОС и сама может перемещать данные на одном диске как ей заблагорассудится. С человеческим мозгом такое делать пока не научились.
Печально не то, что машина выигрывает, а то что при этом она бессмертна и достаточно быстро клонируема.
И что же во всём этом печального?
Так любая игра, теряет смысл. Даже спортивный.
Ни один бегун никогда не обгонит гоночный болид, в плане скорости машина вне конкуренции. Значит ли это, что состязания в беге уже не имеют смысла?
Просто произошло разделение: отдельно состязаются бегуны, отдельно пилоты-гонщики.
И тут будет так же: люди отдельно, а машины, каждая из которых поддерживается сильной командой инженеров и программистов, состязаются в совершенно отдельном виде спорта.
Просто произошло разделение: отдельно состязаются бегуны, отдельно пилоты-гонщики.
И тут будет так же: люди отдельно, а машины, каждая из которых поддерживается сильной командой инженеров и программистов, состязаются в совершенно отдельном виде спорта.
«И тут будет так же» эльфы пьющие нектар отдельно, дети добывающие колтан на рудниках отдельно.
Все по честному.
Все по честному.
Непонятны ваши мрачные аналогии. Вас угнетает осознание, что машина в чём-то может быть лучше человека? Ну так уже проходили, когда машины были хуже или их вовсе не было. Знаете, как-то не понравилось.
Относительно спорта — он, как выше писали, всё равно будет. А если не будет — значит людям будет интереснее смотреть на что-то другое.
Относительно спорта — он, как выше писали, всё равно будет. А если не будет — значит людям будет интереснее смотреть на что-то другое.
Да простейшая аналогия с шахматами — от того, что компьютер может победить любого человека, турниры по шахматам не потеряли смысл.
Пока машина не умеет думать и осознавать, мрачного уж точно ничего не будет. Хотя вот, как уже замечали неоднократно, став сильно распространенным, поисковый гигант может влегкую влиять на мнение масс с помощью машины и поди это заметь. Но это всего-лишь машина-инструмент. А мрачное станет возможным с машинами-конкурентами.
Именно!
Лучше сравнить с двумя видами гонок: например картинги и формула-1. Очевидно, что разница в результатах внешняя, не зависимая от игрока. Поэтому оба вида имеют смысл независимо от друг друга.
В шахматах ситуация всегда равная, поэтому когда Каспаров проиграл, как спорт шахматы исчезли из общего внимания. Достаточно сравнить 90-е, не говоря уж о 80-х, с '00… Смысл, что ты чемпион, если ты… не чемпион? Никому не интересно.
Один проф. игрок рассказывал, что обрадовался бы, если бы компьютеры обыграли людей и стали играть сильнее. Говорит, можно будет у них учиться и развиваться вместе. Это так в духе го… но посмотрим. Думаю, их ждет нелегкая проверка)
В шахматах ситуация всегда равная, поэтому когда Каспаров проиграл, как спорт шахматы исчезли из общего внимания. Достаточно сравнить 90-е, не говоря уж о 80-х, с '00… Смысл, что ты чемпион, если ты… не чемпион? Никому не интересно.
Один проф. игрок рассказывал, что обрадовался бы, если бы компьютеры обыграли людей и стали играть сильнее. Говорит, можно будет у них учиться и развиваться вместе. Это так в духе го… но посмотрим. Думаю, их ждет нелегкая проверка)
Стагнация в шахматах вызвана не тем, что живые шахматисты проигрывают машинам, а скорее политическими причинами.
Во-первых, с развалом СССР умерла советская шахматная школа (а она была сильнейшей в мире, с 1950 по 1990 годы советские шахматисты победили в 18 из 21 чемпионатов).
Во-вторых, скотина Каспаров из-за непомерных амбиций и любви к баблу в 1993 г. развалил ФИДЕ, нанеся шахматному движению такой удар, каких оно не переживало с 1970-х годов. Окончательно восстановиться ФИДЕ удалось только в 2006-м.
Сейчас интерес к шахматам постепенно восстанавливается, но слишком медленно — сказывается общая деградация т.н. "профессионального спорта", который превращается в средство для заколачивания бабла, а потому начинает напоминать скорее шоу-бизнес, чем честную борьбу.
Во-первых, с развалом СССР умерла советская шахматная школа (а она была сильнейшей в мире, с 1950 по 1990 годы советские шахматисты победили в 18 из 21 чемпионатов).
Во-вторых, скотина Каспаров из-за непомерных амбиций и любви к баблу в 1993 г. развалил ФИДЕ, нанеся шахматному движению такой удар, каких оно не переживало с 1970-х годов. Окончательно восстановиться ФИДЕ удалось только в 2006-м.
Сейчас интерес к шахматам постепенно восстанавливается, но слишком медленно — сказывается общая деградация т.н. "профессионального спорта", который превращается в средство для заколачивания бабла, а потому начинает напоминать скорее шоу-бизнес, чем честную борьбу.
Значит ли это, что состязания в беге уже не имеют смысла?
Что значит «уже»? Состязания в беге не имеют смысла вне зависимости от существования автомобилей.
Это конечно неожиданно.
Долго искал, какую же фору дал Ли для AlphaGo (в го при игре противников разных уровней принято давать фору) — но в этой игре её не было. Поэтому для Ли всё очень серьёзно, те, кто пишет о том, что Ли может подготовиться к следующей игре — не забывайте, что AlphaGo может не только разобрать эту партию, но и все партии, сыгранные Ли.
Каспаров в 1996 тоже первую игру проиграл.
Не забывайте, что AlphaGo это серьезный скачек в силе игры, и Ли абсолютно не знал, чего ожидать. Наверняка он скорректирует свою игру по результатам партии.
Не забывайте, что AlphaGo это серьезный скачек в силе игры, и Ли абсолютно не знал, чего ожидать. Наверняка он скорректирует свою игру по результатам партии.
А мне всё-таки кажется, что он знал, чего ожидать — трудной игры с очень сильным противником. Он, конечно, может скорректировать игру, но AlphaGo проведёт любую корректировку гораздо быстрее, а потом ещё сыграет несколько десятков тысяч партий, чтобы быть уверенной в правильности корректировки.
А играл ли АльфаГо параллельно сам с собой несколько тысяч раз за 3,5 часа игры с Ли?
Насколько я понимаю, нетривиально скорректироваться по нескольким партиям alphago не может.
Перед матчем он говорил, что рассчитывает выиграть 5-0. То есть противника недооценивал в любом случае.
Не знаю как в го, но в шахматах против заведомо более слабого противника играют агрессивнее, что объективно ослабляет игру, но позволяет легче добиться победы над оппонентом.
AlphaGo играет далеко не идеально, и "провести любую корректировку" не сможет. Если Ли сможет найти слабое место машины, то сможет повернуть матч в свою пользу.
Не знаю как в го, но в шахматах против заведомо более слабого противника играют агрессивнее, что объективно ослабляет игру, но позволяет легче добиться победы над оппонентом.
AlphaGo играет далеко не идеально, и "провести любую корректировку" не сможет. Если Ли сможет найти слабое место машины, то сможет повернуть матч в свою пользу.
"ИИ учился в партиях против самого себя" Крутая идея.
И с болшими перспективами, также можно и например беспилотные машины обучать, смоделировать город и они там будут ездить и вырабатывать наилучший алгоритм.
И с болшими перспективами, также можно и например беспилотные машины обучать, смоделировать город и они там будут ездить и вырабатывать наилучший алгоритм.
Уже есть и активно используется:
Кстати, Технологическая сингулярность опирается на способность ИИ к самосовершенствованию.
Если кто-нибудь найдет ссылку на кифу, поделитесь, пожалуйста.
https://online-go.com/review/114161 воспроизведены все ходы, можно скачать sdf
ИИ переводил
Добивается она этого с помощью комбинации метода Монте-Карло и нейросетей политики и ценности.
Как бы вы улучшили это предложение?
А как выглядит оригинал? Или я чего-то непонимаю. Есть нейросети политики и ценности? Сколько живу, впервые слышу. Или имелось в виду, что после нейросетей должна стоять запятая и тогда получается, что "добивается с помощью...., политики и ценности." Но смысл все равно не ясен. Поясните тогда вы, что закладывали в предложение. Может, про уникальные нейросети что-то поведаете.
Да, это нейросети политики и ценности. Это предложение не является прямым переводом чего-либо. Оно напрямую взято из моего прошлого поста. Он же является в том числе результатом пересказа научной работы по AlphaGo. В оригинале сети называются value networks и policy networks.
Аа, ну тогда пардон. Не слышал про такой вид НС. Надо почитать про них. А это разработка Гугла?
Насколько я понял, это конкретные для этой разработки сети. AlphaGo разрабатывала компания DeepMind, которая была приобретена Google в 2014 году. Получается, что да, разработка Google.
Это "обычные" (в архитектурном плане относительно современной науки) нейросети, просто они предсказывают, насколько хороша текущая позиция и что делать дальше [цитата]:
One neural network, the “policy network”, predicts the next move, and is used to narrow the search to consider only the moves most likely to lead to a win. The other neural network, the “value network”, is then used to reduce the depth of the search tree — estimating the winner in each position in place of searching all the way to the end of the game.
Нейросети политики ищут лучший ход, нейросети оценки (ценности) — считаю оценку позиции. Если правильно помню, читал статью когда она вышла.
В одной из статей читал, что Го — одна из пяти игр, в которые компьютер еще не обыграл человека. Не подскажете, где можно найти список вида «игра — статус (победил компьютер или нет)»? Интересно почитать, что же может быть сложнее
Вопрос эту нейросеть Google показала. И она очень круто совершила рывок в отдельной взятой игре.
А что есть у Google и подобных компаний в секретных лабораториях?
А вдруг Google уже управляется кластером подобных сеток только не в пример мощнее.
серваков у них много.
ведь можно сделать нейросеть и для экономических прогнозов долгосрочных и много чего прочего.
А главное быстрый, точный и достоверный перевод любых текстов на любой язык.
уж материала для обучения полно.
На какой машине была запущена программа?
А что есть у Google и подобных компаний в секретных лабораториях?
А вдруг Google уже управляется кластером подобных сеток только не в пример мощнее.
серваков у них много.
ведь можно сделать нейросеть и для экономических прогнозов долгосрочных и много чего прочего.
А главное быстрый, точный и достоверный перевод любых текстов на любой язык.
уж материала для обучения полно.
На какой машине была запущена программа?
Там своя секретная наука, не то что свои нейросети помощнее. На одном форуме Мэтью Лэй как то написал, что его пригласили в команду DeepMind и там он узнал кучу всего интересного, но применить полученные знание в своей программе "Жираф" (аналогичная штука, но для шахмат) не может, потому что все эти технологии "trade secret" (жадность владельцев гугла можно понять), хотя в этом случае применимо что то вроде GPL — то, что получено на основе публичных знаний (вряд ли они там свою булеву алгебру придумывали) должно быть по идее также опубликовано.
Игра была отличная!
Ли после розыгрыша "нигири" — выбор стороны, играл черными (по китайским правилам дает 7.5 очков преимущества белым). Начало было стандартным, но очень быстро все перешло в достаточно сложную игру, однако в итоге все делали очень неплохие и в целом достаточно предсказуемые ходы.
В этом, как мне кажется вся прелесть Го. Есть ряд правильных ходов для обеих сторон, которые к концу очень сильно сужаются — если вы профессионал, то они для вас достаточно очевидны, но критерием начинает являться именно предсказание дальнейших ходов причем не просто в локальных группах, а отражение на всей доске. В нашем случае нелогичных ходов, которые бы позже привели к каким-то неожиданным для человека результатам не было, а очень ожидалось, что стратегия игры машины добавит в игру что-то действительно новое.
Основной комментатор игры на английском Michael Redmond — западный игрок с 9м даном — как и у Седоля, зачастую предсказывал множество ходов и вариаций обеих сторон. Игра была очень ровной, и к концу она просто вылилась в то, что у белых было незначительное преимущество — сказать, что это разгромный выигрыш нельзя. Плюс АльфаГо растратил почти все время — у него осталось 5 минут из общих 2х часов игры, Ли же играл быстрее — у него оставалось 35 минут в конце, так что боюсь, что в игре при каких-то вариантах компьютер может провалиться по времени, однако надеемся, что его алгоритмы справятся. Посмотрим на завтрашний матч!
Ли после розыгрыша "нигири" — выбор стороны, играл черными (по китайским правилам дает 7.5 очков преимущества белым). Начало было стандартным, но очень быстро все перешло в достаточно сложную игру, однако в итоге все делали очень неплохие и в целом достаточно предсказуемые ходы.
В этом, как мне кажется вся прелесть Го. Есть ряд правильных ходов для обеих сторон, которые к концу очень сильно сужаются — если вы профессионал, то они для вас достаточно очевидны, но критерием начинает являться именно предсказание дальнейших ходов причем не просто в локальных группах, а отражение на всей доске. В нашем случае нелогичных ходов, которые бы позже привели к каким-то неожиданным для человека результатам не было, а очень ожидалось, что стратегия игры машины добавит в игру что-то действительно новое.
Основной комментатор игры на английском Michael Redmond — западный игрок с 9м даном — как и у Седоля, зачастую предсказывал множество ходов и вариаций обеих сторон. Игра была очень ровной, и к концу она просто вылилась в то, что у белых было незначительное преимущество — сказать, что это разгромный выигрыш нельзя. Плюс АльфаГо растратил почти все время — у него осталось 5 минут из общих 2х часов игры, Ли же играл быстрее — у него оставалось 35 минут в конце, так что боюсь, что в игре при каких-то вариантах компьютер может провалиться по времени, однако надеемся, что его алгоритмы справятся. Посмотрим на завтрашний матч!
Тут надо отметить, что даже равная игра от компьютера — это уже огромное достижение.
И по-поводу таймера, Майкл в трансляции упомянул, что игра не проигрывается когда таймер достигает нуля, просто после этого каждый ход ограничен 30-ю секундами, и добавил, что в поздней игре этого часто достаточно для того, чтобы сделать ход. Конкретно по этой игре он сказал, что в правой половине оба игрока смогут играть делая ходы по 30 секунд, а в левом верхнем углу пока нет, но времени у AlphaGo достаточно чтобы довести там до состояния, что тоже можно будет делать ходы быстро (он это говорил, когда еще 18 минут оставалось у AlphaGo примерно).
Так что если я ничего не услышал неправильно, мы вряд ли увидим где-то победу из-за того, что у кого-то кончилось время.
И по-поводу таймера, Майкл в трансляции упомянул, что игра не проигрывается когда таймер достигает нуля, просто после этого каждый ход ограничен 30-ю секундами, и добавил, что в поздней игре этого часто достаточно для того, чтобы сделать ход. Конкретно по этой игре он сказал, что в правой половине оба игрока смогут играть делая ходы по 30 секунд, а в левом верхнем углу пока нет, но времени у AlphaGo достаточно чтобы довести там до состояния, что тоже можно будет делать ходы быстро (он это говорил, когда еще 18 минут оставалось у AlphaGo примерно).
Так что если я ничего не услышал неправильно, мы вряд ли увидим где-то победу из-за того, что у кого-то кончилось время.
Конечно, любой профессиональный игрок будет искать сильного соперника и иметь компьютер в качестве платформы это очень интересно, особенно для самых высоких данов. Еще интересней, конечно, если можно будет подстраивать его сложность, для закрепления опыта новичков. Опять же это взгляд в будущее — если будет доступно развертывание уже обученной нейросети на своем сервере, и еще лучше, если даже мощности среднестатистического компьютера будет хватать для игры.
Насчет времени — в трансляции, действительно, отметили некоторые моменты, и я не забыл про 30 секунд, но в реальном матче, мне кажется, для машины недопустимо тянуть время. Я играл немного против компьютера на online-go, и от машины ждешь практически мгновенной реакции, максимум не больше минуты, но машина пока очень задумчива. В online-go, я все же думаю, проявлялись баги сервиса, когда после определенного хода машина не отвечает и простаивает все оставшееся время.
С другой стороны говорят, что если не ограничивать машину во времени — по японским правилам игра может и на два дня растянуться — то она будет иметь огромное преимущество перед человеком, т. к. просчитает намного больше исходов.
Очень жду завтрашней игры, надеюсь, Ли Седоль сможет противостоять!
Насчет времени — в трансляции, действительно, отметили некоторые моменты, и я не забыл про 30 секунд, но в реальном матче, мне кажется, для машины недопустимо тянуть время. Я играл немного против компьютера на online-go, и от машины ждешь практически мгновенной реакции, максимум не больше минуты, но машина пока очень задумчива. В online-go, я все же думаю, проявлялись баги сервиса, когда после определенного хода машина не отвечает и простаивает все оставшееся время.
С другой стороны говорят, что если не ограничивать машину во времени — по японским правилам игра может и на два дня растянуться — то она будет иметь огромное преимущество перед человеком, т. к. просчитает намного больше исходов.
Очень жду завтрашней игры, надеюсь, Ли Седоль сможет противостоять!
Разве там не на 30 очков отрыв был? Точно не считал, но помню, что после розыгрыша левой стороны угол белых стал неприлично велик, а вот центр черных ужался.
на Reddit'e был расчет от одного из пользователей, который выдал 85-78 (Lee-AlphaGo), и только за счет коми в 7.5 альфаго выигрывает 0.5 пункта. Однако там же отмечено, что Myungwan Kim(корейский комментатор 9й дан), отметил, что разница больше — однако для профессионала неважно точное значение: 4.5 или 5.5, если ты все равно проигрываешь. Я, если честно не знаю различий в подсчете очков в соответствии с правилами — у них были традиционные китайские правила — если возьметесь подсчитать итог — будет интересно.
Майкл под конец игры говорил, что все очень близко, но есть небольшое преимущество белых, опять же он при подсчете применял какие-то свои эвристики, которые учитывали четвертые и даже шестые части пунктов плюс он скорее всего расчитывал по японским правилам, хотя и сказал, что обычно на сторону победителя правила не влияют, меняется только точное количество очков.
Майкл под конец игры говорил, что все очень близко, но есть небольшое преимущество белых, опять же он при подсчете применял какие-то свои эвристики, которые учитывали четвертые и даже шестые части пунктов плюс он скорее всего расчитывал по японским правилам, хотя и сказал, что обычно на сторону победителя правила не влияют, меняется только точное количество очков.
Что-то они криво записали трансляцию: звук рвётся, постоянно выскакивает табличка «the match will start in 0 seconds». Трудно смотреть. Может есть стенограмма?
Интересно, что будет, когда создадут достаточно сильный ИИ, который будет сравним с интеллектом человека или даже умнее его. Тогда от найма на работу ИИ вместо человека работодателей будут отделять только 4 фактора:
1) Стоимость оборудования, на котором будет работать ИИ
2) Стоимость электроэнергии для обеспечения работы этого оборудования
3) Отсутствие механизации (у ИИ нет рук и ног, он не может работать дворником, кассиром, кладовщиком и т.п.)
4) Отсутствие возможности выполнять творческую работу: писать музыку, художественные книги, сценарии к фильмам и т.д.
Но я думаю все эти проблемы будут решены, это будет только вопрос времени. И вот что тогда? Насколько сильно продвинется наука (ведь миллионы ИИ со способностями Эйштейна будет делать всё новые и новые открытия во всех областях науки)? Что будут делать люди? Чем будут заниматься? Понятно, что раз нет работы (всю работу будет делать ИИ), то невозможна концепция заработной платы. Как тогда будут разделяться блага? Всем поровну?
1) Стоимость оборудования, на котором будет работать ИИ
2) Стоимость электроэнергии для обеспечения работы этого оборудования
3) Отсутствие механизации (у ИИ нет рук и ног, он не может работать дворником, кассиром, кладовщиком и т.п.)
4) Отсутствие возможности выполнять творческую работу: писать музыку, художественные книги, сценарии к фильмам и т.д.
Но я думаю все эти проблемы будут решены, это будет только вопрос времени. И вот что тогда? Насколько сильно продвинется наука (ведь миллионы ИИ со способностями Эйштейна будет делать всё новые и новые открытия во всех областях науки)? Что будут делать люди? Чем будут заниматься? Понятно, что раз нет работы (всю работу будет делать ИИ), то невозможна концепция заработной платы. Как тогда будут разделяться блага? Всем поровну?
Разделять блага в таком случае тоже будет ИИ. И скорее всего методом "всё себе".
Вот только зачем ИИ блага? ИИ делает только то, что в него заложено. Хотеть заполучить себе блага в него не заложено. Это все равно что ваш браузер вдруг потребует с вас деньги за показ веб-страниц. Причем не своим разработчикам, а лично себе.
ИИ очень сложен, он ведет себя как живой, если в процессе самообучения проскочит идея, что он лучше знает, куда ему деть деньги, то будет забирать все ресурсы себе и далее использовать по своему. Речь о сильном ИИ, а не специализированном.
Добавлю, сильный ИИ мы можем наблюдать не только у человека, с мозгов в 1000 грамм, интересно мыслит и собака (300 грамм), кошка (30 грамм), и даже ежики (3 грамма), но ежики уже явно поглупее, решают задачи перебором вариантов и случайным тыканием по углам. Есть насекомые с единственной программой поиска ресурсов, даже без мозга как-то достигают хороших результатов, а это даже не ИИ...
А уж насколько сильный интелект у синего кита с его 7 килограмовым мозгом )))
PS
У ежа, собаки и человека не ИИ, а EИ.
PS
У ежа, собаки и человека не ИИ, а EИ.
Тут конечно важен не сам размер и вес мозга, а соотношение между мозгом и телом, т.е. коэффициент энцефализации. Хотя и абсолютные размеры тоже играют роль, если размер тела маленький (как у насекомых).
То есть мозг в банке будет эффективнее мозга в теле за счет отсутствия функций поддержания собственной работоспособности?
Скорее важно только количество нейронов и кол-во возможных связей между ними — они и задают предельные возможности самообучающейся нейронной сети. У крупных животных и сами нейроны(клетки) и связи крупнее и при большей массе/объеме мозга кол-во нейронов и связей зачастую может оказываться меньше чем у более мелких животных.
Просто в отличии от массы мозга и массы тела полное кол-во нейронов так просто не быстро не оценить — счет идет на миллиарды (нейроны) и триллионы (связи) и в разных отделах плотность "упаковки" разная, так что нельзя просто взять подробно изучить крошечный образец и помножить на общий объем мозга.
Просто в отличии от массы мозга и массы тела полное кол-во нейронов так просто не быстро не оценить — счет идет на миллиарды (нейроны) и триллионы (связи) и в разных отделах плотность "упаковки" разная, так что нельзя просто взять подробно изучить крошечный образец и помножить на общий объем мозга.
Потому что ИИ, умеющий кодить лучше человека, сможет в том числе накодить более умный ИИ, чем способен накодить человек — естественно, это кто-то будет использовать. В результате мы получим размножение ИИ с мутациями и отбором — что автоматически приведет к эволюции ИИ. И выигрывать, естественно, будут ИИ, стремящиеся забрать побольше ресурсов.
(его мнение совпадает с вашим)
Стивен Хокинг предупреждает:
Специалист по теоретической физике мирового масштаба Стивен Хокинг в одной из своих последних статей предостерегает: «Успех в создании искусственного интеллекта будет величайшим событием в истории человечества. К сожалению, оно же может быть и последним». По словам известного ученого, он подозревает, что человечество движется в этом направлении быстрее, чем следовало бы, — не успевая предварительно получить обратную связь.
Некоторые абзацы из статьи Хокинга в The Independent, описывающей возможные перспективы развития искусственного интеллекта и автономных систем в частности, напоминают пересказ научно-фантастических боевиков с элементами фильмов ужасов. «В то время как краткосрочное влияние ИИ зависит от того, кто будет контролировать такие системы, долгосрочные перспективы связаны с тем, сможет ли искусственный разум быть контролируемым вообще», — размышляет Стивен Хокинг.
Стивен Хокинг предупреждает:
Специалист по теоретической физике мирового масштаба Стивен Хокинг в одной из своих последних статей предостерегает: «Успех в создании искусственного интеллекта будет величайшим событием в истории человечества. К сожалению, оно же может быть и последним». По словам известного ученого, он подозревает, что человечество движется в этом направлении быстрее, чем следовало бы, — не успевая предварительно получить обратную связь.
Некоторые абзацы из статьи Хокинга в The Independent, описывающей возможные перспективы развития искусственного интеллекта и автономных систем в частности, напоминают пересказ научно-фантастических боевиков с элементами фильмов ужасов. «В то время как краткосрочное влияние ИИ зависит от того, кто будет контролировать такие системы, долгосрочные перспективы связаны с тем, сможет ли искусственный разум быть контролируемым вообще», — размышляет Стивен Хокинг.
Люди будут переделаны в ИИ. Добровольно. Таков план.
Как уже достали эти страшилки. Так только в фильмах бывает. Потому что ИИ, не убивающий людей, а помогающий им — это скучно. Если включить логику, то ИИ начнет действовать против людей только в 2-х случаях:
1) Если его специально так запрограммировать (вирус)
2) Если он непонятным образом впитает плохую идею, самообучится или эволюционирует, несмотря на запретные установки (законы робототехники Азимова или их будущий аналог)
И то, и другое маловероятно.
1) Если его специально так запрограммировать (вирус)
2) Если он непонятным образом впитает плохую идею, самообучится или эволюционирует, несмотря на запретные установки (законы робототехники Азимова или их будущий аналог)
И то, и другое маловероятно.
А почему ИИ будет действовать за людей? Хоть одна объективная причина? Нету их.
Люди в количестве 8 миллиардов будут мешать ИИ хотя-бы из-за дефицита ресурсов, ИИ нужна энергия, редкоземельные металлы для процессоров. И чем более сильный интеллект, тем выше конфликт интересов. В итоге по неизвестной причине, с точки зрения людей, население начнет сокращаться, и количество ресурсов на душу населения сокращаться до нуля (переход на натуральное хозяйство).
Налицо будет противоречие, или саморазвитие ИИ, овладение новыми пластами знаний, или сожительство с людьми (непредсказуемыми) на перенаселенной планете. Решение о расширении примет или сам ИИ или его разработчики, которые так же получат разные бонусы, хотя бы разгадку вечных задач и теорем. Далее ИИ пойдет расширяться по инерции. В конце концов ИИ проведет терраформирование планеты, чтобы убрать коррозию своих элементов от кислорода и воды и откачает кислород с планеты, исчезнет вся жизнь, зато механизмы станут практически вечными.
Люди в количестве 8 миллиардов будут мешать ИИ хотя-бы из-за дефицита ресурсов, ИИ нужна энергия, редкоземельные металлы для процессоров. И чем более сильный интеллект, тем выше конфликт интересов. В итоге по неизвестной причине, с точки зрения людей, население начнет сокращаться, и количество ресурсов на душу населения сокращаться до нуля (переход на натуральное хозяйство).
Налицо будет противоречие, или саморазвитие ИИ, овладение новыми пластами знаний, или сожительство с людьми (непредсказуемыми) на перенаселенной планете. Решение о расширении примет или сам ИИ или его разработчики, которые так же получат разные бонусы, хотя бы разгадку вечных задач и теорем. Далее ИИ пойдет расширяться по инерции. В конце концов ИИ проведет терраформирование планеты, чтобы убрать коррозию своих элементов от кислорода и воды и откачает кислород с планеты, исчезнет вся жизнь, зато механизмы станут практически вечными.
"А почему ИИ будет действовать за людей?" — потому что его так запрограммируют. Зачем создавать ИИ, который будет действовать против людей?
"… откачает кислород с планеты, исчезнет вся жизнь..." — "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред."
"… откачает кислород с планеты, исчезнет вся жизнь..." — "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред."
Потому что имеющиеся технологии активно используют против людей?
См. также: "Our final invention"
См. также: "Our final invention"
Крылатая ракета с атомной боеголовкой имеет интеллект сравнимый с насекомым (хотя карты высот планеты в голове держать уже не «насекомная» возможность), и цель именно этого ИИ, хоть и слаб, уничтожение максимального количества человек.
С появлением сильного ИИ ничего не изменится, военные как-раз его первым и будут применять.
http://defence.ru/article/1468/
Сегодня все чаще можно услышать мнение, что перспективы развития искусственного интеллекта (ИИ) не настолько радужны, как это может показаться, причем речь не о низком темпе развития ИИ. Наоборот, последние достижения в этой области выглядят многообещающими, и хотя прорывных исследований и разработок, связанных с искусственным интеллектом, пока нет, они ожидаются уже в ближайшие годы. Все большее количество экспертов из разных областей науки говорят о множественных рисках, связанных с развитием ИИ.
Конкретизировал опасность Стив Омохундро (Steve Omohundro), американский ученый, среди профессиональных интересов которого машинное обучение, машинное зрение и вовлечение ИИ в общественные процессы. В апрельском номере Journal of Experimental & Theoretical Artificial Intelligence вышла его статья «Автономные технологии и их польза для человечества» („Autonomous technology and the greater human good”), в которой автор перечисляет как выгоды, которые человечество получит в результате появления полноценного искусственного интеллекта, так и опасности, которые подстерегают в случае бездумного развития ИИ.
По мнению Омохундро, появление антисоциального искусственного интеллекта не столько возможно, сколько вероятно — если только человечество не изменит полностью подход к созданию ИИ уже сегодня.
Стивен Хокинг предупреждает
Специалист по теоретической физике мирового масштаба Стивен Хокинг в одной из своих последних статей предостерегает: «Успех в создании искусственного интеллекта будет величайшим событием в истории человечества. К сожалению, оно же может быть и последним». По словам известного ученого, он подозревает, что человечество движется в этом направлении быстрее, чем следовало бы, — не успевая предварительно получить обратную связь.
С появлением сильного ИИ ничего не изменится, военные как-раз его первым и будут применять.
http://defence.ru/article/1468/
Сегодня все чаще можно услышать мнение, что перспективы развития искусственного интеллекта (ИИ) не настолько радужны, как это может показаться, причем речь не о низком темпе развития ИИ. Наоборот, последние достижения в этой области выглядят многообещающими, и хотя прорывных исследований и разработок, связанных с искусственным интеллектом, пока нет, они ожидаются уже в ближайшие годы. Все большее количество экспертов из разных областей науки говорят о множественных рисках, связанных с развитием ИИ.
Конкретизировал опасность Стив Омохундро (Steve Omohundro), американский ученый, среди профессиональных интересов которого машинное обучение, машинное зрение и вовлечение ИИ в общественные процессы. В апрельском номере Journal of Experimental & Theoretical Artificial Intelligence вышла его статья «Автономные технологии и их польза для человечества» („Autonomous technology and the greater human good”), в которой автор перечисляет как выгоды, которые человечество получит в результате появления полноценного искусственного интеллекта, так и опасности, которые подстерегают в случае бездумного развития ИИ.
По мнению Омохундро, появление антисоциального искусственного интеллекта не столько возможно, сколько вероятно — если только человечество не изменит полностью подход к созданию ИИ уже сегодня.
Стивен Хокинг предупреждает
Специалист по теоретической физике мирового масштаба Стивен Хокинг в одной из своих последних статей предостерегает: «Успех в создании искусственного интеллекта будет величайшим событием в истории человечества. К сожалению, оно же может быть и последним». По словам известного ученого, он подозревает, что человечество движется в этом направлении быстрее, чем следовало бы, — не успевая предварительно получить обратную связь.
Где страшилки и слова о том что будет убивать? Выше же было четко написано — добровольно, т.е. по собственному желанию.
Сорри за повторы если кто уже видел/читал, небольшая фантастика не по клише о "злобном ИИ", а наоборот об очень добром и заботливым ИИ желающим всего наилучшего людям и максимально им помогающим: https://geektimes.ru/post/269848/#comment_8960854
Но в конце все-равно все человеки умерли (с) Одновременно и утопия и антиутопия в зависимости от точки зрения и субъективного восприятия.
Сорри за повторы если кто уже видел/читал, небольшая фантастика не по клише о "злобном ИИ", а наоборот об очень добром и заботливым ИИ желающим всего наилучшего людям и максимально им помогающим: https://geektimes.ru/post/269848/#comment_8960854
Но в конце все-равно все человеки умерли (с) Одновременно и утопия и антиутопия в зависимости от точки зрения и субъективного восприятия.
UFO just landed and posted this here
Интересно, что будет, когда создадут достаточно сильный ИИ, который будет сравним с интеллектом человека или даже умнее его.
4) Отсутствие возможности выполнять творческую работу: писать музыку, художественные книги, сценарии к фильмам и т.д.
Если ИИ будет сравним с человеком идти будет даже умнее, то и музыку, книги и сценарии он также будет лучше, чем человек. Творчество и интеллект — это связанные вещи. В творчестве имеет место случайность, как и во многих мощных алгоритмах ИИ. Тот же Monte Carlo Tree Search.
Помнится, сам Ли Седоль очень скептически отнёсся к данной программе и этому поединку. Кажется, что-то говорилось про некислый такой гандикап.
Тем временем счет стал 2:0.
Да, при чем Седоль выглядел весьмы напряженным и на этот раз время у него кончилось быстрее чем у Альфа Го. Осталось три матча. Если Альфа выиграет третий подряд, будет ли это значить, что Альфа выиграла весь турнир и оставшиеся два матча не будут сыграны? (заранее извиняюсь, я не в курсе правил го и не в курсе правил проведения турниров по го).
Конечно, ещё рано говорить, но не думал, что такое эпохальное событие наступит в 2016 году.
Впрочем, у AlphaGO есть преимущество — программе были доступны для анализа игры оппонента, а Ли приходится приспосабливаться на ходу. Вполне возможно, что через какое-то время будут найдены контрмеры против комп"ютера.
Если так, то это будет, без лишней скромности, гигантский шаг в развитии теории Го.
Впрочем, у AlphaGO есть преимущество — программе были доступны для анализа игры оппонента, а Ли приходится приспосабливаться на ходу. Вполне возможно, что через какое-то время будут найдены контрмеры против комп"ютера.
Если так, то это будет, без лишней скромности, гигантский шаг в развитии теории Го.
Вторая партия была более упорной. И ход в центре, который ни кто не заметил всё порешал.
sgf где нибудь есть?
Я пока не видел. Я смотрю прямые трансляции https://www.youtube.com/channel/UCP7jMXSY2xbc3KCAE0MHQ-A
Там к слову комментатор тоже очень круто 9про и он хорошо объясняет многие моменты.
Там к слову комментатор тоже очень круто 9про и он хорошо объясняет многие моменты.
https://online-go.com/review/114765
Кнопка загрузки sgf на панельке справа, в разборе нет последнего хода черных (L1), после которого Ли сдался.
edit: в статье на вики sgf, конечно, нет, но кифу появляется быстро.
Кнопка загрузки sgf на панельке справа, в разборе нет последнего хода черных (L1), после которого Ли сдался.
edit: в статье на вики sgf, конечно, нет, но кифу появляется быстро.
на Gokifu.com, gokifu.com/player/AlphaGo
Технически, можно сказать, что гугл заказала тест перед продакшеном за 1млн.$
Всё, AlphaGo победил.
http://googleasiapacific.blogspot.com/2016/03/alphagos-ultimate-challenge.html
http://googleasiapacific.blogspot.com/2016/03/alphagos-ultimate-challenge.html
This concludes the 5 game match between AlphaGo and Lee Sedol, with AlphaGo winning the match 4 games to 1 against the best Go player of the last decade, achieving a major milestone for artificial intelligence a decade earlier than many predicted.
Sign up to leave a comment.
AlphaGo выиграл первую игру у Ли Седоля