Вопрос, может ли машина мыслить, не интереснее вопроса, может ли подлодка плавать.
Человек тоже построен на признаках, которые описываются числовым путем. Просто наше мышление заточено под компактное описание таких признаков — нам интуитивно кажется, что утверждение "камень падает" "проще" уравнений механики (например).
А как ИИ оценивает позицию в го? Как человек оценивает риски в старкрафте?
Поскольку никто не понимает ни того, ни другого — проверить можно только экспериментально, все рассуждения без экспериментов почти бесполезны.
Если мы хотим не просто написать бота, играющего в старкрафт лучше человека, но делающего это за счет стратегического мышления, а не просто возможности совершения большего числа действий за секунду — то логично ограничить число действий за секунду тем, что делает человек (чтобы боту для победы пришлось более умно выбирать эти действия).
Кажется, что в общем объеме игры конкретно Ли не видны.
И основная часть обучения — когда сеть, научившаяся предсказывать ходы профессионалов, играла сама с собой, уже без анализа партий людей.
Потому что ИИ, умеющий кодить лучше человека, сможет в том числе накодить более умный ИИ, чем способен накодить человек — естественно, это кто-то будет использовать. В результате мы получим размножение ИИ с мутациями и отбором — что автоматически приведет к эволюции ИИ. И выигрывать, естественно, будут ИИ, стремящиеся забрать побольше ресурсов.
Доказательства А в Т и "0 = 1" в (Т + {А}) очень просто сводятся друг к другу (теорема о дедукции и reductio ad absurdum), так что ничем это сильно не поможет.
Можно просто перебирать все доказательства в T, пока не найдем доказательство А или доказательство не-А. Но это долго, а для независимых от Т утверждений еще и не останавливается (а проверка независимости от, скажем, арифметики, алгоритмически неразрешима). Ну и на выходе получится что-то невнятное скорее всего.
В общем это примерно как играть в шахматы полным перебором дерева:)
Человек тоже построен на признаках, которые описываются числовым путем. Просто наше мышление заточено под компактное описание таких признаков — нам интуитивно кажется, что утверждение "камень падает" "проще" уравнений механики (например).
Поскольку никто не понимает ни того, ни другого — проверить можно только экспериментально, все рассуждения без экспериментов почти бесполезны.
Или вы думаете, что хотя бы половина человечества работает с 4 утра до ночи?
И основная часть обучения — когда сеть, научившаяся предсказывать ходы профессионалов, играла сама с собой, уже без анализа партий людей.
См. также: "Our final invention"
Можно просто перебирать все доказательства в T, пока не найдем доказательство А или доказательство не-А. Но это долго, а для независимых от Т утверждений еще и не останавливается (а проверка независимости от, скажем, арифметики, алгоритмически неразрешима). Ну и на выходе получится что-то невнятное скорее всего.
В общем это примерно как играть в шахматы полным перебором дерева:)