Pull to refresh
122
0
Sergey G. Brester @sebres

Senior Engineer; Data Scientist; Security Auditor

Send message
Так что автор статьи по поводу «анализа признаков» совершенно не прав.

а в месте с ним и 75% хабровчан, по видимому согласных в этом с автором, и не поставивших в этом пункте галку...


немного лучше человеческого

вам про калькулятор пример ничего не сказал… а жаль, т.к. имхо они сейчас в своём развитии способности анализировать не сильно друг от друга отличаются...

а теперь почитаем оригинал ревью...


не там конечно много всего кроме брута предсказаний, но вот то что оно затачивалось конкретно под игру, я там читаю и открытым текстом и между строк...


а так то конечно, да — берём любую сеть, учим её на картинках + score,… абракадабра — профит (сарказм если чо)
т.е. не надо ни action-value ни другие функции писать, не входные описывать, ни фильтра, ни пограничные условия, ничего из того что там в ревью стоит… просто берём сеть и учим её (магией видимо) скрином+скором… И главное она потом даже другие подобные игры пройдёт! (опять сарказм если что). И ничего что стрелять там в отличии от предыдущей нельзя, цель не только пройти до ворот, но и запульнуть какой-нить бякой (которую нужно найти в телепорте и подобрать) в "боса". А сделать это можно только когда он идёт от тебя, т.е. в спину.


Я вот честно удивляюсь, что некоторые люди, через параграф читают или целые страницы пропускают, от слова по диагонали...

а когда люсин версию апгретим, не? т.е. банки сконвертить, всю обвязь переписать, фильтры сделать-переделать. Нет у меня тоже местами уши люсин торчат, там и здесь. Но в общем и целом. переезд себя оправдал

дык то то и оно, одно — коробочный продукт, другое — API, которое используется… Применительно к неросетям имел ввиду "а вы попробуйте чистый Люсин юзать"… У меня в парочке проектов был — я очень рад, что "переехал" на Solr...

а я вам ответил, — плохие же вам встречались разрабы на вашем жизненном пути, раз вы про них-нас так…
Давайте пальцем тыкнем, раз пошла такая пьянка — вот есть в команде энжин-икс например такой VBart (чрезвычайно кстати мной уважаемый, и имхо по моему скромному мнению выдающийся розработчик) или архитектор таки? А не менее уажаемый isysoev в бытность свою разрабом nginx? И я таких знаю и из России и с "дальнего" зарубежья хренову тучу… Что их всех под одну гребёнку и ИИ заменить, хоть в кавычках хоть без? У меня тогда для вас плохие новости, — ибо Скайнет — это лучшее, что ждёт человечество в этом случае.


Кстати, тоже работаю в "крупной фирме" в Европах, как то они у нас не делятся на архитекторов и разрабов, сеньоры и юниоры — есть, проектлиды — есть (вот бы кого с удовольствием подменил ИИ, хотя бы некоторых), консальты — есть. Остальное — должности, т.е. тимлид например может быть кто угодно из вышеупомянутых, даже юниор, если у него команда молодая. Кто угодно есть (25.000 сотрудников), архитекторов — нет. И деления такого как вы подразумеваете (дискриминация какая-то), тоже — нет. Ни по факту, ни по содержанию… не задерживаются видно кодеры у нас.

Не, я вас услышал как раз. Мнение, как мнение… чего в бутылку то лезем?


Однако, чтобы вести полноценную дискуссию, не хватает вводных данных: кто вы есть? (уровень разжевывания чтобы уточнить), что вы из темы машинного обучения "проходили"? (опять же по вышеозвученой причине).


Например. то что инструменты разраба становятся "богаче", не вызывает ни у кого никакого сомнения… Однако какого вы мешаете в кучу т.н. инструменты и способность логически мыслить, формализовывать, создать в конце концов, вызывает у меня кучу вопросов, наводя на определённые мысли… И только.

он — архитектор, им — разрабам...


и почему-то думается мне, вы ни тем, ни другим не являетесь.


А про кнопку нажать, я кажется где-то уже слышал… а вспомнил, то было про smalltalk, лет тридцать тому назад пророчили...

А он им что сказал набить именно такой цикл… Где у вас граница "формалицации" проходит?

Жутко стало и холодом повеяло и почему то кадры с механической ногой, идущей по человеческим черепам...

Браво!


Про опросник и ваши эти "вместо" — ну я не вижу тут большого конфликта… Тот же ООП другому ООП рознь-рознью (кто-то имеет и теже миксины например, которые "переворачивают" традиционную парадигму ООП).


Про "Тренеров ИИ" согласен только в том случае, если вы разрабов оставите в покое :)
Потому как они, имхо, ортагональны. Например Си и asm (пусть и x86) сосушествуют себе вполне с теми же C++, Java и компания. И разработчики под них неплохо живут (а где ваш смалтак был когда их создали?)

Я ненавижу слово — кодер. Для меня разработчик — это и "архитектор" и "программист" в одном лице.
Я таких видел конечно, но к счастью, очень мало и очень коротко. И разработчиком такого назвать у меня язык не повернется. Про скрипт-киддис и подобных, я умолчу пожалуй.


Если вам встречались только упомянутые вами "кодеры", тогда — все близко к тому как вы пишете, с разной степенью детализации.

Изначально голая нейроная сеть

У меня вопрос, что для вас "голая" нейронная сеть?
Если под этим словом вы подразумеваете "необученая" то возможно я понимаю половину из всего вышеописанного вами.
Если под этим словом вы подразумеваете "ненастроенная", "незапрограммированная", "неотформализованная", тогда — нет, от слова совсем.


Вы понимаете, чем например тот же SOLR от Lucene (оба не NN) друг от друга отличаются?
А то, чтобы получить более-менее приемлемый результат, тот же SOLR нужно "настроить" и отконфигурировать чуть не для каждого core (поля, фильтра, языки, пре- и пост-процессинг, stop-word-list, и так далее и тому подобное). А это штука, из коробки заточеная на полнотекстовое индексирование...


Я боюсь как раз в не понимании это особоенности NN и есть причина вашего топика.

Я боюсь, что вы совершенно не представляете, как нейронные сети в реале работают и учатся...

Типун вам на язык...

Все это хорошо, правда.


Одно только: где здесь слово "интеллект"?

и NN сама найдет уникальный признак «волосатое лицо» — указывать ей на это не нужно

Да ну… Позвольте угадаю — теоретик?


Вы видимо одно обязательное условие для нейросети пропустили:
Данные должны быть преобразованы к виду который можно отправить входным нейронам (т.е. должны быть как минимум первично обработаны другими алгоритмами)


А часто есть еще и вторичная обработка, свертка, фильтрация, развертка и т.д.


А теперь по пунктам (если все же мы "научим" сеть худо бедно признакам морд и лиц, вы не забыли — мы ищем банан или огурец, все остальное в абсолюте какой-то "шум", пока разраб не задал другие критерии):


  • действительно ли это будет признак «волосатое лицо», а может просто "черный шум в районе круга где две точки и палка"? или просто вырастет вес в ассоциативной памяти нейрона, там где морды пробегают? Так я вам про то и говорю — волосатость не признак обезьяны, а обезьяна не признак банана (только вероятностная характеристика).
  • как признак «волосатое лицо» отличается от признака "бородатого лица" в виденьи нейронной сети?
  • насколько репрезентативна должна быть выборка, что бы один только признак "волосатости" улегся в "мозгу" сети твердым критерием признака банана?
  • это логическая цепочка или нет?

Я вам больше скажу, если вы будете кормить сеть так как вы написали выше — она у вас чаще будет говорить "банан", даже на обезьянах совсем без банана (умолчим уже про волосатых мужчин и мужчин с темной кожей, тоже соответственно без фруктов и овощей в руках).

Потом мы даем ему кусок текста и просим определить автора — и он делает это достаточно хорошо.

Врядли, но допустим.


Делает ли он при этом анализ текста?

Да по вторичным признакам (отсеивая например поэтов если речь идет например гарантированно о фантастике)
Но в основном он использует при этом свою ограниченную память, ассоциативное мышление, интуицию и еще с десяток всего того самого...


Тоже самое делает NN и делает это лучше человека. Делает ли она при этом анализ текста?

Хороший вопрос, но боюсь что ответ в простейшем случае — нет. Она ищет признаки, за которые можно зацепиться, на поиск которых его "запрограммировал" создатель сети и проектировщик правил workflow.


Для анализа, в моем понимании у нейронной сети отсутствует самое главное — мыслительный процесс.


А иначе, можно сказать, что система полнотекстового индексирования (Lucene или SOLR, Sphinx и т.д.) тоже делает анализ… Хотя она его худо бедно и делает, но в рамках заранее заданных, запрограммированных условий.
Я же написал "например незнакомые объекты (их признаки)", что сходу исключает те же FT-машинки.

Никаких сложнейших алгоритмов там нету

А теперь найдите источник и посмотрите на объвязку сети и на препроцессинг, разбор входных и т.д.


Вы хотя бы примерно представляете себе как работает action-value функция описывающая "reinforcement learning algorithm" для игры? Даже для такой простой на Atari...


Про StarCraft же это троллинг высочайшего уровня (или средство безболезненно распилить неплохой такой грант).


А вот тут я не понял. Человек там не участвует, сеть обучается сама. Никаких специальных триков заточеных под специальную игру там нету.

и


в Гугле уже активно работают над игрой в StarCraft

Как соотносятся два эти ваши высказывания меж собой?

  1. И где тут противоречие? Вы видимо кое-что пропустили… Я ведь написал "что касается интеллекта последних"


  2. А можно подробней про "Language Recognition" похоронили, а то это как-раз "моя" тема...

Я прекрасно это все знаю, а теперь откатитесь в ветке назад, и прочитайте что вы написали:


Вот сети на вход подают картинку из видео игры + данные из ячейки памяти отвечающией за score

А то что эту "сеть" до этого "натренировывали", обвязывали сложнейшими алгоритмами, и "учили" брутфорсом ака "вычислим перебором всех действий на один шаг максимальное из предсказаний прошлой сети", это куда отнести?


И нет, вы не правы, эта сеть не анализирует, даже близко и от слова совсем. Она как максимум тупо повторяет анализ человека, сделанный к тому же еще и брутом… (ну и делает распознавание заученных "картинок")

Мне почему-то тоже так кажется :)

Information

Rating
Does not participate
Location
Hamburg, Hamburg, Германия
Date of birth
Registered
Activity