Comments 39
И зачем там руль… он только мешает, вполне логично, что люди будут брать простую машину с ручным управлением для отдыха и понта и робота без управления для ежедневных поездок… я бы вообще предпочел. чтоб там был затемненный салон с длинным мягким диваном — сказал адрес — и ложишься спать, по приезду робот тебя разбудит. Разве то вот аварийный тормоз в салоне нужен… но не думаю, что у пассажира вообще будет возможность им воспользоваться ввиду того, что он будет занят совсем другим и тупо не успеет, а для обычной остановки можно просто сказать роботу прекратить движение.
Очень не хотелось бы вот такого: www.wired.com/2015/07/hackers-remotely-kill-jeep-highway
Вы правы, и есть несколько моментов, которые либо все это зарубят в итоге на корню, либо ездить станет невероятно опасно. Чтобы система вождения работала действительно эффективно и правильно нужен обмен с другими авто. Только своих сенсоров мало. Чтобы обойтись только своими нужен реально сильный ИИ, как водила. Но! Любая система на основе глубокого обучения может быть достаточно просто дезориентирована ложными данными или специальными артефактами, как сейчас делают со знаками, модифицируя рисунок. Представьте, что будет на заполненном скоростном хайвее если робопилот словит ложные данные? Случайно или по злому умыслу. Простор для хакеров, спецслужб и террора открывается необъятный.
Но вот сильный ИИ за рулем отдельная тема, по моему мнению невозможная тема. Т.к. такой ИИ открывает другие риски, к которым мы не готовы. Общество не готово. Да и не захочет сильный ИИ быть просто водителем.
Но вот сильный ИИ за рулем отдельная тема, по моему мнению невозможная тема. Т.к. такой ИИ открывает другие риски, к которым мы не готовы.
Это какие?
Да и не захочет сильный ИИ быть просто водителем.
Откуда у него возьмутся желания?
С робомобилями жертв булет больше и чаще. Я имею в виду именно террор.
Любая сетевая комп.техника хакается на раз-два. Нет ничего невзламываемого. А тут будет целая сеть из сотен тысяч устройств на дорогах.
Ладно бы просто безобидные офисные компы или IoT, но в нашем случае это тысячи потенциально смертельных снарядов.
Это как винда и линукс. Линукс не особо ломали пока его использовали немногие, теперь куда чаще. Винду же из-за массовости каждый день долбают и патчи то и дело отгружают пачками. Вот и Тесла пока была потыкана только чуть. Будут десятки брендов и сотни тысяч авто — вот тогда вспомните мои комменты. Я предвижу ад. Если чего-то еще не случится раньше.
Я пишу это не просто так, потому как сам в разработчиках сверхнадежных систем. Но все равно вижу достаточно потенциальных дыр, которые просто невозможно заткнуть. И дело даже не в бюджете и человеко-часах… То же самое и с робомобилями, т.к. бизнес-процессы в больших компаниях одни и те же. Все не заткнешь. А хакеров много.
Чтобы система вождения работала действительно эффективно и правильно нужен обмен с другими авто.
Я делаю ставки, скорее, на альтернативы для дорог общего пользования в виде дорог исключительно для робоавтомобилей, и с централизованным управлением, а не с общением автомобилей между собой.
Любая система на основе глубокого обучения может быть достаточно просто дезориентирована ложными данными или специальными артефактами, как сейчас делают со знаками, модифицируя рисунок.
Не зная параметров и коэффициентов нейросети, этого сделать нельзя.
Я делаю ставки, скорее, на альтернативы для дорог общего пользования в виде дорог исключительно для робоавтомобилей, и с централизованным управлением, а не с общением автомобилей между собой.
Железные дороги придумали давно. А тут вся фишка именно в использовании дорог общего пользования робомобилями.
Опасность компьютерных технологий принципиально отличается от опасности лестницы или даже «обычного автомобиля». Я вот вспоминаю случай когда апдейт антивируса Symantec убил тысячи персональных компьютеров в Китае за один день. То есть была стабильная рабочая версия ПО, ей доверяли и с ней работали. Потом ррраз! И все, готово… И кто там виноват: толи апдейт windows, толи апдейт антивирусных баз данных, кто-то чего-то недоглядел.
В случае с робомобильным ПО нам неизвестны технические детали реализации. Будет ли там встроенный механизм апдейта? Будет ли там система плагинов-расширений функционала сторонними производителями ПО? Будет ли там антивирус?
Ну да, там еще антиаируса не хватало. Чем проще система и меньше прог — тем будет лучше. Но все равно главная дыра — компоненты построенные на глубоком обучении. Их всегда можно обмануть, потому, что они построены на неполноте, значит, всегда есть входной набор, позволяющий получить нужный нам выход, даже если входной набор далек от тренировочного. И это пока неустранимая проблема на нашем текущем уровне знаний и разработок.
Да — причины смертности будут другие. Но — те что есть существенно уменьшатся. Вот примеры из личного опыта. Еду с фестиваля, пробка, ночь, дико хочется спать. Два раза засыпал и чуть не въезжал в переднюю машину. Почему не остановился и не поспал? Домой быстрее хотелось. Выезжаю с заправки и чуть не попадаю под удар маршрутки несущейся в правом ряду; устаю ждать на пробочном светофоре, вылезаю чтобы объехать пробку и в меня чуть не въезжают; не замечаю авто цвета свежевыпавшего снега — и оно в меня въезжает; знакомая (в сердцах) резко стартует во дворе на узком и высоком джипе — переворачивается; друг превысил скорость на мокрой дороге — улетел в кювет с полуторным сальто. Всё это обошлось или обошлось без травм, но… могло и не обойтись. А причины были вовсе не сложноастральные, а наибанальнейшие-дурацкие. Думаю вот таких аварий по глупости станет на порядок меньше. Но да — появятся странно-новые. Типа той попытки проезда под фурой.
При чем там, так сказать, естесственные причины смертности? Я о массовых побоищах, о терроре. Можно направить один большой трак зигзагами по загруженному хайвею и будут сотни жертв. Поверьте, мы не видим реально массового террора только потому, что даже очень идейные фанатики все-таки хотят жить и каждый наденет на себя бомбу или сам залезет в авто давить народ, чооб быть застреленным. А тут будет возможность все делать дистанционно, без присутствия. И в этом большая разница.
По моему ни ейрбас ни боинг исходные коды не опубликовали.
Не боитесь что коварный автопилот направит самолет вам в дом?
Диспетчер же кроме воплей в эфире вообще ничего не может сделать, ведь возможности перехватит управление у него нет.
напиваются до состояния нестояния, занимаются онанизмом, курят гаш прямо в кабине или крепко спят там
А чем еще на эшелоне несколько часов заниматься?
Автопилот самолета и автопилот автомобиля — штуки, которые вообще, по моему мнению, нельзя сравнивать, поскольку автопилот самолета контролирует количество параметров, исчисляемых количеством, в худшем случае, пальцев двух рук. Что там у нас: курс, высота, скорость, вертикальная скорость, задаваемые комбинациями тангажа, крена, рысканья, оборотов. Систему предупреждения столкновений можно добавить, что-то еще, возможно. Суть в том, что, как ни странно на первый взгляд, но автопилот даже тяжелого лайнера куда проще во всех аспектах, чем автопилот автомобиля. Ему не нужно видеть дороги, различать помехи, знаки, разметку, светофоры, принимать сложные решения в зависимости от комбинации входных данных (въехать в одного человека или в группу, например) и так далее, и так далее, и так далее.
Робомобиль это не водитель, с ним можно куда проще.
Во первых во все номерные знаки вставлять чипы идентификации — их легко обнаружить с расстояния десятков метров и отследить движение и габариты ТС по перемещению чипа.
Во вторых во все дорожные знаки вставлять такие же чипы, чтоб в любой туман, дождь, темноту и тд — знаки прекрасно читали радиосканером,
В третьих в светофоры добавить радиомаяки, чтоб авто всегда знали, какой сигнал светофор показывает. В четвертых краску делать радиозаметной, чтоб легче было отследить положение разметки на дороге сквозь снег, лед, туман, грязь — а не полагаться на оптику, копируя человека.
И еще много каких мелких улучшений. КУда проще подстроить окружающую среду под робомобиль, чем заставлять несчастного робота имитировать живого человека со всеми его недостатками.
Меня интересует будут ли опубликованы исходные тексты робомобилей?Вы так говорите, как будто у Вас сейчас на руках есть исходный текст человека и уверенность в физически-психологическом состоянии каждого водителя.
Лучше робомобили пока исключить и оставить все как есть. Даже не знаю до каких пор. У меня нет решения сейчас. Можно по шагам: сначала улучшенные алгоритмы глубокого обучения с переподстраховками от нескольких сетей поддержки и подтверждения, потом нужны реально безопасные механизмы обмена авто между собой, нужен единый безопасный протокол. Много чего там нужно до тех пор пока можно будет массово выпускать робомобили. Но корпорациям же надо все вот почти првмо сейчас, повеяло большими деньгами на замене всего автопарка в сжатые сроки.
Не понимаю, почему в робомобиле не должно быть органов управления? А как управлять авто, если у нее "мозги поплыли", хотя бы банально остановить.
Ну наконец-то это можно будет выкинуть из-за руля:
P.S. Извините, не удержался, пятница всё-таки
За последний год поисковил выдал всего 1 заметку об испытаниях КамАЗов на трассе Казань-Н.Челны, и то страничка в газете не открылась.
Но у КамАЗа есть ещё один концепт-беспилотник — ШАТЛ.
Робомобили в США разрешили тестировать на дорогах общего пользования во всех штатах