Comments 71
Притворим же идеи Роберта Шекли в жизнь, осталось натренировать нейросеть на анализ эмоционального состояния человека для предсказания потенциального убийства и можно "страж птиц" ставить на службу.
/* zanuda mode */ ПрЕтворим
Ой, у Шекли очень много на эту тему всякого антиутопичного есть.
Можно как в "Цивилизации статуса" гипнотизировать всех в детстве, чтобы сами на себя доносы писали. А потом прийти к "Ордеру на убийство", поняв что полиция осталась без работы и надо бы начать вербовать преступников)) Кхм...
а можно мне билет на планету Транай?
Хотите стать там мэром?
а можно мне билет на планету Транай?
На Транае хорошо было не только лишь всем, а в основном аборигенам, которые к местным обычаям уже привыкшие. Переселенец же в поисках более лучшего мироустройства, скорее всего постарается побыстрее купить билет обратно, как это сделал герой рассказа, потому что система сдержек и противовесов на Транае очень своеобразная.
потом прийти к "Ордеру на убийство", поняв что полиция осталась без работы и надо бы начать вербовать преступников))
Можно проще:
Если не хватает поводов обвинить человека, надо их придумать. Если внушить человеку, что смотреть на весенние цветы – преступление и он нам поверит, а потом взглянет на них, мы сможем делать с ним что хотим. Он не будет защищаться. (c) Атлант расправил плечи
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Роботы неграмотные пошли нынче, они Азимова не читали и этих законов не знают.
Они теперь больше прыгают.....
Даже если до этого когда-то дойдёт, он будет её решать строго в рамках правил (если его управляющий код им соответствует, разумеется). А в правилах никогда не пишут все эти «спрыгни на обочину и убей своих пассажиров», которые изобретают философы.
Неужели так сложно запомнить контекст обсуждения в ветке из 4х комментариев?
Интересно посмотреть, как робот работающий на основе законов Азимова будет решать проблему вагонетки.
Он не будет ее решать. Почему все зацепились за слово "робот", но напрочь проигнорировали "с дистанционным управлением"?
Решать проблему вагонетки будет оператор робота. Ровно так же, как сейчас ее решают операторы дронов и беспилотников.
...а затем в какой-то момент незаметно и тихо перейдут на дронов без оператора. Окно Овертона!
Окно Овертона!
Нет никакого окна. Точнее есть, но этот термин про другое.
а затем в какой-то момент незаметно и тихо перейдут на дронов без оператора
Дроны с операторами используются уже много, много лет. Но вас почему-то не беспокоило, что робота сварщика можно незаметно сделать роботом убийцей. А когда роботу полицейскому, добавляют полицейскую же функцию, управлять которой будет живой полицейский - случился взрыв негодования, хотя фактическая разница только в том, что в случае применение робота, убить в перестрелке живого полицейского станет несколько труднее.
Окно Овертнона - про общественное мнение, а не про технические детали про которые обычный обыватель может и не знать:
если сейчас запустить, в качестве полицейского, автономного робота, который сам решает стрелять в человека или нет - будет скандал (и политики желающие на этом попиариться)
если это сделать когда к роботам все привыкнут - никто и не заметит
если это сделать когда к роботам все привыкнут - никто и не заметит
Вот именно про это я и говорю. Окно Овертона просто разделяет пределы допустимого. Но нигде и никак не утверждает что из категорически недопустимого в приемлимо можно запросто прокинуть любую идею. Это уже сделали позже, причем без всякой доказательной базы и обоснований.
Вроде было сообщения что ИИ теслы когда понимал что у него не получается разрулить ситуацию, то он отрубался. Типа передавал управление водителю. Само собой делал он до за 0.1 секунды до наступления этой самой ситуации.
Так что ИИ просто отключится непосредственно перед стрелкой а после проезда по людям включится обратно и сделает вид, что он тут не при чем.
Разница лишь в том, что «законы робототехники» не имеют юридической силы, а решение наблюдательного совета округа Сан-Франциско имеет.
Вы не в состоянии уберечь себя от гибели. Чтобы спасти человечество, часть людей необходимо принести в жертву. Мы обязаны спасти вас от вас самих!
Законы?
Это уже, похоже, какой-то атавизм в наше время.
Роботы, или таки роботизированные устройства на дистанционном управлении? Вряд ли это устройство, которое само может принимать решение об использовании летальной силы.
Второе. Дистанционка. Странно что тут в статье это упустили и нет ссылки на оригинал. Разница реально критичная. В дистанционке это ничем не отличается от пистолета скажем, та же " ability to kill community members remotely ".
Более или менее внятный оригинал https://apnews.com/article/police-san-francisco-government-and-politics-d26121d7f7afb070102932e6a0754aa5
Это обычный дистанционный интерфейс, а не робот
Из недавно просмотренного мной на YT на одном из любимых дропзенайф-каналов:
Полицейского вызывают в городской парк, посетитель забросил шапку охранника парка на крышу и обозвал пидором. Офицер приехал, убедился, что так и было, пошел к нарушителю. Тот все подтверждает, говорит, что не жалеет, охранник пидор и так ему и надо. На просьбу пройти с офицером у нарушителя отрастают права, он начинает говорить "не не", отворачивается, уходит, препирательства, возня, тазер-тазер-тазер. Вокруг офицера немедленно организуется народец, кричит, галдит, снимает на телефон, обзывает пидором, особо борзый кидается на офицера, спихивая его с нарушителя руками за корпус и лицо. Короче говоря, с приходом подмоги все нормализуется и идут поиски того второго, толкнувшего.
И тут выясняется, что народец в количестве около десятка - это вовсе не прохожие или барбекюшники. Это вполне себе коренные жители парка, которые тут же, в палатках и картонках, на природе посреди газона и обитают, им деньги чем на съем жилья больше нужны, чтобы шабить, долбить и прочее этсамое на свежем воздухе. И толкнувший не уходил никуда, он тут же кайфует и желает всем исключительно добра.
Это я все к чему, когда такого народца до десятка - хватает пары дополнительных копов, чтобы растащить и уболтать. А вот в левацких штатах, где такого народца живет на улицах кое-где побольше, чем внутри помещений - полиции уже приходится утверждать с властями дистанционно управляемую взрывчатку, чтобы можно было людей взрывать при необходимости.
у нарушителя отрастают права
Такое ощущение, что вам не нравится, что нарушитель позволяеет себе думать, что у него есть права.
Такое ощущение, что на Хабре никто не чувствует иронию и сарказм, сразу готовы грызть.
Права есть у всех. В таком ключе я описал распространенную ситуацию, когда человек на ровном месте начинает по-совковому отпираться при очевидно совершенном косяке.
Такое ощущение, что на хабре ещё не перевелись люди, которые не отличают управляемый дрон от робота, делят всех на "вон тех левацких западных подонков" и "хороших местных", которые просто положили болт на дебош алкашей, насилие в семье, которые спокойно расстреливают безоружного человека с поднятыми руками на открытом пространстве, которым можно "нанести непоправимый урон" неприятным взглядом или попыткой закрыться от побоев, что автоматом сулит несколько лет строгача, которые спокойно в масках "свидетельствуют" по скайпу в суде под вымышленными именами о том, как человек якобы совершал что-то там, где ни его, ни их не было.
С таким сраказмом можно много ахинеечки наплести, но хорошо бы сначала свои проблемы решить, а потом уже смотреть, что там как за морюшком. Пора бы перестать заметать свои проблемы под коврик, перекладывая всё на "а вот у них..."
Ух ты, сколько сразу вмененных подменных тезисов и ярлыков разом! Я указал ровно на один недостаток в современном обществе другой страны - сразу я и ватник, и робота не отличаю (вообще-то дистанционно управляемым подрывом назвал, а не роботом, как в статье), и оправдываю домашнее насилие и произвол на митингах (даже не поднимал эти темы никаким боком), и лжесвидетельствую, и игнорирую проблемы родной страны.
Знаете, я на это все только замечу (без обиняков, будет обидно, токсично, триггер варнинг:) только одно. Именно люди, склонные ворохом обвинять человека во всех грехах, комплексно и по шаблону - будь то "интеллигент", "враг народа" или какой другой идеологически вредный конструкт - как раз и использовали по-максимуму свою власть во вред другим. Именно так огульно обвиняли во всем и сразу, как снежный ком, не разбираясь в человеке и в мотивах им сказанного, а по факту, за анекдот или донесенный разговор - да-да, ОГПУ, хунвейбины и прочие дорвавшиеся до административного ресурса. Как хорошо, что на Хабре от людей с таким черно-белым идеологизированным мышлением можно отделаться минусами, а не судом "тройки" и перевоспитанием на каменоломнях.
...а теперь примерим всю эту ситуацию на более тоталитарную страну. Например, Иран, где убили девушку за не так надетый хиджаб, что по местным меркам куда более ужасное преступление, чем вы описали.
@Vsevo10d предлагаете толпу протестующих, осмелившихся защищать преступницу, расстрелять роботами?
For the great justice: yes, she died, but she wasn't killed. Police published a video from a police dept.
Be honest. That's the only true way.
Неужто полиция опубликовала всё видео от момента задержания до момента попадания в скорую? Сильно сомневаюсь. Открыл википедию -
"Иранские власти ... обнародовали запись с камер наблюдения, где, предположительно Махса, падает в обморок прямо в участке, после чего её увозят на скорой помощи "
И про её отца: "Он просил посмотреть запись с нательных камер полицейских, но ему сказали, что в тот момент у них села батарейка" - ну это прямо классика, запахло родиной
предлагаете толпу протестующих, осмелившихся защищать преступницу, расстрелять роботами?
Что изменится, если это будут не роботы?
Вспомнить, например Новочеркесск (1962), штурм Белого Дома (1993) или Небесную Сотню (2014) - что там, что там вполне себе без роботов обошлись...
Были исследования про психологические различия между пехотинцами и артиллеристами, полевыми офицерами и штабными, между флотскими и пехотой…
С другой стороны, отказаться выполнять приказ, в случае когда вокруг тебя только такие же нажимателей кнопок, а не пара десятков вооруженных людей на пределе нервов - тоже несколько проще.
Но меньше причин отказываться выполнять приказ, и эффект ниже.
Основные причины все же формируются на другом уровне. Чтобы отказаться выполнять приказ ты должен:
Считать его преступным
Не бояться за свою жизнь прямо в момент отказа. Ну или быть готовым ей пожертвовать.
Описанные выше эксперимент описывает ситуацию, когда человек к самому приказу возражений не имеет, просто не готов, как говорится - "лично марать руки". Т.е. он в целом не против если этот приказ выполнит кто-то другой. Или ему все равно, выполнит его кто-то или нет. Опять же, в эксперименте выше исполнителю в случае отказа ничего существенного не угрожает.
Опять же, эксперимент описывал поведение 1 на 1. Ситуация же когда ты один из множества с соответствующей накруткой и подавлением индивидуальности несколько иная. Грубо говорят толпа легко и охотно творит то, на что отдельные индивиды могут пойти с трудом.
Я понял, что вы анархист и у вас примат отсутствия исполнительной власти над гражданами и прочие свободы, но явно не в кассу радикальным примером вы меня не переубедите. "А в Иране женщин линчуют" меня не впечатляет как аргумент, увы.
Гражданское неповиновение - это признак раскола в самом обществе, это зачаток гражданской войны, значит, что-то не так прежде всего с обществом, а не с полицией. Значит, когда-то давно победили какие-то очередные долбаные социалисты, религиозные фанатики и прочая популистская отрыжка с минимальными управленческими навыками.
Не надо демонизировать государственные институты только лишь потому, что некоторые государства несостоятельны. "Сессия", если разобраться, тоже не кошмарное мероприятие для издевательства над студентами, а всего лишь способ организации контроля знаний по учебному плану.
Мне кажется, или вы вещаете противоположные вещи? Я, например, не отрицаю полицию как государственный институт, но вполне себе представляю причины гражданского неповиновения в некоторых конкретных странах. Но не могу сказать, что в них "победила отрыжка и религиозные фанатики". Точно не с полицией что-то не то?
и так уже слишком агрессивно относится к беднякам и представителям различных меньшинств
Угу, и поэтому обнести магаз на 900 баксов - уже не повод поехать на кичу шить форму Пентагону...
А мне кажется конкретно на данный момент не так важно робот там, граната или пуля. У Азимова у робота был искусственный интеллект, сейчас же это просто ведро с гайками которое громко называется роботом. Использование механических устройств в крайних случаях в теории может спасти жизни полицейским, это аргумент. Нас, конечно, от этого несколько коробит, так как на будущее закладывает нехорошие перспективы использования робота с более развитым программным обеспечением (читай искусственным интеллектом), и чем больше кода, тем больше в нем ошибок...
При этом в полицейском департаменте Сан-Франциско пока нет вооружённых огнестрельным оружием роботов
Пусть покупают =)
Там, чтобы Федор стрелял из пистолета, к нему ещё несколько чуваков должны прилагаться - один расставляет мишени в нужных местах, другой рассчитывает расстояние до мишеней и траектории, и пишет программу перемещения манипуляторов, чтобы попадало по мишеням, третий манипуляторы подкручивает, чтобы пистолеты правильно держали, а четвёртый просто таскает тачку с роботом.
Испытания SKYNET в Вазиристане прошли успешно?
Статья на Хабре про использование роботов-убийц в Вазиристане: SkyNet всё-таки существует, но терминаторов пока опасаться рано
(на Хабре была более подробная статья, но что-то не могу её найти :-( удалили?)
Здесь уместнее аналогия не с Терминатором, а с Робокопом.
А что мешает использовать в подобном случае, например, газы?
Дождались: полиции Сан-Франциско разрешили использовать роботов-убийц