http://habrahabr.ru/rss/post/76255/ ru editor@habrahabr.ru habrahabr.ru Sat, 11 Feb 2012 16:57:22 GMT http://habrahabr.ru/ http://habrahabr.ru/i/logo.gif http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2811360 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2811360 Wed, 05 May 2010 12:52:26 GMT Xfrid http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2331544 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2331544
]]> Tue, 29 Dec 2009 06:41:10 GMT theschmidts http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2331511 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2331511
В старой серии twilight zone на корабль, который вез лекарство пробралась девочка.
Горючее ограничено, и с нею корабль не сможет сделать необходимых маневров. Без пилота он не долетит.

Они долго пытались выкинуть лишние детали, но не помогло — перевес 20 кг.

А что бы вы сделали на месте пилота? А на ее месте?]]> Tue, 29 Dec 2009 06:23:26 GMT theschmidts http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2251932 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2251932 Sat, 05 Dec 2009 01:07:51 GMT Tar http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2239855 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2239855 Wed, 02 Dec 2009 02:49:23 GMT gorcer http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2225769 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2225769
вообще, человеки давно уже занимаются выработкой некой морально-этической парадигмы, в которой жизнь одного человека боле ценна (для общества), нежели другого.
но.
учитывая эгоизм, алчность, коррумпированность и формализм, столь свойственные большинству людей, при определении  «ценности» не избежать спекуляций.

жалкие людишки!]]> Fri, 27 Nov 2009 10:52:55 GMT nicothin http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2225738 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2225738 Fri, 27 Nov 2009 10:47:02 GMT nicothin http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2225174 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2225174
— Сэр… тут у роботов паника, они беспорядочно бегают по цеху в истерике.
— Что случилось, Джон?
— Этот ненормальный русский, которого вы недавно взяли на работу, уже достал всех своими дурацкими выходками. Сегодня он опять взял арматуру и сделал вид, что собирается причинить вред другому рабочему!
— Эээ… а роботы тут при чем?
— Сэр, их логика говорит, что они не могут нанести вред человеку. И еще, что они не могут бездействовать, когда человеку грозит опасность. Не знают, что делать — вот и паникуют. Этот русский уже не первый раз так развлекается!!!
…]]> Fri, 27 Nov 2009 08:36:37 GMT DoctorChaos http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2224944 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2224944 Fri, 27 Nov 2009 07:24:17 GMT Madcat148 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223752 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223752
Изначально все эти рассуждение про количество исходят из того, что все люди равны. Но для нас, для людей, для каждого в отдельности это не так.]]> Thu, 26 Nov 2009 19:11:58 GMT atomicxp http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223480 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223480
Хотя есть пример, где свободная воля все-таки нужна:
— обследование территории, где человек не может существовать или его присутствие очень дорого в тех плане, где необходимо реагировать «по ситуации».]]> Thu, 26 Nov 2009 17:51:51 GMT Kinjeiro http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223454 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223454 Thu, 26 Nov 2009 17:43:30 GMT elmortem http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223427 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223427 Thu, 26 Nov 2009 17:34:06 GMT Kinjeiro http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223413 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223413 Thu, 26 Nov 2009 17:30:03 GMT elmortem http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223370 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2223370 Бездействие в обоих случаях, описанных в топике, приведёт к смерти 5 человек, а действие к смерти 1 человека. Тут выбор идёт между смертью и смертью. Сложный выбор. Как не поступи — получается аморально. Но если мы «действуем», то во втором случае получается «аморальнее» убить одного, чем пятерых.
Такое моё мнение, и оно запросто может расходиться с вашим, потому что мораль у каждого своя.]]> Thu, 26 Nov 2009 17:14:44 GMT elmortem http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2222958 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2222958 Допустим робот несет деньги и видит умирающего с голоду нищего. Имеет ли он право тратить деньги своего владельца на спасение жизни этого (этих всех) нищих?

Опять таки, если робот стоит дорого, имеет ли он право увечить себя, для спасения других людей (не владельцев). А если другие люди — это бомжи?

С той же вагонеткой — если один — это владелец робота, а 5ро — посторонние — должно ли это влиять на выбор.

Опять же если не обособлять владельца, то кому нужен такой робот — любой человек ему может отдать любую команду. За ним глаз да глаз нужен :)

По поводу вышеописанноего — есть еще проблема.
Моральный выбор стоит перед человеком не сам по себе, а только в свете того что его могут наказать за принятое решение или просто осудить. Робота нет смысла судить или наказывать. Зато есть смысл судить программиста (и их начальство), которые приняли это решение на этапе программирования робота.
Пока у нас программисты привыкли не нести ответственности за свои программы.
А в случае роботов с таким поведением придется.
Учитывая к-во выпускаемых роботов — программист не выживет или будет сидеть пожизненно по определению :)

Тут или устраивать референдум на тему правил робота — чтобы все несли ответственность, или не замрачиваться спасением кого бы то ни было. Себе ж дороже (производителю).

ps. и просто по прикалываться — стрелку можно переключить наполовину и вагонетка врежется в стену, а с моста роботу можно самосброситься ;)
pps. сотовых операторов законодательно заставили принимать вызовы СОС не взирая на остаток на счету и принадлежность телефона к данной сети.]]> Thu, 26 Nov 2009 15:30:28 GMT cdev http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2222896 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2222896 В тот момент, когда робот понимает, что перед ним стоит моральная задача, касающаяся жизни людей,
все информация о контексте и, соответственно, выбор решения (управление самим роботом) передается ответственному за этого робота человеку.

Это накладывает ряд ограничений:
— должен быть отложен выпуск человекоподобных роботов с интеллектом и свободой действия до того момента, пока люди не научатся передавать и усваивать огромные массы информацию в очень короткие сроки.
— связь со своим подопечным роботом должна быть практически моментальной, чтобы можно было успеть принять решение
— человек не должен иметь в своей ответственности более одного (двух) роботов, чтобы не возникло коллизий, способных привести к человеческим жертвам.

Однако это будет решение. Иного, как мне кажется, не может быть, так как невозможно роботу заложить гуманистическую составляющую (называемого «совестью», «душой», а не «социомораль»), которым обладает человек, ибо составляющая иррациональна.]]> Thu, 26 Nov 2009 15:19:49 GMT Kinjeiro http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221604 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221604 Thu, 26 Nov 2009 11:39:29 GMT Madcat148 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221308 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221308 Thu, 26 Nov 2009 10:30:54 GMT P_r_i_m_a_t http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221286 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221286 Thu, 26 Nov 2009 10:27:10 GMT ruzzz http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221253 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221253 Thu, 26 Nov 2009 10:20:10 GMT P_r_i_m_a_t http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221247 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2221247 Thu, 26 Nov 2009 10:18:55 GMT P_r_i_m_a_t http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220980 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220980 Thu, 26 Nov 2009 09:18:13 GMT ruzzz http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220951 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220951 Thu, 26 Nov 2009 09:10:35 GMT ruzzz http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220901 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220901 Thu, 26 Nov 2009 09:00:17 GMT VolCh http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220876 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220876 Thu, 26 Nov 2009 08:50:56 GMT ruzzz http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220790 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220790 Thu, 26 Nov 2009 08:28:59 GMT VolCh http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220748 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220748 Thu, 26 Nov 2009 08:19:40 GMT VolCh http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220737 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220737 www.google.ru/search?q=БПЛА ]]> Thu, 26 Nov 2009 08:17:21 GMT VolCh http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220732 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220732
Слишком смелое утверждение, хотя бы если рассматривать коллег по опасной работе. Еще телохранители — грубо говоря им платят за то, чтоб в критической ситуации они пожертвовали собой]]> Thu, 26 Nov 2009 08:16:04 GMT VolCh http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220637 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220637 Thu, 26 Nov 2009 07:50:39 GMT elmortem http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220393 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220393 Thu, 26 Nov 2009 05:44:51 GMT Madcat148 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220389 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220389 Thu, 26 Nov 2009 05:38:29 GMT Madcat148 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220386 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220386 Thu, 26 Nov 2009 05:37:54 GMT elmortem http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220302 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220302 Thu, 26 Nov 2009 04:14:20 GMT Alver http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220270 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220270 http://centria.fct.unl.pt/~lmp/publications/online-papers/epia07-morals.pdf]]> Thu, 26 Nov 2009 03:33:58 GMT MaximKat http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220267 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220267 Ну вот просто не повезло тому одному, что он оказался на отдельной ветке, и что робот был так запрограммирован, или что я считаю долгом спасти как можно больше людей.

>>против спасения своей жизни ценой жизни другого человека
ключевой момент — спасение ПЯТИ жизней ценой жизни ОДНОГО другого человека]]> Thu, 26 Nov 2009 03:26:58 GMT Atos http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220249 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220249 Ответ, доказывающий преимущество человеческого интеллекта перед жалким ИИ.]]> Thu, 26 Nov 2009 02:48:46 GMT KlonKaktusa http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220241 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220241 Thu, 26 Nov 2009 02:39:05 GMT Powerhead http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220150 http://habrahabr.ru/blogs/artificial_intelligence/76255/#comment_2220150 Thu, 26 Nov 2009 00:12:40 GMT KrH_EF