maybe_elf Apr 14 2021 at 12:02

Житель Детройта судится с полицией из-за ареста на основании данных системы распознавания лиц

2 min

8.3K

Information Security*Image processing*Machine learning*Artificial Intelligence

+22

Comments 53

Angmarets Apr 14 2021 at 12:07

Сама запись была некачественной, так как все произошло в темное время суток

Классика

Заголовок спойлера

methos2 Apr 14 2021 at 12:42

недостатки системы, включая ее расовую предвзятость.

дожили…

sergeyns Apr 14 2021 at 12:52

Просто поговаривают что учебные датасеты не отражают реальное рассовое соотношение… Правда в разные регионах США оно разное

UFO just landed and posted this here

wolfer Apr 15 2021 at 12:03

сначала нейросети научили рисовать, а теперь недоумевают от того, что они расовые теории строят =)

KivApple Apr 15 2021 at 12:31

Качество работы алгоритма машинного обучения напрямую зависит от разнообразия исходного датасета, на котором выполнялось обучение. Нейросеть натренированная преимущественно на белых лицах, будет чаще ошибаться при работе с чёрнокожими. В свою очередь, многие датасеты, используемые для обучения, имеют данный недостаток просто потому что в странах, где разрабатываются системы распознания лиц, чернокожее население является меньшинством и случайная выборка людей для создания датасета будет несбалансированной по этой причине.

UFO just landed and posted this here

kSx Apr 14 2021 at 12:44

… все произошло в темное время суток. При этом подозреваемый был темнокожим...

… недостатки системы, включая ее расовую предвзятость.

Расовая предвзятость, — это когда на ночных фотках распознаются негры, даже если их там нет?)

UFO just landed and posted this here

DSolodukhin Apr 14 2021 at 13:53

А должны распознаваться афроамериканцы?
Берешь фото, вроде афроамериканец, но нет, присмотрелся, всё таки негр.

UFO just landed and posted this here

kSx Apr 14 2021 at 14:46

Это всё тяга к заимствованиям русского языка. Позаимствовали «негр», — придётся теперь делить последствия. В чешском, например, он просто чернох, — и ни у кого никаких вопросов.

A114n Apr 14 2021 at 15:09

Испанцам очень тяжело, наверное.

tommyangelo27 Apr 14 2021 at 15:20

Недавно была история с Эдинсоном Кавани (уругваец, испаноязычный).

glestwid Apr 14 2021 at 19:12

Хотя именно хиспаникам вся эта история с пигментно-одаренными до одного места. Они сами в работорговле замешаны не были, предъявить им не выйдет, а в не самых спокойных уголках большого ЛА это еще кто кого порежет. У латиносов будет однозначно численный перевес.

geher Apr 14 2021 at 20:01

Они сами в работорговле замешаны не были

Вообще-то очень даже.были.
В испаноязычных странах темнокожих, чьи предки не по доброй воле приехали из Африки, очень много. Другой вопрос, что там не было столь жесткой сегрегации, как в США и Великобритании,. А та, что была, достаточно быстро почти сошла на нет, в отличии от тех же США, где неофициально кое-где она все еще имеет место.

glestwid Apr 14 2021 at 21:09

Ну, не думаю что миллионы чиканос из ЛА имеют какое-то отношение к владельцам плантаций тростника и фруктов. Они в смысле своего социального происхождения гораздо ближе к самим афроамериканцам.

geher Apr 15 2021 at 07:09

Во-первых, подавляющее большинство белого населения США не имеет никакого отношения к плантаторам и прочим рабовладельцам. Более того, среди них хватает потомков белых рабов.
Во-вторых, замешаны они в работорговле были ровно по тому же принципу, что и большая часть белого населения Америки. Они той же расы (в США они вполне проходят как белые) и являются в большинстве своем прямыми потомками белых колонизаторов из Европы. Коллективная ответственность в чистом видн, не отмажешься.

Stroy71 Apr 15 2021 at 20:27

Вообще-то negro — черный на испанском языке.

major-general_Kusanagi Apr 15 2021 at 18:19

Это вот такое

vmkazakoff Apr 14 2021 at 12:45

подозреваемый был темнокожим

недостатки системы, включая ее расовую предвзятость

А всё-таки пусть будет непредвзятой, ну правда! И гендерно нейтральной, а то ну как так то. Пусть по фото темнокожего мужчины находит блондинку, а то вообще этот ваш ИИ совсем распоясался!

Ommonick Apr 14 2021 at 13:37

недостатки статистики, включая ее расовую предвзятость*
fixed

BasilioCat Apr 14 2021 at 13:49

Были же сообщения о том, что полицейские управления отказываются от системы предсказания возможных нарушений, которая посылает патрули туда, где они в результате арестовывают больше негров, чем белых. Нарушая тем самым установленные социальные нормы соотношения цветных и белых преступников. Статистику портят, в общем, роботы эти.

ag3r Apr 15 2021 at 18:19

Если статистика говорит, что в районе А больше нарушений, чем в Б, то послав патрули туда вы зарегистрируете в А ещё больше нарушений. Обновляете данные алгоритма, и снова все в А, и там ещё больше нарушений. Возникает цикл с положительной обратной связью, который не разорвать. А вместо этого надо бы подумать о том, почему люди идут на преступления и как они вообще живут там на самом деле

UFO just landed and posted this here

Ark1774 Apr 15 2021 at 19:56

Собственно думать то особо нечего. Образование стоит дорого, дети учится не заинтересованы. Порочный круг.

UFO just landed and posted this here

Ark1774 Apr 15 2021 at 23:29

Люди с низким уровнем образования не могут найти работу и идут на преступления, их дети не могут/хотят получить образование, не могут получить работу и идут на преступления, их дети… круг замкнулся.

UFO just landed and posted this here

Chamie Apr 16 2021 at 22:03

Образование стоит дороже для тех, кто меньше зарабатывает. Не в абсолютных долларах, разумеется.

UFO just landed and posted this here

Chamie Apr 20 2021 at 02:46

Я отвечал конкретно на «стоит дорого для всех». Вы тут к чему-то неявно подводите, но не указываете, к чему. К тому, что в гетто ситуации лучше, чем у реднеков? А какой процент белых в США — реднеки?

UFO just landed and posted this here

Chamie Apr 20 2021 at 23:52

Под «ситуацией» я подразумевал «ситуацию с доступностью образования», если что. И суть была в том, что чёрных реднеков (исторически так сложилось) практически не бывает. Т.ч. сравнивать нужно не на всю расу, а именно вот таки две общности — «жители чёрных гетто» против «реднеков».

UFO just landed and posted this here

amarao Apr 14 2021 at 15:43

Нет, тут жалоба на другое. Система хорошо умеет различать белокожих и плохо различает (много ложных срабатываний) для темнокожих.

alliumnsk Apr 15 2021 at 12:15

Увы, это практически неустранимый недостаток, учитывая относительно бОльший уровень шумов на темных изображениях и бОльший вес бликов на изображениях темнокожих.

amarao Apr 15 2021 at 16:49

А белые сливаются с занавесками, небом и побелкой. Или нет? Насколько я понимаю, это вопрос настройки софта и железа. И был серьёзный скандал с плёнками для фотографий из-за того, что в них не "целились" в цвет тёмной кожи.

UFO just landed and posted this here

ZlodeiBaal Apr 14 2021 at 14:16

Немножко классики

Заголовок спойлера

Альфонс Алле, «Битва негров в пещере ночью», 1882

Ну а в целом это то почему любую систему ComputerVision нужно использовать очень аккуратно/помня об ошибках. Ну и да. Ждем пока Сбербанк разрешит оплату лицами на кассах.

Ark1774 Apr 14 2021 at 14:21

В банкоматах вроде бы уже сделали.

ainoneko Apr 14 2021 at 15:15

Немножко классики

Какой-то у вас «предвзятый датасет».
Надо бы добавить того же автора «Хлоротичные девицы идут к первому Причастию в снежную пору»" (1883) и «Уборка урожая помидоров на берегу Красного моря апоплексичными кардиналами» (1884).

UFO just landed and posted this here

DigitalBerd Apr 14 2021 at 15:06

arrakisfremen Apr 14 2021 at 16:02

Я чёт сейчас не понял? Негры ещё и в отдельной базе находятся? Резервация для негров онлайн?

nikolayv81 Apr 14 2021 at 17:21

Это чтобы ровно по 1/3(или 1/4 или...) из каждой базы :)

sw0rl0k Apr 15 2021 at 11:59

Во-первых, не меряйте ничего по голливудским кадрам хотя бы потому, что цвета голливудских фильмов намеренно искажены. Я вот снимаю иногда на киношную пленку kodak vision 3 и оранжевым негром меня не удивить.
Во-вторых, есть пруфы, что в штатах или где-то ещё используется система распознавания лиц на основе цвета кожи? Просто я видел несколько рабочих систем, две для коммерческого использования и одну для использования правоохранительными органами одной центрально-европейской страны. И все они оперировали параметрами лица (формы и расстояния), но никак не цветом кожи.

Chamie Apr 15 2021 at 15:39

Дело в том, что цвет кожи типичного афроамериканца, сфотографированного в студийном свете, вообще не чёрный, а тёмно-тёмно оранжевый.

Я вас, видимо, удивлю, но коричневый — это и есть тёмно-оранжевый.

amarao Apr 15 2021 at 16:50

Коричневый = тёмный оранжевый, кстати, так что тут никакого откровения нет.

UFO just landed and posted this here

Runis Apr 14 2021 at 16:07

Вот тебе цена такой «безопасности». А про незаконную слежку и упоминать не надо.

Coast Apr 15 2021 at 18:19

Чернокожий под покровом ночи воровал не уголь ли случайно? ))