Вести из Кембриджа — професор Лоуренс Шерман разработал AI-based систему, которая должна помочь полицейским решить — арестовать человека или дать ему повестку в суд.
Допустим, полиция остановила профессора Васю, который ехал пьяный на машине с косяком в зубах. Вася ранее не судим, однако очень опасен — ехать пьяным и обкуренным не менее опасно, чем стрелять из пистолета ради потехи в городе. Дело происходит в суббботу вечером, суд откроется в понедельник. Арестовать его или дать повестку в суд?
Профессор Шерман и товарищи проверили 104,000 историй ареста и освобождения, и на основании анализа этого массива данных построили алгоритм, который предсказывает опасность от человека намного лучше, чем любой офицер полиции. Предсказание основано на нескольких основных факторах, таких, как предыдущая история запуток с законом, а также возраст, ПОЛ и МЕСТО ЖИТЕЛЬСТВА.
В связи с чем у меня несколько вопросов, по порядку. Меня вообще читают умные люди — такие длинные куски скучного текста на юридическую тематику могут вытерпеть явно только умные и терпеливые — и ваше мнение меня интересует. Во-первых, я могу ошибаться в своих суждениях и часто это делаю (как и все люди), во-вторых глас народа, а в-третьих интересные аргументы.
Перед тем, как задать вопросы, я хочу подчеркнуть, что СТАТИСТИЧЕСКИ эта технология сократит преступность — да, она будет ошибаться, но меньше, чем среднестатистический полицейский, и даже, наверное, меньше, чем хороший полицейский. Как говорится на иврите, нет такого умного, как опытный, а опыт в 104 тыщи кейсов ни один человек не в состоянии получить.
1. Хотели бы вы, чтобы решение о том, арестовать человека или выпустить, принимал алгоритм, основанный на машинном обучении?
Разница между ним и «простым» алгоритмом в том, что мы не можем проследить, ПОЧЕМУ ИМЕННО И КАК принимала решение машина (поправьте меня, если я ошибаюсь, дорогие AI people).
2. Изменится ли ваш ответ, если речь идёт о ВАС ЛИЧНО? Одно дело — машина решает про Васю, а другое дело — это вас остановили по подозрению.
3. Какие критерии можно использовать при обсчёте данных?
3а. Можно ли использовать ПОЛ человека? Если да — то чем это отличается от дискриминации по половому признаку? Если система сажает мужчину только потому, что он мужчина (в случае, гдеш женщину бы не посадили под арест) — справедливая ли это система, принимая во внимание, что мужчины более преступные и агрессивные (статистически)?
И если да — то почему нельзя использовать тот же алгоритм при приёме на работу? Сажать мужиков можно, а брать на работу нельзя?
3б. АДРЕС — справедливо ли, что меня арестуют потому, что я живу в Яффо, но пару лет назад меня бы отпустили, потому что я жил в Северном Тель-Авиве? То есть мало того, что у тебя вечером стреляют около дома, что аж Пёс под кровать лезет — так ещё и сажать меня теперь?
3в связано с адресом. Фактически адрес = расовый фактор, в основном люди одной национальности проживают вместе. Получается, что если ты негр и живёшь в негритянском районе, тебя арестуют, а если белый — то нет, при прочих схожих данных. Или, для Израиля — русский район Ашдода против Герцлии-Питуах. Хотя и Реховот тоже подходит под негритянский район.
3г. РАСА и НАЦИОНАЛЬНОСТЬ — если, как в США, чорные убивают людей в 4 раза чаще, чем белые (в процентном отношении к населению) — есть ли основания учитывать это при вынесении решения? И если нет — то почему тогда адрес и пол да?
Вот такие вопросы ставит перед нами технология. В ближайшие несколько лет это начнёт двигаться быстрее и быстрее, и такие вопросы будут вставать перед нами вс чаще и чаще. И отдавать их «на откуп» специалистам — не совсем верная идея, как мне кажется. Ибо кто такие эти самые специалисты? Давайте взглянем.
Инженеры — так этим только дай всё роботизировать, они сами полуроботы, как показал один мой пост, где все причастные к хайтеку воистину не понимали, как можно работать медиком добровольно. Я б, например, застрелился об стену, если бы мне надо было кодить для того, чтоб заработать на жизнь. А они РЕАЛЬНО не верят, что человек может работать медиком по доброй воле. Надо не забыть напомнить им, чтоб обязательно сказали это при следующем визите к врачу.
Юристы — так этим кто заплатит, то они и сделают, а «юристы» из академии вообще не в этом мире живут, судя по тем статьям в юридических журналах, которые я от скуки читаю в тюрьме. Я даже и словов-то таких не знаю, которыми они пользуются, и это по моей уголовной теме, в которой я четверть века скоро. А уж прийти с этой мутотенью в реальный (не Верховный) суд — это самоубийство над клиентом.
Политики… Можно я не буду писать о политиках, а то очень неудобно, мама прочтёт и огорчится от обилия незнакомых слов со знакомыми корнями.
Поэтому решать нам — простому народу.
Мораль — не упускайте решений из своих рук, а то всё решат за вас.
Фото (сс) David Numeritos из Фликера
'О роботах-полицейских, или хотели бы вы их?' Комментариев пока нет
Будьте первым комментатором!