На прошлой неделе моё ежедневно бродяжничество по новостям технологии привело меня на две статьи — одна о том, что надо запретить технологии распознавания лиц, а вторая — что нужно срочно делать автономных боевых роботов. И с тем, и с другим я не очень-то согласен, и попробую здесь объяснить — почему. Однако я же не обязан соглашаться с собственным мнением — оттого, что какой-то человек, пусть даже я (точнее, особенно я) думал так секунду назад, это не становится чем-то, что я должен защищать всю жизнь.
Итак, распознавание лиц. Уже сейчас некоторые особо продвинутые и прогрессивные города и штаты в Америке запрещают полиции и прочим силовикам использовать технологию распознавания лиц. Почему? Честно говоря, я не в состоянии уловить конкретные аргументы в потоке сознания о прайваси и дискриминации, особенно про дискриминацию.
Существующие на сегодняшний день алгоритмы распознавания лиц плохо работают на темнокожих. Есть несколько причин — и чисто техническая (с чорным цветом работать тяжелее), и чисто общественная — базы данных наполнены белыми больше, чем чорными.
Помню, в своя время на гугл-глессе была весёлая программка — смотришь на человека, и тебе выдаёт его пульс. Дело в том, что когда у человека бьётся сердце, кровь по капиллярам такая туда-сюда бегает, и оттого морда то краснее, то белее. А у чорных она каких-то других оттенков, и это приложение никак не могло определить оттенки тёмной кожи — и, соответственно, пульс.
Однако основная причина того, что распознавание лиц плохо работает на темнокожих (в особенности, акк оказывается, женщинах) — это недостаточная тренировка нейронных сетей. Маленькие (по сравнению с белыми) датасеты -> плохие результаты. Но как из этого следует то, что надо запретить технологию, а не развивать её, чтобы она одинаково хорошо работала со всеми людьми, независимо от пола и цвета — не понимаю.
Не понимаю, почему плохо, когда полицейский смотрит на идущего мимо человека и видит — он в розыске или нет. Если не в розыске — тогда он и подойти просто так не может. Что плохого, вот это я как уголовный адвокат не могу понять.
Я уверен, что в Израиле уже работают системы распознавания лиц — и буду весьма удивлён, если их не используют, например, в аэропорту, ещё на въезде. Стрёмно будет, если угонят всю базу данных и сольют в интернет — но всё равно рано или чуть позже будут частные фирмы, которые будут давать этот сервис.
Короче, не понимаю я. И если у вас есть какие-то серьёзные аргументы ПРОТИВ — напишите, меня очень легко переубедить.
А теперь ко второй части — автономные роботы-убийцы. Почему нужно их обязательно и немедленно делать, рассказывает нам Robert J. Marks II — инженер и христианин («What Does Calculus Have to Do with Christianity?» — его доклад, с которым он выступал по всему миру, прям интересно было бы вкратце послушать/почитать).
Здесь, я так думаю, как и в распознавании лиц, Израиль впереди планеты всей — то есть на одном уровне с США и Китаем. Ну сами посудите — если можно отправить в Газу собачку а-ля Спот от Бостон Динамикс, чтобы она с помощью того самого фейс-рекогнишена вычислила хамасника и пристрелила его нафиг, вместо того, чтобы отправлять на его поимку живых солдатиков, которых могут пострелять.
Проблема в том, что любую радиоуправляемую игрушку можно заглушить — и тогда в подарок исламистам достанется последняя разработка израильского военпрома. А вот если при потере сигнала связи он сможет перейти в автономный режим и стрелять по всем, кто с оружием — это будет очень круто, и не надо будет рисковать жизнями наших ребят.
Но тут меня начинает немного стремать — я не боюсь, что эта штука внезапно станет умной или сознательной, я просто боюсь, что её заглючит. А чем сложнее система, тем реальнее глюк (и я даже не говорю о том, что можно хакнуть эту штуку).
Что-то мне очень стрёмно будет, если у нас в армии будут непобедимые автономные роботы. Потому как если их заглючит и они начнут воевать с нами… Да, это, конечно же, фантастика — но лет 20 назад какой-нибудь Фейсбук или AirBnB были фантастикой, не говоря уже о тесловском автопилоте. Но ведь даже айфоны глючат время от времени. А вот если такой робот-танк с десятком автономных дронов заглючит…
Вот, собственно, мои мысли на эту тему. И что самое интересное — так как нет и не предвидится никакого серьязного обсуждения всей этой истории, по крайней мере в Израиле, мы в ситуации, когда самые важные решения принимаются ВООБЩЕ без нашего ведома, не говоря уже о влиянии на них.
А вы как думаете?
'О взгляде в будущее, или что делать с распознаванием лиц и роботами-убийцами?' Комментариев пока нет
Будьте первым комментатором!