Вчера, кроме Персеид, которые я так и не увидел (спасибо тебе, питерская погода) и американских буйных со статуей, новости оккупировал Илон Маск, вслед за именем которого моя SwiftKey клавиатура предлагает «биполярно».
Новостей от Маска сразу две. Во-первых, искусственный интеллект из его OpenAI выиграл у сильнейшего в мире игрока в Dota 2 (чтоб я так ещё и знал, что это за игрушка), а во-вторых, Маск твитнул, что искусственный интеллект опаснее Северной Кореи. Твиты Маска по популярности и реакции на них соревнуются с твитами Трампа, поэтому каждый уважающий себя сайт о технологии сразу же забацал на эту тему статью.
Больше всего мне понравилась статья в Venturebeat, где журналист задавался вопросами — какие, собственно, риски несёт в себе искусственный интеллект и как, собственно, его регулировать? И что именно регулировать? Микрософт ворд? Холодильник с интернетом или ботов в игрушках?
Статья мне очень понравилась, потому что это была первая статья с разумной критикой Маска — в отличие от обычного «он ничего не понимает» и «что за чушь». Я бы вообще поостерёгся называть чушью то, что говорит Маск. Ещё на моей памяти ему предрекали банкротства (plural), машины не будут ездить, а ракеты никуда не полетят, а если полетят — то не сядут назад, а если сядут — то не взлетят повторно, и так далее. Не, Илон — мужик, сказал — сделал.
Кстати, в рамках либеральной истерии, не пришла ли пора искоренить из русского языка слово «мужество», которое связывает личные качества с мужским гендером, что явно обижает женщин, являясь патриархальной опрессией и интернализированной мизогинией?
Так вот, я тоже задаюсь вопросом — какая же опасность может исходить от искусственного интеллекта? Кроме, например, страж-птицы, о которой Шекли писал? И тут на прекрасном сайте Nevo, который надо ежедневно читать всем адвокатам и тем, кто зачем-то собирается им стать, я вижу приговор мошеннику по имени Гиль Маатук Лави — вот так, полное имя, страна должна знать своих героев.
Гиль работал в мусахе — автосервисе, хотя это слово ещё переводят как гараж. Помню, ещё во времена ЖЖ я написал в комментарии к какому-то посту в мотосообществе, что в моём гараже стоят два редких суперспорта Хонды, имея в виду свой автосервис (мотосервис?), а не понты личного гаража, и очень удивился неожиданной реакции участников 😊
Так вот, Гиль был механик в Беэр Шеве, он там машины починял. А параллельно он разводил клиентов на бабло, и наразводил на 1,892,771 шекель. Как всегда, работа на доверие и жадность — он предлагал знакомым комбину с тендером на машину, причём самой любимой его машиной был джип Тойота.
Предложение поучаствовать в заранее выигрышном тендере, где можно купить джип очччень задёшево, не оставляло равнодушными фраеров из пустынной столицы, и они послушно несли ему в клювиках десятки тысяч шекелей, которые Гиль азартно просаживал в подпольных казино.
Суд признал Гиля виновным в 13 эпизодах, все похожи один на другой, как счастливые семьи по убеждению Толстого (кстати, не встречал более распространённого заблуждения — я знаю счастливые семьи однополые, многодетные, свингеров, чайлдфри, полигамные и какие только не).
Лохи несли Гилю бабло, он их динамил годами, обещал вот-вот пригнать машину, приносил документы от адвоката Амира Либермана (не существующего в природе) и даже попросил сестру представиться его секретаршей, чтобы люди знали, что всё надёжно. И в конце концов получил семь лет.
Мне было очень интересно, что же мог сказать адвокат (не несуществующий Амир, а вполне реальный Лиор из южной санегории цибурит) в защиту этой мразоты. Вкратце — обычное нытьё о трудном детстве, смерти папы и болезни — посадке на игру. Ну и прекрасное «ведь он не последние деньги у людей забирал». По-моему, 7 лет — это прекрасно для такого гаврика, теперь будет лохов по телефону из тюрьмы разводить (хотите поспорить?).
Каким же образом два этих совершенно разных человека — самый крутой visionary современности и мерзотный мошенник из мусаха — оказались в одном посте? Потому что, прочитав этот приговор, я понял одну из конкретных опасностей искусственного интеллекта.
Представьте себе самообучающуюся программу, задача которой — извлечь из определённого рынка максимум прибыли. И, скажем, программа эта настолько хороша, что её (и решения от конкурентов) используют крупные финансовые игроки. И в какой-то момент она не начинает войну, чего боится Маск (вложиться в оборонку, зашортить потребление и начать войну => профит!), а просто начинает надувать людей.
Такая программа может легко спровоцировать кризис, рядом с которым пузырь сабпрайма будет лёгким недоразумением. Контроль? Как контролировать то, что ты не понимаешь, этакий блэк бокс, который зато приносит фирме денег в десять раз больше, чем любой самый талантливый коллектив аналитиков?
Это всего лишь один из вполне возможных вариантов того, как искусственный интеллект может, например, лишить вас всех накоплений, отложенных за всю жизнь. И это как раз вполне реально уже в районе лет 5-10. Сегодня он выиграл в Доту, а завтра на бирже. А что у него там внутри — мы не знаем и не можем знать. Чорный ящичек Пандоры.
Как-то я говорил в гостях у ветерана Долины в Сан Франциско о том, почему же инопланетяне так и не прилетели к нам. И он сказал то же, о чём я всё время думаю — каждая цивилизация в определённый момент времени достигает уровня развития, когда ценой ошибки может стать её существование. И ни одна этот уровень не проходит.
Ну а пока мы ещё живы, мораль у меня такая — остерегайтесь людей, подсаженных на азартные игры. Они как героиновые наркоманы — им нельзя доверять и они разрушают всех, кто с ними рядом.
'О регуляции искусственного интеллекта, или о бедном пройдохе замолвите слово' Комментариев пока нет
Будьте первым комментатором!