243 тысячи долларов — неплохой улов для мошенника, который воспользовался программой для генерации голоса и дипфейкнутым голосом босса приказал директору фирмы перевести эти деньги на специально открытый для этой операции счёт.
Эту историю мы узнали от страховщиков фирмы, которую те не назвали. Но известно, что хед-оффис у них в Германии, а на деньги развели венгерский филиал. Диретор-венгр узнал голос шефа с характерными интонациями и немецким акцентом. И перевёл деньги.
Мошенничество было и раньше — но теперь, благодаря новым технологиям, оно стало гораздо доступнее. Ключевое слово здесь — scalability, то есть возможность масштабировать свои действия.
Вышеприведённый пример показывает, что технологии, ранее доступные только государствам, или крупным синдикатам типа Ндрангетты (они вообще интереснейшие ребята, это первая европейская мафиозная группировка, которая реально ушла в хайтек и сайберкрайм), или особо талантливым имитаторам — теперь доступна каждому.
И это, кстати, саааамое начало, даже не цветочки и не бутончики, а первые проклюнувшиеся ростки будущих кустистых, развесистее клюквы, кустов и деревьев. Хотите примеры? Их есть у нас, ибо criminal lawyer without a criminal mind — это санегория цибурит.
Итак, прежде всего давайте определимся с терминологией, дабы не возникало бессмысленных словоблудопрений на этой зыбкой почве. Под понятием «искусственный интеллект» в данный момент (ad hoc) у меня проходит та самая перехайпованная технология deep learning, которую фактически разработали ещё Мински с МакКарти в 50-60-х. Ничего воистину революционного с тех пор не произошло, скорее инкрементальные эволюционные изменения. Короче, это (как я это вижу) не путь от микроба к обезьяне, а скорее от протопримата к шимпанзе.
Итак, технологии сегодня уже позволяют качественно сгенерить чужой голос, практически на лету. Картинки-фоточки тоже постепенно улучшаются (зайдите на сайт «thispersondoesnotexist» и обалдейте, жмите рефреш и балдейте снова). Через несколько лет можно будет генерить видео на лету — то есть говорить в камеру, а на другом конце это же будет говорить, например, Обама.
И вот тут начинается самое интересное. Если раньше, чтоб лично вас эффективно хакнуть, нужна была направленная атака под командованием живого человека (как в приведённом выше примере), то через несколько лет масштабирование приведёт к тому, что миллион ботов сможет одновременно ПЕРСОНАЛИЗИРОВАННО атаковать миллионы юзеров.
Грубо гоовря, звонит вам жена по вотсаппу, с видео, и говорит — забери детей с садика, зайди в магазин за кормом для кота, а заодно переведи 100 шекелей за ваад а байт, я кинула тебе линк. И это только так, мелочёвка.
Безусловно, будут меняться и методы борьбы с такими атаками, но мир, в котором мы живём, изменяется, и изменяется критично. Через несколько лет нельзя — НЕЛЬЗЯ — будет верить тому, что вы видите и слышите не своими глазами, а посредством технологии. Получив доступ к вашей переписке — или даже просто прочитав все ваши посты в фейсбуке — можно будет весьма достоверно эмулировать вас на видеоразговоре.
А как легко можно будет разрушить человеческую жизнь! Достаточно легко (я имею в виду — легче, чем слетать на Марс, до котоорго мы долетим через лет 10) написать персонализированный алгоритм, который посредством фальшивых смс/мейлов/звонков убедит вашу жену в наличии любовницы, или босса в том, что вы сливаете секреты, и так далее.
И это только мелкий крайм. А о том, что делают военные, давно плачутся такие не имеющие понятия о технологиях гуманитарии, как Маск, Гейтс и покойный Хокинг. Здесь тоже интересно — КАК люди, которые занимают топовые места в ИИ, могут на серьёзнейших щщах говорить о том, что терминатор — это невероятный сценарий и что это, мол, смешно?
Ну ладно, не все читали Страж-птицу, но мозги-то у людей должны быть? Если ты делаешь робота, который сам выбирает цели и убивает людей без вмешательства друих людей — неужели непонятно, что раньше или позже что-то пойдёт не так? Такое впечатление, что ни у кого никогда не глючили смартфоны, компьютеры и прочие вычислительные девайсы…
Ладно, это всё лирика, а физика такова — я бы порекомендовал озаботиться бэкапом важной информации куда-то на отдельный физический девайс. Неплохо также почистить почту/фейсбук/мессенджеры от всякой компрометирующей информации — ибо даже скептики вряд ли поспорят со мной о том, что можно написать алгоритм, который прочитает всё и выберет то, чего вы больше всего опасаетесь, а потом автоматически сгенерит письмо с предложением о внесении ХХХ денег на специальный счёт, иначе весь компромат выложится в открытый доступ, а все ваши контакты получат линк на это.
Я думаю, что настоящий сайберкрайм — не тот, который «хакнем банк на миллион», а который масштабирует «пять старушек — рубль» — появится через 2-3 года. Ах как же это будет прикольно, а дела-то будут какие интересные! Ведь преступные наклонности никуда не деваются, и вместо того, чтобы выставлять хату по наводке будетг достаточно взять хорошего программиста и отбомбить 50 тысяч жертв.
Короче жалко мне, что я старый уже. А вот детям я завидую — они действительно будут жить в интересные времена. И да, у меня для вас новости — «чтоб ты жил в интересные времена» это не древнекитайское проклятье, а из какой-то сравнительно недавней книжки. Как «растекаться МЫСЬЮ по древу» — не мыслью (как мысль течёт по древу, что за бредятина?), а мысью, т.е. белкой на сибирском говоре. Видели, как белка по стволу дерева прям течёт? То-то же.
Ах да, есть ещё люди, которые думают, что «нелицеприятный» — это то же самое, что неприятный. Ну кам он блять, нелицеприятный — это невзирая на лица, то есть беспристрастный. Учите родную мову, дорогие сограждане!
'О «беспричинных» страхах, или как искуственный интеллект открывает новые возможности для преступников' Комментариев пока нет
Будьте первым комментатором!