Мошенники стали с помощью ИИ имитировать голоса членов семей своих жертв

В США растёт количество мошенников, выдающих себя за других с помощью ИТ-технологий, которые упростили и удешевили имитацию голоса, помогая убеждать людей, в основном пожилых, что их близкие попали в беду и им срочно требуется финансовая помощь. По данным Федеральной торговой комиссии (FTC), в 2022 году подобные схемы стали вторым по популярности способом вымогательства в США — зарегистрировано 36 000 преступлений, 5 100 из них совершены по телефону, ущерб составил более $11 млн.

Достижения в области искусственного интеллекта добавили новые пугающие возможности, позволяющие злоумышленникам воспроизвести голос с помощью всего лишь аудиосэмпла из нескольких предложений. Множество дешёвых онлайн-инструментов на базе искусственного интеллекта могут преобразовать аудиофайл в копию голоса, позволяя мошеннику заставить его «говорить» то, что он печатает. Преступник выдаёт себя за кого-то, заслуживающего доверия — ребёнка или друга — и убеждает жертву отправить ему деньги. А технология искусственного голоса делает эту уловку более убедительной.

Эксперты говорят, что федеральные регулирующие органы, правоохранители и суды плохо оснащены, чтобы обуздать аферистов. Как правило, практически невозможно идентифицировать преступника, а полиции сложно отследить мошенников, действующих по всему миру. У судов не хватает юридических прецедентов для привлечения компаний, создающих инструменты имитации голоса, к ответственности за их неправомерное использование.

«Это ужасно, — говорит Хани Фарид (Hany Farid), профессор цифровой криминалистики Калифорнийского университета. — Это своего рода идеальный шторм… со всеми ингредиентами, необходимыми для создания хаоса». По словам Фарида, программное обеспечение для генерации голоса с помощью ИИ анализирует и выявляет уникальные признаки голоса, включая возраст, пол и акцент. Для этого достаточно короткого образца аудиозаписи из YouTube, подкаста, рекламного ролика, TikTok, Instagram* или Facebook*. «Два года, даже год назад, нужно было много аудио, чтобы клонировать голос, — отметил Фарид. — Теперь для этого достаточно 30 секунд звучания».

Аналитик FTC Уилл Максон (Will Maxson), отметил, что отслеживание мошенников крайне затруднено, так как звонок может поступать из любой точки мира, что затрудняет даже определение страны юрисдикции. Нужно проявлять бдительность и разумную осторожность. Если любимый человек говорит вам по телефону, что ему нужны деньги, перезвоните ему сами, помните, что входящий номер тоже может быть подменён.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Да разве же в САСШ могут быть мошейники?!
Да не может быть!
"Не верю!"

...это искусственная попытка ограничить использование ИИ которое неожиданно приобрело столь массовый характер... далее на основе таких вбросов будет поднят вопрос об ограничении использования и узаконивание этого момента... нет ничего нового под солнцем!

ripton07 писал(а):

...это искусственная попытка ограничить использование ИИ которое неожиданно приобрело столь массовый характер... далее на основе таких вбросов будет поднят вопрос об ограничении использования и узаконивание этого момента... нет ничего нового под солнцем!

Тем не менее, а что мешает мошенникам реально заюзать эту идею?
Так что да, знать про подобную возможность реально стоит.
Хотя бороться таки лучше с мошенниками, а не с технологиями, тут да.

Одной из причин того, что люди не смогут полностью предотвратить злоупотребление ИИ в мошенничестве, является быстрое развитие технологий. Узнав о существовании такого вида мошенничества, компании могут сразу начать разрабатывать новые методы защиты от него. Однако, злоумышленники также имеют доступ к новейшим технологиям и видам ИИ и могут легко находить способы обойти меры защиты.

Кроме того, социальная инженерия играет ключевую роль в таких случаях мошенничества. Злоумышленники очень хорошо знают как обмануть и убедить свою жертву, что она передаёт деньги своим близким или друзьям. Это создаёт эмоциональную связь между мошенником и жертвой, что делает её более уязвимой и предполагающей, что такая ситуация может произойти.

В целом, развитие технологии ИИ заставляет нас задуматься о том, к каким последствиям это может привести. Однако, при правильном использовании ИИ можно достичь значительных преимуществ в своей жизни и бизнесе. Важно работать над защитой от злоупотреблений и осознавать возможные риски. Этот текст сделан ИИ.

А ларчик-то просто открывается: достаточно провайдерам/операторам установить аппаратуру по запрету подменных номеров и все,никакой ИИ не поможет. Россия и тут обогнала Америку-у нас это уже вводится.Как раз из-за таких вот мошенников.

Американцы это врятли допустят...

ripton07 писал(а):

...это искусственная попытка ограничить использование ИИ которое неожиданно приобрело столь массовый характер... далее на основе таких вбросов будет поднят вопрос об ограничении использования и узаконивание этого момента... нет ничего нового под солнцем!

Вероятнее всего уже скоро будут заставлять нас делать отпечатки оригинальных голосов, чтобы они были в базе полиции точно так же, как и отпечатки пальцев.

дивный новый мир, как говорится, во всей красе.

Давеча один полудурок звонил на домашний, плачущим, заикающимся голосом (переигрывает падла!) начал скулить: "Пап, пап, я... я в аварию попал, я... я в больнице... (всхлип - хлюп)..." - я быстро сориентировался и ответил: "Вот там и оставайся".
До этого еще пигалица звонила, но та вся по банкам, по кредитам, нашёптывает чё то, околдовать хочет , "деловая" женщина одним словом.
Как дураки ей-богу, на кого это рассчитано?)))

-Сынок, а ты кем хочешь стать, когда подрастешь?
-Мошенником!
-Ах тыж бл... сопливая!
[звуки борьбы]

Михаил писал(а):

Да разве же в САСШ могут быть мошейники?! Да не может быть! "Не верю!"

А я ещё больше не верю!
"Паниковский не обязан всему верить, Шура!"

P.S. Частушка выше хорошая, жёстко и по-крестьянски)))

V.A. писал(а):

Как они зае, вот ЗАЕ и всё

черный список - наше всё!)

Михаил писал(а):

V.A. писал(а): Как они зае, вот ЗАЕ и всё черный список - наше всё!)

Черный список, белый список. Если номер подменен на тот, что у тебя в исключениях - это слабо спасает.

ну вот и случилось то, о чём я писал пару недель в комментах к статье об ии клонирующем голоса ) а вы всё параноики, параноики ) нет, не параноики, а умные люди просчитывающие все возможные варианты развития. только глупцы не будут учитывать подобное использование технологий.

Цитата:

В США растёт количество мошенников

Но все плохо по прежнему только в России... Вот жэшь боль

Не дай Бог симитируют голос моего голодного кота для создания шторма и хаоса...

Имитация голоса - это прогресс в области ИТ технологиях.
Но в реальности не все могут это использовать пока.
Украинские ЦИПсОшники давно используют подмену номеров и собирают базы данных из любых источников.
На днях один такой прокололся, разболтал откуда у него данные.
Они используют данные от телефонных сотовых компаний. Это один из вариантов.
Первоначально выполняют прозвонку номеров, проверка на "ответ". А затем в работу.
Шаблоны разводов стандартные, уже хорошо известные.
Очень скучаю, когда долго не звонят. Бывает весело, когда они теряют самообладание.
---
Хорошей охоты.

Прикольно. Однако если человек не дурак то трижды проверит информацию, перед тем как переводить средства!)