Мошенники стали с помощью ИИ имитировать голоса членов семей своих жертв

В США растёт количество мошенников, выдающих себя за других с помощью ИТ-технологий, которые упростили и удешевили имитацию голоса, помогая убеждать людей, в основном пожилых, что их близкие попали в беду и им срочно требуется финансовая помощь. По данным Федеральной торговой комиссии (FTC), в 2022 году подобные схемы стали вторым по популярности способом вымогательства в США — зарегистрировано 36 000 преступлений, 5 100 из них совершены по телефону, ущерб составил более $11 млн.

Достижения в области искусственного интеллекта добавили новые пугающие возможности, позволяющие злоумышленникам воспроизвести голос с помощью всего лишь аудиосэмпла из нескольких предложений. Множество дешёвых онлайн-инструментов на базе искусственного интеллекта могут преобразовать аудиофайл в копию голоса, позволяя мошеннику заставить его «говорить» то, что он печатает. Преступник выдаёт себя за кого-то, заслуживающего доверия — ребёнка или друга — и убеждает жертву отправить ему деньги. А технология искусственного голоса делает эту уловку более убедительной.

Эксперты говорят, что федеральные регулирующие органы, правоохранители и суды плохо оснащены, чтобы обуздать аферистов. Как правило, практически невозможно идентифицировать преступника, а полиции сложно отследить мошенников, действующих по всему миру. У судов не хватает юридических прецедентов для привлечения компаний, создающих инструменты имитации голоса, к ответственности за их неправомерное использование.

«Это ужасно, — говорит Хани Фарид (Hany Farid), профессор цифровой криминалистики Калифорнийского университета. — Это своего рода идеальный шторм… со всеми ингредиентами, необходимыми для создания хаоса». По словам Фарида, программное обеспечение для генерации голоса с помощью ИИ анализирует и выявляет уникальные признаки голоса, включая возраст, пол и акцент. Для этого достаточно короткого образца аудиозаписи из YouTube, подкаста, рекламного ролика, TikTok, Instagram* или Facebook*. «Два года, даже год назад, нужно было много аудио, чтобы клонировать голос, — отметил Фарид. — Теперь для этого достаточно 30 секунд звучания».

Аналитик FTC Уилл Максон (Will Maxson), отметил, что отслеживание мошенников крайне затруднено, так как звонок может поступать из любой точки мира, что затрудняет даже определение страны юрисдикции. Нужно проявлять бдительность и разумную осторожность. Если любимый человек говорит вам по телефону, что ему нужны деньги, перезвоните ему сами, помните, что входящий номер тоже может быть подменён.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

тол04 писал(а):

похоже на тупой пиар. кагдато пиарили 3д, потом квантовые компьютеры, теперь вот ии.

Некогда объяснять. Не сомневайся. Инвестируй.

А ИИ манеру тупить тоже может с эмитировать?

Бизнесьмены, тудыть их в качель.

Ой! Прикольно. Скоро и попсу на сценах заменит (подменит) ИИ.

Это не страшно, а вот когда они все данные соберут... и на контрольный вопрос "Сынок а скажи что говорит мама когда я в раковину писаю " система даст правильный ответ . тогда всё

Всё это рассчитано на то, что если один из ста поведётся на развод, (кто-то поведётся обязательно), то афера себя на этом отобьёт.

сейчас практически каждый день нонеймы звонят если не лень снимаю трубку спрашиваю -чё надо? ( вместо алло и да) сразу бросают трубку

egd@n писал(а):

Имитация голоса - это прогресс в области ИТ технологиях. Но в реальности не все могут это использовать пока. Украинские ЦИПсОшники давно используют подмену номеров и собирают базы данных из любых источников. На днях один такой прокололся, разболтал откуда у него данные. Они используют данные от телефонных сотовых компаний. Это один из вариантов. Первоначально выполняют прозвонку номеров, проверка на "ответ". А затем в работу. Шаблоны разводов стандартные, уже хорошо известные. Очень скучаю, когда долго не звонят. Бывает весело, когда они теряют самообладание. --- Хорошей охоты.

Вам что люди звонят? Для тех кто не в теме когда вам звонят и сбрасывают или молчат в трубку, звонит не человек а робот который проверяет актуальность номеров. Так сверяют базы. А затем уже по ним работают люди. Но как уже ранее писал ИИ прекрасно справляется с такими задачами. Многие операторы уже используют к примеру теле 2 при необходимости смены тарифа абонента. Обыватель ничего никогда не поймет, люди разбирающиеся возьмут на заметку.А те кто это разрабатывает это огромное количество людей со всего мира будут и дальше помогать захватывать микроволновкам мир.

Пора для всей семьи придумать СТОП слово )

Технология Deepfake навсегда изменила Интернет и этот процесс продолжается.

В мире, где видеть - это уже не означает верить, становится понятно, что общество должно использовать многосторонний подход для борьбы с потенциальным вредом компьютерных СМИ.

Искусственный интеллект может манипулировать лицами и голосами, чтобы создать впечатление, что кто-то сказал то, чего никогда не говорил. В результате получаются видеозаписи того, чего никогда не было, называемые «глубокими подделками» - deepfake. Часто они выглядят настолько реальными, что люди, наблюдающие за ними, не могут этого понять.

Мнение:

«Мы живем в такое время, когда становится почти невозможно определить, что реально, а что нет. Ежедневная молитва о проницательности не только важна, но и жизненно

Обман беззащитных, включая стариков, надо приравнять к особо тяжким преступлениям.

"-Как зовут собаку?
-Макс.
-Джанелл, что там с Вулфи? Я слышу, как он лает, он в порядке?.."
Все решаемо.

не то чтобы подобное удивляет.
Понятное дело, все технологии подобного рода будут в основном использоваться либо специалистами для работы, либо мошенниками.
Простым обывателям они не особенно интересны, да и не для них такие вещи придумывают.

Аборигены племени Корубо и племени Пирахадо не забывали о существовании ИИ, но и не вспоминали о нём... их волновали иные проблемы бытия...