Появился новый инструмент, который позволяет мгновенно выявлять дипфейки

[Alisa]

В компании Hiya был представлен Deepfake Voice Detector — бесплатное расширение для Google Chrome, которое позволяет быстро выявлять поддельный аудио- и видеоконтент, предоставляя результаты за считанные секунды, как сообщают «Детали».

Проблема голосового мошенничества и дипфейков в видео становится все более актуальной. Социальные сети предоставляют злоумышленникам обширный материал для клонирования голосов, а специальные программы позволяют им проецировать нужное лицо на себя во время общения в интернете или на видео. Таким образом, мошенники могут вести беседы и двигать головой, скрываясь за чужим цифровым образом, что значительно увеличивает их шансы на успешное прохождение проверки живого пользователя.

Инструмент Deepfake Voice Detector интегрирован непосредственно в браузер, что делает его использование максимально удобным. Журналисты, компании и обычные пользователи, сталкивающиеся с риском дезинформации, могут быстро проверять сомнительный контент. Технология основана на искусственном интеллекте, который анализирует голосовые паттерны и определяет их подлинность с точностью до 99%.

Создатели Deepfake Voice Detector утверждают, что данное приложение эффективно работает с короткими аудиофрагментами, для анализа которых достаточно всего одной секунды звука. Пользователи получают так называемый «индекс подлинности», который варьируется от 0 до 100. Чем ближе значение к нулю, тем выше вероятность того, что аудиофайл является дипфейком.

Это расширение было разработано с учетом потребностей социальных сетей и новостных платформ, где данная проблема особенно актуальна. С его помощью журналисты могут быстро проверять видеоматериалы перед их публикацией, а компании — защищать свои данные от возможных утечек.

Особое внимание уделяется угрозам, связанным с голосовыми дипфейками. Злоумышленники могут использовать поддельные голоса для получения паролей к IT-системам или вымогания конфиденциальной информации. Ущерб от таких атак может быть значительным, а выявление фальсификаций — важным шагом к снижению рисков.

Не вызывает удивления, что мошенники активно применяют генеративный искусственный интеллект в своих схемах. Они всегда проявляли интерес к техническому прогрессу, значительно опережая в этом правоохранительные органы. Основные виды мошенничества остаются неизменными с течением времени.

Сегодня подобные ситуации возникают из-за использования мошенниками генеративного искусственного интеллекта. По данным Федеральной торговой комиссии США, в прошлом году американцы потеряли рекордные 8,8 миллиарда долларов в результате мошенничества, и это лишь те случаи, о которых сообщили пострадавшие.

Особую тревогу вызывает голосовое мошенничество и видео с дипфейками. Социальные сети предоставляют мошенникам обширный материал для клонирования голосов, а специальные программы позволяют им проецировать нужное лицо во время общения в интернете или на видео. Таким образом, мошенники могут вести беседы и двигать головой, скрываясь за чужим цифровым образом, что значительно увеличивает их шансы на успешное обман.

Сложность заключается в том, что большинство людей пока не могут принять тот факт, что нельзя доверять не только электронной почте и текстовым сообщениям, но и знакомому голосу на другом конце провода. Известно, что голос является уникальным идентифицирующим признаком каждого человека. В телефонных разговорах доверие между знакомыми собеседниками устанавливается мгновенно.

Мошенники используют различные методы для обмана людей. К ним относятся звонки пожилым людям, представляясь внуками и прося о срочной финансовой помощи, а также звонки от якобы похищенных детей с требованиями о выкупе. Кроме того, существуют корпоративные мошенничества.

Современные мошенники применяют технологии искусственного интеллекта для клонирования голосов, что позволяет им отправлять фальшивые голосовые сообщения или звонить контактам жертвы, выдавая себя за тех, кто нуждается в помощи. Согласно исследованию McAfee, 70% участников не уверены, что смогут отличить подделку от настоящего голоса, особенно если звонящий представляет собой не самого близкого знакомого.

45% опрошенных признались, что ответили бы на сообщение от друга или родственника, нуждающегося в деньгах, особенно если бы думали, что это их партнер (40%), родитель (31%) или ребенок (20%). Наиболее распространенные причины для просьбы о помощи, по мнению респондентов, связаны с авариями.

Подписывайтесь на

У Вас недостаточно прав для просмотра ссылки. Войдите или зарегистрируйтесь.