OpenAI раскрыла мошенническую сеть, использовавшую ChatGPT для криптовалютного мошенничества

OpenAI выявила крупную мошенническую сеть, использовавшую ChatGPT

Компания OpenAI сообщила о ликвидации масштабной мошеннической сети, связанной с Камбоджей. По данным компании, злоумышленники применяли возможности ChatGPT для автоматизации различных этапов интернет-мошенничества — от создания убедительных легенд до разработки поддельных криптовалютных сервисов.

После внутреннего расследования OpenAI заблокировала связанные аккаунты и передала собранные материалы правоохранительным органам для дальнейшего разбирательства.

ChatGPT использовали для создания фейковых личностей

Одной из основных задач злоумышленников было создание правдоподобных цифровых персонажей.

С помощью искусственного интеллекта они генерировали:

• вымышленные биографии;
• переписки в мессенджерах;
• легенды для знакомств;
• поддельные документы;
• сценарии общения с потенциальными жертвами.

Это позволяло мошенникам значительно ускорить подготовку схем социальной инженерии и сделать их более убедительными.

Жертв заманивали в фиктивные криптоинвестиции

Одной из наиболее распространенных схем стали романтические знакомства с последующим предложением вложить деньги в «выгодные инвестиции».

После установления доверительных отношений жертв убеждали инвестировать средства в якобы прибыльные проекты, связанные с:

• криптовалютами;
• золотом;
• цифровыми инвестиционными платформами.

Подобная схема известна как pig butchering scam — длительное выстраивание доверия перед хищением средств.

Мошенники выдавали себя за сотрудников онлайн-казино

Помимо инвестиционного мошенничества, преступники использовали ChatGPT для подготовки сообщений от имени сотрудников онлайн-казино.

Пользователям обещали:

• эксклюзивные бонусы;
• специальные акции;
• крупные выигрыши;
• выгодные предложения для новых клиентов.

Подобные сообщения использовались для вовлечения жертв в дальнейшие мошеннические схемы.

Создавались поддельные интерфейсы криптотрейдинга

Расследование OpenAI также показало, что злоумышленники использовали ИИ для создания интерфейсов фиктивных криптовалютных платформ.

Такие страницы визуально напоминали настоящие сервисы для торговли цифровыми активами и демонстрировали:

• фиктивный рост прибыли;
• ложные балансы;
• несуществующие сделки;
• поддельную торговую активность.

Цель подобных интерфейсов — убедить пользователей в успешности инвестиций и мотивировать их переводить новые средства.

Использовались схемы с поддельными штрафами

Еще одним направлением мошенничества стали сообщения от имени правоохранительных органов.

Жертвам направлялись уведомления о якобы выявленных нарушениях закона с требованием срочно оплатить штраф или иную задолженность.

Для повышения достоверности преступники использовали созданные ИИ документы и тщательно подготовленные тексты.

OpenAI обнаружила признаки торговли людьми

Во время расследования специалисты компании выявили дополнительные признаки возможной связи преступной сети с более серьезной организованной преступностью.

По данным OpenAI, в материалах фигурировали элементы, которые могут указывать на:

• торговлю людьми;
• принудительный труд;
• деятельность организованных мошеннических центров.

Эти сведения также были переданы компетентным органам.

OpenAI усиливает борьбу со злоупотреблением ИИ

В компании подчеркнули, что использование искусственного интеллекта для мошенничества нарушает правила платформы.

Все обнаруженные аккаунты были заблокированы, а результаты расследования направлены в правоохранительные органы.

OpenAI продолжает совершенствовать механизмы выявления злоупотреблений, чтобы предотвращать использование ИИ в преступных целях.

Что это означает для индустрии ИИ

Этот случай показывает, что современные генеративные модели могут использоваться не только для создания полезных сервисов, но и как инструмент масштабирования мошеннических операций.

Поэтому разработчики ИИ все активнее инвестируют в системы обнаружения подозрительной активности, ограничения использования сервисов и сотрудничество с правоохранительными органами.

По мере развития искусственного интеллекта борьба с подобными злоупотреблениями становится одной из ключевых задач для всей отрасли.

Daria_Media

Занимаюсь развитием контента Affelist: публикую новости индустрии, добавляю актуальные события и конференции, обновляю разделы с компаниями и специалистами CPA-рынка. Слежу за главными изменениями в affiliate-маркетинге, чтобы пользователи всегда имели доступ к свежей и полезной информации.