Мошенничество с нейросетями охватило новые схемы — чат-боты, дипфейки и фишинг.

На eBay продавали фейковые откровенные фото знаменитостей — Тейлор Свифт, Кэти Перри и других.

Обман приобрёл массовый характер

мошенничество с использованием нейросетей вышло за рамки отдельных инцидентов и стало системным — теперь используются не только поддельные фото, но и чат-боты для сбора данных.

Особую тревогу вызывает применение дипфейков: фишинговые сайты имитируют официальные сервисы Госуслуги, вводя пользователей в заблуждение относительно подлинности документов.

Примером масштабного обмана стало мошенничество на eBay, где фейковые откровенные фото знаменитостей продавались как реальные — факт, зафиксированный ещё до 2023 года и повторённый в новых схемах этого года.

Аферисты используют дипфейки, чтобы выманивать деньги у граждан. Они крадут фотографии и видео из соцсетей…neiro.unisender.com

Такие схемы не просто нарушают доверие — они подрывают саму основу цифровой безопасности, превращая технологии из инструмента защиты в средство обмана.

Как нейросети «обманывают» без правил

Механизм создания дипфейков строится на подборе и синтезе данных из открытых источников — фото, видео или аудиозаписи доступны в интернете. Нейросеть обучается имитировать голос директора компании по его публичным выступлениям.

Для фишинга достаточно нескольких кадров человека с телефона: нейросети используют их как основу для создания убедительных подделок, которые невозможно отличить от оригинала без экспертного анализа. Такие технологии не требуют этических рамок — они работают по принципу «чем больше данных, тем точнее результат».

В результате система безопасности теряет ориентацию: если нельзя отличить подделку от подлинника, доверие к цифровой среде рушится. Это создаёт условия для масштабных мошенничеств без дополнительных усилий со стороны злоумышленников — достаточно одного примера.

Кейс из Нижнего Новгорода: $35 млн в секунду

В Нижнем Новгороде бухгалтер перевела наличные «директору» по телефону, которого не существовало. Это — классический пример голосового дипфейки.

Мошенники используют нейросети для создания убедительных подделок голоса: достаточно нескольких кадров человека с телефона. Поддельный директор звучал абсолютно как настоящий сотрудник компании.

  • Бухгалтер поверила "рукопожатию" и интонации — всё выглядело достоверно, даже для опытного работника.
  • Через несколько минут деньги исчезли из сейфа компании.

Такой сценарий возможен без этических правил: нейросеть не спрашивает, законны ли данные. Она просто обрабатывает — и создаёт голос с точностью до миллисекунды задержки между словами.

В отличие от других технологий, здесь нет необходимости в сложных сценариях или дополнительных действиях со стороны злоумышленников. Достаточно одного звонка — и доверие обмануто за секунды.

Фейки знаменитостей — не шутка для eBay

До 2023 года на eBay продавались фальшивые откровенные фото Тейлор Свифт и Кэти Перри. Эти изображения создавались с использованием нейросетей, но выглядели настолько достоверно, что покупателям казалось — они настоящие.

Видео Леонардо ДиКаприо на Красной площади в 21 год распространилось через TikTok без его согласия и участия. Оно было сгенерировано нейросетью по открытому видео из интернета, но сопровождалось русским переводом — будто снято специально для российского пользователя.

  • Фейки знаменитостей могут использоваться для вымогательства денег у поклонников.
  • Распространение таких материалов без согласия нарушает законы многих стран, включая Россию.
  • Такие инциденты усиливают недоверие к цифровым платформам и ИИ — даже если технологии не виновны напрямую.

Банк России уже предупредил граждан о рисках дипфейков: мошенники крадут фото из соцсетей, чтобы выманивать деньги. Это означает, что проблема признана на уровне регулятора — и без этических правил нейросети не остановятся.

Если система будет использовать только технические возможности ИИ — она продолжит создавать фейки под видом «реальности». Только внешнее регулирование способно остановить такие сценарии. Иначе каждый новый фейк станет ещё одним шагом к цифровому мошенничеству без вины со стороны технологии.

Выяснилось — не готов». (Борис Эльдагсен)neiro.unisender.com

Когда нейросеть не должна получать награду

На Sony World Photography Awards победу одержал снимок, созданный с помощью искусственного интеллекта. Это стало первым подтвержденным случаем признания работы ИИ на престижном международном конкурсе.

Он подчеркнул, что отправил фото как тест — чтобы проверить соответствие правил о происхождении работ в условиях цифровой реальности.

Это событие стало символом разрыва между технологической возможностью и этической зрелостью институтов: если технология способна создавать произведения искусства без человеческого участия, то система оценки должна адаптироваться к новому уровню творчества — или отказаться от признания таких результатов как "реальных".

Случай с Эльдагсеном не уникален — он лишь наиболее громкий пример системного сбоя в восприятии ИИ. Если технологии могут создавать контенты, которые невозможно отличить от человеческих, то критерии оценки должны меняться: иначе любое признание будет означать одобрение обмана.

Вместо поиска «человеческого следа» нужно переопределить саму цель искусства и экспертизы — не в идентичности автора, а в ценности идеи. Иначе каждый новый фейк станет шагом к цифровому мошенничеству без вины со стороны технологии.

Выяснилось — не готов».neiro.unisender.com

Что в итоге

Практика последних лет говорит о том, что без этических рамок нейросети сами по себе не могут быть честными — они лишь копируют доступные данные. Это означает: технологии нужно обучать на принципах прозрачности и ответственности с самого начала разработки.

Для граждан это меняет правила безопасности в цифровом пространстве — теперь нельзя полагаться даже на голос, фото или видео как достоверную идентификацию без дополнительной верификации. Для бизнеса рост числа фейк-атак требует новых систем защиты: от биометрических проверок до анализа поведения пользователя.

Для индустрии искусственного интеллекта это сигнал к пересмотру подходов — технологии, создающие реальные угрозы, не могут оставаться без контроля. Будущее должно строиться на принципах «честного ИИ», когда система обязана раскрывать своё происхождение и границы применимости.

Дальше будет только сложнее: если нейросети используют для обмана — завтра они могут использоваться как оружие дезинформации. Но пока общество не установит чёткие правила, эти технологии будут продолжать работать против доверия к информации в целом.