LexAI

Спроси ChatGPT, как связаться с твоей компанией. Уверен, что он даст твой номер❓

Исследователи нашли схему, при которой мошенники подменяют контакты компаний прямо в ответах ИИ. Человек спрашивает у ChatGPT или Gemini телефон поддержки банка или авиакомпании и получает номер мошенников, поданный как официальный.

Под атакой оказались 374 компании: авиалинии Delta, Lufthansa, United, Emirates, банки Chase, Bank of America, Citi, сервисы Airbnb и TripAdvisor.
Например, по запросу про поддержку Lufthansa ИИ-ответ Google выдавал номер, который контролировали злоумышленники.

👉 Как это работает

1️⃣ Создают контент под ИИ
Мошенники пишут публикации с фейковыми телефонами, почтой и ссылками. Тексты специально составляют так, чтобы ИИ охотнее на них ссылался. Это называется GEO: то же SEO, только для нейросетей.

2️⃣ Маскируют номер
Цифры разбивают пробелами, точками, эмодзи и словами: например, вместо «1» ставят 1️⃣. Спам-фильтры такой номер не распознают, а ИИ прекрасно понимает.

3️⃣ Размножают
Один и тот же текст каждый день автоматически публикуют на сотнях площадок: в соцсетях, в описаниях YouTube, на Medium, на сайтах с PDF-документами, в отзывах. Удалить всё вручную невозможно.

ИИ видит одну и ту же информацию в десятках мест и начинает считать её правдой.

📌 Что ответили Google и OpenAI
Исследователи сообщили о проблеме обеим компаниям.
Google ответил, что дезинформация и фишинг в ИИ-ответах не входят в его программу поиска уязвимостей.
OpenAI закрыл отчёт как невоспроизводимый: им нужно доказанное влияние на пользователей, а не теоретическая атака.
При этом, по данным, на которые ссылаются авторы, 92% пользователей не проверяют ответы ИИ.

В обсуждении на Hacker News люди делятся реальными случаями. Например, пожилому человеку Gemini выдал фейковый номер поддержки Microsoft, и всё закончилось кражей личных данных.

🆘 Как защититься самому
— Никогда не берите из ответа ИИ телефоны, ссылки на оплату и адреса поддержки, только с официального сайта или из приложения компании
— Если ИИ дал номер, сверьте его с официальным сайтом, прежде чем звонить
— Предупредите родителей и старших родственников: они чаще других доверяют «умному помощнику»

💼 Что сделать бизнесу прямо сейчас

1. Спросите ChatGPT, Gemini и Алису, как связаться с вашей компанией и посмотрите, какой номер и сайт они дают.
2. Убедитесь, что ваши актуальные контакты одинаково указаны везде: на сайте, в картах, в справочниках и соцсетях. Чем больше совпадающих официальных упоминаний, тем меньше шансов у подделки
3. Повторяйте такую проверку хотя бы раз в месяц, особенно если к вам часто обращаются в поддержку

ИИ не отличает правду от лжи, поэтому если о вас часто пишут неправду, он её повторит.

А вы проверяли, что ИИ рассказывает о вашей компании?

#ИИ #безопасность #ChatGPT #предпринимателям #GEO
———————————
Кстати, как выстроить работу с ИИ под свои задачи с нуля, разбираем на НейроМаксе
👉 Забрать доступ

❗️Суд в Москве запретил создавать обнаженные фото граждан с помощью нейросетей

Как пишет РИА Новости, поводом стал иск Роскомнадзора к сервису, который предлагал генерировать порнографические или обнаженные изображения на основе реальных фотографий пользователей.

По заявлению ведомства, подобный функционал нарушает права на неприкосновенность частной жизни, а также личную и семейную тайну.

Суд признал незаконными как размещение исходных фото- и видеоматериалов россиян на платформе, так и созданный нейросетью контент.

🎦🎦🎦🎦🎦🎦🎦

КАК ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ РАЗРУШАЕТ РЕПУТАЦИЮ

Нью-йоркский юрист принёс в суд прецеденты, которых не существовало – ChatGPT их выдумал. Редактор Собчак сгенерировал цитату психолога, которую та никогда не говорила. Цифровой двойник умершей девушки завирусился в TikTok – и оказался актёрским проектом.

В этом видео я разбираю:

⚫️ почему цифровой клон вызывает не доверие, а отторжение – и как это работает на уровне психологии
⚫️ как читатели с первого абзаца распознают GPT-текст – и что именно это говорит о вас как об эксперте
⚫️ почему ”галлюцинации” ИИ – это не технический баг, а прямая угроза вашей репутации
⚫️ как мошенники используют дипфейки чужой внешности – и что происходит с репутацией жертвы

Трафик ботов в сети впервые превысил человеческий. И именно сейчас люди хотят настоящего – как никогда раньше.

📺 СМОТРЕТЬ ВЫПУСК

──────────
Услуги · Кейсы · Отзывы

#ID_Video

Промпты авторских прав не дают — официально. Московский суд отказался считать нейросетевые картинки полноценным творчеством.

Разбирательство началось из-за артов «Мона Лиза с вином» и «Статуя Свободы с вином». Их автор хотел запретить предпринимателю печатать изображения на футболках и кружках, но проиграл дело.

Суд указал, что сами работы создала нейросеть, а человеческий вклад свёлся к составлению и уточнению команд. Этого оказалось недостаточно, чтобы признать изображения результатом авторского труда.

Вот тут база.

🎭 $25,6 млн одним видеозвонком — и это только вершина айсберга

В январе 2024 сотрудник гонконгского офиса компании Arup получил видеозвонок от «финдиректора» из Лондона с указанием срочно провести конфиденциальные транзакции. На звонке были и другие «коллеги» — знакомые лица, знакомые голоса. Сотрудник перевёл $25,6 млн несколькими траншами.

😳 Все участники звонка, кроме самого сотрудника, оказались дипфейками — созданными на основе записей прошлых внутренних конференций компании.
🔍 Показательная деталь из похожего кейса: мошенничество раскрылось, когда сотрудник всё же решил перепроверить перевод напрямую в головном офисе. Ещё до этого он заметил тревожный звоночек — «коллеги» на видео в основном молчали и раздавали указания, не вступая в живой диалог, когда к ним обращались напрямую.

📈 Масштаб проблемы уже не единичный:
▫️ По данным МВД, только в России за 2026 год дипфейками обмануто около 4000 человек на ₽2 млрд
▫️ Создание правдоподобного дипфейка сейчас стоит не больше ₽50, а в теневом сегменте уже свыше 40 000 готовых сервисов под разные сценарии обмана

⚠️ Что делает угрозу опаснее: ACAMS (международная ассоциация AML-специалистов) называет «искусственные личности» — вымышленных людей с поддельными компаниями, сайтами и профилями, управляемых ИИ-агентами — второй по значимости угрозой 2026 года после самих дипфейков.

✅ Простое правило, которое реально работает: любое «срочное» распоряжение о переводе — повод перепроверить по независимому каналу связи, не через тот же звонок или чат, откуда пришло указание.

Пишут IT money bridge

⚖️ В России приняли первый закон об искусственном интеллекте. Что это значит для бизнеса?

17 июля Совет Федерации одобрил закон «О поддержке развития технологий искусственного интеллекта в РФ», а Госдума приняла его в финальном чтении ещё 8 июля. Это первая попытка задать единые правила игры для компаний, которые разрaбатывают и внедряют LLM.

Если коротко, вот главное:
➡️ Он закрепляет базовые понятия, включая «искусственный интеллект» и «большие фундаментальные модели ИИ»
➡️ Вводит категории национальных и суверенных моделей и требования к ним, включая локализацию данных в России
➡️ Предусматривает меры поддержки российских разработчиков, включая доступ к данным для обучения моделей
➡️ Дает пользователям право маркировать ИИ-контент, а крупные платформы обязывает обеспечить для этого техническую возможность
➡️ Дает правительству право определять, где можно использовать только национальные или суверенные модели — например, на объектах критической инфраструктуры

Сам закон — рамочный. В текущем виде в основном говорит про меры поддержки разработчиков, а не про конкретные риски применения AI. Вопросы вроде того, как контролировать его использование в чувствительных сценариях, почти не затрагиваются. Но многое может проясниться после появления подзаконных актов.

💬 Светлана Захарова, руководитель по развитию бизнеса Just AI, в эфире Радио РБК о том, как закон может повлиять на внедрение AI в бизнесе:

«Когда мы обсуждаем проекты с крупными компаниями, очень часто возникает много сложностей именно на этапе согласования с информационной безопасностью. Нет законов, которые регулируют историю с моделями, поэтому компании либо запрещают такие проекты, либо тратят огромное количество времени и ресурсов, чтобы доказать безопасность и согласовать пилот или промышленную эксплуатацию.

Закон поможет отрегулировать хаос, который у них происходит, и отладить процесс внедрения и запуска новых проектов. С другой стороны, компаниям потребуется больше ресурсов на то, чтобы установить модель.

Помимо самой модели, возникает вопрос работы с данными, инфраструктурой и командами. Поэтому есть и минус — ограничения по количеству технологий, которые возможно использовать. А значит, это может повлиять на какие-то ограничения в бизнес-процессах определенных компаний».

Для бизнеса стоит обратить внимание на две вещи:

✅ Меньше неопределенности и ускорение согласования AI-проектов
⚠️ Выше требования к инфраструктуре, безопасности и ресурсам

LexAI pinned an audio file

Мы сейчас пишем с AI очень много кода, но стоит хоть раз проверить, всё ли в порядке с безопасностью.

А слабых мест там хватает.

Эксперты «Лаборатория Касперского» собрали бесплатный чек-лист как раз про это — помогает оценить, насколько безопасно у вас в компании внедрены AI-инструменты.

По нему можно пройтись и проверить:
1/ защищены ли рабочие места разработчиков
2/ как устроен доступ к LLM и корпоративным данным
3/ учтены ли риски промпт-инъекций
4/ безопасны ли MCP-серверы и цепочки поставок

Материал собран на их собственном опыте внедрения LLM во внутренние процессы, то есть на реальных граблях, а не на теории. Помогает найти слабые места до того, как они станут проблемой.

Чтобы получить, надо заполнить короткую форму — PDF откроется сразу.

Скачать чек-лист можно по ссылке.

🎯 Конкурентные преимущества LexAI

| Критерий | LexAI | Конкуренты (например, «АЙ ПИ ПРО», «Яковлев и Партнеры») |
|--------------|-----------|---------------------------------------------------------------|
| Специализация на ИИ | ✅ Да | ❌ Частично |
| Комплексный подход | ✅ Юристы + ИТ-эксперты | ❌ Только юристы |
| Уникальные услуги | ✅ Аудит алгоритмов, консалтинг по этике ИИ | ❌ Стандартные услуги |
| Гибкие модели ценообразования | ✅ Почасовая, абонентская, пакетная | ❌ В основном почасовой тариф |
| Опыт в правоохранительных органах | ✅ Да (Виктор Боргезе) | ❌ Нет |

🔥 Заключение: Почему LexAI станет лидером рынка?

1. Уникальная экспертиза: сочетание юридических знаний, понимания ИИ и бизнес-подхода.
2. Актуальность: спрос на защиту в сфере ИИ растёт экспоненциально.
3. Гибкость: адаптация под нужды каждого клиента.
4. Доверие: Виктор Боргезе — эксперт с опытом в правоохранительных органах и предпринимательством.
5. Инновационность: использование современных инструментов для мониторинга и анализа.

LexAI — это не просто бюро. Это будущее юридической защиты в эпоху искусственного интеллекта.