Google обучила Gemma искать мошенничество в переписке на телефоне

Google DeepMind и сингапурское агентство GovTech представили модель для локального анализа подозрительных разговоров. Её дообучили на местных мошеннических схемах, включая переписки от имени банков и государственных организаций.

Проверка проходит в два этапа. Сначала лёгкий классификатор просматривает входящие сообщения. Подозрительные случаи передаются Gemma, которая анализирует более широкий фрагмент разговора и решает, есть ли признаки манипуляции. Такой порядок нужен, чтобы экономить заряд смартфона.

Если модель обнаруживает угрозу, на устройстве появляется предупреждение: стоит остановиться, прежде чем отправлять деньги или чувствительные данные. Это позволяет учитывать обман, который мошенник разворачивает за несколько реплик.

По описанию разработчиков, анализ выполняется на самом телефоне, без отправки переписки на сервер для проверки. Для дообучения использовали обезличенные данные из сообщений о мошенничестве и профильных сводок.

Модель рассчитана на встраивание в мессенджеры и операционные системы. Архитектуру двухэтапной проверки и работу с локальными схемами обмана описывает официальный анонс DeepMind.

━━━━━━━━━━━━━━━━━━━━
📢 AI❤️4Life — канал об искусственном интеллекте
🤖 SyntxAI — все самые нужные нейросети в одном сервисе
🔒 MaxVpn — Удобный и быстрый VPN
🧠 Google AI Pro — подписка на личный Google-аккаунт на 18 месяцев за 990₽
━━━━━━━━━━━━━━━━━━━━
👑 Авторский курс по созданию персональных ИИ-агентов

#ai #security #news