Google DeepMind and Singapore Government announce new AI tool to protect citizens against scams
Google DeepMind · 14 oct, 04:00
Google DeepMind y GovTech (agencia de tecnología del gobierno de Singapur) han desarrollado un modelo de IA ligero para detectar estafas en dispositivos móviles sin comprometer la privacidad. El modelo Gemma ha sido ajustado con conversaciones de estafas locales y procesa los datos en el dispositivo mediante un pipeline de dos etapas, activando alertas en tiempo real cuando detecta patrones manipuladores en mensajes.
Las estafas representan más del 50% de los delitos reportados en Singapur y han causado pérdidas superiores a 4 mil millones de dólares singapurenses desde 2019. El modelo ligero de Google DeepMind fue ajustado específicamente con conversaciones de estafas locales que incluyen suplantaciones de instituciones públicas, bancos y figuras locales, así como esquemas regionales actuales.
La solución emplea un procesamiento en el dispositivo (on-device) en lugar de análisis en servidores en la nube, lo que permite proteger usuarios de plataformas de mensajería con cifrado de extremo a extremo sin acceso a sus conversaciones privadas. El sistema utiliza un pipeline de dos etapas: un clasificador ligero que analiza mensajes entrantes con mínimo consumo de batería, seguido de una evaluación contextual con el modelo Gemma ajustado para confirmar o descartar falsas alarmas. El desarrollo se realizó en un entorno GCP gestionado por GovTech (Sovereign Sandbox) utilizando únicamente datos anonimizados de reportes de estafas e inteligencia, sin información personal de ciudadanos.
Puntos clave
- Modelo Gemma ajustado con conversaciones de estafas locales de Singapur
- Procesamiento en dispositivo preserva privacidad en plataformas con cifrado de extremo a extremo
- Pipeline de dos etapas: clasificador ligero + evaluación contextual con Gemma ajustado
- Datos de entrenamiento anonimizados, sin información personal de ciudadanos
- Alertas en tiempo real en el dispositivo cuando se detectan patrones manipuladores