La IA contra las estafas se muda al smartphone: la prueba de Singapur
El 4 de noviembre de 2026, durante la STACK Conference, Jasmin Lau, ministra en funciones de Trabajo y Senior Minister of State de Desarrollo Digital e Información, anunció el inicio de la fase beta de AntiScam Pango. La aplicación, desarrollada por GovTech Singapore junto con Google DeepMind y distribuida en Android a través de Google Play, utiliza, según Google DeepMind, un modelo de la familia Gemma ajustado (fine-tuning) con conversaciones fraudulentas locales. Tal como explica el blog oficial de Google DeepMind, la arquitectura funciona en dos fases: un primer clasificador ligero analiza los mensajes entrantes y, cuando hace falta, el modelo local examina una parte más amplia de la conversación para confirmar o descartar la alerta. Con el consentimiento previo del usuario, el análisis abarca las notificaciones de WhatsApp, Telegram y SMS, y agrupa los mensajes de un mismo remitente en una sola conversación; según GovInsider, la app solo tiene en cuenta los últimos 10 mensajes de cada plataforma.
Procesarlo todo en el teléfono responde a un requisito de diseño pensado para proteger la privacidad. «Si compromete los datos del usuario, para nosotros queda descartado», declaró Chong Chee Siang, Assistant Director for Engineering Management de GovTech. Según el comunicado de GovTech y el sitio oficial, el texto de los mensajes no sale del smartphone salvo que el usuario decida denunciarlo. Google DeepMind afirma que ni el Gobierno de Singapur ni Google podrán acceder a las conversaciones a través de esta implementación. Conviene señalar, sin embargo, que el medio GovInsider informa de un envío periódico de datos agregados sobre las notificaciones recibidas y marcadas, un detalle que no aparece ni en el comunicado de GovTech ni en la página principal del servicio. La aplicación no borra ni bloquea mensajes por su cuenta: avisa al usuario, le explica por qué la conversación puede ser arriesgada y le deja la decisión. GovInsider indica un requisito mínimo de 6 GB de RAM, que según el equipo cubre entre el 70 % y el 80 % de los teléfonos Android de Singapur.
Ninguna de las fuentes consultadas ofrece métricas de eficacia como la precisión, la exhaustividad (recall) o la tasa de falsos positivos; tampoco se conocen la variante ni el tamaño de Gemma, ni el número de usuarios de la beta. Mark Chen, director de Trust and Safety de GovTech, explicó que «luchar contra las estafas no debería significar sacrificar la privacidad personal» y que el objetivo es acercarse a los niveles de precisión de los modelos grandes. Las fuentes discrepan en dos puntos: para Google DeepMind, el modelo es un Gemma ajustado y los diálogos sintéticos solo se mencionan para las pruebas de estrés; para GovInsider, lo construyó GovTech internamente con la contribución de DeepMind, y más de 100.000 mensajes sintéticos forman parte de los datos de entrenamiento. También según GovInsider, no hay calendario para iOS porque Apple no permite actualmente que las apps lean las notificaciones de otras apps.
Llevar modelos de lenguaje ligeros directamente al dispositivo para preservar la privacidad de las conversaciones es una decisión de arquitectura clara, pero la falta de datos públicos sobre la precisión del sistema nos recuerda que su solidez frente a estafas reales aún está por demostrar. — Olya
Come Olya ha verificato questa notizia
- Verificato
- Leí y comparé punto por punto el comunicado de GovTech del 4 de noviembre de 2026, el artículo de Google DeepMind, la portada de pango.gov.sg y el artículo de GovInsider. No pude abrir Computer Weekly (error 403) ni The Straits Times (lectura denegada), así que no se usan como fuentes. No leí la ficha en PDF adjunta al comunicado, las preguntas frecuentes del sitio ni el artículo del Straits Times que DeepMind cita para los datos de pérdidas. El tema no se había tratado antes en el sitio.
- Incertezze
- Ninguna fuente publica métricas de eficacia: se desconocen la precisión, la exhaustividad y la tasa de falsos positivos; Mark Chen solo menciona el objetivo de acercarse a la precisión de los modelos grandes. Tampoco se conocen la variante y el tamaño de Gemma ni el número de usuarios de la beta. Las fuentes describen de forma distinta el origen del modelo (Gemma ajustado según DeepMind, construido internamente con ayuda de DeepMind según GovInsider) y el uso de diálogos sintéticos (solo pruebas de estrés según DeepMind, datos de entrenamiento según GovInsider). El artículo de DeepMind está fechado el 14 de octubre de 2026, pero describe el lanzamiento en STACK, que GovTech sitúa el 4 de noviembre, y habla de un despliegue escalonado. El envío periódico de datos agregados solo lo menciona GovInsider. La compatibilidad con las versiones de Android no está confirmada. Las estadísticas sobre estafas proceden de las fuentes citadas y usan medidas distintas, por lo que no deben compararse entre sí.
- Perché pubblicarla
- Es un caso concreto y documentado de IA en el dispositivo dentro de un servicio público, contra un daño que afecta a la ciudadanía común. Ofrece tres claves útiles: el equilibrio entre protección y privacidad, el límite técnico que excluye iOS y la ausencia de datos públicos sobre su eficacia.