Google DeepMind y Singapur crean IA en el dispositivo para detectar estafas

IA que protege sin espiar

Google DeepMind y el Gobierno de Singapur han presentado un modelo de inteligencia artificial capaz de detectar estafas en conversaciones privadas directamente en el teléfono, sin enviar datos a la nube. La herramienta, fruto de la colaboración con GovTech, se ha entrenado con conversaciones locales para identificar intentos de manipulación. Este avance llega en un contexto donde las estafas representan más de la mitad de los delitos reportados en Singapur y han causado pérdidas superiores a 4.000 millones de dólares singapurenses desde 2019.

La clave está en que el modelo funciona en el dispositivo, lo que permite analizar patrones de conversación sin vulnerar el cifrado de extremo a extremo. Así, se protege la privacidad de los usuarios mientras se detectan tácticas de ingeniería social cada vez más sofisticadas.

El salto a la ingeniería social

Los estafadores han evolucionado desde el phishing básico hacia complejas conversaciones que ganan la confianza de la víctima antes de pedir dinero. Según la fuente, este tipo de estafas representan hasta el 80% de las pérdidas totales. Para una pyme, esto significa que los ataques ya no se limitan a correos fraudulentos, sino a interacciones prolongadas por mensajería que pueden comprometer credenciales o finanzas.

La solución de DeepMind se basa en un modelo Gemma ligero, ajustado con ejemplos locales de suplantación de instituciones, bancos y figuras públicas. Esto le permite distinguir entre charla social benigna y manipulación real, algo que los modelos genéricos no logran con precisión.

¿Cómo funciona la detección en el dispositivo?

El sistema emplea una arquitectura de dos etapas para ser eficiente en batería y rendimiento. Primero, un clasificador ligero examina los mensajes entrantes con bajo consumo energético. Luego, si hay indicios de amenaza, un modelo Gemma más contextual analiza una porción mayor de la conversación para confirmar o descartar la alarma.

Cuando se detecta un patrón manipulador, se activa una advertencia en tiempo real en el dispositivo, aconsejando al usuario pausar antes de compartir información sensible o dinero. Este enfoque es especialmente relevante para pymes que gestionan comunicaciones con clientes y proveedores a través de canales cifrados, donde la supervisión centralizada no es posible.

Implicaciones para las pymes hispanohablantes

Aunque el proyecto se presentó en el marco de la Semana Internacional de Ciberseguridad de Singapur (SICW 2026), sus implicaciones van más allá de las fronteras. Las pymes de habla hispana también enfrentan un aumento de estafas por mensajería, y muchas veces carecen de herramientas accesibles para protegerse sin invadir la privacidad de sus equipos o clientes.

Este tipo de IA en el dispositivo abre la puerta a soluciones integrables en aplicaciones de mensajería o sistemas operativos, sin necesidad de infraestructura en la nube. Para una pyme, esto podría traducirse en una capa de seguridad adicional en los canales de comunicación que ya utiliza, sin costos elevados de servidores ni problemas de cumplimiento normativo.

Privacidad y gobernanza: pilares del desarrollo

El proyecto se desarrolló bajo estrictos controles de gobernanza. El ajuste fino del modelo se realizó en un entorno gestionado por GovTech, con datos aislados y sin información personal identificable. Se utilizaron conjuntos de datos anonimizados derivados de reportes de estafas y fuentes de inteligencia, y se probó con diálogos sintéticos y corpus locales para cubrir diversas tácticas.

Esta aproximación es un ejemplo de cómo la IA puede usarse para el bien público sin sacrificar la privacidad. Para las pymes, adoptar tecnologías similares requiere también considerar la gobernanza: asegurarse de que los proveedores cumplan con normativas de protección de datos y que los modelos se entrenen con datos éticos y representativos.

Oportunidades para integrar IA en la operación diaria

Más allá de la seguridad, el caso muestra el potencial de los modelos ligeros para ejecutarse en dispositivos comunes. Las pymes pueden explorar aplicaciones de IA en el dispositivo para tareas como atención al cliente, análisis de sentimiento en conversaciones o detección de fraudes en transacciones, todo sin depender de la nube.

Esto reduce costos de infraestructura y mejora la velocidad de respuesta, aspectos críticos para negocios con recursos limitados. Además, al mantener los datos localmente, se simplifica el cumplimiento de regulaciones de privacidad cada vez más estrictas.

Lectura práctica: ¿qué puede hacer tu pyme hoy?

Si bien esta tecnología aún no está disponible de forma masiva, las pymes pueden empezar por capacitar a sus equipos en la detección de ingeniería social y establecer protocolos de verificación antes de realizar pagos o compartir credenciales. También pueden evaluar herramientas de seguridad que operen en el dispositivo y priorizar proveedores que garanticen la privacidad.

En Altya Studio ayudamos a pymes a integrar soluciones de IA y automatización que se adaptan a su realidad, incluyendo la protección de sus comunicaciones. Si querés explorar cómo la IA puede fortalecer la seguridad de tu negocio sin comprometer la privacidad, podemos ayudarte a diseñar una estrategia a medida.

Fuente: deepmind.google