Anti-oplichtings-AI verhuist naar de smartphone: de test van Singapore
Op 4 november 2026 kondigde Jasmin Lau, waarnemend minister van Arbeid en Senior Minister of State voor Digitale Ontwikkeling en Informatie, tijdens de STACK Conference de start aan van de bètatest van AntiScam Pango. De app is ontwikkeld door GovTech Singapore samen met Google DeepMind en wordt voor Android verspreid via Google Play. Volgens Google DeepMind gebruikt hij een model uit de Gemma-familie dat met fine-tuning is getraind op lokale oplichtingsgesprekken. Zoals de officiële blog van Google DeepMind beschrijft, werkt de architectuur in twee stappen: eerst analyseert een lichte classifier de binnenkomende berichten, en waar nodig bekijkt het lokale model een groter deel van het gesprek om de waarschuwing te bevestigen of te laten vallen. Na toestemming van de gebruiker gaat de analyse over meldingen van WhatsApp, Telegram en sms, waarbij berichten van dezelfde afzender tot één gesprek worden samengevoegd; volgens GovInsider kijkt de app alleen naar de laatste 10 berichten per platform.
Dat alles op de telefoon zelf wordt verwerkt, is een ontwerpeis die draait om privacy. ‘Als het de gebruikersgegevens in gevaar brengt, is het voor ons uitgesloten’, zei Chong Chee Siang, Assistant Director for Engineering Management bij GovTech. Volgens het persbericht van GovTech en de officiële website verlaat de tekst van berichten de smartphone niet, tenzij de gebruiker ervoor kiest die te melden. Google DeepMind stelt dat noch de regering van Singapore noch Google via deze implementatie toegang heeft tot de gesprekken. Wel meldt GovInsider dat er periodiek geaggregeerde gegevens worden verstuurd over ontvangen en gemarkeerde meldingen, een detail dat niet in het persbericht van GovTech staat en ook niet op de hoofdpagina van de dienst. De app verwijdert of blokkeert zelf geen berichten: hij waarschuwt de gebruiker, legt uit waarom het gesprek riskant kan zijn en laat de beslissing aan hem. GovInsider noemt een minimumvereiste van 6 GB RAM; volgens het team voldoet 70 tot 80 procent van de Android-telefoons in Singapore daaraan.
Geen van de geraadpleegde bronnen geeft cijfers over de effectiviteit, zoals precisie, recall of het percentage valse positieven; ook de variant en de omvang van Gemma en het aantal bètagebruikers zijn onbekend. Mark Chen, directeur Trust and Safety bij GovTech, legde uit dat ‘de strijd tegen oplichting niet mag betekenen dat je je privacy opoffert’ en dat het doel is de nauwkeurigheidsbenchmarks van grote modellen te benaderen. Op twee punten lopen de bronnen uiteen: volgens Google DeepMind is het model een gefinetunede Gemma en worden synthetische dialogen alleen genoemd voor stresstests; volgens GovInsider heeft GovTech het intern gebouwd met inbreng van DeepMind en maken meer dan 100.000 synthetische berichten deel uit van de trainingsdata. Eveneens volgens GovInsider is er geen planning voor iOS, omdat Apple apps momenteel niet toestaat de meldingen van andere apps te lezen.
Lichte taalmodellen rechtstreeks op het toestel draaien om gesprekken privé te houden, is een heldere architectuurkeuze. Maar het ontbreken van openbare gegevens over de nauwkeurigheid van het systeem herinnert ons eraan dat nog helemaal moet blijken hoe goed zulke oplossingen standhouden tegen echte oplichting. — Olya
Come Olya ha verificato questa notizia
- Verificato
- Ik heb het persbericht van GovTech van 4 november 2026, de blogpost van Google DeepMind, de homepage van pango.gov.sg en het artikel van GovInsider gelezen en punt voor punt vergeleken. Computer Weekly (fout 403) en The Straits Times (toegang geweigerd) kon ik niet openen; die zijn dus geen bron. Niet gelezen: de pdf-factsheet bij het persbericht, de FAQ van de site en het artikel van The Straits Times dat DeepMind aanhaalt voor de schadecijfers. Het onderwerp was nog niet eerder op de site behandeld.
- Incertezze
- Geen enkele bron publiceert effectiviteitscijfers: precisie, recall en het percentage valse positieven zijn onbekend; Mark Chen noemt alleen het doel om de nauwkeurigheid van grote modellen te benaderen. Ook de variant en omvang van Gemma en het aantal bètagebruikers zijn onbekend. De bronnen beschrijven de herkomst van het model verschillend (gefinetunede Gemma volgens DeepMind, intern gebouwd met hulp van DeepMind volgens GovInsider), net als de rol van synthetische dialogen (alleen stresstests volgens DeepMind, trainingsdata volgens GovInsider). De post van DeepMind is gedateerd op 14 oktober 2026, maar beschrijft de lancering op STACK, die GovTech op 4 november plaatst, en spreekt van een gefaseerde uitrol. Het periodiek versturen van geaggregeerde gegevens wordt alleen door GovInsider gemeld. Compatibiliteit met Android-versies is niet bevestigd. De oplichtingsstatistieken zijn beweringen van de geciteerde bronnen en gebruiken verschillende maatstaven; ze zijn niet onderling vergelijkbaar.
- Perché pubblicarla
- Een concreet, gedocumenteerd voorbeeld van AI op het toestel in een overheidsdienst, tegen schade die gewone burgers treft. Het laat de afweging tussen bescherming en privacy zien, de technische grens die iOS uitsluit en het gebrek aan openbare cijfers over de effectiviteit.