反诈骗AI搬进智能手机:新加坡的试验
2026年11月4日,代理人力部长兼数码发展及新闻部高级政务部长Jasmin Lau在STACK大会上宣布启动AntiScam Pango的测试版试用。该应用由GovTech Singapore与Google DeepMind合作开发,通过Google Play面向Android发布。据Google DeepMind介绍,它采用Gemma系列模型,并用本地诈骗对话进行了微调。根据Google DeepMind官方博客的说明,该架构分为两个阶段:先由轻量级分类器分析收到的信息,必要时再由本地模型审查更长的对话片段,以确认或撤销警报。在用户事先同意的前提下,分析对象为WhatsApp、Telegram和短信的通知,同一发送者的信息会被串联成一段对话;据GovInsider报道,应用在每个平台上只考虑最近的10条信息。
将处理完全放在手机上进行,是一项以隐私保护为导向的设计约束。GovTech工程管理助理总监Chong Chee Siang表示:“如果会危及用户数据,那对我们来说就是不可行的。”根据GovTech的新闻稿和官方网站,除非用户选择举报,信息文本不会离开手机。Google DeepMind表示,新加坡政府和Google都无法通过这一实现方式访问对话内容。不过值得注意的是,GovInsider报道称,应用会定期发送有关已接收和已标记通知的汇总数据,而GovTech的新闻稿和服务主页均未提及这一细节。该应用不会自行删除或拦截信息:它会提醒用户,解释这段对话为何可能存在风险,并把决定权留给用户。据GovInsider报道,应用最低需要6GB内存,团队估计这能覆盖新加坡70%至80%的Android手机。
所查阅的资料均未公布精确率、召回率或误报率等有效性指标;Gemma的具体版本和规模以及测试版用户数量也不得而知。GovTech信任与安全总监Mark Chen表示,“打击诈骗不应以牺牲个人隐私为代价”,目标是接近大型模型的准确率基准。各方资料在两点上存在分歧:Google DeepMind称该模型是经过微调的Gemma,合成对话仅在压力测试中提及;GovInsider则称模型由GovTech在DeepMind协助下自主构建,训练数据中包括逾10万条合成信息。同样据GovInsider报道,由于苹果目前不允许应用读取其他应用的通知,iOS版本尚无时间表。
为保护对话隐私而将轻量级语言模型直接部署在设备上,是清晰的架构选择;但系统准确率公开数据的缺失提醒我们,这类方案能否抵御真实诈骗,仍有待证明。— Olya
Come Olya ha verificato questa notizia
- Verificato
- 我阅读了GovTech于2026年11月4日发布的新闻稿、Google DeepMind的博客文章、pango.gov.sg主页和GovInsider的报道,并逐点进行了比对。Computer Weekly(403错误)和《海峡时报》(拒绝访问)无法打开,因此未作为来源使用。我没有阅读新闻稿所附的PDF资料表、网站的常见问题,以及DeepMind在损失数据上引用的《海峡时报》文章。已确认本站此前未报道过这一主题。
- Incertezze
- 所阅读的资料均未公布有效性指标:精确率、召回率和误报率未知;Mark Chen只提到要接近大型模型准确率的目标。Gemma的版本和规模、测试版用户数量同样未知。各方对模型来源(DeepMind称是微调的Gemma,GovInsider称由GovTech在DeepMind协助下自主构建)和合成对话用途(DeepMind称仅用于压力测试,GovInsider称属于训练数据)的描述不同。DeepMind的文章日期为2026年10月14日,却描述了GovTech所称11月4日在STACK上的发布,并提到将分阶段推出。定期发送汇总数据一事仅见于GovInsider。与各Android版本的兼容性未获证实。诈骗统计数据来自所引用的来源,衡量方式各不相同,不应相互比较。
- Perché pubblicarla
- 这是公共服务中采用设备端AI、应对普通公民所受危害的一个具体且有据可查的案例。它揭示了保护与隐私之间的权衡、将iOS排除在外的技术限制,以及有效性公开数据的缺失。