Google DeepMind 与新加坡政府合作构建用于诈骗检测的微调 AI 模型
与新加坡政府科技局（GovTech Singapore）合作，在不损害隐私的前提下保护用户。
诈骗，例如投资欺诈、虚假招聘和冒充公职人员，占新加坡已报告犯罪的半数以上，并自 2019 年以来造成超过 40 亿新元的损失。与此同时，诈骗手法已从简单的网络钓鱼转向复杂的社会工程学，攻击者通过令人信服的对话操纵受害者，然后索要钱财。此类诈骗现在占所有损失的 80%。
为了解决这个问题，Google DeepMind 与新加坡政府科技局（GovTech Singapore）一直在合作，作为我们与新加坡政府 国家 AI 伙伴关系 的一部分。我们共同微调了一个保护隐私的设备端诈骗检测模型。
不损害隐私的设备端 AI 保护
通用模型往往难以应对本地欺骗手法，使诈骗检测更加困难。为了解决这个问题，Google 的轻量级 Gemma 模型在本地诈骗对话上进行了微调。这些对话涵盖冒充公共机构、银行和本地人物，以及流行的区域骗局。这确保微调后的模型在部署到公民安装的应用程序中时，能够区分良性社交闲聊和真正的操纵行为。
与依赖云端服务器端扫描消息的传统威胁检测不同，该模型可以直接在设备上处理对话数据。当集成到应用程序中时，这将允许更快地分析对话模式以检测操纵意图，并帮助公民在发生财务或凭证泄露之前采取行动。
该模型在应用程序中的推出将谨慎分阶段进行，并与新加坡政府合作开发。部署后，该模型只能在用户同意的情况下访问设备上的对话，并遵守该应用程序的使用条款。由于该模型完全在设备上运行，新加坡政府和 Google 都无法通过其部署访问用户的对话。
打击诈骗不应意味着牺牲个人隐私。与 Google DeepMind 合作，我们将先进的 AI 保护直接带到公民的设备上。这使我们能够实时捕捉高度针对性的本地诈骗企图，同时保持个人通信的私密性。
底层揭秘：本地上下文与边缘效率
当模型检测到操纵性对话模式时，它会直接在用户设备上触发实时警告，建议他们在分享敏感信息或资金之前暂停并谨慎行事。
在现代智能手机上运行复杂的诈骗分类器模型并非易事，电池效率是一个关键关注领域。为此，我们依赖一个两阶段流水线：
- 阶段 1：一个轻量、高效的分流器以极低功耗筛查入站消息，专注于捕捉潜在威胁。
- 阶段 2：使用我们微调过的 Gemma 模型进行上下文分析，我们会分析更大范围的对话快照，以确认威胁或排除误报。
建立在严格治理之上
这项合作在新加坡国际网络周（SICW 2026）上展示，为消息平台在用户保护与端到端加密之间取得平衡提供了一个范例。整个开发过程始终保持严格治理：
- 主权沙盒：微调在新加坡政府科技局（GovTech Singapore）管理和维护的 GCP 环境中进行，使训练数据保持隔离。
- 不使用公民数据：训练严格排除私人或可识别个人身份的信息，仅使用源自诈骗报告和情报源的匿名化数据集。
- 压力测试：该模型针对合成对话和本地语料库进行了测试，以覆盖多样化的诈骗类别和不断演变的冒充手法。
设备端安全的未来
该项目展示了 AI 如何在不妨碍安全或隐私的情况下帮助打击犯罪。它还表明政府与模型提供商可以如何携手打造服务于公共利益的科技。借助这一轻量级设备端模型，我们已证明能够进行本地、实时的诈骗检测，同时确保聊天交互保持安全。我们期待很快分享更多关于与新加坡政府合作的信息，并探索类似技术在其他国家部署的可能性。