Google DeepMind i singapurska agencja GovTech dostroiły lekki model Gemma do rozpoznawania lokalnych oszustw i uruchomiły go w całości na telefonie. Projekt pokazano 14 października na Singapore International Cyber Week, w ramach krajowego partnerstwa AI z rządem Singapuru.
Najważniejsze w skrócie
- Oszustwa to ponad połowa przestępstw raportowanych w Singapurze i ponad 4 mld dolarów singapurskich strat od 2019 roku
- Socjotechnika odpowiada dziś za nawet 80% wszystkich strat
- Model analizuje rozmowy lokalnie — ani rząd Singapuru, ani Google nie mają do nich dostępu
- Dwustopniowy pipeline: lekki klasyfikator przesiewa wiadomości, dostrojona Gemma potwierdza zagrożenie
- Dostrajanie odbyło się w zarządzanym przez GovTech środowisku chmurowym, bez danych osobowych obywateli
Dlaczego ogólny model nie wystarczył
Ogólne modele słabo radzą sobie z lokalnymi technikami oszustwa, dlatego Google DeepMind dostroiło lekką Gemmę na zbiorach lokalnych rozmów z oszustami — od podszywania się pod instytucje publiczne, banki i rozpoznawalne osoby, po regionalne schematy aktualnie w obiegu.
Model ma odróżniać zwykłą pogawędkę od faktycznej socjotechniki, gdy zostanie wbudowany w aplikacje instalowane przez obywateli.
Dwa stopnie, żeby nie zabić baterii
Uruchomienie złożonego klasyfikatora na współczesnym smartfonie jest trudne głównie z powodu zużycia energii. Dlatego pipeline jest dwustopniowy: najpierw lekki, oszczędny klasyfikator przesiewa przychodzące wiadomości i wyłapuje potencjalne zagrożenia, a dopiero potem dostrojona Gemma analizuje większy wycinek rozmowy, żeby potwierdzić zagrożenie albo odrzucić fałszywy alarm.
Diagram odwzorowuje kolejność kroków opisaną przez autorów. Nie pokazuje architektury samego modelu ani sposobu integracji z konkretną aplikacją.
Gdy model wykryje manipulacyjny wzorzec, na urządzeniu pojawia się ostrzeżenie w czasie rzeczywistym — zanim użytkownik poda dane albo przeleje pieniądze.
Prywatność jako warunek wstępny
Walka z oszustwami nie powinna oznaczać rezygnacji z prywatności. Razem z Google DeepMind wnosimy zaawansowaną ochronę AI bezpośrednio na urządzenia obywateli.
Mark Chen, dyrektor ds. zaufania i bezpieczeństwa w GovTech Singapore.
W przeciwieństwie do klasycznego skanowania wiadomości po stronie serwera, dane rozmowy nie opuszczają telefonu — to on-device AI w roli zabezpieczenia. Model sięga do nich tylko za zgodą użytkownika, zgodnie z regulaminem konkretnej aplikacji.
| Reguła | Co znaczy w praktyce |
|---|---|
| Suwerenna piaskownica | dostrajanie w środowisku chmurowym zarządzanym przez GovTech, dane treningowe nie wychodzą |
| Zero danych obywateli | trening na zanonimizowanych zbiorach z raportów o oszustwach, bez danych osobowych |
| Testy obciążeniowe | model sprawdzany na syntetycznych dialogach i lokalnych korpusach |
Dlaczego to ważne?
Każdy komunikator z szyfrowaniem end-to-end stał dotąd przed wyborem: albo chronić treść, albo skanować ją w poszukiwaniu oszustw. Singapur pokazuje trzecią drogę, a przy okazji wzór współpracy, w którym rząd wnosi lokalny kontekst zagrożeń, a dostawca modelu wagi i inżynierię. Otwarte zostaje pytanie o skuteczność: żadna ze stron nie podała wskaźnika wykrycia ani odsetka fałszywych alarmów.
Co dalej?
- Wdrożenie w aplikacjach będzie etapowe i prowadzone razem z rządem Singapuru
- Google zapowiada, że zbada możliwość podobnych wdrożeń w innych krajach
