AI anti-penipuan di HP: belajar dari proyek Singapura

AI anti-penipuan di HP adalah model AI kecil yang membaca percakapan langsung di perangkat, lalu memperingatkan saat obrolan mulai mengarah ke bujukan transfer uang atau data. Contoh terbarunya datang dari Singapura: Google DeepMind dan GovTech Singapura melatih ulang model Gemma untuk mengenali modus lokal. Isi chat tidak dikirim ke server.

Tesis saya: yang layak dipelajari dari proyek ini adalah desainnya, sedangkan klaim "AI menghentikan penipuan" belum bisa dinilai. Belum ada angka akurasi, belum ada aplikasi yang bisa diunduh, dan peluncurannya masih bertahap. Tetapi cara mereka menyusun masalahnya, yaitu privasi dulu, konteks lokal, dan hemat baterai, adalah pola yang bisa kamu bawa ke produk atau bisnis sendiri.

Yang perlu diluruskan dulu

Judul berita tentang proyek ini sering terdengar seperti Singapura sudah memasang "satpam AI" di semua HP warganya. Pengumuman resminya jauh lebih hati-hati. Di blog Google DeepMind tanggal 14 Oktober 2026, yang diumumkan adalah model yang sudah selesai dilatih. Penerapannya ke aplikasi akan bertahap dan dikembangkan bersama pemerintah Singapura.

Satu hal lagi. Mitra teknis yang disebut di pengumuman adalah GovTech Singapura (Government Technology Agency), lembaga teknologi pemerintah Singapura. Dari pihak pemerintah, konfirmasinya datang lewat pidato Menteri Josephine Teo di Singapore International Cyber Week, 14 Oktober 2026, yang dimuat situs Kementerian Pembangunan Digital dan Informasi (MDDI). Pidato itu hanya menyebut GovTech bekerja sama dengan Google DeepMind membangun deteksi penipuan real-time di perangkat. Detail teknisnya tetap bersumber dari satu pihak, yaitu Google DeepMind.

Catatan jujur. Artikel ini ditulis 2 November 2026. Fakta tentang modelnya diambil dari pengumuman Google DeepMind, dan data penipuan dari Kepolisian Singapura. Modelnya belum tersedia untuk umum, jadi belum ada pihak luar yang bisa mengujinya. Klaim apa pun bahwa fitur ini sudah bisa dipasang di HP belum terverifikasi ke sumber resmi.

Artikel ini untuk kamu yang ingin paham arah AI keamanan di HP, atau yang sedang membangun produk dan ingin belajar dari desain sistem nyata. Kalau kamu sedang mencari aplikasi siap pasang untuk melindungi orang tua dari penipuan minggu ini, artikel ini belum bisa memberi itu.

Apa yang dibangun Singapura dan Google DeepMind

Intinya sederhana. Mereka mengambil Gemma, keluarga model AI terbuka yang ringan buatan Google, lalu melatihnya ulang (fine-tuning) dengan contoh percakapan penipuan khas Singapura. Fine-tuning artinya melatih lagi model yang sudah jadi dengan data khusus, supaya ia lebih jago di satu tugas. Menurut dokumentasi resmi Gemma, model ini memang dirancang bisa berjalan di perangkat seluler dan bisa disesuaikan untuk tugas tertentu.

Data latihnya mencakup modus menyamar sebagai lembaga publik, bank, dan tokoh lokal, sampai skema yang sedang ramai di kawasan. Alasan yang diberikan DeepMind masuk akal: model umum sering gagal membaca tipu daya yang sangat lokal. Bahasa campur, nama instansi, dan gaya obrolan setempat membuat penipuan Singapura berbeda dari penipuan di Amerika.

Soal data, ada tiga aturan yang mereka tulis:

• Pelatihan dilakukan di lingkungan Google Cloud yang dikelola GovTech, sehingga data latih terisolasi.
• Data latih tidak memuat informasi pribadi warga. Yang dipakai adalah data anonim dari laporan penipuan dan umpan intelijen.
• Model diuji dengan dialog sintetis dan korpus lokal untuk berbagai kategori penipuan.

Proyek ini dipresentasikan di Singapore International Cyber Week 2026. Ia juga bagian dari kemitraan AI nasional antara Google dan pemerintah Singapura yang diumumkan Mei 2026.

Kenapa deteksinya harus di HP

Cara lama mendeteksi ancaman adalah memindai pesan di server milik penyedia layanan. Masalahnya, aplikasi chat modern memakai enkripsi ujung ke ujung (end-to-end encryption). Artinya, hanya pengirim dan penerima yang bisa membaca isi pesan, server pun tidak. Jadi kalau ingin menganalisis isi percakapan tanpa membongkar enkripsi, analisisnya harus terjadi di HP itu sendiri.

Menurut pengumuman resmi, model ini hanya bisa membaca percakapan di perangkat dengan izin pengguna, sesuai ketentuan aplikasi tempat ia dipasang. Karena berjalan sepenuhnya di perangkat, pemerintah Singapura maupun Google tidak bisa mengakses isi chat lewat penerapannya. Ini klaim desain dari DeepMind, dan audit independennya belum ada.

Tantangan berikutnya adalah baterai. Menjalankan model bahasa terus-menerus di HP akan menguras daya. Solusi mereka adalah alur dua tahap:

Tahap pertama adalah pengklasifikasi ringan. Pengklasifikasi adalah model kecil yang tugasnya hanya memberi label, misalnya "aman" atau "patut dicurigai". Ia menyaring setiap pesan masuk dengan daya minimal. Tahap kedua baru memanggil model Gemma yang sudah dilatih ulang. Model ini membaca potongan percakapan yang lebih panjang untuk memastikan ancaman, atau membatalkan alarm palsu.

Kalau terkonfirmasi, HP menampilkan peringatan seketika. Isinya menyarankan pengguna berhenti sejenak dan berhati-hati sebelum membagikan informasi sensitif atau mengirim uang.

Saya suka desain dua tahap ini karena jujur pada keterbatasan perangkat. Model besar hanya dipanggil saat perlu. Pola yang sama bisa kamu temui di banyak sistem AI yang hemat biaya: saringan murah di depan, model mahal di belakang.

Masalah yang dikejar: penipuan yang membujuk

Kenapa harus membaca percakapan, dan tidak cukup memblokir nomor atau tautan? Jawabannya ada di data Kepolisian Singapura.

Menurut ringkasan tahunan Kepolisian Singapura (SPF) yang terbit Februari 2026, kasus penipuan dan kejahatan siber turun 24,8% pada 2025 menjadi 41.974 kasus. Kerugian turun dari S$1,1 miliar pada 2024 menjadi S$913,1 juta. Angka yang paling relevan untuk topik ini lain lagi: 81,8% kasus penipuan pada 2025 adalah transfer yang dilakukan korban sendiri.

Artinya, penipu umumnya tidak membobol rekening. Mereka membujuk korban sampai korban sendiri yang menekan tombol kirim. Istilahnya rekayasa sosial (social engineering), yaitu manipulasi psikologis lewat percakapan yang meyakinkan. Menurut DeepMind, jenis penipuan ini menyumbang hingga 80% kerugian. Angka itu mengukur kerugian, sedangkan 81,8% versi SPF mengukur jumlah kasus, jadi keduanya tidak bisa disamakan begitu saja. Arahnya tetap sama: penipu menang lewat bujukan.

Pemblokir nomor tidak berdaya menghadapi pola ini. Penipu bisa memakai nomor baru, akun baru, atau platform baru. Yang relatif tetap adalah alur bujukannya: membangun kepercayaan, menciptakan rasa mendesak, lalu meminta uang atau kode.

Ringkasan pertengahan tahun 2026 dari SPF menunjukkan tren turun berlanjut. Pada paruh pertama 2026, kasus turun 14,4% dan kerugian turun 17,9%. Tetapi dokumen yang sama menyebut penipuan tetap jenis kejahatan dominan di Singapura. Sebanyak 89,0% kasus pertama kali mendekati korban lewat platform daring.

Model DeepMind jelas belum ikut andil dalam penurunan itu, karena belum dipasang di aplikasi mana pun. SPF mengaitkannya dengan kemitraan dan penegakan hukum: perintah kepada Apple, Google, dan Meta untuk melawan penipuan penyamaran, pemutusan puluhan ribu nomor ponsel dan akun WhatsApp, investigasi, serta edukasi publik. AI sebenarnya sudah dipakai, tetapi di sisi jaringan. Menurut pidato Menteri Josephine Teo, sistem SATIS buatan GovTech dan SPF memakai AI untuk memindai lebih dari 600.000 situs per hari. Lalu ada ScamShield, rangkaian alat anti-penipuan pemerintah. Menurut panduan resmi ScamShield, aplikasinya bisa memeriksa pesan, tautan, atau nomor mencurigakan, menerima laporan, dan memandu pengguna menyiapkan blokir panggilan serta SMS. Model DeepMind ini mengincar celah yang tersisa: bujukan yang berlangsung di dalam chat.

Yang belum terjawab dan pelajaran untuk kita

Saya ingin adil. Proyek ini menarik, tetapi banyak hal penting belum bisa dinilai dari luar.

Pertanyaan yang belum dijawab

• Akurasi. DeepMind menulis mereka "telah membuktikan" kemampuan deteksi real-time di perangkat, tetapi itu klaim vendor. Pengumumannya tidak mencantumkan angka deteksi maupun tingkat alarm palsu. Tanpa angka ini, kita tidak tahu seberapa sering ia salah menuduh obrolan biasa.
• Aplikasi dan jadwal. Belum disebut aplikasi mana yang akan memasang model ini, dan kapan.
• Bentuk izin. Disebutkan model hanya membaca chat dengan persetujuan pengguna. Seperti apa layar izinnya, dan apakah orang tua yang paling rentan akan paham, belum dijelaskan.
• Indonesia. Belum ada pengumuman resmi. DeepMind hanya menulis akan menjajaki kemungkinan teknologi serupa dipakai di negara lain.

Untuk konteks lokal, artikel ini sengaja tidak mengutip angka penipuan di Indonesia. Angka yang beredar di media belum dicocokkan ke data resmi OJK atau Komdigi, jadi tidak dipakai di sini.

Pelajaran yang bisa dipakai sekarang

Pendapat saya, ada tiga hal dari proyek ini yang berlaku jauh di luar urusan penipuan.

Konteks lokal mengalahkan model umum. DeepMind sendiri mengakui model generik kesulitan membaca tipu daya lokal. Kalau kamu membangun chatbot layanan pelanggan atau penyaring komentar untuk pasar Indonesia, asumsikan model besar pun akan meleset pada bahasa gaul, singkatan, dan nama instansi lokal. Siapkan contoh nyata dari pelangganmu sendiri sejak awal.

Privasi bisa jadi desain, tidak sekadar janji. Karena model berjalan di HP, pertanyaan "siapa yang bisa membaca chat saya?" terjawab oleh arsitekturnya. Ini lebih meyakinkan daripada kebijakan privasi panjang.

Saringan murah di depan, model mahal di belakang. Alur dua tahap tadi relevan untuk siapa pun yang membayar AI per pemakaian. Saring dulu dengan aturan sederhana atau model kecil, lalu kirim hanya kasus yang sulit ke model besar.

Yang tidak saya sarankan: menunggu aplikasi seperti ini sebagai satu-satunya pelindung keluarga. Data SPF sendiri menunjukkan penurunan kasus datang dari banyak lapisan sekaligus. Kebiasaan "berhenti dulu sebelum transfer" tetap lapisan paling murah.

Ringkasan dan langkah berikutnya

Checklist membaca kabar AI anti-penipuan

• Cek siapa sumber klaimnya: pengumuman resmi, atau media yang mengutip ulang
• Cari angka akurasi dan tingkat alarm palsu. Kalau tidak ada, anggap belum terbukti
• Pastikan di mana data diproses: di HP atau di server
• Tanyakan izin apa yang diminta dan siapa yang bisa melihat isi chat
• Bedakan "model sudah dilatih" dengan "aplikasi sudah tersedia"
• Tetap pakai kebiasaan dasar: berhenti, telepon balik lewat nomor resmi, baru transfer

Cheat sheet proyek Singapura

Pelajaran terpenting untuk pebisnis adalah alur dua tahap tadi: saringan sederhana dulu, AI hanya untuk kasus yang sulit. Contohnya menyaring pesan pelanggan yang mencurigakan sebelum diteruskan ke tim. Untuk mencari pekerjaan lain di tempatmu yang cocok dengan pola ini, buka halaman Ide Otomasi di eduwebmu. Pilih satu kandidat dengan volume paling besar, lalu coba dulu dalam skala kecil.