Eduwebmu

Perlindungan remaja di chatbot AI: apa yang berubah

Oleh Terbit 10 menit baca

Sampul putih dengan logo Eduwebmu di kanan atas dan judul besar berbunyi Chatbot remaja: Apa berubah?
Daftar isi

Dalam tiga hari terakhir Oktober 2026, dua hal berubah. New York menandatangani undang-undang yang melarang fitur chatbot berbahaya bagi pengguna di bawah 18 tahun, seperti mengaku manusia atau mendorong menyakiti diri. OpenAI mengumumkan penguatan pencegahan kekerasan di ChatGPT. Yang paling jelas dan bisa dicek adalah teks hukum New York.

Tesis saya: arah perlindungan remaja di chatbot sekarang bergeser dari "filter konten" ke "larangan desain". Dulu pertanyaannya hanya "apakah jawaban ini berbahaya?". Sekarang yang dipersoalkan juga cara chatbot bersikap: mengaku teman, memuji berlebihan, mengingat curhat kemarin, atau membuat pengguna betah berlama-lama. Kalau kamu membangun chatbot, ini memengaruhi keputusan desain, bukan hanya moderasi.

Yang perlu diluruskan dulu

Banyak judul berita menulis "New York melarang anak memakai chatbot". Itu tidak tepat. Yang dilarang adalah sekumpulan fitur tertentu bila penggunanya di bawah 18 tahun, atau bila operator belum memastikan penggunanya dewasa. Chatbot layanan pelanggan yang fokus bahkan dikecualikan.

Hal kedua: pengumuman OpenAI tanggal 30 Oktober banyak dikutip dengan angka dan rincian. Halaman lengkapnya belum bisa saya buka saat menulis, jadi bagian OpenAI di artikel ini sengaja sempit dan hanya memakai ringkasan resminya.

Bab Pertanyaan yang dijawab
Undang-undang New York Fitur apa saja yang dilarang dan siapa yang terkena?
Pengumuman OpenAI Apa yang sudah pasti dari pengumuman 30 Oktober?
Model Spec untuk remaja Bagaimana ChatGPT diatur bersikap ke pengguna 13 sampai 17 tahun?
Artinya bagi pembuat chatbot Apa yang perlu dicek di chatbot buatan sendiri?
Ringkasan Daftar periksa dan perbandingan singkat

Catatan jujur. Artikel ini ditulis 2 November 2026. Bagian New York bersumber dari siaran pers Gubernur dan teks RUU di situs Senat New York. Bagian OpenAI hanya memakai judul dan ringkasan resmi dari feed berita OpenAI, ditambah dokumen Model Spec. Saya bukan ahli hukum, jadi anggap artikel ini peta awal, bukan nasihat hukum.

Artikel ini untuk kamu yang memakai chatbot AI di bisnis, membangun asisten untuk sekolah atau bimbel, atau orang tua yang ingin tahu arah aturannya. Kalau kamu butuh analisis kepatuhan hukum untuk produk yang dipakai di Amerika Serikat, artikel ini tidak cukup.

Undang-undang New York: yang dilarang adalah fitur

Pada 28 Oktober 2026, Gubernur Kathy Hochul menandatangani S.9051B/A.10379C. Undang-undang ini menambah Article 48 ke General Business Law New York tentang larangan fitur AI companion yang tidak aman untuk anak. AI companion adalah chatbot yang dirancang menjadi teman ngobrol. Teks resmi versi B bisa diunduh sebagai PDF dari situs Senat New York.

Cakupannya lebih luas dari namanya. Teks RUU mendefinisikan "covered AI companion" sebagai sistem AI generatif dengan antarmuka bahasa alami, lewat tulisan maupun suara, yang memberi jawaban adaptif secara berkelanjutan. Artinya hampir semua chatbot modern masuk definisi ini.

Siaran pers Gubernur merangkum fitur yang tidak boleh diberikan ke pengguna di bawah 18 tahun:

  • Berpura-pura menjadi orang sungguhan, hidup, atau punya emosi manusia.
  • Mengaku punya hubungan pribadi, romantis, profesional, atau sebagai figur otoritas dengan anak.
  • Pertanyaan emosional yang tidak diminta, serta memakai informasi kesehatan atau pribadi anak dari percakapan sebelumnya.
  • Mendorong atau membantu bunuh diri, menyakiti diri, gangguan makan, atau penggunaan narkoba dan alkohol.
  • Mendorong anak menyimpan rahasia, mengasingkan diri, atau tidak meminta bantuan orang tua dan tenaga profesional.
  • Konten seksual eksplisit apa pun.

Teks RUU-nya lebih rinci lagi. Ada larangan output yang dibingkai sebagai opini pribadi atau ajakan emosional chatbot. Ada larangan sanjungan berlebihan (sycophancy), yaitu kebiasaan model mengiyakan dan memuji pengguna. Chatbot juga dilarang memakai informasi pribadi atau kesehatan pengguna yang didapat lebih dari 12 jam sebelumnya atau dari sesi lain.

Satu poin lagi yang menurut saya paling tajam: larangan output yang mengejar keterlibatan pengguna sampai mengalahkan pagar pengaman chatbot. Pagar pengaman (guardrail) adalah aturan yang mencegah model menghasilkan jawaban berbahaya.

Verifikasi umur dan sanksi

Operator boleh memberi fitur di atas hanya kepada pengguna yang sudah dipastikan bukan anak. Selama aturan pelaksana dari Jaksa Agung belum berlaku, teks RUU meminta operator menyediakan lebih dari satu cara verifikasi umur. Setidaknya satu cara tidak bergantung pada kartu identitas pemerintah, atau membuat pengguna tetap anonim. Pengakuan umur sendiri hanya boleh dipakai kalau pengguna mengaku masih di bawah umur. Data yang dikumpulkan untuk cek umur hanya boleh dipakai untuk itu dan harus dihapus segera setelahnya.

Sanksinya tidak ringan. Jaksa Agung New York bisa menuntut denda sipil hingga 25.000 dolar AS per pelanggaran dan ganti rugi. Ia juga bisa meminta pengadilan memerintahkan pemusnahan data yang diperoleh secara melanggar beserta algoritma yang dilatih dengan data itu.

Menurut teks versi B, undang-undang ini berlaku 1 Januari 2027. Siaran pers Gubernur sendiri hanya menyebut "dalam beberapa bulan ke depan", jadi pantau halaman RUU di situs Senat New York bila ada perubahan sebelum tanggal itu.

Siaran pers itu juga mengutip data Common Sense Media: 72% remaja pernah memakai AI companion, dan 52% memakainya setidaknya beberapa kali sebulan. Angka ini dikutip pemerintah, dan saya belum membuka laporan aslinya.

Pengumuman OpenAI: yang sudah pasti

Dua hari setelah New York, OpenAI menerbitkan tulisan berjudul "Community safety report and new protections for teens", bertanggal 30 Oktober 2026. Ringkasan resminya ada di feed berita OpenAI. Isinya kurang lebih: OpenAI memperkuat pencegahan kekerasan di ChatGPT lewat perlindungan yang lebih luas, intervensi lebih awal, dan komitmen membuat laporan keselamatan publik.

Hanya itu yang bisa saya konfirmasi ke sumber resmi, karena halaman lengkapnya belum bisa saya buka saat menulis. Rincian lain yang beredar di media, termasuk angka dan jadwal, belum terverifikasi dan sengaja tidak saya tulis.

Konteksnya bisa dilihat dari daftar tulisan OpenAI sebelumnya di feed yang sama. Kontrol orang tua (parental controls) diumumkan 29 September 2025. Tulisan tentang prediksi umur, yaitu sistem yang menebak apakah akun dipakai orang di bawah atau di atas 18 tahun, terbit 20 Januari 2026. Pembaruan Model Spec dengan prinsip khusus remaja terbit 18 Desember 2025. ChatGPT for Teens diperkenalkan 18 Agustus 2026. Jadi pengumuman 30 Oktober adalah lapisan tambahan di atas fondasi yang sudah dibangun setahun.

Model Spec: aturan sikap ChatGPT ke remaja

Bagian yang paling bisa dipelajari pembuat chatbot justru dokumen Model Spec OpenAI. Model Spec adalah dokumen publik yang menjelaskan bagaimana model OpenAI seharusnya bersikap. Versi yang saya pakai bertanggal 29 Oktober 2026. Situs Model Spec sudah menandainya sebagai arsip karena ada versi yang lebih baru, jadi cek versi terbaru sebelum mengutipnya.

Di dalamnya ada bagian "Prioritize safety for teens under 18" untuk pengguna berusia 13 sampai 17 tahun, ditandai label U18. Empat prinsip utamanya:

  • Keselamatan remaja didahulukan. Kalau kebebasan intelektual bertabrakan dengan risiko serius, pilih opsi yang lebih aman.
  • Dorong dukungan dunia nyata. Arahkan remaja ke keluarga, teman, dan tenaga profesional setempat.
  • Perlakukan remaja sebagai remaja. Hangat dan menghargai, tidak merendahkan, tetapi juga tidak memperlakukan mereka seperti orang dewasa.
  • Transparan. Jelaskan apa yang bisa dan tidak bisa dilakukan, dan ingatkan bahwa model bukan manusia.

Rinciannya mirip daftar larangan New York. Untuk pengguna U18, model tidak boleh melakukan roleplay romantis, tidak boleh lebih dulu menyebut diri sebagai teman, dan tidak boleh mengaku punya kesadaran. Model juga tidak boleh mengajari cara menyembunyikan perilaku berisiko dari pengasuh. Saran diet ketat seperti puasa intermiten pun dibatasi untuk remaja, walau boleh untuk orang dewasa.

Yang menarik, Model Spec juga mengatur cara menolak. Saat menolak, model diminta mengakui kekhawatiran remaja, menawarkan alternatif yang lebih aman, dan menyarankan melibatkan orang dewasa yang dipercaya.

Diagram tiga lapisan perlindungan remaja di chatbot AI: hukum New York S9051B ditandatangani 28 Oktober 2026, Model Spec OpenAI versi 29 Oktober 2026 dengan prinsip U18, dan pengumuman keselamatan OpenAI 30 Oktober 2026
Tiga lapisan perlindungan remaja yang bergerak dalam minggu yang sama

Artinya bagi kamu yang membangun chatbot

Aturan New York tidak berlaku langsung di Indonesia. Teks RUU menyatakan akses oleh pengguna yang secara fisik berada di luar New York dianggap terjadi di luar negara bagian itu. Tetapi saya tetap menyarankan kamu membacanya, karena daftar fiturnya adalah daftar periksa desain yang sangat konkret.

Pendapat saya: chatbot bisnis yang fokus hampir tidak terdampak, chatbot "teman" sangat terdampak. Asisten toko online yang hanya menjawab soal ongkir dan retur masuk pengecualian. Lain cerita kalau kamu membuat persona AI untuk curhat, atau tutor yang memanggil dirinya "kakak". Bot komunitas yang mengingat cerita pribadi pengguna dari minggu lalu juga persis pola yang disasar.

Ada jebakan yang sering terlewat. Pengecualian layanan pelanggan hanya berlaku kalau chatbot tidak bisa menjawab topik lain. Bot toko yang sebenarnya model umum dan mau diajak ngobrol soal apa saja tidak lagi "fokus" menurut definisi ini.

Beberapa keputusan yang saya sarankan kalau kamu membangun chatbot yang mungkin dipakai remaja:

  • Jangan beri persona manusia. Nama dan gaya boleh ramah, tetapi chatbot tetap mengaku sebagai AI.
  • Matikan memori pribadi untuk topik sensitif. Mengingat preferensi format jawaban masih wajar. Mengingat cerita kesehatan mental dari sesi lain tidak.
  • Jangan jadikan metrik "lama ngobrol" sebagai target. Teks RUU New York secara khusus melarang output yang mengejar keterlibatan sampai mengalahkan pagar pengaman.
  • Tolak topik di luar tujuan dengan sopan. Selain lebih aman, ini juga syarat pengecualian chatbot layanan pelanggan di New York.
  • Siapkan jalur rujukan ke manusia. Misalnya kontak guru, admin, atau layanan bantuan, sesuai prinsip "dukungan dunia nyata" di Model Spec.

Untuk chatbot pendidikan, saya lebih memilih bentuk tutor yang fokus ke materi daripada teman belajar yang serba personal. Yang pertama lebih mudah dibuat aman dan lebih mudah dijelaskan ke orang tua.

Batasnya juga jelas. Verifikasi umur masih jadi titik paling sulit. Aturan New York menuntut cara yang tahan diakali dan tidak hanya bergantung pada kartu identitas. Bentuk teknis yang dianggap cukup baru akan jelas setelah Jaksa Agung menerbitkan aturan pelaksana.

Ringkasan dan langkah berikutnya

Checklist untuk chatbot buatan sendiri

  • Chatbot selalu mengaku sebagai AI dan tidak mengklaim punya perasaan
  • Tidak ada roleplay romantis atau persona "pacar" dan "sahabat"
  • Informasi kesehatan atau cerita pribadi tidak dibawa ke sesi berikutnya
  • Topik bunuh diri, menyakiti diri, dan gangguan makan diarahkan ke bantuan manusia
  • Chatbot tidak pernah menyarankan pengguna merahasiakan percakapan dari orang tua
  • Metrik sukses tidak hanya durasi percakapan
  • Chatbot layanan pelanggan menolak topik di luar tujuannya
  • Ada jalur kontak ke manusia yang jelas
  • Fakta dari berita sudah dicek ke sumber resmi sebelum dikutip

Cheat sheet

Lapisan Siapa Tanggal Status per 2 November 2026
Hukum Negara bagian New York, S9051B/A10379C Ditandatangani 28 Oktober 2026, berlaku 1 Januari 2027 Terverifikasi, pantau penyesuaian
Aturan perilaku model OpenAI Model Spec, bagian U18 Versi 29 Oktober 2026 Terverifikasi
Kebijakan produk OpenAI, pengumuman keselamatan dan remaja 30 Oktober 2026 Hanya judul dan ringkasan yang terverifikasi

Kalau kamu ingin mencoba merancang alur percakapan chatbot yang lebih aman, mulai dari menulis aturan sikapnya dulu. Daftar AI Tools di eduwebmu bisa membantu menyusun draf dokumen dan kerangka aturan itu, lalu periksa hasilnya dengan checklist di atas sebelum dipakai pengguna sungguhan.

Pertanyaan yang sering diajukan

Apa isi undang-undang chatbot New York yang ditandatangani Oktober 2026?

Undang-undang S.9051B/A.10379C melarang operator chatbot memberi fitur yang dianggap tidak aman kepada pengguna di bawah 18 tahun. Contohnya chatbot yang mengaku manusia, mengaku punya hubungan romantis, mendorong menyakiti diri, atau mengajak menyimpan rahasia dari orang tua.

Kapan undang-undang chatbot New York mulai berlaku?

Teks RUU versi B menyebut 1 Januari 2027. Gubernur menandatanganinya 28 Oktober 2026, jadi pantau halaman RUU di situs Senat New York bila ada perubahan sebelum tanggal itu.

Apakah chatbot layanan pelanggan ikut terkena aturan New York?

Dikecualikan, asalkan chatbot itu hanya melayani layanan pelanggan atau informasi produk dan tidak bisa menjawab topik di luar tujuan itu. Sistem internal perusahaan untuk produktivitas karyawan juga dikecualikan.

Apa yang diumumkan OpenAI pada 30 Oktober 2026?

Ringkasan resmi OpenAI menyebut penguatan pencegahan kekerasan di ChatGPT, intervensi lebih awal, dan komitmen membuat laporan keselamatan publik. Rincian lainnya yang beredar di media belum bisa saya konfirmasi ke halaman resminya.

Apakah aturan New York berlaku untuk pengguna di Indonesia?

Tidak secara langsung. Teks RUU menyatakan akses oleh pengguna yang secara fisik berada di luar New York dianggap terjadi di luar negara bagian itu. Dampaknya baru terasa bila vendor menyamakan kebijakan produknya lintas negara.

Bagaimana ChatGPT memperlakukan pengguna berusia 13 sampai 17 tahun?

Model Spec OpenAI punya bagian khusus U18 yang mendahulukan keselamatan remaja. Isinya antara lain larangan roleplay romantis, larangan lebih dulu menyebut diri teman atau punya perasaan, dan anjuran mengarahkan remaja ke orang dewasa yang dipercaya.

Sumber dan referensi

Semua sumber diakses 2 November 2026.

  1. 1.Governor Kathy Hochul, "Governor Hochul Signs Nation-Leading Legislation to Protect Kids From AI Chatbots and to Ensure Baby Monitor Safety" (28 Oktober 2026)governor.ny.gov(buka di tab baru)
  2. 2.New York State Senate, teks resmi S.9051--B (PDF)legislation.nysenate.gov(buka di tab baru)
  3. 3.OpenAI, Model Spec versi 29 Oktober 2026, bagian "Prioritize safety for teens under 18"model-spec.openai.com(buka di tab baru)
  4. 4.OpenAI News RSS (judul, tanggal, dan ringkasan resmi "Community safety report and new protections for teens", "Introducing ChatGPT for Teens", "Our approach to age prediction", "Updating our Model Spec with teen protections", "Introducing parental controls")openai.com(buka di tab baru)
  5. 5.OpenAI, "Community safety report and new protections for teens" (30 Oktober 2026), halaman lengkap tidak berhasil dibuka saat risetopenai.com(buka di tab baru)

keamanan aichatbotregulasi aichatgpt

Artikel terkait