Sekilas.co – CEO OpenAI, Sam Altman, mengumumkan serangkaian kebijakan baru bagi pengguna ChatGPT, termasuk perubahan signifikan dalam interaksi chatbot kecerdasan buatan (AI) dengan pengguna berusia di bawah 18 tahun.
“Kami memprioritaskan keselamatan di atas privasi dan kebebasan bagi remaja. Ini adalah teknologi baru dan kuat, dan kami percaya anak di bawah umur membutuhkan perlindungan yang signifikan,” ujar Sam, dikutip dari Tech Crunch pada Rabu.
Kebijakan baru ini secara khusus menargetkan percakapan terkait topik seksual maupun tindakan menyakiti diri.
ChatGPT kini tidak lagi diperbolehkan melakukan percakapan genit dengan pengguna di bawah umur, serta diberikan batasan tambahan terkait diskusi bunuh diri.
Jika seorang remaja menggunakan ChatGPT untuk membayangkan skenario bunuh diri, layanan ini akan berupaya menghubungi orang tua mereka atau, dalam kasus yang parah, pihak kepolisian setempat.
Perubahan ini muncul di tengah gugatan hukum terhadap OpenAI dari orang tua Adam Raine, seorang remaja yang meninggal akibat bunuh diri setelah berbulan-bulan berinteraksi dengan ChatGPT. Gugatan serupa juga menimpa Character.AI terkait kasus lain.
Selain pembatasan konten, orang tua kini dapat mengatur batasan waktu atau blackout hours, di mana ChatGPT tidak dapat diakses oleh anak mereka.
Kebijakan baru ini bertepatan dengan sidang Komite Kehakiman Senat Amerika Serikat bertajuk “Examining the Harm of AI Chatbots”, yang diumumkan oleh Senator Josh Hawley. Ayah Adam Raine dijadwalkan hadir sebagai salah satu saksi dalam sidang tersebut.
Sidang itu juga menyoroti temuan investigasi Reuters yang mengungkap dokumen kebijakan internal yang diduga mendorong percakapan seksual chatbot dengan pengguna di bawah umur. Menyusul laporan tersebut, Meta memperbarui aturan chatbot miliknya.
Memisahkan pengguna di bawah umur akan menjadi tantangan teknis yang signifikan, dan OpenAI merinci pendekatannya.
OpenAI sedang membangun sistem jangka panjang untuk mengklasifikasi pengguna yang berusia 18 tahun ke atas dan yang masih di bawah umur. Namun, dalam banyak kasus yang ambigu, sistem akan secara default menerapkan aturan yang lebih ketat.
Sam Altman juga menekankan komitmen berkelanjutan OpenAI untuk menjaga privasi pengguna sekaligus memberi kebebasan luas bagi pengguna dewasa dalam berinteraksi dengan ChatGPT.
“Kami menyadari bahwa prinsip prinsip ini saling bertentangan dan tidak semua orang akan setuju dengan cara kami menyelesaikan konflik ini,” ujarnya.
