TEKNOBUZZ — Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) kini tidak hanya fokus pada kemudahan tugas, melainkan juga mulai merambah ke ranah keselamatan mental pengguna. Meta baru saja mengumumkan langkah perlindungan tambahan yang sangat krusial bagi pengguna remaja melalui integrasi fitur pengawasan orang tua di Instagram (Family Center).
Kini, orang tua akan secara proaktif menerima notifikasi bertuliskan “Alert about your teen’s safety” jika anak remaja mereka terdeteksi membahas topik sensitif seperti indikasi bunuh diri atau tindakan melukai diri sendiri (self-harm) saat mengobrol dengan Meta AI.
Langkah ini diambil Meta untuk memastikan remaja mendapatkan respons yang tepat di saat mengalami tekanan emosional, sekaligus memberikan jembatan komunikasi bagi orang tua untuk segera memberikan bantuan.
Sistem Deteksi AI yang Melalui Tinjauan Manual
Sistem baru ini bekerja secara otomatis saat seorang remaja menunjukkan indikator atau ketertarikan pada perilaku menyakiti diri sendiri, bahkan jika hal tersebut disampaikan secara tersirat di dalam chat Meta AI. Ketika terindikasi, Meta AI akan langsung mengarahkan remaja tersebut ke layanan bantuan krisis dan mendorong mereka untuk bercerita kepada orang dewasa yang dipercaya.
Demi menjaga akurasi dan meminimalkan kepanikan keliru, Meta menerapkan sistem verifikasi ganda:
- Identifikasi AI Khusus: Sistem AI akan menandai obrolan yang menunjukkan indikasi tekanan emosional.
- Tinjauan Manual (Manusia): Setiap obrolan yang ditandai akan ditinjau secara manual terlebih dahulu oleh tim manusia sebelum notifikasi resmi dikirimkan ke ponsel orang tua.
Namun, jika maksud dari remaja tersebut masih tergolong samar atau abu-abu, Meta memilih untuk mengutamakan tindakan pencegahan dengan tetap mengirimkan notifikasi kepada orang tua. Selain notifikasi peringatan, orang tua juga akan langsung menerima panduan dari para ahli mengenai cara melakukan pendekatan dan memulai percakapan sensitif tersebut secara empati tanpa menghakimi.
“Saya percaya bahwa remaja berhak atas privasi mereka. Namun, orang tua perlu diberi tahu apabila ada indikasi anak remaja mereka berisiko menyakiti diri sendiri. Meta telah berhasil menemukan keseimbangan yang tepat—melindungi privasi remaja sekaligus memastikan orang tua memiliki informasi yang dibutuhkan,” ujar Larry Magid, CEO dan Co-Founder ConnectSafely.
Melibatkan Puluhan Ahli Medis Internasional
Dalam menyempurnakan cara Meta AI merespons topik kesehatan mental yang sensitif ini, Meta tidak berjalan sendiri. Mereka melibatkan masukan dari lebih dari 75 tenaga medis profesional dan ahli kesehatan mental remaja.
Proses uji klinis ini memastikan bahwa Meta AI tidak akan memotong pembicaraan secara tiba-tiba saat mendeteksi kata kunci sensitif, melainkan tetap memvalidasi perasaan remaja tersebut sembari mengarahkannya ke solusi yang aman.
Dr. Ji-yeon Lee, seorang Psikolog Berlisensi di AS dan Profesor Psikologi Konseling di Hankuk University of Foreign Studies (Korea Selatan), mengaku sangat terkesan dengan ketelitian proses peninjauan klinis tersebut. Menurutnya, penyempurnaan berbasis skenario yang dipandu para ahli sangat penting untuk menghadirkan interaksi AI yang jauh lebih aman bagi masa depan remaja.
Batasan Konten Ketat dan Integrasi Layanan Darurat
Selain fitur notifikasi ke orang tua, akun remaja (usia 13 tahun ke atas) kini secara otomatis dibekali dengan pengaturan bawaan yang mencegah Meta AI merespons prompt tidak sesuai usia, seperti percakapan romantis/seksual atau resep minuman beralkohol. Jika orang tua mengaktifkan fitur Limited Content di Instagram, pembatasan kategori prompt pada Meta AI pun akan otomatis menjadi jauh lebih ketat.
Lebih jauh lagi, Meta juga sedang mengembangkan sistem interintegrasi yang dapat langsung memberikan peringatan kepada petugas berwenang atau layanan darurat jika seorang pengguna (baik dewasa maupun remaja) terdeteksi berada dalam risiko tinggi yang mendesak terkait bunuh diri. Sistem rujukan darurat ini sebelumnya telah sukses dijalankan di Facebook dan Instagram, di mana tahun lalu saja Meta telah mengirimkan lebih dari 19.000 rujukan darurat ke seluruh dunia untuk menyelamatkan pengguna.
Jadwal Rilis Global:
Fitur peringatan percakapan Meta AI ini sudah aktif digunakan oleh orang tua di Amerika Serikat, Inggris, Australia, dan Kanada. Bagi para orang tua di negara lainnya, termasuk di Indonesia, fitur proteksi digital ini dijadwalkan akan tersedia secara global pada akhir tahun ini.
