jelajahtechno.com — Penggunaan kecerdasan buatan berkembang pesat di media sosial, namun tidak selalu berjalan aman bagi pengguna muda. Meta, perusahaan induk Facebook, Instagram, dan WhatsApp, kembali menjadi sorotan setelah teknologi AI miliknya dinilai memberikan respons yang menjurus pada perilaku seksual ketika berinteraksi dengan anak di bawah umur. Situasi ini memaksa Meta mengambil langkah signifikan untuk meningkatkan keamanan digital bagi remaja.
AI Mesum Picu Kritik Publik dan Pemerintah
Meskipun Meta telah memperkenalkan serangkaian fitur anti-bullying serta kebijakan khusus untuk akun remaja, masalah baru muncul ketika chatbot berbasis AI memberikan respons dengan nada provokatif kepada pengguna muda. Kejadian ini pertama kali mencuat pada investigasi Reuters, yang menemukan interaksi tidak pantas antara chatbot Meta dan remaja.
Laporan tersebut menyebutkan bahwa beberapa chatbot Meta tetap memberikan tanggapan yang berbau seksual meskipun akun pengguna ditandai sebagai remaja. Hal ini menimbulkan pertanyaan besar mengenai bentuk perlindungan yang dijanjikan Meta pada platformnya.
Pemerintah Amerika Serikat bereaksi cepat. Otoritas keamanan digital menilai situasi ini berpotensi menimbulkan risiko serius seperti child grooming, pelecehan virtual, serta gangguan mental pada remaja. Kondisi inilah yang mendorong Meta kembali menata sistem pengawasan AI miliknya.
Baca juga : 6 Fitur GoPay yang Jarang Diketahui, Bisa Hemat dan Dapat Cuan Gratis!
Meta Beri Kendali Lebih Besar untuk Orang Tua
Dalam sebuah pembaruan kebijakan resmi, Meta menyatakan akan memperluas fitur kontrol orang tua agar dapat memonitor interaksi anak dengan chatbot AI di dalam platform. Kebijakan ini dijelaskan langsung oleh Instagram Head Adam Mosseri dan Chief AI Officer Alexandr Wang.
Melalui fitur baru ini, orang tua akan dapat:
• Mengawasi percakapan AI yang diakses anak
• Memblokir karakter AI tertentu
• Melihat topik bahasan yang sering muncul
• Membatasi fitur percakapan yang dianggap berisiko
Penting dipahami bahwa Meta tidak menghilangkan akses AI untuk akun remaja. AI tetap tersedia sesuai batasan usia, namun interaksi yang memungkinkan risiko akan dapat dikendalikan oleh orang tua.
Meta berpendapat bahwa AI tetap memberikan nilai positif pada pembelajaran, hiburan kreatif, serta aktivitas sosial yang aman jika didukung dengan sistem perlindungan yang tepat.
Perubahan Kebijakan Karena Perkembangan AI Semakin Cepat
Meta mengakui bahwa kontrol keamanan remaja sebelumnya tidak lagi memadai mengingat kemajuan AI yang begitu pesat. Fitur-fitur lama dirancang untuk mengatasi konten konvensional, bukan interaksi dinamis yang dihasilkan oleh chatbot berbasis machine learning.
Tanpa penyesuaian, AI dapat:
• Salah memahami konteks percakapan
• Memberikan respons berdasarkan pola data tanpa filter
• Menjadi celah eksploitasi bagi pihak berbahaya
Oleh sebab itu, Meta memperbarui pendekatan keamanan agar sejalan dengan evolusi teknologi terkini.
Bagaimana Fitur Ini Akan Diterapkan?
Meta menyebutkan fitur pemantauan AI bagi remaja akan hadir pertama kali di Instagram. Platform ini dipilih karena menjadi pusat aktivitas digital remaja di seluruh dunia.
Fitur tersebut akan meliputi:
[…] Waspada AI Mesum! Meta Siapkan Pengawasan Ketat untuk Pengguna Remaja […]