Meta Gunakan AI Demi Antisipasi Remaja Berbohong Soal Umur di Instagram

Nusantaratv.com - Meta mengumumkan rencana mereka menggunakan kecerdasan buatan (artificial intelligence/AI) untuk menangkap remaja yang berbohong tentang usia mereka di Instagram, yang disebut "adult classifier".

Melansir Engadget, Rabu (6/11/2024), tindakan ini diambil sebagai tanggapan terhadap tekanan dari regulator dan orang tua yang khawatir terkait dampak media sosial terhadap kesehatan mental remaja.

Rencananya alat tersebut akan mulai diterapkan pada awal 2025. Kehadiran alat ini dimaksudkan untuk memastikan pengguna di bawah usia 18 tahun mendapatkan pengaturan privasi yang lebih ketat.

Direktur Manajemen Produk untuk Remaja dan Dampak Sosial di Meta, Allison Hartnett, mengatakan perangkat lunak ini akan menganalisa berbagaai indikator seperti akun yang diikuti oleh pengguna dan konten yang sering mereka interaksi. 

Jika alat ini mencurigai seseorang berusia di bawah 18 tahun, meskipun profil mereka menyatakan sebaliknya, mereka akan secara otomatis dipindahkan ke akun remaja dengan pengaturan privasi yang lebih ketat.

Pengaturan privasi ini termasuk akun yang secara otomatis diatur ke mode privat dan pembatasan dalam mengirim pesan kepada orang yang tidak dikenal. 

Remaja yang mencoba mengubah usia mereka secara manual di akun mereka akan diminta untuk memverifikasi identitas mereka dengan mengunggah ID resmi atau berbagi video selfie melalui Yoti, sebuah teknologi verifikasi usia yang sebelumnya telah digunakan oleh Meta untuk Facebook Dating.

Meta pertama kali mengatakan penggunaan AI untuk mengidentifikasi pengguna muda yang berbohong tentang usia mereka saat meluncurkan akun remaja pada September. 

Dengan akun-akun ini, perusahaan secara otomatis menerapkan pengaturan privasi yang paling ketat untuk anak-anak di bawah usia 16 tahun. Langkah ini diambil untuk melindungi remaja dari konten yang berbahaya dan interaksi yang tidak diinginkan di platform mereka.

Kendati Meta belum mengungkapkan seberapa akurat alat "adult classifier" ini dalam menentukan usia seseorang, perusahaan berencana untuk memberikan opsi bagi pengguna yang salah diidentifikasi untuk mengajukan banding. 

Meta juga berencana untuk menandai remaja yang mencoba membuat akun baru menggunakan alamat email yang sudah terkait dengan akun yang ada dan tanggal lahir yang berbeda.

Dengan penerapan alat "adult classifier" ini, Meta berharap dapat meningkatkan keamanan dan kesejahteraan remaja di platform mereka.

Langkah ini menunjukkan komitmen Meta untuk menghadapi tantangan dalam melindungi pengguna muda dari risiko online dan memastikan pengalaman yang lebih aman di media sosial.

Diketahui, Meta, bersama Google dan pemilik TikTok ByteDance, baru-baru ini gagal meyakinkan hakim federal Amerika Serikat (AS) untuk membatalkan serangkaian tuntutan hukum yang menuduh perusahaan tersebut gagal melindungi pengguna remaja dari efek penggunaan media sosial yang berbahaya dan adiktif.