Jebakan Manipulasi di Balik Algoritma Media Sosial

Dengan menjelajahi platform seperti Threads atau TikTok, seseorang dapat mengidentifikasi isu-isu yang sedang tren di kalangan anak muda, terutama Generasi Z (mereka yang lahir antara tahun 1997 dan 2012).

Dari fungsi awalnya untuk menghubungkan orang, media sosial telah bertransformasi menjadi "ruang komunikasi" yang berbeda, di mana kaum muda bebas mengekspresikan pendapat mereka dan membentuk kepribadian mereka...

Namun, seiring dengan meluasnya ruang dan tren pribadi, batasan antara kehidupan virtual dan nyata semakin kabur dengan kecepatan yang mengkhawatirkan.

Transformasi debat dan emosi daring menjadi tindakan di dunia nyata sedang disalahgunakan menjadi alat manipulasi psikologis berskala besar, yang memengaruhi persepsi dan ideologi publik, serta menyebabkan konsekuensi serius terhadap keamanan dan sosial.

Dunia telah menyaksikan banyak krisis kekerasan nyata yang berakar dari manipulasi psikologis yang dialami kaum muda akibat informasi berbahaya dan tak terkendali di internet.

Di Inggris, pada Juli 2024, informasi yang salah dan tuduhan yang bias tentang pelaku penusukan di Southport memicu ribuan remaja untuk melakukan kerusuhan rasial dan menyerang aparat penegak hukum.

Pada waktu yang hampir bersamaan di Kenya dan Bangladesh, diikuti oleh Nepal, algoritma yang memprioritaskan konten kebencian di TikTok, Threads, dan Facebook turut memicu ketidakpuasan di kalangan anak muda, yang kemudian mendorong dan menghasut mereka untuk berpartisipasi dalam tindakan perlawanan yang disertai kekerasan.

Di Asia, kejahatan deepfake seksual di Telegram di Korea Selatan menyebabkan tekanan psikologis yang meluas di ratusan sekolah antara tahun 2024 dan 2025, sementara banyak kasus melukai diri sendiri dan kekerasan di sekolah di AS dan Eropa dikaitkan dengan gerakan kebencian seksis (Manosphere) di Reddit atau Discord.

Sebelumnya, pada tahun 2017-2018 di Sri Lanka, Pakistan, dan India , video yang dimanipulasi dan rumor palsu tentang agama atau penculikan anak langsung memicu kerusuhan massa anak muda, yang menyebabkan penghancuran masjid dan eksekusi brutal terhadap banyak orang yang tidak bersalah sebelum pihak berwenang dapat turun tangan.Di balik "arus bawah" ini terdapat mekanisme manipulasi emosional yang canggih, yang memanfaatkan impulsif, keinginan untuk penegasan diri, dan keterbatasan kemampuan pertahanan informasi dari generasi muda.

Pembaruan status yang "memancing amarah", unggahan anonim, dan video yang dihasilkan AI bukanlah sekadar alat hiburan.

Algoritma pemberi rekomendasi di jejaring sosial beroperasi dengan tujuan utama memaksimalkan waktu retensi pengguna.

Jika seorang remaja berhenti sejenak sebelum melihat unggahan negatif, algoritma akan langsung mengenalinya sebagai tanda ketertarikan dan terus menerus "memanaskan" umpan berita mereka dengan konten yang semakin ekstrem.

Sistem bot dan algoritma juga mengarahkan pengguna muda dari grup obrolan biasa ke server pribadi tertutup – tempat yang缺乏 pengawasan orang tua dan peraturan.

Di sinilah efek "ruang gema" terbentuk. Ketika kaum muda terus-menerus terpapar pada satu aliran informasi dan melihat ratusan orang di sekitar mereka mengulangi ideologi yang menyimpang, otak mereka secara otomatis menganggapnya sebagai "norma sosial" dan "tren yang sedang populer."

Data penelitian internasional telah memunculkan peringatan yang mengkhawatirkan tentang mekanisme ini. Sebuah uji coba tahun 2022 oleh organisasi Countering Digital Harmful Behavior (CCDH) menunjukkan bahwa, dengan akun hipotetis berusia 13 tahun, algoritma tersebut hanya membutuhkan waktu 2,6 menit untuk menyarankan konten berbahaya yang terkait dengan perilaku melukai diri sendiri atau ujaran kebencian.

Sebuah survei tahun 2023 tentang perilaku kebencian daring yang diterbitkan oleh Anti-Defamation League (ADL) mengungkapkan bahwa hingga 65 anak muda berusia 13-17 tahun telah terpapar konten ekstremis daring, dengan 44 mengklaim bahwa unggahan tersebut muncul sepenuhnya karena saran algoritma otomatis.

Laporan independen dari tahun 2023 oleh Technology Transparency Project (TTP) dan The Wall Street Journal juga menunjukkan bahwa akun remaja laki-laki yang awalnya hanya berinteraksi dengan konten olahraga dengan cepat dimanipulasi oleh algoritma untuk memposting konten ekstremis, antisosial, dan penghasut kekerasan hanya dalam beberapa jam setelah digunakan.

Tingkat manipulasi ini menjadi semakin mengkhawatirkan seiring dengan pertumbuhan eksponensial basis pengguna platform-platform ini. Misalnya, Threads, yang diluncurkan pada tahun 2023, mencapai rekor 100 juta pengguna hanya dalam 5 hari, dan pada tahun 2026, secara resmi telah mencapai 500 juta pengguna bulanan, meningkatkan paparan terhadap aliran informasi yang tidak terverifikasi.

Studi ilmiah oleh American Psychological Association, University of California, dan lainnya telah menunjukkan bahwa korteks prefrontal – area yang bertanggung jawab untuk pengendalian impuls dan pemikiran kritis – baru sepenuhnya matang setelah usia 25 tahun.

Karena otak mereka belum sepenuhnya mengembangkan kemampuan untuk mengatur emosi, remaja mudah terpengaruh oleh emosi sesaat yang dipicu oleh desain yang meningkatkan dopamin seperti Infinite Scroll, dan lebih rentan terhadap tren yang menimbulkan kegelisahan, kemarahan, atau tekanan teman sebaya daripada orang dewasa.

Sebuah laporan dari Ahli Bedah Umum AS menekankan bahwa remaja yang menghabiskan lebih dari tiga jam sehari di media sosial dua kali lebih mungkin menghadapi masalah kesehatan mental dibandingkan dengan mereka yang menggunakannya lebih sedikit.Menghadapi ancaman langsung terhadap jaminan sosial, banyak negara telah beralih dari peringatan ke penerapan langkah-langkah hukum yang ketat. Australia telah memimpin dengan memberlakukan undang-undang yang melarang anak-anak di bawah 16 tahun menggunakan media sosial, disertai dengan sanksi finansial yang berat bagi pelanggar platform tersebut.

Uni Eropa (UE) memberlakukan Undang-Undang Layanan Digital (DSA), yang mewajibkan verifikasi usia yang ketat dan melarang algoritma rekomendasi yang adiktif. Di AS, Undang-Undang Keamanan Daring Anak (KOSA) terus diperketat untuk meminta pertanggungjawaban langsung dari perusahaan teknologi.

Di India, pemerintah telah memaksa WhatsApp untuk membatasi jumlah penerusan pesan (hingga 5 kali) dan menambahkan label peringatan untuk mengekang penyebaran konten berbahaya.

Vietnam memiliki salah satu tingkat penggunaan internet dan media sosial tertinggi di kalangan remaja di dunia, sehingga identifikasi risiko manipulasi psikologis terhadap kaum muda menjadi kebutuhan yang mendesak.

Lingkungan daring domestik telah menyaksikan periode "badai siber," di mana garis antara debat dan perundungan siber sangat tipis.

Yang perlu diperhatikan, pelaku jahat dapat menyisipkan informasi yang salah ke dalam topik yang sedang "tren" untuk memicu ketidakpuasan dan konflik regional, mengubah rasa tidak aman secara psikologis menjadi perilaku ilegal. Selain itu, meningkatnya penipuan AI/Deepfake dan pemerasan emosional secara langsung menargetkan siswa.

Vietnam telah memberlakukan berbagai peraturan untuk mengendalikan penggunaan media sosial guna menjamin keamanan nasional, ketertiban dan keselamatan sosial, serta hak-hak warga negara yang sah, seperti Keputusan Presiden No. 147/2024/ND-CP tentang pengelolaan internet dan media sosial, dan yang terbaru, Undang-Undang Keamanan Siber Tahun 2025, yang akan berlaku mulai 1 Juli 2026.Platform seperti Facebook, YouTube, dan TikTok diharuskan untuk meningkatkan filter bahasa Vietnam mereka guna menghapus konten berbahaya dan beracun dalam waktu singkat, serta melakukan riset untuk mengidentifikasi dan memverifikasi akun asli.

Dalam upaya membangun "kekebalan digital" di kalangan anak muda, kerangka kerja pendidikan kecerdasan buatan untuk siswa sekolah menengah telah diterbitkan baru-baru ini. Kerangka kerja ini, yang mencakup tidak hanya pengetahuan teknis tetapi juga penekanan kuat pada pendidikan etika dalam AI, merupakan fokus utama.

Isu-isu seperti privasi, keadilan, bias algoritmik, dan dampak sosial AI diintegrasikan ke dalam kurikulum, dengan tujuan menanamkan kesadaran dan tanggung jawab pada siswa sebagai warga digital, pengguna, dan pencipta teknologi yang manusiawi.

Selain itu, keluarga dan masyarakat juga memainkan peran penting dalam menciptakan ruang dialog terbuka, memberikan dukungan psikologis di sekolah, dan mendorong aktivitas fisik praktis untuk mengurangi ketergantungan pada media sosial.

Algoritma media sosial pada dasarnya bersifat netral, tetapi niat dari pihak-pihak di baliknya dan mekanisme pengoptimalan keuntungan dari perusahaan teknologi tidaklah netral.

Transformasi unggahan daring yang provokatif menjadi kerusuhan nyata di banyak negara menjadi peringatan yang mahal.

Melindungi kaum muda dari manipulasi psikologis daring sangat penting untuk menjaga keamanan sosial dan pembangunan berkelanjutan negara di era digital.