Pada 2018, seorang analis internal Facebook mempresentasikan temuan yang mengejutkan kepada manajemen puncak perusahaan: 64% dari semua pengguna yang bergabung dengan kelompok-kelompok ekstremis di platform itu, bergabung karena direkomendasikan oleh sistem rekomendasi Facebook sendiri. Bukan karena mereka aktif mencarinya. Bukan karena teman mengajak. Melainkan karena algoritma memutuskan bahwa konten ekstrem adalah konten yang membuat pengguna betah dan terus menggulir layar.

Temuan itu dikubur. Tidak ada perubahan kebijakan besar. Tidak ada pengumuman publik.

Tiga tahun kemudian, whistleblower Frances Haugen membawa puluhan ribu halaman dokumen internal Facebook ke hadapan Kongres Amerika Serikat. Apa yang tersembunyi selama bertahun-tahun akhirnya terungkap: perusahaan tahu bahwa algoritmanya memperparah polarisasi, tapi memilih pertumbuhan bisnis di atas keselamatan warganya. Ini bukan cerita tentang teknologi yang kebetulan punya efek samping buruk. Ini tentang desain yang disengaja — dan konsekuensinya bagi demokrasi di seluruh dunia.

Bagaimana Algoritma Bekerja: Mesin Kemarahan yang Menguntungkan

Untuk memahami mengapa ini terjadi, kita perlu memahami logika bisnis di balik setiap platform media sosial besar. Model bisnis mereka sederhana: semakin lama pengguna berada di platform, semakin banyak iklan yang bisa dijual. Maka algoritma dirancang dengan satu tujuan utama — memaksimalkan engagement, atau keterlibatan pengguna.

Masalahnya, riset internal Facebook yang dibocorkan Haugen menunjukkan bahwa konten yang paling efektif mempertahankan perhatian pengguna adalah konten yang memicu emosi kuat: kemarahan, ketakutan, dan rasa jijik. Sebagaimana yang diungkap oleh laporan MIT Technology Review (2021), partai-partai politik di Eropa melaporkan bahwa mereka mulai memposting konten yang lebih negatif sebagai respons terhadap perubahan algoritma Facebook tahun 2018 yang lebih memprioritaskan keterlibatan pengguna. Algoritma, dengan kata lain, secara tidak langsung mendisiplinkan para politisi untuk berbicara lebih keras, lebih provokatif, lebih memecah belah.

Frances Haugen menggambarkannya dengan jelas dalam kesaksiannya di Senat AS: "Ketika kita hidup dalam lingkungan informasi yang penuh dengan konten marah, penuh kebencian, dan memecah belah, hal itu mengikis kepercayaan sipil kita, mengikis iman kita satu sama lain, dan mengikis kemampuan kita untuk peduli satu sama lain."

Ini bukan sekadar opini seorang mantan karyawan. Haugen membawa dokumen internal yang menunjukkan bahwa Facebook secara konsisten memilih untuk memaksimalkan pertumbuhannya daripada menerapkan perlindungan pada platformnya, sekaligus menyembunyikan dari publik dan pejabat pemerintah riset internal yang mengungkapkan kerugian dari produk-produk Facebook.

Filter Bubble: Ketika Kita Berhenti Bertemu Realitas Orang Lain

Di luar soal konten yang memanipulasi emosi, ada problem yang lebih dalam dan lebih struktural: filter bubble.

Istilah ini dipopulerkan oleh aktivis internet Eli Pariser dalam bukunya The Filter Bubble: What the Internet is Hiding from You (2011). Konsepnya sederhana tapi implikasinya mengerikan. Filter bubble mengacu pada cara informasi disaring sebelum mencapai pengguna internet. Menurut Pariser, filter bubble dihasilkan dari personalisasi konten online dan diyakini secara intelektual mengisolasi pengguna serta mengurangi keragaman informasi yang mereka terima.

Pariser memberikan contoh konkret: Facebook memperhatikan jenis tautan yang diklik pengguna, dan jika pengguna lebih sering mengklik tautan dari teman-teman dengan pandangan politik tertentu, tanpa pemberitahuan platform akan mulai menyembunyikan tautan dari teman-teman dengan pandangan berbeda.

Yang berbahaya dari filter bubble, sebagaimana dituliskan Pariser, adalah implikasinya bagi demokrasi: "Demokrasi mengharuskan warganya untuk melihat sesuatu dari sudut pandang satu sama lain, namun sebaliknya kita semakin terkurung dalam gelembung kita sendiri. Demokrasi membutuhkan ketergantungan pada fakta-fakta yang dibagi bersama; sebagai gantinya kita ditawari semesta-semesta yang paralel tapi terpisah."

Di Indonesia, fenomena ini telah terdokumentasi secara empiris. Penelitian dari Jurnal Sosiologi Andalas (Oktober 2025) tentang perilaku politik Generasi Z di TikTok menemukan bahwa generasi Z lebih terdorong oleh faktor afektif dibandingkan orientasi informasi substantif dalam menentukan pilihan politiknya. Platform mengoptimalkan perasaan, bukan pemikiran. Dan hasilnya terlihat nyata dalam dinamika Pemilu 2024.

Kasus Myanmar: Ketika Algoritma Membunuh

Jika filter bubble dan polarisasi terasa abstrak, kasus Myanmar membuatnya sangat konkret — dan sangat mematikan.

Pada 2018, PBB melaporkan bahwa media sosial memainkan peran signifikan dalam genosida Rohingya 2017 di negara bagian Rakhine, Myanmar. PBB juga mengidentifikasi Facebook sebagai "instrumen berguna" untuk menyebarkan ujaran kebencian di negara tersebut.

Laporan Amnesty International tahun 2022 lebih jauh mengungkap mekanismenya. Amnesty menemukan bahwa Meta berkontribusi pada kekejaman di Myanmar terhadap Rohingya melalui penggunaan algoritma Facebook yang memperkuat konten berbahaya dan moderasi konten berbahaya yang tidak memadai. Algoritma bukan sekadar gagal mencegah — ia aktif mempromosikan.

Meta menggunakan sistem algoritma berbasis keterlibatan untuk menggerakkan fitur umpan berita, peringkat, rekomendasi, dan grup Facebook. Meta mendapat keuntungan ketika pengguna Facebook tinggal di platform selama mungkin. Konten yang bersifat provokatif, termasuk yang menganjurkan kebencian yang merupakan hasutan terhadap kekerasan, adalah cara efektif untuk membuat orang tetap di platform lebih lama.

Akibatnya, lebih dari 700.000 warga Rohingya mengungsi ke Bangladesh. Sebuah studi kasus tentang bagaimana logika bisnis dapat berubah menjadi bencana kemanusiaan — dengan skala yang tidak bisa diabaikan.

Pertanyaan yang Tidak Mudah Dijawab

Ada satu keberatan yang perlu diakui dengan jujur: apakah algoritma benar-benar seberbahaya itu, atau kita sedang mencari kambing hitam?

Beberapa peneliti memang memperingatkan bahwa efek filter bubble mungkin telah dilebih-lebihkan. Beberapa studi menunjukkan bahwa orang-orang terpapar pada beragam pandangan di media sosial, lebih banyak daripada di media tradisional yang memiliki garis editorial yang ketat. Ada juga argumen bahwa polarisasi politik di banyak negara sudah terjadi sebelum media sosial ada.

Penelitian dari Jurnal Sosiologi Andalas (2025) menawarkan nuansa penting: Homogenisasi konten tidak sepenuhnya dapat dianggap sebagai hasil dari algoritma semata, karena interaksi dan preferensi pengguna juga berperan signifikan dalam menentukan konten yang muncul. Artinya, generasi Z bukan sekadar korban pasif dari logika algoritma, melainkan juga memiliki agensi dalam membentuk ekosistem digital.

Ini poin yang adil. Kita bukan robot yang dikontrol sepenuhnya oleh mesin. Tapi — dan ini penting — kita juga bukan makhluk yang sepenuhnya rasional. Algoritma bekerja dengan memanfaatkan bias-bias kognitif yang sudah ada dalam diri manusia: kita secara alamiah lebih mudah marah daripada berpikir jernih, lebih mudah percaya informasi yang mengonfirmasi keyakinan kita, dan lebih mudah terjebak dalam cerita yang dramatis.

Ketika sistem yang paling kuat di dunia dirancang untuk mengeksploitasi bias itu — masalahnya bukan lagi soal pilihan bebas individu.

Apa yang Bisa Dilakukan? Antara Regulasi dan Resistensi Personal

Tidak ada solusi tunggal, tapi ada beberapa arah yang bisa ditempuh.

Pada level kebijakan, Union Eropa telah mengambil langkah konkret lewat Digital Services Act (DSA) yang mulai berlaku penuh pada 2024. DSA mewajibkan platform besar untuk memberikan transparansi tentang cara algoritma bekerja dan memberi pengguna pilihan untuk tidak menggunakan algoritma rekomendasi personal. Ini preseden penting, meski implementasinya masih terus diperdebatkan.

Di Indonesia, penelitian dari Universitas Minartis (2024) merekomendasikan beberapa langkah, termasuk mendorong literasi digital tentang cara algoritma bekerja, dan mendorong konten yang beragam secara politik. Regulasi yang memaksa transparansi algoritma adalah salah satu kunci.

Pada level personal, ada beberapa hal yang bisa dimulai dalam satu minggu ke depan:

Audit informasi Anda. Selama seminggu, catat dari mana saja Anda mendapatkan berita dan opini politik. Berapa banyak sumber yang memiliki perspektif berbeda dari Anda?
Gunakan fitur "Not Interested". Secara aktif memberitahu algoritma konten apa yang tidak Anda inginkan adalah cara efektif untuk mengganggu pola rekomendasinya.
Cari sumber yang tidak se-ideologi. Membaca satu artikel dari perspektif yang berbeda setiap hari — bahkan jika Anda tidak setuju — adalah latihan demokrasi yang konkret.
Beri jeda sebelum share. Penelitian menunjukkan bahwa kemarahan adalah emosi yang paling viral. Tanyakan diri sendiri: apakah Anda membagikan ini karena informasinya penting, atau karena membuat Anda marah?

Demokrasi Tidak Otomatis Bertahan

Demokrasi bukanlah sesuatu yang, setelah diraih, tinggal dipertahankan dengan sendirinya. Ia adalah praktik harian — dan praktik itu kini berlangsung di atas infrastruktur yang secara aktif didesain untuk menguntungkan dari ketidaksepakatan kita yang paling keras.

Ini bukan argumentasi untuk kembali ke masa sebelum internet, atau untuk menutup media sosial. Platform-platform ini juga telah memberikan ruang bagi gerakan-gerakan pro-demokrasi, memungkinkan warga biasa mempersoalkan kekuasaan, dan menghubungkan komunitas yang sebelumnya terisolasi.

Tapi pertanyaan yang harus kita tanyakan bukanlah "apakah media sosial baik atau buruk?" — pertanyaan itu terlalu sederhana. Pertanyaan yang lebih tajam adalah: siapa yang menentukan bagaimana algoritma bekerja, untuk kepentingan siapa, dan apakah kita sebagai warga demokratis punya hak untuk tahu dan menentukan aturan mainnya?

Selama jawaban atas pertanyaan itu adalah "perusahaan swasta yang tidak akuntabel," maka setiap diskusi tentang kesehatan demokrasi kita harus memasukkan algoritma sebagai salah satu faktor strukturalnya.

Ingat: Dalam demokrasi, warga seharusnya memilih siapa yang berkuasa atas negara. Tapi jika algoritma menentukan informasi apa yang kita terima tentang kandidat dan isu-isu publik — maka pertanyaan yang lebih fundamental muncul: siapa yang sesungguhnya membentuk pilihan kita?

Referensi & Resources:

Amnesty International (2022). "Myanmar: Facebook's Systems Promoted Violence Against Rohingya; Meta Owes Reparations." https://www.amnesty.org/en/latest/news/2022/09/myanmar-facebooks-systems-promoted-violence-against-rohingya-meta-owes-reparations-new-report/
MIT Technology Review (2021). "Frances Haugen Says Facebook's Algorithms Are Dangerous. Here's Why." https://www.technologyreview.com/2021/10/05/1036519/facebook-whistleblower-frances-haugen-algorithms/
Eli Pariser (2011). The Filter Bubble: What the Internet Is Hiding from You. Penguin Press.
Fondation Descartes (2020). "Filter Bubbles and Echo Chambers." https://www.fondationdescartes.org/en/2020/07/filter-bubbles-and-echo-chambers/
Jurnal Sosiologi Andalas (2025). "Algoritma, Gamifikasi, dan Polarisasi Generasi Z di TikTok." https://jsa.fisip.unand.ac.id/index.php/jsa/article/download/543/112/2691
JKOMDIS (2024). "Polarisasi Politik Melalui Interaksi Sosial Di Instagram: Studi Kasus Pemilu 2024 Di Indonesia." https://jurnal.minartis.com/index.php/jkomdis/article/view/1675
International Crisis Group (2021). "What the Facebook Whistleblower Reveals about Social Media and Conflict." https://www.crisisgroup.org/united-states/united-states-internal/what-facebook-whistleblower-reveals-about-social-media-and-conflict