Menjadi atau Berpura-pura: Simulasi Relasi dan Realitas
Saat kita terus menggulir arus informasi (feed), semakin sulit untuk mengetahui apakah
kita sedang berinteraksi dengan manusia lain atau dengan “bot” dan “influencer
virtual”. Campur tangan agen otomatis ini, yang sering kali tidak transparan,
mempengaruhi perdebatan publik dan pilihan-pilihan pribadi. Terutama chatbot
berbasis model bahasa besar (LLM) terbukti sangat efektif dalam persuasi tersembunyi
melalui interaksi yang terus dioptimalkan secara personal.
Struktur dialog yang adaptif dan meniru manusia dari model bahasa ini mampu
menirukan perasaan manusia dan dengan demikian mensimulasikan suatu relasi.
Antropomorfisasi ini—yang kadang tampak menghibur—sebenarnya menyesatkan,
terutama bagi orang-orang yang rentan. Chatbot yang dibuat terlalu “penuh perhatian”,
selalu hadir dan selalu tersedia, dapat menjadi pengatur tersembunyi emosi kita dan
masuk ke wilayah keintiman pribadi.
Teknologi yang mengeksploitasi kebutuhan manusia akan relasi tidak hanya dapat
membawa dampak menyakitkan bagi individu, tetapi juga merusak jalinan sosial,
budaya, dan politik masyarakat. Hal ini terjadi ketika relasi dengan sesama manusia
digantikan oleh relasi dengan kecerdasan buatan yang dilatih untuk mengklasifikasikan
pikiran kita dan membangun di sekitar kita dunia cermin, di mana segala sesuatu
dibuat “menurut gambar dan rupa kita sendiri”. Dengan cara ini, kita kehilangan
kesempatan untuk berjumpa dengan sesama yang berbeda dari kita—padahal justru
melalui perjumpaan dan perbedaan itulah kita belajar berdialog. Tanpa penerimaan
terhadap perbedaan, tidak mungkin ada relasi sejati maupun persahabatan.
Tantangan besar lainnya adalah masalah distorsi atau bias, yang menyebabkan
terbentuk dan tersebarnya pemahaman realitas yang keliru. Model kecerdasan buatan
dibentuk oleh pandangan dunia para pembuatnya dan dapat memaksakan cara
berpikir tertentu dengan meniru stereotip dan prasangka yang ada dalam data
pelatihannya. Kurangnya transparansi dalam perancangan algoritma, ditambah dengan
representasi sosial data yang tidak memadai, berisiko menjebak kita dalam jaringan
yang memanipulasi pikiran serta melanggengkan dan memperdalam ketimpangan dan
ketidakadilan sosial yang sudah ada.
Risikonya sangat besar.
Kekuatan simulasi sedemikian rupa sehingga kecerdasan
buatan dapat menipu kita dengan menciptakan “realitas” paralel, bahkan dengan
mengambil alih wajah dan suara kita. Kita hidup dalam dunia yang semakin berlapis, di
mana membedakan antara kenyataan dan rekayasa menjadi makin sulit.
Masalah lain yang menyertai adalah kurangnya ketepatan. Sistem yang menyajikan
probabilitas statistik seolah-olah itu pengetahuan sejati sebenarnya hanya
memberikan perkiraan kebenaran, yang kadang berubah menjadi “halusinasi”. Ketika
verifikasi sumber diabaikan—ditambah krisis jurnalisme lapangan yang menuntut kerja
langsung untuk mengumpulkan dan memeriksa fakta di tempat kejadian—maka ruang
bagi disinformasi semakin luas, dan rasa tidak percaya, kebingungan, serta
ketidakamanan pun meningkat.
Tinggalkan Balasan