Etika AI (Akal Imitasi) dan Pekerja Kreatif Queer: Menempatkan Teknologi dalam Perspektif Keadilan Sosial

Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) atau Akal Imitasi telah mengubah berbagai aspek kehidupan manusia, mulai dari pendidikan, kesehatan, industri, hingga praktik seni dan budaya. AI sering dipromosikan sebagai teknologi yang mampu meningkatkan efisiensi, produktivitas, dan kreativitas. Namun, di balik janji tersebut, muncul pertanyaan yang jauh lebih mendasar: apakah AI benar-benar netral? Pertanyaan ini menjadi sangat penting, terutama ketika teknologi mulai bersinggungan dengan pengalaman hidup kelompok-kelompok yang selama ini berada di pinggiran, termasuk komunitas queer dan para pekerja kreatif yang berasal dari komunitas tersebut. Tulisan ini menegaskan bahwa membicarakan AI sesungguhnya bukan hanya membicarakan mesin, melainkan juga membicarakan manusia, relasi kuasa, serta nilai-nilai yang tertanam di dalam teknologi.

Selama ini AI sering dipahami sebagai sistem yang objektif, rasional, otomatis, dan bebas dari bias. Pandangan tersebut membuat banyak orang menganggap bahwa hasil yang diberikan AI selalu benar karena dihasilkan melalui proses komputasi. Padahal, AI dibangun oleh manusia yang membawa budaya, bahasa, ideologi, politik, dan nilai moral ke dalam proses pengembangannya. Dengan kata lain, AI merupakan produk sosial sekaligus teknologi. Perspektif ini diperkuat oleh pendekatan antropologi yang melihat AI sebagai fenomena sosioteknis yang dibentuk oleh praktik budaya, relasi sosial, dan asumsi manusia, bukan sekadar algoritma yang bekerja secara mekanis. Oleh sebab itu, ketika berbicara mengenai AI, pertanyaan yang relevan bukan lagi “Apakah AI pintar?”, melainkan “Bagaimana AI diproduksi?”, “Siapa yang mendefinisikan kecerdasan?”, dan “Nilai siapa yang dianggap universal?”. Antropologi membantu kita memahami bahwa teknologi selalu lahir dalam konteks sosial tertentu dan tidak pernah berdiri di ruang yang netral.

Pemahaman tersebut juga mengingatkan bahwa AI memiliki sejarah politik yang panjang. Teknologi ini tidak hanya lahir dari perkembangan industri digital di Silicon Valley, tetapi juga berkaitan dengan sejarah Perang Dunia II, riset militer, cybernetics, universitas, serta kebutuhan industri modern. Dengan demikian, AI sejak awal berkembang dalam relasi antara pengetahuan, kekuasaan, dan kepentingan politik. Memahami sejarah ini penting agar kita tidak memandang AI sebagai inovasi yang sepenuhnya baru atau bebas kepentingan. Sebaliknya, AI merupakan kelanjutan dari berbagai sistem sosial yang telah membentuk cara manusia memahami dunia.

Dari perspektif antropologi, pembahasan kemudian bergeser menuju konsep Queer AI. Jika AI dibangun oleh manusia, maka norma-norma manusia juga akan masuk ke dalam teknologi tersebut. Norma mengenai gender, ras, seksualitas, kemampuan tubuh, hingga bahasa dapat direproduksi melalui sistem AI. Dalam konteks ini, pendekatan queer menjadi penting karena queer tidak semata-mata dipahami sebagai identitas seksual atau gender, tetapi sebagai cara berpikir kritis yang mempertanyakan siapa yang dianggap normal, siapa yang terlihat, siapa yang didengar, siapa yang dijadikan data, dan siapa yang justru dihapus dari representasi teknologi. Pendekatan ini membuka ruang untuk mengkritisi bagaimana AI berpotensi memperkuat heteronormativitas dan berbagai bentuk ketidakadilan sosial.

Salah satu contoh yang menarik adalah kasus “Gay Bomb”, yaitu penelitian militer Amerika Serikat mengenai senjata kimia yang secara imajiner dirancang untuk membuat musuh menjadi gay. Terlepas dari apakah senjata tersebut benar-benar diwujudkan, kasus ini menunjukkan bagaimana homoseksualitas diposisikan sebagai kelemahan dalam imajinasi militer. Dengan demikian, teknologi bukan hanya alat teknis, melainkan juga sarana untuk mereproduksi nilai-nilai heteronormatif. Namun, sebagaimana dijelaskan melalui gagasan Zach Blas mengenai hijacking technology, teknologi juga dapat direbut kembali, diretas, atau “di-queer-kan” untuk menjadi ruang resistensi terhadap norma dominan. AI bukanlah sesuatu yang selesai, melainkan arena negosiasi politik yang selalu terbuka untuk dipertanyakan dan diubah.

Dalam praktik sehari-hari, AI kini hadir hampir di semua sektor kehidupan, termasuk kesehatan, pendidikan, seni, pekerjaan, keamanan, dan media sosial. Klaim mengenai objektivitas, akurasi, dan efisiensi sering kali menjadi alasan utama penggunaan AI di berbagai bidang. Namun, tradisi feminis dan studi sains-teknologi telah lama mengingatkan bahwa data tidak pernah benar-benar bebas dari bias sosial maupun kolonial. Oleh karena itu, penggunaan AI harus selalu disertai kesadaran kritis terhadap struktur kekuasaan yang membentuk data tersebut.

Persoalan ini menjadi semakin kompleks ketika AI digunakan dalam kerja kreatif. Pertanyaan yang seharusnya diajukan bukan sekadar apakah AI mampu menghasilkan karya seni, melainkan apa yang terjadi ketika pengalaman hidup pekerja kreatif menjadi bahan pelatihan atau dataset bagi AI. Pekerja kreatif tidak hanya terdiri atas seniman visual, ilustrator, desainer, dan sineas, tetapi juga kurator, arsiparis, penulis, penyair, musisi, drag performer, aktivis digital, serta pengorganisir komunitas. Banyak di antara mereka berasal dari komunitas queer yang selama bertahun-tahun membangun budaya melalui praktik kolektif, kerja afektif, dan pengarsipan komunitas yang sering kali tidak mendapatkan pengakuan. Ketika karya-karya tersebut digunakan sebagai data tanpa persetujuan, muncul persoalan etik mengenai hak cipta, kepemilikan, dan eksploitasi pengetahuan komunitas.

AI belajar dari internet, arsip, media sosial, museum, database, dan karya-karya kreatif yang tersedia secara digital. Akan tetapi, sebagian besar pencipta karya tersebut tidak pernah dimintai izin untuk menjadikan hasil kerjanya sebagai data pelatihan AI. Lebih jauh lagi, AI cenderung memandang gambar sebagai kumpulan piksel, musik sebagai gelombang suara, dan puisi sebagai token linguistik. Cara pandang ini mengabaikan kenyataan bahwa bagi pekerja kreatif, karya seni merupakan hasil pengalaman hidup, trauma, relasi sosial, perjuangan politik, memori kolektif, dan ikatan komunitas. Dengan demikian, karya seni tidak dapat direduksi menjadi sekadar data digital yang siap diproses mesin.

Atas dasar itulah, penggunaan AI dalam kerja kreatif memerlukan seperangkat prinsip etika. AI sebaiknya diposisikan sebagai kolaborator yang membantu proses brainstorming, riset awal, eksplorasi visual, penyuntingan, penerjemahan, atau peningkatan aksesibilitas melalui caption, alt-text, dan transkripsi. Namun, narasi, pengalaman hidup, dan keputusan artistik tetap harus berasal dari manusia. Selain itu, pengguna AI perlu memeriksa bias representasi yang dihasilkan sistem, memastikan bahwa gender tidak direduksi menjadi stereotip, tubuh tertentu tidak dihapus, serta identitas queer tetap mendapatkan ruang representasi yang adil. Di sisi lain, perlindungan data komunitas juga menjadi hal yang sangat penting. Penggunaan AI harus didasarkan pada persetujuan (consent), memahami kebijakan privasi platform, dan menghindari pengunggahan data sensitif seperti identitas trans, arsip HIV, alamat rumah aman, maupun dokumen organisasi. Transparansi mengenai bagian mana yang dihasilkan AI dan mana yang merupakan kontribusi manusia juga menjadi bentuk akuntabilitas yang penting. Demikian pula, penghormatan terhadap hak cipta harus dilakukan melalui pengecekan, atribusi, dan modifikasi yang memadai apabila hasil AI menyerupai karya seniman lain.

Sebaliknya, terdapat sejumlah praktik yang harus dihindari. AI tidak boleh digunakan untuk menyebarkan data sensitif, melakukan outing terhadap identitas seseorang, memperkuat stereotip, menggantikan suara komunitas, membuat deepfake yang merugikan individu, menganggap hasil AI selalu benar, maupun menghapus kredit pekerja kreatif. Setiap penggunaan AI perlu diawali dengan pertanyaan kritis mengenai siapa yang memperoleh keuntungan, siapa yang memberikan persetujuan, siapa yang berpotensi dirugikan, siapa yang tidak terlihat, dan siapa yang memiliki kekuasaan dalam proses tersebut. Prinsip ini semakin dipertegas melalui enam konsep utama, yaitu Consent, Credit, Compensation, Confidentiality, Context, dan Community sebagai dasar pengambilan keputusan etis.

Sebagai alat refleksi praktis, tulisan ini menawarkan STOP Framework yang terdiri atas empat pertanyaan sederhana: dari mana data berasal (Source), apakah proses AI transparan (Transparency), siapa pemilik karya dan data (Ownership), serta siapa yang berpotensi dirugikan (Potential Harm). Kerangka ini mengajak setiap pengguna AI untuk tidak hanya berfokus pada kemampuan teknologi, tetapi juga pada dampak sosial dan politik yang dihasilkannya. Pada akhirnya, mengkritisi AI bukan berarti menolak kemajuan teknologi. Sebaliknya, kritik tersebut merupakan upaya untuk memastikan bahwa perkembangan AI tidak dibangun di atas eksploitasi karya kreatif, pelanggaran privasi, maupun penghapusan pengalaman hidup komunitas yang selama ini telah mengalami marginalisasi. Dengan demikian, AI dapat berkembang sebagai teknologi yang lebih adil, inklusif, dan menghargai keberagaman pengalaman manusia.

Referensi Bacaan

Anthropology and AI

Koycheva, L., VandenBroek, A. K., & Artz, M. (Eds.). (2024). Anthropology and AI. Routledge.

Tentang Queer AI

Queer Reflections on AI: Uncertain Intelligences

Parisi, L., Daniele, A., dkk. (Eds.). (2024). Queer Reflections on AI: Uncertain Intelligences. Institute of Network Cultures.

Teknologi sebagai Arena Politik

Zach Blas

Blas, Z. (2018). Informatic Opacity.

Blas, Z. (2014). Facial Weaponization Suite.

Tentang Bias AI

Algorithms of Oppression

Noble, S. U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. New York University Press.

Race After Technology

Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. Polity Press.

Atlas of AI

Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.

Tentang Etika AI

UNESCO

UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence.

OECD

OECD. (2019). OECD Principles on Artificial Intelligence.

Tentang Feminist Science and Technology Studies

Situated Knowledges

Haraway, D. (1988). “Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective.” Feminist Studies, 14(3), 575–599.

Staying with the Trouble

Haraway, D. (2016). Staying with the Trouble: Making Kin in the Chthulucene. Duke University Press.

Tentang Queer Theory

Gender Trouble

Butler, J. (1990). Gender Trouble: Feminism and the Subversion of Identity. Routledge.

Epistemology of the Closet

Sedgwick, E. K. (1990). Epistemology of the Closet. University of California Press.

Tentang Arsip, Data, dan Komunitas

Decolonizing Methodologies

Smith, L. T. (2021). Decolonizing Methodologies: Research and Indigenous Peoples (3rd ed.). Zed Books.

Informasi penulis: 

Ayunita Xiao Wei adalah seniman interdisipliner, penulis, dan pekerja budaya asal Indonesia yang praktiknya bergerak di persimpangan sastra, seni rupa, musik, arsip, dan riset berbasis komunitas. Berangkat dari latar belakang sastra dan tata kelola seni, ia mengembangkan praktik artistik yang mengeksplorasi isu-isu feminisme, seksualitas, keberagaman gender, disabilitas, dan tubuh. Karyanya hadir dalam berbagai medium, mulai dari puisi, cerpen, ilustrasi digital, instalasi, video, musikalisasi puisi, hingga proyek-proyek dokumentasi dan pengarsipan budaya.

Buku pertamanya, Melela(ng) Buana (2022), merupakan kumpulan cerita pendek yang mengeksplorasi seksualitas, ketubuhan, dan pengalaman menjadi perempuan di Indonesia. Buku ini kemudian dikembangkan menjadi proyek video animasi Unveiling Horizons: The Journey of Melela(ng) Buana, yang diproduksi bersama ASEAN SOGIE Caucus sebagai upaya memperluas akses terhadap karya sastra melalui medium audiovisual.

Ayunita juga berkontribusi sebagai penulis dalam sejumlah publikasi kolektif, antara lain Terang Benderang: Cerita Sehari-Hari Diri dan Semua yang Mengitari (Qbukatabu, 2021), Be Me (ASEAN SOGIE Caucus, 2021), Buku Saku: Yang Perlu Kamu Ketahui Seputar Dunia Kerja (Pamflet, 2019), Cerita Suka Ria Remaja (Pamflet, 2017), serta berbagai tulisan mengenai sastra, hak asasi manusia, keberagaman, antikorupsi, dan isu-isu sosial di berbagai media dan organisasi masyarakat sipil. Melalui praktik kepenulisan dan keseniannya, ia terus berupaya menghadirkan narasi-narasi alternatif yang memperluas representasi kelompok-kelompok yang selama ini kurang terdengar. Ikuti kegiatannya di IG: ayunitaxiaowei.