Etika Penggunaan AI dalam Jurnalisme

Oleh: Agus Sudibyo, Ketua Dewan Pengawas LPP TVRI

Pada November 2023, sebanyak 17 organisasi media dan wartawan memanfaatkan momentum Paris Peace Forum untuk memublikasikan panduan penggunaan teknologi artificial intelligence (AI) dalam kerja-kerja media massa. Panduan berjudul Paris Charter on AI and Journalism itu bukanlah satu-satunya rujukan bagi kalangan media untuk mengetahui bagaimana dan sejauh mana teknologi AI dapat dioperasikan untuk menunjang fungsi-fungsi jurnalistik.

Namun, penekanan panduan tersebut terhadap etika, akuntabilitas, dan transparansi penggunaan teknologi AI terasa sangat relevan dan kontekstual. Tulisan ini mencoba menafsirkan Paris Charter on AI and Journalism dan membayangkan penerapannya dalam konteks jurnalisme Indonesia ke depan.

Baca juga Perluas Hak Korban dalam Proses Peradilan Pidana

Satu prinsip yang pertama-tama ditegaskan Paris Charter on AI and Journalism adalah bahwa penggunaan teknologi apa pun dalam kerja media harus benar-benar operasional bagi perwujudan misi utama menjamin hak setiap orang atas informasi berkualitas dan tepercaya.

Perwujudan misi ini harus mendasari setiap pilihan teknologi untuk menunjang proses produksi, distribusi, dan monetisasi berita. Dalam konteks inilah, pengembangan dan penggunaan sistem AI dalam ranah jurnalisme juga mesti selalu merujuk pada nilai-nilai kejujuran, akuntabilitas, independensi, imparsialitas, akurasi, keadilan, nonkekerasan, nondiskriminasi.

Jurnalisme dengan semua keutamaannya ini harus diletakkan sebagai titik tolak sekaligus tujuan utama dari semua transformasi teknologis yang terjadi dalam tubuh media massa. Apa yang hendak diantisipasi atau dicegah dalam konteks ini?

Tak pelak lagi adalah keadaan-keadaan ketika nilai-nilai inti jurnalisme sedemikian rupa diabaikan dalam tren komunikasi massa terdigitalisasi yang secara laten justru sering menjadi sarana untuk membenarkan tindakan-tindakan penyalahgunaan, penyesatan, mobilisasi, dan manipulasi publik.

Peran manusia tetap jadi kunci

Kedua, penerapan AI dalam kerja media harus terukur, terencana, dan terkendalikan. Manusia—pemimpin dan awak redaksi—harus tetap menjadi penentu dalam perumusan dan penetapan strategi jangka panjang dan pilihan-pilihan editorial media massa.

Baca juga Menjadi Guru yang Humanis

Penggunaan sistem AI dalam kerja-kerja media harus diputuskan secara sadar, tidak tergesa-gesa, tidak dalam tekanan, dan didasari oleh pemahaman komprehensif tentang sistem AI, berikut segi-segi positif ataupun negatifnya. Hanya dengan memahami sistem AI secara komprehensif, media massa dapat secara rasional memutuskan tujuan, lingkup operasional, dan syarat penggunaan dari setiap sistem AI yang mereka pilih untuk mendukung proses produksi, distribusi, atau monetisasi konten.

Media massa perlu membangun mekanisme pengawasan lintas divisi dan terus-menerus memastikan bahwa tujuan, lingkup operasional, dan syarat penggunaan sistem AI itu dapat berjalan dengan baik. Hal yang ditekankan di sini adalah bahwa pengelola media harus benar-benar mampu menghentikan (deactivate) operasi sistem AI yang mereka pilih ketika sistem tersebut tiba-tiba tidak berfungsi sebagaimana mestinya dan menimbulkan kerugian bagi media yang bersangkutan ataupun bagi khalayaknya. Misalnya saja, sistem tersebut tiba-tiba menyebarkan berita yang insinuatif, diskriminatif, atau memicu keresahan khalayak terkait isu suku, agama, ras, dan antargolongan (SARA).

Penggunaan AI yang memiliki dampak signifikan terhadap produksi dan distribusi konten jurnalistik harus secara gamblang dijelaskan kepada khalayak.

Ketiga, media massa harus mempertanggungjawabkan kebijakan editorialnya, termasuk keputusan menggunakan sistem AI dalam proses mencari, memproses, dan menyebarkan informasi. Setiap informasi yang disebarkan media, termasuk yang—sebagian atau seluruhnya—dihasilkan oleh sistem AI mesti dapat dipertanggungjawabkan secara publik.

Skema penggunaan sistem AI dalam proses editorial itu sekali lagi mesti dirancang, dijabarkan, dan dilaksanakan dalam koridor ”dapat dikendalikan oleh manusia” guna memastikan ketaatannya terhadap etika jurnalistik dan kebijakan editorial. Skema penggunaan sistem AI tersebut juga harus secara terbuka dan memadai dijelaskan kepada khalayak untuk menghindari kesalahpahaman dan kebingungan dalam mencerna produk-produk informatif hasil rekayasa teknologi AI.

Baca juga Penguatan Moderasi Beragama

Pada intinya, penggunaan AI yang memiliki dampak signifikan terhadap produksi dan distribusi konten jurnalistik harus secara gamblang dijelaskan kepada khalayak yang berpotensi mengakses konten tersebut.

Dalam konteks yang sama, Paris Charter on AI and Journalism menekankan tanggung jawab redaksi untuk membangun ”pagar api” yang jelas dan mudah dipahami publik antara konten hasil kerja AI dan konten tangkapan langsung manusia dari dunia nyata (foto, suara, video). Konten, informasi, atau rekaman peristiwa yang dihasilkan manusia atau yang muncul dari proses jurnalistik yang dijalankan manusia mesti diprioritaskan.

Hak kekayaan intelektual

Penggunaan AI dalam proses bermedia juga mesti dengan sungguh-sungguh memperhatikan prinsip-prinsip perlindungan privasi, data pribadi, dan hak kekayaan intelektual. Kerangka akuntabilitas dan transparansi perlu dibangun untuk memastikan perlindungan atas prinsip tersebut dan pelaksanaannya mesti diawasi tim independen dan kompeten. Sistem AI yang diadopsi media dalam hal ini juga harus bisa dijelaskan dan diprediksi tingkat kesuksesan dan kegagalannya dalam melindungi privasi dan data pengguna serta hak kekayaan intelektual itu.

Terkait dengan penghargaan terhadap hak kekayaan intelektual, media juga harus menjamin dan menjelaskan keaslian dan asal dari konten produk AI yang mereka sebarkan, berikut modifikasi dan perubahan yang dilakukan atas konten tersebut.

Dalam konteks inilah muncul kebijakan Uni Eropa yang mewajibkan penyelenggara platform AI generatif untuk menjelaskan keaslian dan asal dari konten yang mereka manfaatkan untuk menghasilkan narasi, gambar, atau video. Konten atau perubahan atas konten jurnalistik oleh AI yang berpotensi spekulatif, salah, atau menyesatkan juga wajib diperiksa dan diperbaiki dahulu oleh redaksi sebelum dipublikasikan.

Baca juga Pendidikan untuk Perdamaian yang Berkelanjutan

Dalam kerangka yang sama, Paris Charter on AI and Journalism menegaskan, perusahaan pemilik sistem AI harus memberikan kredit kepada sumber konten jurnalistik yang mereka gunakan dan menyediakan kompensasi atas penggunaan konten tersebut. Kompensasi ini mesti berupa remunerasi ekonomi yang adil sehingga dapat digunakan untuk mengembangkan jurnalisme yang baik.

Pemilik sistem AI juga harus menyediakan laporan yang transparan dan detail tentang konten jurnalistik yang mereka gunakan untuk melatih dan menjalankan machine learning yang menghasilkan produk AI. Proses pendaurulangan dan pemanfaatan ulang konten jurnalistik oleh platform AI mesti senantiasa merujuk pada integritas informasi dan etika jurnalistik.

Sistem AI juga mesti didesain dan digunakan sedemikian rupa untuk menjamin terwujudnya lingkup informasi yang berkualitas tinggi, pluralistik, dan tepercaya. Dalam konteks inilah, gugatan New York Times terhadap Open AI dan Microsoft beberapa saat yang lalu dapat dijelaskan dalam konteks perlindungan hak kekayaan intelektual dan hak ekonomi media massa.

Apropriasi atas keberagaman dan demokrasi

Penerapan teknologi AI tidak hanya terjadi pada aras produksi, tetapi juga pada aras distribusi konten. Dalam konteks inilah, muncul tren personalisasi dan rekomendasi konten. Penggunaan newsfeed media sosial (medsos) untuk mempromosikan atau menyebarkan konten jurnalistik dapat menjadi contoh di sini.

Baca juga Keadilan untuk Semua

Newsfeed di sini adalah struktur sajian konten yang membantu pengguna medsos menemukan konten yang relevan dengan minatnya tanpa harus bersusah payah menelusuri dan menyortirnya sendiri. Algoritma kurasi platform medsos telah menyajikan konten itu sesuai dengan profil pengguna.

Micol Burighel dalam ”Polarization and the Role of Digital Media” (2019) mengidentifikasi munculnya dilema algoritma (algorithm dilemma) dalam kaitan ini. Di satu sisi, algoritma kurasi platform medsos atau mesin pencari telah menyelamatkan pengguna internet dari rimba-raya konten digital yang tak beraturan dan sangat kompleks dengan menyajikan struktur sajian konten yang terstruktur, terseleksi, dan mudah diakses.

Tanpa proses algoritma kurasi, kita ibaratnya tersesat dalam sebuah perpustakaan raksasa tanpa dipandu katalog sama sekali. Kita mesti menjelajahi setiap sudut dan setiap rak buku di perpustakaan itu untuk mendapatkan hanya satu informasi. Algoritma kurasi jelas menjadi berkah bagi pengguna internet. Dengan sekali klik setelah memasukkan kata kunci, kita memperoleh informasi yang kita butuhkan.

Baca juga Beragama Maslahat

Namun, di sisi lain, proses kurasi algoritmis juga dapat menjerumuskan kita dalam lingkup informasi yang ”itu-itu saja” dan kelompok percakapan yang eksklusif. Suatu keadaan yang umumnya tidak kita sadari, tetapi menentukan bagaimana kita bersikap terhadap keberagaman pandangan dan opini.

Cass R Sunstein dalam buku #Republic: Divided Democracy in the Age of Social Media menjelaskan dampak dari kurasi algoritmis itu dengan istilah Daily Me, yakni semesta informasi yang hanya merefleksikan minat dan kepedulian orang per orang. Daily Me merujuk pada kumpulan konten terpersonalisasi yang diseleksi dan direkomendasikan berdasarkan profil digital pengguna internet.

Semakin aktif kita menggunakan layanan digital, semakin intensif proses pengawasan terhadap diri kita, dan semakin lengkap profil digital yang dapat disusun tentang diri kita. Berdasarkan profil tersebut, platform digital akan terus memanjakan kita dengan paparan informasi dan pandangan yang seragam.

Jika kita aktif mengekspresikan dukungan terhadap seorang kandidat presiden, kita akan terus disuguhi dengan informasi yang relevan dengan dukungan tersebut. Jika kita menunjukkan ketertarikan pada suatu pandangan keagamaan, kita juga niscaya akan terus disuapi dengan informasi tentang pandangan keagamaan tersebut.

Baca juga Bagaimana Menangani Perundungan Anak

Yang lazim terjadi kemudian adalah bias konfirmasi. Kita cenderung hanya mau menerima argumentasi yang memperkuat keyakinan kita dan mengabaikan argumentasi yang lain. Kita terjebak dalam kepompong informatif (information cocoon), yakni arus informasi yang searah, homogen, dan hanya memperkuat suatu pandangan. Dalam kepompong informatif tersebut, tidak ada dorongan untuk mengoreksi atau menguji pandangan yang telah diyakini.

Keterbatasan sistem AI harus benar-benar disadari insan media yang sedang gemar-gemarnya menggunakan AI dalam aktivitas jurnalistik sehari-hari mereka.

Pengguna media sosial terus berasyik masyuk dengan informasi, opini, dan argumentasi yang mendukung pandangan mereka sendiri. Tidak ada dorongan untuk secara dialogis bertukar pandangan dengan kelompok lain. Alih-alih penguatan kultur demokrasi atau semangat pluralisme, justru ekstremisme, dan intoleransi yang tanpa banyak disadari tertanam dalam diri pengguna medsos dalam konteks ini.

Dalam konteks ini, perlu ditegaskan bahwa desain dan penggunaan sistem AI untuk personalisasi dan rekomendasi konten jurnalistik harus senantiasa merujuk pada penghargaan atas keberagaman budaya dan nilai, serta selalu mempromosikan dialog yang demokratis, sikap terbuka terhadap perbedaan pandangan, dan antidiskriminasi. Inilah bagian terpenting dari Paris Charter on AI and Journalism.

Bukti-bukti faktual menunjukkan AI generatif dapat menyajikan informasi yang bias. Akibat asupan data yang tidak memadai dan model pembelajaran yang membawa bias para perancangnya, machine learning bisa menghasilkan AI yang diskriminatif dalam menggambarkan, menganalisis, atau memberi pelayanan kepada kelompok tertentu, katakanlah Muslim, kulit hitam, imigran, perempuan, dan lain-lain. Keterbatasan sistem AI harus benar-benar disadari insan media yang sedang gemar-gemarnya menggunakan AI dalam aktivitas jurnalistik sehari-hari mereka.

Baca juga Titik Buta Kekerasan di Sekolah

*Artikel ini terbit di kompas.id, Minggu 28 Januari 2024