Network
RINGTIMES BALI - Peneliti Couchbase minta perusahaan untuk perlu mengurangi risiko dalam pemanfaatan Artificial intelligence (AI) atau kecerdasan buatan, yang cenderung bias dan bisa mempengaruhi kualitas dari produk yang dihasilkan.
Associate Solutions Engineer Couchbase Aaron Schenider menyatakan bahwa tantangan besar bagi perusahaan pengguna AI untuk mengurangi bias dalam penawaran produk serta risiko menghindari model AI yang berbahaya.
“Tantangannya adalah bagaimana perusahaan dapat mengurangi bias tersebut dalam penawaran produk mereka, dan menghindari risiko memasukkan model AI yang berbahaya ke dalam produksi,” ucap Aaron, dikutip dari Antara, Kamis, 16 Maret 2023.
Baca Juga: Polri Periksa Penyebab Gagal Ginjal Akut pada Anak, Diduga Ada Obat Lain yang Jadi Pemicu
Menurutnya, pemanfaatan AI melalui ChatGPT masih menilai manusia berdasarkan warna kulit dan juga jenis kelamin.
Itulah mengapa respon yang diberikan akan berisiko, menghasut, diskriminatif, dan merusak reputasi bisnis yang sebelumnya bertujuan menggunakan AI untuk kebaikan.
Aaron berpendapat meskipun itu bukan kesalahan AI, tetapi terletak pada data yang diinput pada teknologi tersebut.
Namun tetap saja pengembangannya harus menghentikan bias untuk menghindari kesalahan sejak dini. Apa yang diinput penulis, itulah yang akan diterima kembali.
Baca Juga: BNI Adakan RUPST Tahun Buku 2022, Setujui Pembagian Dividen Senilai Rp7,32 Triliun
Aaron mengatakan bahwa permasalahan ini sebenarnya bukanlah sesuatu yang baru.
Bias AI sering terjadi ketika model AI menampilkan bias dari penulis manusianya melalui kumpulan data. Apa yang diberikan adalah apa yang didapatkan kembali.
Oleh karena itu, agar teknologi tetap mempunyai dampak dan nilai positif bagi perusahaan, perusahaan harus dibekali dengan pemahaman untuk membangun model AI yang tidak bias.
Hal ini dapat dilakukan melalui penggunaan solusi pemrosesan peristiwa dalam waktu nyata.
Baca Juga: Gubernur Bali Usulkan Pencabutan VoA Rusia dan Ukraina, Kadispar: Saya Optimis Wisman Tetap Datang
Selain itu, dengan memanfaatkan logika bisnis yang ditentukan oleh perusahaan, dapat menghapus informasi yang tidak diinginkan dari kumpulan data AI secara otomatis. Langkah ini membutuhkan solusi basis data cloud NoSQL.
Menurut Aaron penggunaan model bahasa lain perlu digunakan untuk membantu AI dalam memprediksi kata yang digunakan untuk setiap respon yang diberikan. Sebelumnya sudah ada penelitian mengenai ChatGPT.
Dari ChatGPT ini diketahui bahwa OpenAI mampu menyadari bias AI dan dengan sendirinya menambahkan batasan ke dalam AI.
Sehingga mampu menyaring komentar yang menyinggung, seksis, dan yang bersifat rasis.
Baca Juga: Kepala Kejati Bali Diganti, Kasus SPI Unud Tetap Ditelusuri
Selain itu, pembatasan dibuat sesederhana mungkin, sehingga mencegah ChatGPT membuat tanggapan yang tidak pantas.
Baik itu daftar kata kunci, hingga panduan yang dilarang, akan diterapkan demi mencegah model AI, dalam menggunakan konten terlarang.***
