"Namun, ketika aliansi tersebut tak lagi berguna untuk mencapai tujuannya memenangkan permainan, Cicero secara sistematis mengkhianati para sekutunya," ujar Park.

Menurut studi, Meta sebenarnya berhasil membuat Cicero jadi pemain andal di game Diplomacy, tapi gagal melatihnya bermain jujur. Alih-alih demikian, para peneliti MIT menjuluki bahwa Cicero menjadi "pakar tipu muslihat".

Lain lagi kelakuan AlphaStar, AI dari DeepMind yang dimiliki oleh Google, ketika bermain game real time strategy (RTS) StarCraft 2.

AlphaStar suka memanfaatkan fog of war (area permainan yang tidak terlihat karena tidak ada unit pemain di sana) untuk berpura-pura melancarkan serangan ke satu daerah. Padahal ada serangan sebenarnya yang lebih besar ditujukan ke daerah lain.

Lalu ada juga AI lain buatan Meta, Pluribus, yang bisa sukses menggertak pemain lain dalam permainan poker sehingga menyerah (fold). Padahal, deretan kartu Pluribus sebenarnya payah, tapi sang AI sukses menakut-nakuti. 

Bisa pura-pura baik

Tipu muslihat AI tidak terbatas hanya di dalam game saja karena sistem-sistem AI lain yang "dilatih untuk bernegosiasi dalam transaksi ekonomi", menurut studi MIT, belajar untuk menyembunykan niat mereka yang sebenarnya agar mendapat keuntungan.

"Dalam masing-masing contoh ini, sistem AI belajar untuk menipu untuk meningkatkan kinerjanya dalam game atau tutas tertentu," tulis para peneliti.

Beberapa sistem AI bahkan disebut mampu berbuat curang di uji keamanan yang dirancang untuk mencegah mereka berperilaku negatif. Saat sedang diamati, AI pura-pura baik, kemudian baru mengeluarkan sifat aslinya ketika tak lagi diperhatikan.

Kemampuan AI untuk melakukan tipu muslihat tentu membuka aneka kemungkinan buruk. Untuk jangka pendek, AI bisa digunakan sebagai senjata untuk melakukan penipuan besar-besaran, menyebarkan misinformasi dan mempengaruhi pemilu, atau bahkan menanam radikalisme dan merekrut teroris. 

Jangka panjangnya dapat lebih mengerikan, sejalan dengan semakin banyaknya AI dilibatkan dalam kehidupan sehari-hari dan pengambilan keputusan. Manusia bisa sepenuhnya kehilangan kendali. 

Apa yang harus dilakukan?

Jadi, apa yang bisa dilakukan untuk memitigasi kelakuan buruk AI ini? Para peneliti MIT mengatakan hal
tersebut membutuhkan pendekatan dari berbagai sisi. Pertama, dari segi regulasi, perlu ada peraturan tentang risiko AI. Sistem AI yang mampu menipu harus diberikan perhatian dan persyaratan khusus. 

Kemudian, dari segi teknis, diperlukan metode untuk mendeteksi tipu muslihat oleh AI, serta riset lebih mendalam untuk mengurangi kecenderungan AI melakukan penipuan.

Para pembuat kebijakan, peneliti AI, dan publik mesti bersepakat dan bekerja sama agar AI bisa menguntungkan umat manusia, alih-alih dijadikan alat untuk manipulasi. 

"Sebagai masyarakat, kita perlu sebanyak mungkin waktu untuk bersiap menghadapi muslihat canggih dari produk-produk AI di masa depan," ujar Park, sebagaimana dihimpun KompasTekno dari New York Post, Rabu (15/5/2024). 

"Seiring dengan semakin berkembangnya kemampuan sistem-sistem AI dalam menipu, bahayanya terhadap masyarakat juga semakin serius," tandasnya. 

Baca juga: Setahun Baru Terendus, Oknum Polisi Jadi Dalang Perampokan Minimarket Kini Ditangkap, Ini Nasibnya

(Banjarmasinpost.co.id/Tribun-Medan.com)