Chatbots Facebook Tidak Akan Mengambil alih Dunia

Percobaan Facebook memang menghasilkan bot sederhana yang berbicara dengan kalimat kacau, tapi tidak mengkhawatirkan, mengejutkan, atau sangat cerdas. Tidak ada orang di lab AI jaringan sosial yang panik tapi liputan media yang salah mungkin bukan pertanda baik bagi masa depan kita. Seiring pembelajaran mesin dan kecerdasan buatan, sangat penting untuk memahami potensi dan kenyataan teknologi ini. Inilah yang sebenarnya terjadi di lab penelitian AI di Facebook. Periset mulai membuat chatbots yang bisa bernegosiasi dengan orang. Pemikiran mereka: Negosiasi dan kerja sama akan sangat diperlukan agar bots bekerja lebih dekat dengan manusia.

Tim periset mengajarkan bot mereka untuk memainkan game dengan menggunakan program dua langkah. Pertama, mereka memberi makan komputer dialog dari ribuan permainan antar manusia untuk memberi sistem rasa bahasa negosiasi. Kemudian mereka mengizinkan bot untuk menggunakan trial and error-dalam bentuk teknik yang disebut penguatan pembelajaran. Ketika dua bot menggunakan pembelajaran penguatan saling bermain, mereka berhenti menggunakan kalimat yang dapat dikenali. Atau, seperti yang digambarkan oleh para peneliti Facebook dalam makalah teknis mereka, “Kami menemukan bahwa memperbarui parameter kedua agen tersebut menyebabkan perbedaan dalam bahasa manusia.

Peneliti Facebook berharap bisa membuat bot yang bisa bermain dengan manusia, jadi mereka merancang ulang skema pelatihan mereka untuk memastikan mereka terus menggunakan bahasa yang dapat dikenali. Perubahan itu melahirkan berita utama yang penuh rasa takut tentang para periset yang harus menghentikan percobaan. Bots sederhana Facebook dirancang untuk melakukan hanya satu hal: mencetak poin sebanyak mungkin dalam permainan sederhana. Dan itulah yang mereka lakukan. Karena mereka tidak diprogram untuk bertahan dengan bahasa Inggris yang bisa dikenali.

Percobaan Facebook benar-benar menunjukkan keterbatasan AI. Literalitas buta sistem pembelajaran mesin saat ini membatasi kegunaan dan kekuatan mereka. Kecuali Anda dapat menemukan cara untuk memprogram dengan tepat apa yang Anda inginkan, Anda mungkin tidak mendapatkannya. Itulah sebabnya beberapa peneliti bekerja untuk menggunakan umpan balik manusia, bukan sekadar kode, untuk menentukan sasaran sistem AI. Begitu para bots mulai berbicara bahasa Inggris, mereka memang terbukti mampu bernegosiasi dengan manusia.

Menariknya, pada beberapa kesempatan, bots Facebook mengatakan bahwa mereka tertarik pada barang-barang yang tidak mereka inginkan. Penelitian mesin belajar sangat menarik, penuh potensi, dan mengubah dunia kita. Terminator tetaplah fiksi.

Sumber :
https://www.wired.com/story/facebooks-chatbots-will-not-take-over-the-world/