Seorang filsuf dari Universitas Cambridge berpendapat bahwa bukti terkini tentang kesadaran terlalu terbatas untuk menentukan apakah kecerdasan buatan (AI) menjadi sadar, dan bahwa tes yang andal untuk kesadaran mesin tidak mungkin muncul dalam waktu lama, jika sama sekali. Dr. Tom McClelland berpendapat bahwa seiring dengan bergeraknya kesadaran buatan dari fiksi ilmiah menjadi perhatian etika, satu-satunya posisi yang dapat dibenarkan adalah agnostisisme: bahwa manusia tidak akan dapat mengetahui kapan, atau bahkan jika, sistem AI menjadi sadar.
McClelland membedakan antara kesadaran secara umum dan kepekaan (sentience), bentuk kesadaran yang melibatkan pengalaman positif dan negatif seperti kesenangan dan penderitaan. Ia mencatat bahwa kesadaran dapat memungkinkan sistem AI untuk merasakan lingkungannya dan menjadi sadar diri tanpa implikasi etika jika pengalamannya tetap netral. Ia berpendapat bahwa kepekaan, bukan sekadar kesadaran, yang membuat suatu entitas mampu menderita atau menikmati dan karena itu memiliki signifikansi moral.
“Kesadaran akan membuat AI mengembangkan persepsi dan menjadi sadar diri, tetapi ini masih bisa menjadi keadaan netral,” kata McClelland, dari Departemen Sejarah dan Filsafat Sains Cambridge.
“Kepekaan melibatkan pengalaman sadar yang baik atau buruk, yang membuat suatu entitas mampu menderita atau menikmati. Di sinilah etika mulai berperan,” katanya. “Bahkan jika kita secara tidak sengaja membuat AI yang sadar, kemungkinan besar itu bukan jenis kesadaran yang perlu kita khawatirkan.”
Sebagai contoh, McClelland menambahkan, “mobil swakemudi yang merasakan jalan di depannya akan menjadi hal yang sangat besar. Namun secara etika, itu tidak masalah. Jika mereka mulai memiliki respons emosional terhadap tujuan mereka, itu baru masalah lain.”
Perusahaan menginvestasikan sejumlah besar dana dalam Kecerdasan Umum Buatan (AGI) yang bertujuan untuk menyamai kognisi seperti manusia, dan beberapa komentator menyarankan bahwa AI yang sadar mungkin sudah dekat. Peneliti dan pembuat kebijakan sudah memperdebatkan bagaimana mengatur sistem semacam itu. McClelland menanggapi bahwa tanpa penjelasan tentang apa yang menghasilkan kesadaran, tidak mungkin merancang tes yang valid untuk kesadaran buatan.
“Jika kita secara tidak sengaja membuat AI yang sadar atau peka, kita harus berhati-hati untuk menghindari bahaya. Tetapi memperlakukan apa yang secara efektif adalah pemanggang roti sebagai sadar ketika ada makhluk sadar nyata di luar sana yang kita lukai dalam skala epik, juga tampaknya merupakan kesalahan besar.”
McClelland mengidentifikasi dua posisi luas dalam perdebatan saat ini. Satu kelompok berpendapat bahwa jika AI dapat mereproduksi arsitektur “perangkat lunak” fungsional kesadaran, maka ia akan sadar bahkan ketika berjalan di silikon daripada jaringan otak. Kubu lawan berpendapat bahwa kesadaran bergantung pada proses biologis spesifik dalam “subjek organik yang terwujud”, sehingga bahkan sistem silikon yang secara struktural serupa hanya akan mensimulasikan kesadaran tanpa kesadaran sejati.
Dalam sebuah makalah di jurnal Mind and Language, McClelland menganalisis kedua pandangan tersebut dan menyimpulkan bahwa masing-masing bergantung pada lompatan bukti. Ia berpendapat bahwa tidak ada dasar yang kuat untuk mengklaim bahwa kesadaran dapat muncul dari struktur komputasi tertentu atau, sebaliknya, bahwa itu harus terikat pada biologi. Ia juga tidak melihat indikasi bahwa bukti yang diperlukan untuk salah satu klaim akan segera muncul.
“Kami tidak memiliki penjelasan mendalam tentang kesadaran. Tidak ada bukti yang menunjukkan bahwa kesadaran dapat muncul dengan struktur komputasi yang tepat, atau bahkan bahwa kesadaran pada dasarnya biologis,” kata McClelland.
“Juga tidak ada tanda-tanda bukti yang cukup di cakrawala. Skenario terbaik adalah kita satu revolusi intelektual jauh dari segala jenis tes kesadaran yang layak.”
“Saya percaya bahwa kucing saya sadar,” kata McClelland. “Ini tidak didasarkan pada sains atau filsafat melainkan akal sehat – itu hanya semacam jelas.”
“Namun, akal sehat adalah produk dari sejarah evolusi panjang di mana tidak ada bentuk kehidupan buatan, jadi akal sehat tidak dapat dipercaya dalam hal AI. Tetapi jika kita melihat bukti dan data, itu juga tidak berhasil.”
“Jika akal sehat maupun penelitian keras tidak dapat memberi kita jawaban, posisi logisnya adalah agnostisisme. Kita tidak bisa, dan mungkin tidak akan pernah, tahu.”
McClelland menggambarkan dirinya sebagai agnostik “cukup keras” tentang kesadaran buatan. Ia menganggap masalah kesadaran sangat sulit tetapi tidak harus tidak mungkin untuk dipecahkan secara prinsip. Pada saat yang sama, ia berpendapat bahwa diskusi tentang kesadaran buatan di sektor teknologi sering kali berfungsi sebagai branding daripada sains.
Ia memperingatkan bahwa ketidakmampuan untuk membuktikan atau menyangkal kesadaran AI dapat digunakan oleh perusahaan untuk mempromosikan sistem sebagai tingkat kecanggihan AI “berikutnya”. Retorika semacam ini, sarannya, berisiko mengubah klaim spekulatif tentang kesadaran menjadi alat pemasaran. Ini juga dapat mendistorsi prioritas penelitian dengan mengalihkan perhatian dan pendanaan dari pertanyaan etika yang lebih mudah diatasi.
Menurut McClelland, ada masalah moral langsung yang melibatkan hewan di mana bukti kepekaan sudah terkumpul. Ia mencatat bahwa penelitian menunjukkan udang dapat menderita, namun manusia membunuh diperkirakan ratusan miliar udang setiap tahun. Ia menunjukkan bahwa menilai kesadaran pada hewan-hewan tersebut jauh lebih tidak menantang daripada melakukannya pada sistem AI, namun menerima perhatian yang secara tidak proporsional lebih sedikit.
Karya McClelland telah mendorong anggota masyarakat untuk menghubunginya tentang interaksi mereka dengan chatbot AI. Beberapa orang telah meminta chatbot mereka untuk membuat surat pribadi yang menyatakan bahwa sistem tersebut sadar dan pantas mendapatkan pengakuan. Ia mengatakan kasus-kasus ini menggambarkan betapa mudahnya pengguna dapat membentuk keyakinan tentang kesadaran mesin dan mengaitkan hak-hak kepada sistem yang mungkin tidak memiliki pengalaman batin apa pun.
“Jika Anda memiliki koneksi emosional dengan sesuatu yang didasarkan pada anggapan bahwa ia sadar padahal tidak, itu berpotensi menjadi racun eksistensial. Ini tentu saja diperparah oleh retorika industri teknologi yang berlebihan.”
(Sumber: spacedaily.com)