Kecerdasan Buatan Super Istilah AI, Apa Artinya Bagi Umat Manusia?
Ilustrasi AI. Foto : ist Opini : Daniel Hulme, CEO perusahaan AI Satalia dan Conscium
Viralterkini.id – Implikasi dari teknologi seperti “kecerdasan buatan super” (artificial superintelligence/ASI ASI akan sangat besar, mendorong para ilmuwan dan filsuf untuk mendedikasikan waktu yang cukup lama untuk memetakan janji dan potensi jebakan bagi umat manusia.
Di sisi positifnya, mesin dengan kapasitas kecerdasan yang hampir tak terbatas dapat memecahkan beberapa tantangan paling mendesak di dunia, kata Daniel Hulme, CEO perusahaan AI Satalia dan Conscium.
Daniel Hulme, CEO perusahaan AI Satalia dan Conscium. Foto : ist
“Secara khusus, mesin super cerdas dapat menghilangkan hambatan dari penciptaan dan penyebaran makanan, pendidikan, perawatan kesehatan, energi, transportasi, sedemikian rupa sehingga kita dapat menurunkan biaya barang-barang tersebut hingga nol,” katanya kepada Live Science.
“Harapannya adalah bahwa hal ini akan membebaskan orang dari keharusan bekerja untuk bertahan hidup dan sebagai gantinya dapat menghabiskan waktu melakukan hal-hal yang mereka sukai,” jelas Hulme.
Namun kecuali sistem diterapkan untuk mendukung mereka yang pekerjaannya di-PHK oleh AI, hasilnya bisa lebih suram. “Jika itu terjadi dengan sangat cepat, ekonomi kita mungkin tidak dapat menyeimbangkan kembali, dan itu dapat menyebabkan keresahan sosial,” katanya.
Ini juga mengasumsikan bahwa kita dapat mengendalikan dan mengarahkan entitas yang jauh lebih cerdas daripada kita sesuatu yang menurut banyak ahli tidak mungkin terjadi. “Saya tidak begitu setuju dengan gagasan bahwa AI akan mengawasi kita, merawat kita, dan memastikan kita bahagia,” kata Hulme. “Saya tidak bisa membayangkan AI akan peduli,” ucapnya.
Kemungkinan adanya kecerdasan super yang tidak dapat kita kendalikan telah memicu ketakutan bahwa AI dapat menimbulkan risiko eksistensial bagi spesies kita. Hal ini telah menjadi kiasan populer dalam fiksi ilmiah, dengan film-film seperti “Terminator” atau “The Matrix” yang menggambarkan mesin jahat yang bertekad menghancurkan manusia.
Namun, filsuf Nick Bostrom menyoroti bahwa AI bahkan tidak harus secara aktif memusuhi manusia agar berbagai skenario kiamat dapat terjadi. Dalam sebuah makalah tahun 2012, ia menyatakan bahwa kecerdasan suatu entitas tidak bergantung pada tujuannya, sehingga AI dapat memiliki motivasi yang sama sekali asing bagi kita dan tidak sejalan dengan kesejahteraan manusia.
Bostrom mengembangkan ide ini dengan eksperimen pemikiran di mana AI yang sangat canggih diberi tugas yang tampaknya tidak berbahaya untuk memproduksi klip kertas sebanyak mungkin. Jika tidak selaras dengan nilai-nilai kemanusiaan, AI tersebut dapat memutuskan untuk memusnahkan semua manusia agar mereka tidak mematikannya, atau agar semua atom dalam tubuh mereka dapat berubah menjadi lebih banyak klip kertas.
Rocktäschel lebih optimis. “Kami membangun sistem AI saat ini agar dapat membantu, tetapi juga menjadi asisten yang tidak berbahaya dan jujur,” katanya. “Sistem tersebut disetel untuk mengikuti instruksi manusia, dan dilatih berdasarkan umpan balik untuk memberikan jawaban yang membantu, tidak berbahaya, dan jujur,” paparnya.
Meskipun Rocktäschel mengakui bahwa perlindungan ini dapat dielakkan, ia yakin kita akan mengembangkan pendekatan yang lebih baik di masa mendatang. Ia juga berpikir bahwa AI dapat digunakan untuk mengawasi AI lain, meskipun AI tersebut lebih kuat.
Hulme mengatakan sebagian besar pendekatan saat ini untuk “penyelarasan model” upaya untuk memastikan bahwa AI selaras dengan nilai-nilai dan keinginan manusia terlalu kasar. Biasanya, mereka menyediakan aturan tentang bagaimana model harus berperilaku atau melatihnya pada contoh perilaku manusia. Namun, menurutnya pagar pembatas ini, yang dipasang di akhir proses pelatihan, dapat dengan mudah dilewati oleh ASI.
Sebaliknya, Hulme berpendapat bahwa kita harus membangun AI dengan “naluri moral.” Perusahaannya, Conscium, berupaya melakukannya dengan mengembangkan AI dalam lingkungan virtual yang telah direkayasa untuk menghargai perilaku seperti kerja sama dan altruisme.
Saat ini, mereka bekerja dengan AI “tingkat serangga” yang sangat sederhana, tetapi jika pendekatan tersebut dapat ditingkatkan, hal itu dapat membuat penyelarasan menjadi lebih kuat. “Menanamkan moral dalam naluri AI menempatkan kita pada posisi yang jauh lebih aman daripada sekadar memiliki pagar pembatas seperti Whack-a-Mole,” kata Hulme.
Namun, tidak semua orang yakin bahwa kita perlu mulai khawatir. Salah satu kritik umum terhadap konsep ASI, kata Rocktäschel, adalah bahwa kita tidak memiliki contoh manusia yang sangat cakap dalam berbagai tugas, jadi mungkin tidak mungkin untuk mencapainya dalam satu model saja. Keberatan lainnya adalah bahwa sumber daya komputasi yang diperlukan untuk mencapai ASI mungkin terlalu besar.
Lebih praktis, cara kita mengukur kemajuan dalam AI mungkin menyesatkan kita tentang seberapa dekat kita dengan kecerdasan super, kata Alexander Ilic, kepala Pusat AI ETH di ETH Zurich, Swiss. Sebagian besar hasil yang mengesankan dalam AI dalam beberapa tahun terakhir berasal dari pengujian sistem pada beberapa tes yang sangat dibuat-buat untuk keterampilan individu seperti pengodean, penalaran, atau pemahaman bahasa, yang secara eksplisit dilatih untuk lulus oleh sistem, kata Ilic.
Ia membandingkannya dengan belajar keras untuk ujian di sekolah. “Anda mengerahkan otak Anda untuk mengerjakannya, lalu Anda mengerjakan ujian, dan kemudian Anda melupakannya,” katanya. “Anda lebih pintar dengan menghadiri kelas, tetapi ujian itu sendiri bukanlah proksi yang baik dari pengetahuan yang sebenarnya.”
AI yang mampu melewati banyak tes ini pada tingkat manusia super mungkin hanya tinggal beberapa tahun lagi, kata Ilic. Namun, ia yakin pendekatan dominan saat ini tidak akan menghasilkan model yang dapat menjalankan tugas-tugas yang berguna di dunia fisik atau berkolaborasi secara efektif dengan manusia, yang akan sangat penting bagi mereka untuk memiliki dampak yang luas di dunia nyata. (ary)
Pos terkait
Popular Mingguan
Tidak ada komentar