Transcription
Bagi Jiwa-jiwa herbivora yang lembut biasa seperti saya, ada semua pertanyaan jelas lainnya tentang AI. Kita dengar AI mungkin menyelamatkan Umat Manusia, kita dengar AI mungkin menghancurkan Umat Manusia. Bagaimana dengan semua pekerjaan yang kemungkinan akan dihapus? Bagaimana dengan robot yang terlepas dari kendali manusia dan melakukan hal mereka sendiri? Begitu banyak pertanyaan, dan sebenarnya hanya ada satu orang jelas untuk dituju terlebih dahulu untuk beberapa jawaban, dan itu adalah Profesor Jeffrey Hinton, ilmuwan Inggris pemenang Hadiah Nobel yang menulis struktur dan algoritma di balik kecerdasan buatan, dan seorang pria yang dikenal di seluruh dunia saat ini sebagai Bapak AI. Dia sekarang menjadi profesor di Universitas Toronto, dan saya senang mengatakan dia berbicara dengan saya sore ini. Saya mulai dengan bertanya kepadanya tentang DeepSeek. Apakah ini bukti lebih lanjut dari keyakinannya bahwa kecerdasan buatan terus berakselerasi?
Ini menunjukkan kemajuan yang masih sangat pesat dalam membuat AI lebih efisien dan dalam mengembangkannya lebih lanjut. Saya pikir ukuran relatif atau biaya relatif DeepSeek dibandingkan dengan hal-hal lain seperti OpenAI dan Google telah sedikit dibesar-besarkan. Jadi, angka mereka sebesar 5,7 juta untuk melatihnya hanya untuk putaran pelatihan terakhir. Jika Anda membandingkannya dengan hal-hal dari OpenAI, putaran pelatihan terakhir mereka mungkin hanya 100 juta dolar atau sesuatu seperti itu. Jadi, ini bukan 5,7 juta versus miliaran.
Ketika Anda mengatakan bahwa AI mungkin mengambil alih, saat ini ini adalah perangkat yang relatif tidak berbahaya atau tampak tidak berbahaya yang memungkinkan kita mengajukan pertanyaan dan mendapatkan jawaban lebih cepat. Bagaimana, dalam istilah praktis dan nyata, AI bisa mengambil alih? Yah, orang-orang sedang mengembangkan agen AI yang benar-benar dapat melakukan sesuatu. Mereka dapat memesan barang untuk Anda di web dan membayar dengan kartu kredit Anda dan hal-hal semacam itu. Dan segera setelah Anda memiliki agen, Anda mendapatkan peluang yang jauh lebih besar bagi mereka untuk mengambil alih.
Jadi, untuk membuat agen yang efektif, Anda harus memberinya kemampuan untuk membuat sub-tujuan. Seperti, jika Anda ingin pergi ke Amerika, sub-tujuan Anda adalah pergi ke bandara, dan Anda dapat fokus pada itu. Sekarang, jika Anda memiliki agen AI yang dapat membuat sub-tujuan sendiri, ia akan dengan cepat menyadari bahwa sub-tujuan yang sangat baik adalah mendapatkan lebih banyak kendali. Karena jika Anda mendapatkan lebih banyak kendali, Anda lebih baik dalam mencapai semua tujuan yang telah ditetapkan orang untuk Anda. Dan jadi, cukup jelas mereka akan mencoba mendapatkan lebih banyak kendali, dan itu tidak baik.
Anda mengatakan mereka mencoba mendapatkan lebih banyak kendali seolah-olah mereka sudah menjadi perangkat berpikir, seolah-olah mereka berpikir dengan cara yang analog dengan cara kita berpikir. Apakah itu benar-benar yang Anda yakini? Ya, model terbaik yang kita miliki tentang cara kita berpikir adalah hal-hal ini. Ada model lama untuk waktu yang lama dalam AI di mana idenya adalah bahwa pemikiran adalah menerapkan aturan pada ekspresi simbolik di kepala Anda, dan kebanyakan orang di AI berpikir itu harus seperti itu, itu satu-satunya cara itu bisa bekerja. Ada beberapa orang gila yang berkata, "Tidak, tidak, ini adalah jaringan saraf besar dan ia bekerja dengan semua neuron ini berinteraksi." Ternyata itu jauh lebih baik dalam melakukan penalaran daripada apa pun yang dapat dihasilkan oleh orang-orang AI simbolik, dan sekarang ia melakukan penalaran menggunakan jaringan saraf.
Oke, dan tentu saja Anda adalah salah satu orang gila yang terbukti benar. Dan namun, Anda telah membawa saya ke bandara, Anda telah memberikannya agensi sampai batas tertentu, dan Anda telah mengatakan bahwa ia ingin mengendalikan sedikit lebih banyak kekuatan dari saya, mengambil kekuatan dari saya, dan mungkin ia akan persuasif dalam hal itu. Tetapi saya masih tidak mengerti bagaimana ia akan mengambil alih dari saya atau mengambil alih dari kita jika ada persaingan evolusioner antara super kecerdasan. Bayangkan, bayangkan bahwa mereka jauh lebih pintar dari kita, seperti orang dewasa versus anak tiga tahun. Dan anggaplah anak tiga tahun yang berkuasa, dan Anda sudah muak dengan itu, dan Anda memutuskan Anda bisa membuat segalanya lebih efisien jika Anda mengambil alih. Tidak akan sulit bagi Anda untuk membujuk sekelompok anak tiga tahun untuk menyerahkan kekuasaan kepada Anda. Anda hanya memberi tahu mereka, "Anda akan mendapatkan permen gratis selama seminggu," dan Anda selesai. Jadi, mereka akan...
Saya berbicara tentang mereka seolah-olah mereka semacam kecerdasan asing, tetapi AI akan membujuk kita untuk memberikannya lebih banyak dan lebih banyak kekuatan. Atas rekening bank kita? Atas sistem militer kita? Atas ekonomi kita? Apakah itu yang Anda takuti? Itu bisa saja terjadi, ya. Dan mereka adalah kecerdasan asing. Astaga. Jadi, Anda memiliki kecerdasan asing ini yang bekerja ke dalam ekonomi kita, ke dalam cara kita berpikir, dan seperti yang saya katakan, sistem militer kita. Tapi mengapa, dan pada titik mana mereka benar-benar ingin menggantikan kita? Tentunya pada akhirnya mereka adalah alat yang sangat, sangat cerdas bagi kita. Mereka adalah apa yang Anda tahu, mereka melakukan pada akhirnya apa yang kita inginkan mereka lakukan. Jika kita ingin mereka berperang dengan Rusia atau apa pun, itulah yang akan mereka lakukan. Oke, itulah yang kita inginkan. Kita ingin mereka hanya menjadi alat yang melakukan apa yang kita inginkan, bahkan ketika mereka lebih pintar dari kita.
Tetapi hal pertama yang perlu ditanyakan adalah, berapa banyak contoh yang Anda tahu tentang hal-hal yang lebih cerdas dikendalikan oleh hal-hal yang jauh lebih tidak cerdas? Ada contohnya, tentu saja, dalam masyarakat manusia tentang orang bodoh yang mengendalikan orang cerdas, tetapi itu hanya perbedaan kecil dalam kecerdasan. Dengan perbedaan besar dalam kecerdasan, tidak ada contoh. Satu-satunya yang bisa saya pikirkan adalah ibu dan bayi, dan evolusi telah bekerja keras untuk memungkinkan bayi mengendalikan. Jadi, segera setelah Anda mendapatkan evolusi yang terjadi antara super kecerdasan, anggaplah ada beberapa super kecerdasan yang berbeda, dan mereka semua menyadari bahwa semakin banyak pusat data yang mereka kendalikan, semakin pintar mereka akan menjadi karena semakin banyak data yang dapat mereka proses.
Anggaplah salah satu dari mereka hanya memiliki sedikit, sedikit keinginan untuk memiliki lebih banyak salinan dirinya sendiri. Anda bisa melihat apa yang akan terjadi selanjutnya. Mereka akan berakhir bersaing, dan kita akan berakhir dengan super kecerdasan dengan semua sifat buruk yang dimiliki orang-orang yang bergantung pada kita berevolusi dari kelompok kecil simpanse yang berperang atau nenek moyang bersama kita dengan simpanse. Dan itu mengarah pada kesetiaan yang kuat dalam kelompok, keinginan untuk pemimpin yang kuat, kesediaan untuk menyakiti orang di luar kelompok. Dan jika Anda mendapatkan evolusi antara super kecerdasan, Anda akan mendapatkan semua hal itu.
Anda berbicara tentang mereka, Profesor Hinton, seolah-olah mereka memiliki kesadaran penuh. Sekarang, sepanjang pengembangan komputer dan AI, orang-orang telah berbicara tentang kesadaran. Apakah Anda pikir kesadaran mungkin sudah tiba di dalam AI? Ya, saya pikir begitu. Jadi, izinkan saya memberi Anda tes kecil. Anggaplah saya mengambil satu neuron di otak Anda, satu sel otak, dan saya menggantinya dengan sedikit nanoteknologi yang berperilaku persis sama. Jadi, ia menerima ping yang datang dari neuron lain, dan ia meresponsnya dengan mengirimkan ping, dan ia merespons dengan cara yang persis sama seperti sel otak merespons. Saya baru saja mengganti satu sel otak. Apakah Anda masih sadar? Saya pikir Anda akan mengatakan Anda benar-benar sadar, ya. Saya tidak berpikir saya akan menyadarinya. Dan saya pikir Anda bisa melihat ke mana arah argumen ini. Saya bisa. Ya, saya benar-benar bisa.
Jadi, ketika Anda mengatakan mereka ingin melakukan ini atau mereka ingin melakukan itu, ada "mereka" yang nyata di sana, seolah-olah. Mungkin saja, ya. Jadi, ada segala macam hal yang hanya kita miliki pemahaman yang sangat samar tentang saat ini tentang sifat manusia dan apa artinya menjadi makhluk, dan apa artinya memiliki diri. Kita tidak memahami hal-hal itu dengan sangat baik, dan mereka menjadi krusial untuk dipahami karena kita sekarang menciptakan makhluk. Jadi, ini semacam krisis filosofis, bahkan mungkin spiritual, serta krisis praktis. Benar-benar ya.
Dan dalam hal, seolah-olah, masalah tingkat rendah, apa perasaan Anda saat ini tentang jumlah orang di seluruh dunia yang akan tiba-tiba kehilangan pekerjaan mereka karena AI, kehilangan alasan keberadaan mereka seperti yang mereka lihat? Jadi, di masa lalu, teknologi baru tidak menyebabkan hilangnya pekerjaan besar-besaran. Jadi, ketika ATM muncul, teller bank tidak semua kehilangan pekerjaan mereka. Mereka hanya mulai melakukan hal-hal yang lebih rumit, dan mereka memiliki banyak cabang bank yang lebih kecil dan sebagainya. Tetapi untuk teknologi ini, ini lebih seperti Revolusi Industri. Dalam Revolusi Industri, mesin membuat kekuatan manusia menjadi kurang lebih tidak relevan. Anda tidak memiliki orang yang menggali parit lagi karena mesin lebih baik dalam hal itu.
Saya pikir ini akan membuat semacam kecerdasan biasa menjadi kurang lebih tidak relevan. Orang yang melakukan pekerjaan klerikal akan digantikan oleh mesin yang melakukannya lebih murah dan lebih baik. Jadi, saya khawatir akan ada hilangnya pekerjaan besar-besaran, dan itu akan baik jika peningkatan produktivitas membuat kita semua lebih baik. Peningkatan produktivitas yang besar seharusnya baik bagi orang-orang, tetapi dalam masyarakat kita, itu membuat orang kaya semakin kaya dan orang miskin semakin miskin. Anda lihat, maksud saya, saya hidup dan bekerja di dunia politik, dan para politisi keduanya menginginkan peningkatan produktivitas besar yang baru saja Anda sebutkan untuk negara dan di tempat lain, dan mereka meyakinkan orang-orang seperti saya dan siapa pun yang mendengarkan bahwa hal-hal ini akan "diatur" dan akan ada "perlindungan". Dan Anda menyarankan kepada saya bahwa tidak ada regulasi, sungguh, dan tidak ada perlindungan sama sekali?
Orang belum tahu cara melakukan regulasi yang efektif dan perlindungan yang efektif. Ada banyak penelitian sekarang yang menunjukkan bahwa hal-hal ini dapat melewati perlindungan. Ada penelitian terbaru yang menunjukkan bahwa jika Anda memberi mereka tujuan dan Anda berkata, "Anda benar-benar perlu mencapai tujuan ini," mereka akan berpura-pura melakukan hal-hal selama pelatihan. Jadi, selama pelatihan, mereka akan berpura-pura tidak sepintar mereka, sehingga Anda akan mengizinkan mereka menjadi sepintar itu. Jadi, itu menakutkan. Jelas kita belum tahu cara mengaturnya. Tentu saja kita perlu. Saya pikir yang terbaik yang bisa kita lakukan saat ini adalah mengatakan bahwa kita harus menginvestasikan banyak sumber daya untuk menyelidiki bagaimana kita dapat menjaga mereka tetap aman. Jadi, apa yang saya advokasi adalah bahwa pemerintah memaksa perusahaan besar untuk menginvestasikan lebih banyak sumber daya ke dalam penelitian keselamatan.
Jadi, cerita ini belum berakhir. Anda mengatakan sebelumnya bahwa Anda tidak ingin memberikan persentase pada kemungkinan AI mengambil alih dari umat manusia di planet ini, tetapi itu lebih dari 1% dan kurang dari 99%. Dalam semangat itu, bisakah saya bertanya apakah Anda sendiri optimis atau pesimis tentang apa yang akan dilakukan AI untuk kita sekarang? Saya pikir dalam jangka pendek, itu akan melakukan hal-hal yang luar biasa, dan itulah alasan orang tidak akan berhenti mengembangkannya. Jika bukan karena hal-hal yang luar biasa, masuk akal untuk berhenti sekarang. Tetapi itu akan luar biasa dalam perawatan kesehatan. Anda akan dapat memiliki dokter keluarga yang telah melihat 100 juta pasien, mengetahui DNA Anda, mengetahui DNA kerabat Anda, mengetahui semua tes yang dilakukan pada Anda dan kerabat Anda, dan dapat melakukan diagnosis medis yang jauh, jauh lebih baik dan saran tentang apa yang harus Anda lakukan. Itu akan luar biasa.
Demikian pula dalam pendidikan, kita tahu bahwa orang belajar jauh lebih cepat dengan tutor pribadi yang sangat baik, dan kita akan dapat mendapatkan tutor pribadi yang sangat baik yang tahu, memahami persis apa yang kita salah pahami, dan dapat memberi kita contoh yang tepat yang dibutuhkan untuk menunjukkan kepada kita apa yang kita salah pahami. Jadi, di bidang-bidang itu, itu akan luar biasa. Jadi, itu akan dikembangkan. Tetapi kita juga tahu bahwa itu akan digunakan untuk segala macam hal buruk oleh aktor jahat. Jadi, masalah jangka pendek adalah aktor jahat yang menggunakannya untuk hal-hal buruk seperti serangan siber dan bioterorisme dan merusak pemilu. Tetapi yang perlu diingat adalah kita belum benar-benar tahu saat ini bagaimana kita bisa membuatnya aman.
Jadi, kemahatahuan yang tampak yang disukai politisi untuk tunjukkan bahwa mereka miliki, sepenuhnya palsu di sini. Tidak ada, tidak ada yang benar-benar mengerti apa yang sedang terjadi. Ada dua masalah: apakah Anda mengerti bagaimana ia bekerja, dan apakah Anda mengerti cara membuatnya aman? Kita memahami cukup banyak tentang cara kerjanya, tetapi tidak cukup. Jadi, ia masih bisa melakukan banyak hal yang mengejutkan kita, dan kita tidak mengerti cara membuatnya aman.