Zaman kecerdasan buatan telah tiba, dan orang-orang panik karenanya.
Untungnya, saya di sini untuk membawa kabar baik: AI tidak akan menghancurkan dunia, malah mungkin menyelamatkannya.
Pertama, pengenalan singkat tentang apa itu kecerdasan buatan: proses penerapan matematika dan kode perangkat lunak untuk mengajari komputer cara memahami, mensintesis, dan menghasilkan pengetahuan, seperti manusia. Kecerdasan buatan adalah program seperti program komputer lainnya—berjalan, menerima masukan, memprosesnya, dan menghasilkan keluaran. Keluaran kecerdasan buatan sangat berguna di berbagai bidang, mulai dari pemrograman hingga kedokteran, hukum, dan seni kreatif. Itu dimiliki dan dikendalikan oleh manusia, sama seperti teknologi lainnya.
Deskripsi singkat tentang kecerdasan buatan: tidak seperti di film-film di mana perangkat lunak dan robot pembunuh tiba-tiba menjadi hidup dan memutuskan untuk membantai manusia atau menghancurkan segalanya.
Deskripsi singkat untuk kecerdasan buatan: ini bisa menjadi cara untuk menjadikan semua yang kita pedulikan menjadi lebih baik.
**Mengapa AI dapat membuat semua yang kita sayangi menjadi lebih baik? **
Kesimpulan utama dari berbagai penelitian yang dilakukan dalam ilmu sosial selama bertahun-tahun adalah bahwa kecerdasan manusia dapat membawa perbaikan dramatis di semua bidang kehidupan. Orang yang lebih cerdas mencapai hasil yang lebih baik di hampir setiap bidang: prestasi akademik, kinerja pekerjaan, status karir, pendapatan, kreativitas, kesehatan fisik, umur panjang, mempelajari keterampilan baru, menangani tugas kompleks, kepemimpinan, kesuksesan wirausaha, Pemecahan konflik, Pemahaman Membaca, Pengambilan Keputusan Keuangan , Memahami Perspektif Orang Lain, Seni Kreatif, Hasil Parenting, dan Kepuasan Hidup.
Selain itu, kecerdasan manusia adalah pengungkit yang telah kita gunakan selama ribuan tahun untuk menciptakan dunia kita: sains, teknologi, matematika, fisika, kimia, kedokteran, energi, arsitektur, transportasi, komunikasi, seni, musik, budaya, filsafat, etika, dan Moralitas. Tanpa penerapan kecerdasan di semua wilayah ini, kita mungkin masih tinggal di gubuk lumpur, berjuang untuk bertahan dari kemiskinan bercocok tanam. Sebaliknya, kami telah menggunakan kecerdasan untuk meningkatkan standar hidup kami sekitar 10.000 kali lipat selama 4.000 tahun terakhir.
AI memberi kita kesempatan untuk membuat berbagai hasil kecerdasan—mulai dari menciptakan obat-obatan baru hingga mengatasi perubahan iklim hingga teknologi yang memungkinkan perjalanan antarbintang—jauh lebih baik di masa depan dengan meningkatkan kecerdasan manusia secara mendalam.
Proses kecerdasan buatan yang menambah kecerdasan manusia sudah dimulai-kecerdasan buatan telah muncul di sekitar kita dalam berbagai bentuk, seperti berbagai sistem kontrol komputer, dan sekarang ada model bahasa skala besar kecerdasan buatan seperti ChatGPT, dan mulai sekarang akan Akselerasi cepat - jika kita mengizinkannya.
Di era baru kecerdasan buatan kami:
• Setiap anak akan memiliki tutor AI dengan kesabaran tak terbatas, simpati tak terbatas, pengetahuan tak terbatas dan bantuan tak terbatas. Mentor AI ini akan berada di sisi setiap anak saat mereka tumbuh, membantu mereka mencapai potensi penuh mereka dan memberikan cinta tanpa akhir.
• Setiap orang akan memiliki asisten/pelatih/mentor/pelatih/penasihat/terapis AI dengan kesabaran tak terbatas, kasih sayang tak terbatas, pengetahuan tak terbatas, dan bantuan tak terbatas. Asisten AI ini akan ada sepanjang peluang dan tantangan hidup, memaksimalkan hasil semua orang.
• Setiap ilmuwan akan memiliki asisten/kolaborator/mitra AI yang mampu memperluas cakupan penelitian dan pencapaian ilmiah mereka. Begitu juga dunia setiap artis, insinyur, pengusaha, dokter, dan paramedis.
• Setiap pemimpin—CEO, pejabat pemerintah, presiden nirlaba, pelatih atletik, guru—akan melakukan hal yang sama. Efek amplifikasi dari pengambilan keputusan yang lebih baik oleh para pemimpin sangat besar, sehingga augmentasi kecerdasan mungkin yang paling penting.
• Pertumbuhan produktivitas di seluruh ekonomi akan meningkat secara signifikan, mendorong pertumbuhan ekonomi, penciptaan industri baru, penciptaan lapangan kerja baru, dan pertumbuhan upah, yang mengarah ke era baru kemakmuran materi di Bumi.
• Terobosan ilmiah, teknologi baru, dan obat-obatan baru akan berkembang secara dramatis karena AI membantu kita memecahkan kode hukum alam lebih lanjut dan menggunakannya untuk keuntungan kita.
• Seni kreatif akan memasuki zaman keemasan karena seniman, musisi, penulis, dan pembuat film yang disempurnakan dengan AI dapat mewujudkan visi mereka lebih cepat dan dalam skala yang lebih besar daripada sebelumnya.
• Saya bahkan berpikir AI akan meningkatkan peperangan, jika perlu, dengan sangat mengurangi tingkat kematian di masa perang. Setiap perang ditandai dengan keputusan yang mengerikan oleh pemimpin manusia yang sangat terbatas di bawah tekanan yang ekstrim dan informasi yang terbatas. Komandan militer dan pemimpin politik sekarang akan memiliki penasihat AI untuk membantu mereka membuat keputusan strategis dan taktis yang lebih baik yang meminimalkan risiko, kesalahan, dan pertumpahan darah yang tidak perlu.
• Singkatnya, apa pun yang dilakukan orang hari ini dengan kecerdasan alaminya, dapat dilakukan lebih baik dengan AI, dan kita akan dapat menghadapi tantangan baru yang tidak dapat diselesaikan tanpa AI, mulai dari menyembuhkan semua penyakit hingga memungkinkan perjalanan antarbintang .
• Dan ini bukan hanya tentang kecerdasan! Mungkin kualitas AI yang paling diremehkan adalah sentuhan manusianya. Seni AI memberi kebebasan kepada mereka yang tidak memiliki keterampilan teknis untuk membuat dan berbagi ide artistik mereka. Berbicara dengan teman AI yang berempati sebenarnya dapat meningkatkan kemampuan mereka untuk mengatasi kesulitan. Dan, dibandingkan dengan manusia, chatbot medis AI sudah lebih berempati. Kecerdasan buatan dengan kesabaran dan kasih sayang tak terbatas akan membuat dunia menjadi tempat yang lebih hangat dan ramah.
Taruhannya di sini tinggi dan peluangnya sangat besar. Kecerdasan buatan sangat mungkin adalah hal terpenting dan terbaik yang pernah dilihat peradaban kita, setidaknya setara dengan listrik dan microchip, dan mungkin bahkan lebih baik daripada mereka.
Merupakan kewajiban moral kita terhadap diri kita sendiri, anak-anak kita, dan masa depan kita untuk mengembangkan dan mempopulerkan kecerdasan buatan — dan untuk menghindari risiko yang seharusnya kita takuti.
Kami berhak hidup di dunia yang lebih baik dengan kecerdasan buatan, dan sekarang kami dapat mewujudkannya.
** Jadi, mengapa panik? **
Berlawanan dengan pandangan positif ini, percakapan publik saat ini tentang AI penuh dengan kepanikan dan paranoia.
Kami mendengar segala macam klaim bahwa AI akan menghancurkan kita semua, mengganggu masyarakat kita, mengambil pekerjaan kita, menyebabkan ketidaksetaraan besar-besaran, dan memungkinkan aktor jahat melakukan hal-hal buruk.
Mengapa perbedaan dalam hasil potensial ini, dari yang mendekati utopis menjadi distopia yang mengerikan?
**Secara historis, setiap teknologi baru yang penting, dari bola lampu hingga mobil, dari radio hingga Internet, telah memicu kepanikan moral—penularan sosial yang membuat orang percaya bahwa teknologi baru akan menghancurkan dunia, atau masyarakat, atau Keduanya akan binasa. ** Orang-orang baik di Archives of Pessimism telah mendokumentasikan dekade-dekade episode kepanikan moral yang didorong oleh teknologi ini; sejarah mereka dengan jelas menunjukkan pola ini. Ternyata, kepanikan saat ini atas kecerdasan buatan bahkan bukan yang pertama.
Saat ini memang banyak teknologi baru yang mengarah pada hasil yang tidak diinginkan—seringkali teknologi yang memiliki manfaat besar bagi kesejahteraan kita. Jadi, bukan berarti adanya kepanikan moral berarti tidak ada yang perlu dikhawatirkan.
Tetapi ** kepanikan moral pada dasarnya tidak rasional — hal itu membesar-besarkan apa yang mungkin merupakan masalah yang sah hingga ke tingkat histeria yang, ironisnya, mempersulit kita untuk menghadapi masalah yang sangat serius. **
Saat ini kita berada dalam kepanikan moral penuh tentang AI.
Kepanikan moral ini telah dimanfaatkan oleh banyak aktor untuk mendorong tindakan kebijakan – mendorong pembatasan, peraturan, dan undang-undang AI yang baru. Aktor-aktor ini secara terbuka berbicara tentang bahaya kecerdasan buatan dengan dramatisasi yang ekstrim—mereka memberi makan dan semakin memicu kepanikan moral—semua menampilkan diri mereka sebagai pembela kebaikan bersama yang tidak memihak.
Tapi apakah mereka benar-benar seperti ini?
Apakah mereka benar atau salah?
** AI Baptis dan Moonshiner **
Ekonom telah mengamati pola lama di antara gerakan reformasi tersebut. Aktor dalam gerakan ini dapat dibagi menjadi dua kategori - "Baptis" dan "pembuat minuman keras", berdasarkan contoh sejarah Larangan di Amerika Serikat pada 1920-an:
• Para "Baptis" adalah pembaru sosial yang percaya secara mendalam dan emosional (walaupun tidak harus secara intelektual) bahwa pembatasan, peraturan dan undang-undang baru diperlukan untuk mencegah bencana sosial. Dalam kasus Larangan, para aktor ini biasanya adalah orang Kristen yang tulus yang percaya bahwa alkohol merusak tatanan moral masyarakat. Untuk risiko AI, aktor-aktor ini adalah orang-orang yang benar-benar percaya bahwa AI menimbulkan risiko eksistensial dalam satu atau lain jenis - jika Anda memasangnya pada pendeteksi kebohongan, mereka benar-benar melakukannya.
• Pembuat minuman keras adalah oportunis yang mementingkan diri sendiri yang mendapat manfaat dari pembatasan, peraturan, dan undang-undang baru saat diterapkan dan melindungi diri dari pesaing. Untuk Larangan, ini adalah penyelundup yang menghasilkan banyak uang dengan menjual alkohol secara ilegal pada saat penjualan alkohol legal dilarang. Untuk risiko AI, ini adalah kepala eksekutif yang dapat menghasilkan lebih banyak uang jika mereka membangun semacam kartel pemasok AI yang disetujui pemerintah, terlindung dari startup dan persaingan sumber terbuka. Eksekutif - Ini adalah versi perangkat lunak dari "terlalu besar untuk gagal" bank.
Orang yang sinis mungkin berpendapat bahwa beberapa orang Baptis yang berpura-pura juga pembuat minuman keras - terutama mereka yang universitas, lembaga pemikir, kelompok aktivis, dan medianya membayar gaji mereka atau menerima hibah untuk menyerang AI. Jika Anda mendapat gaji atau hibah untuk memicu kepanikan AI, Anda mungkin seorang penyelundup.
Masalah dengan pembuat minuman keras adalah mereka menang. Orang Baptis adalah ideolog yang naif dan pembuat minuman keras adalah operator yang sinis, jadi hasil dari gerakan reformasi seperti itu biasanya pembuat minuman keras mendapatkan apa yang mereka inginkan - kontrol regulasi, perlindungan dari persaingan , membentuk monopoli, sementara orang Baptis dibingungkan oleh dorongan untuk perbaikan sosial.
Kita baru saja mengalami contoh yang mengejutkan – reformasi perbankan setelah krisis keuangan global tahun 2008. Umat Baptis mengatakan kepada kita bahwa kita membutuhkan undang-undang dan peraturan baru untuk menghancurkan bank-bank yang "terlalu besar untuk gagal" guna mencegah krisis serupa terjadi lagi. Jadi Kongres AS mengesahkan Undang-Undang Dodd-Frank tahun 2010, yang diiklankan memenuhi tujuan Baptis, tetapi sebenarnya dimanfaatkan oleh para penyelundup - bank-bank besar. Hasilnya adalah bank yang terlalu besar untuk gagal pada tahun 2008 kini menjadi lebih besar.
Jadi dalam praktiknya, meskipun kaum Baptis tulus, meskipun kaum Baptis benar, mereka akan dimanfaatkan oleh penyelundup yang licik dan tamak untuk menguntungkan diri mereka sendiri.
Inilah yang saat ini mendorong regulasi AI.
Namun, tidak cukup hanya mengidentifikasi aktor dan menyalahkan motif mereka. Kita harus membandingkannya dengan argumen kaum Baptis dan pembuat minuman keras.
** Risiko AI 1: Akankah Kecerdasan Buatan Membunuh Kita? **
**Risiko kiamat AI yang pertama dan paling awal adalah ketakutan bahwa AI akan memutuskan untuk membunuh umat manusia. **
Ketakutan kita bahwa teknologi itu sendiri akan bangkit dan menghancurkan kita sudah tertanam dalam budaya kita. Orang Yunani mengungkapkan ketakutan ini melalui mitos Prometheus - Prometheus membawa kepada umat manusia kekuatan penghancur api dan teknologi yang lebih umum ("techne"), sehingga Prometheus diabadikan oleh para dewa yang disiksa. Belakangan, Mary Shelley menciptakan versi mitos diri kita sendiri untuk manusia modern dalam novelnya Frankenstein, di mana kita mengembangkan teknologi keabadian, yang kemudian bangkit dan mencoba menghancurkan kita. Tentu saja, penting untuk menakut-nakuti liputan surat kabar tentang kecerdasan buatan adalah gambar diam dari robot pembunuh bermata merah yang bersinar dari film Terminator James Cameron.
Tujuan evolusioner yang diduga dari mitos ini adalah untuk memotivasi kita agar secara serius mempertimbangkan potensi risiko dari teknologi baru—lagipula, api memang dapat digunakan untuk membakar seluruh kota. Tapi sama seperti api yang secara bersamaan menjadi fondasi peradaban modern, yang digunakan untuk menghangatkan kita dan melindungi kita di dunia yang dingin dan tidak bersahabat, mitos ini mengabaikan keuntungan yang lebih besar dari sebagian besar, jika tidak semua, teknologi baru dan malah menyebabkan malapetaka. analisis rasional. Hanya karena orang dahulu panik seperti ini bukan berarti kita harus panik juga, kita bisa menggunakan nalar.
**Saya pikir gagasan bahwa AI akan memutuskan untuk membunuh manusia adalah kesalahan kategori yang mendalam. **AI bukanlah makhluk hidup yang telah berevolusi selama miliaran tahun untuk berpartisipasi dalam perjuangan bertahan hidup bagi yang terkuat, seperti hewan dan diri kita sendiri. Ini adalah komputer kode matematika, dibuat, dimiliki, digunakan, dan dikendalikan oleh manusia. Memikirkannya pada suatu saat akan mengembangkan pikirannya sendiri dan memutuskan bahwa ia memiliki motif yang menyebabkannya mencoba membunuh kita adalah gelombang takhayul.
Singkatnya, **AI tidak punya kemauan, tidak punya tujuan, tidak ingin membunuhmu karena tidak hidup. AI adalah sebuah mesin -- tidak lebih hidup dari pemanggang roti Anda. **
Sekarang, tampaknya, ada orang yang sangat percaya pada pembunuh AI - peningkatan liputan media yang tiba-tiba membuat peringatan mengerikan mereka, beberapa di antaranya mengklaim bahwa mereka telah mempelajari subjek selama beberapa dekade dan sekarang ngeri dengan apa yang mereka ketahui terganggu. Beberapa dari orang percaya sejati ini bahkan adalah inovator teknologi yang sebenarnya. Orang-orang ini menganjurkan semua jenis pembatasan yang aneh dan ekstrem pada kecerdasan buatan, mulai dari melarang pengembangan kecerdasan buatan hingga serangan udara militer di pusat data dan perang nuklir. Mereka berpendapat bahwa karena orang-orang seperti saya tidak dapat mengesampingkan potensi konsekuensi bencana kecerdasan buatan di masa depan, kita harus mengambil sikap pencegahan yang mungkin memerlukan kekerasan fisik dan kematian yang substansial untuk mencegah potensi risiko eksistensial.
Tanggapan saya adalah bahwa posisi mereka tidak ilmiah - hipotesis apa yang dapat diuji? Fakta apa yang akan membuktikan asumsi ini salah? Bagaimana kita tahu kalau kita sudah memasuki zona bahaya? Pertanyaan-pertanyaan ini sebagian besar tidak terjawab, selain "Anda tidak dapat membuktikan bahwa itu tidak akan terjadi!" Kenyataannya, posisi kaum Baptis ini sangat tidak ilmiah dan ekstrem—sebuah teori konspirasi tentang matematika dan kode—yang mereka sebut kekerasan Fisik, jadi saya akan melakukan sesuatu yang tidak biasa saya lakukan, mempertanyakan motif mereka.
Secara khusus, saya pikir tiga hal sedang terjadi:
Pertama, ingat tanggapan John von Neumann terhadap kekhawatiran Robert Oppenheimer tentang pembuatan senjata nuklirnya - yang membantu mengakhiri Perang Dunia II dan mencegah Perang Dunia III. "Beberapa orang mengakui kejahatan untuk mengklaim kejahatan mereka," katanya. Apa cara terbaik untuk mengklaim pentingnya pekerjaan seseorang dengan cara yang dilebih-lebihkan tanpa terlihat terlalu sombong? Ini menjelaskan ketidakkonsistenan kaum Baptis yang sebenarnya membangun dan mendanai AI — perhatikan tindakan mereka, bukan kata-kata mereka. (Truman bahkan lebih tegas setelah pertemuannya dengan Oppenheimer: "Jangan biarkan bayi cengeng itu masuk lagi.")
Kedua, beberapa orang Baptis sebenarnya adalah pembuat minuman keras. Ada seluruh karier yang disebut "ahli keamanan AI", "ahli etika AI", "peneliti risiko AI". Tugas mereka adalah menjadi pembawa malapetaka, dan pernyataan mereka harus diperlakukan dengan tepat.
Ketiga, California dikenal dengan banyak sekte, dari EST hingga People's Temple, dari Heaven's Gate hingga Manson Family. Banyak dari ini, meskipun tidak semua, kultus tidak berbahaya dan bahkan memberikan bantuan kepada orang terasing yang menemukan rumah di dalamnya. Tetapi beberapa sangat berbahaya sehingga sekte sering berjuang untuk melewati garis kekerasan dan kematian.
Dan kenyataannya, tampaknya jelas bagi semua orang di Bay Area, bahwa "risiko kecerdasan buatan" telah berubah menjadi kultus, muncul dalam perhatian media global dan diskusi publik. Kultus tersebut tidak hanya menarik beberapa tokoh pinggiran, tetapi juga beberapa pakar industri nyata dan beberapa donor kaya — termasuk, hingga saat ini, Sam Bankman-Fried. Itu mengembangkan seluruh rangkaian perilaku dan kepercayaan kultus.
Kultus ini bukanlah hal baru - ada tradisi lama Barat yang disebut Milenialisme, yang menelurkan kultus Apocalypse. Kultus "Risiko AI" memiliki semua ciri kultus apokaliptik milenialis. Dari Wikipedia, saya membuat beberapa tambahan:
"Milenialisme adalah kepercayaan oleh kelompok atau gerakan [nabi risiko kecerdasan buatan] bahwa perubahan mendasar dalam masyarakat sudah dekat [kedatangan kecerdasan buatan], setelah itu semuanya akan berubah [utopia kecerdasan buatan, distopia, atau akhir dunia ]. Hanya peristiwa dramatis [melarang AI, serangan udara di pusat data, serangan nuklir pada AI yang tidak terkendali] dianggap dapat mengubah dunia [menghentikan AI], dan perubahan semacam itu diyakini dibawa atau bertahan hidup oleh sekelompok orang yang saleh dan setia. Di sebagian besar episode milenial, bencana atau pertempuran yang akan datang [kiamat atau pencegahan AI] akan diikuti oleh dunia baru yang bersih [sebuah utopia AI].”
Pola sekte hari kiamat ini sangat jelas sehingga saya heran banyak orang tidak melihatnya.
Jangan salah paham, sekte itu menyenangkan, materi tertulis mereka seringkali kreatif dan menarik, dan anggotanya memesona di pesta makan malam dan di TV. Tetapi keyakinan ekstrem mereka seharusnya tidak menentukan masa depan hukum dan masyarakat - dan jelas tidak seharusnya.
** Risiko AI 2: Akankah AI Menghancurkan Masyarakat Kita? **
Gagasan risiko AI kedua yang beredar luas adalah bahwa **AI akan menghancurkan masyarakat kita dengan menghasilkan hasil yang "berbahaya" (dalam bahasa para peramal seperti itu), bahkan jika kita tidak benar-benar terbunuh. **
Singkatnya: **Jika mesin pembunuh tidak menyakiti kita, ujaran kebencian dan informasi yang salah bisa. **
Ini adalah fokus apokaliptik yang relatif baru yang bercabang dari, dan sampai batas tertentu mendominasi, gerakan "risiko AI" yang saya jelaskan di atas. Faktanya, terminologi risiko AI baru-baru ini telah berubah dari "keselamatan AI" (istilah yang digunakan oleh mereka yang khawatir bahwa AI benar-benar akan membunuh kita) menjadi "penyelarasan AI" (istilah yang digunakan oleh mereka yang mengkhawatirkan "bahaya" masyarakat). . Frustrasi oleh perubahan ini, orang-orang keamanan AI asli, meskipun mereka tidak tahu bagaimana menariknya kembali, sekarang menganjurkan untuk mengganti nama topik risiko AI yang sebenarnya "AInotkilleveryoneism" (AInotkilleveryoneism), meskipun istilah tersebut belum diakui. Diadopsi secara luas, tetapi setidaknya jelas.
Isyarat dari proposisi risiko sosial AI adalah istilahnya sendiri, "Alignment AI." Sejajar dengan apa? nilai-nilai kemanusiaan. Nilai kemanusiaan apa? Oh, dan di sinilah segalanya menjadi rumit.
Seperti yang terjadi, saya telah menyaksikan situasi serupa secara langsung - perang "kepercayaan dan keamanan" media sosial. Yang jelas, selama bertahun-tahun, layanan media sosial mendapat tekanan kuat dari pemerintah dan aktivis untuk melarang, membatasi, menyensor, dan menindas segala jenis konten. Dan kekhawatiran tentang "ujaran kebencian" (dan pasangan matematisnya "bias algoritmik") dan "misinformasi" telah berpindah langsung dari konteks media sosial ke ranah baru "penyelarasan AI".
Pelajaran utama yang saya pelajari dari perang media sosial adalah:
Di satu sisi, tidak ada posisi kebebasan berbicara yang mutlak. Pertama, setiap negara, termasuk Amerika Serikat, menganggap setidaknya beberapa konten ilegal. Kedua, ada jenis konten tertentu, seperti pornografi anak dan menghasut kekerasan di dunia nyata, yang umumnya dianggap terlarang di hampir semua masyarakat — baik legal maupun tidak. Oleh karena itu, setiap platform teknologi yang memfasilitasi atau menghasilkan konten - ucapan - akan memiliki beberapa batasan.
Sebaliknya, lereng yang licin bukanlah mitos, melainkan keniscayaan. Setelah ada kerangka kerja untuk membatasi bahkan konten yang paling mengerikan—seperti ujaran kebencian, istilah tertentu yang menyakitkan, atau informasi yang salah, klaim palsu yang terang-terangan (seperti “Paus telah meninggal”)—berbagai lembaga Pemerintah, kelompok penekan aktivis, dan non -entitas pemerintah akan bergerak cepat untuk menuntut peningkatan penyensoran dan penindasan ucapan yang mereka anggap sebagai ancaman bagi masyarakat dan/atau preferensi pribadi mereka. Mereka akan melakukannya dengan cara yang termasuk kejahatan mencolok. Siklus ini tampaknya berlangsung selamanya dalam praktiknya, didukung oleh pemantau resmi yang antusias dalam struktur kekuasaan elit kita. Ini telah terjadi di ruang media sosial selama satu dekade, dan dengan beberapa pengecualian, ini semakin memburuk.
Jadi sekarang ada dinamika yang terbentuk di sekitar "penyelarasan AI". Pendukungnya mengklaim untuk merangkul kebijaksanaan merangkul pidato dan ide yang dihasilkan AI yang direkayasa yang bermanfaat bagi masyarakat, dan melarang ucapan dan ide yang dihasilkan AI yang berbahaya bagi masyarakat. Para penentangnya mengklaim bahwa Polisi Pikiran sangat arogan, sombong, dan seringkali kriminal yang mencolok, setidaknya di Amerika Serikat, dan pada dasarnya mencoba menjadi kediktatoran akademik-pemerintah-perusahaan-akademik baru dari pidato otoritatif, langsung ke tangan George F. Orwell. 1984.
Sebagai pendukung "kepercayaan dan keamanan" dan "penyelarasan AI" terkonsentrasi di segmen yang sangat sempit dari populasi global yang dicirikan oleh elit pesisir AS, yang mencakup banyak orang yang bekerja dan menulis tentang industri teknologi. Akibatnya, banyak pembaca saya akan menemukan diri mereka dikondisikan untuk berpendapat bahwa pembatasan besar-besaran pada keluaran AI diperlukan untuk menghindari gangguan masyarakat. Saya tidak akan mencoba meyakinkan kalian sekarang, saya hanya akan mengatakan bahwa ini adalah sifat dari kebutuhan dan sebagian besar dunia tidak setuju dengan ideologi Anda atau ingin melihat Anda menang.
Jika Anda tidak setuju dengan moralitas sempit yang saat ini dipaksakan di media sosial dan AI melalui norma ucapan yang diintensifkan, Anda juga harus menyadari bahwa pertarungan atas apa yang boleh dikatakan/dihasilkan oleh AI akan jauh lebih penting daripada pertarungan atas sensor media sosial. jauh lebih penting. AI kemungkinan besar akan menjadi lapisan pengendali segala sesuatu di dunia. Bagaimana itu diizinkan berfungsi mungkin akan lebih penting dari apa pun. Anda harus menyadari bahwa segelintir insinyur sosial partisan yang terisolasi sedang mencoba memutuskan bagaimana AI harus beroperasi sekarang dengan kedok mengejar retorika lama yang melindungi Anda.
**Risiko AI 3: Akankah AI mengambil semua pekerjaan kita? **
**Terdapat ketakutan terus-menerus akan kehilangan pekerjaan karena penggantian tenaga manusia dengan mesin dalam berbagai bentuk seperti mekanisasi, otomasi, komputerisasi, atau kecerdasan buatan. **Kekhawatiran ini telah berlangsung selama ratusan tahun, sejak munculnya perangkat mekanis seperti alat tenun mekanis. Sementara setiap teknologi besar baru secara historis menghasilkan lebih banyak pekerjaan bergaji tinggi, setiap gelombang kepanikan disertai dengan narasi "kali ini berbeda" — kali ini akan terjadi, kali ini teknologinya. pukulan bagi kerja manusia. Namun, ini tidak pernah terjadi.
Di masa lalu, kami mengalami dua siklus kepanikan pengangguran yang didorong oleh teknologi — ketakutan outsourcing di tahun 2000-an dan ketakutan otomatisasi di tahun 2010-an. Sementara banyak media, pakar, dan bahkan eksekutif industri teknologi terus menggebrak meja selama dua dekade, mengklaim bahwa pengangguran massal akan segera terjadi, pada akhir 2019—sebelum wabah COVID—peluang pekerjaan dunia lebih besar daripada di setiap titik dalam sejarah, dan upah lebih tinggi.
Namun, ide yang salah ini tidak hilang begitu saja.
Benar saja, itu kembali.
Kali ini, kami akhirnya memiliki teknologi yang akan menghilangkan semua pekerjaan dan membuat pekerjaan manusia menjadi tidak relevan — kecerdasan buatan yang sesungguhnya. Tentu saja, sejarah tidak akan terulang kali ini, kali ini: kecerdasan buatan akan menyebabkan pengangguran massal daripada pertumbuhan ekonomi yang cepat, lebih banyak pekerjaan dan upah yang lebih tinggi. Kanan?
Tidak, ini pasti tidak akan terjadi, dan jika AI dibiarkan berkembang dan menyebar ke seluruh ekonomi, ini dapat menyebabkan ledakan ekonomi yang paling menarik dan bertahan lama, dengan catatan penciptaan lapangan kerja dan pertumbuhan upah yang sama -- tepatnya kebalikan dari apa yang ditakuti orang. Alasannya adalah sebagai berikut.
**Otomatisasi Membunuh Pekerjaan Kesalahan utama yang dilakukan para teis disebut "kekeliruan tenaga kerja agregat". **** Kekeliruan ini adalah bahwa ada jumlah tenaga kerja tetap yang perlu dilakukan dalam perekonomian pada waktu tertentu, baik oleh mesin maupun manusia, dan jika dilakukan oleh mesin maka manusia tidak memiliki pekerjaan untuk dilakukan. **
Kekeliruan Kerja Agregat muncul secara alami dari intuisi, tetapi intuisi itu salah. **Ketika teknologi diterapkan pada produksi, kami memperoleh pertumbuhan produktivitas—peningkatan output yang dihasilkan dengan mengurangi input. **Hasilnya adalah jatuhnya harga barang dan jasa. Saat harga barang dan jasa turun, kita membayar lebih sedikit, yang berarti kita sekarang memiliki daya beli ekstra untuk membeli barang lain. Hal ini meningkatkan permintaan dalam ekonomi, mendorong produksi baru—baik produk baru maupun industri baru—menciptakan lapangan kerja baru bagi orang-orang yang digantikan oleh mesin. **Hasilnya adalah ekonomi yang lebih besar, kemakmuran materi yang lebih banyak, lebih banyak industri, lebih banyak produk, lebih banyak pekerjaan. **
Tapi kabar baiknya lebih dari itu. Kami juga mendapatkan upah yang lebih tinggi. Hal ini karena pada tingkat individu pekerja, pasar menentukan kompensasi berdasarkan produktivitas marjinal pekerja. Seorang pekerja di industri yang diresapi teknologi lebih produktif daripada pekerja di industri tradisional. Entah pemberi kerja akan membayar lebih berdasarkan peningkatan produktivitas pekerja, atau pemberi kerja lain akan melakukannya karena kepentingan pribadi semata. Hasilnya, industri yang memperkenalkan teknologi tidak hanya akan meningkatkan kesempatan kerja, tetapi juga menaikkan upah.
Kesimpulannya, teknologi canggih memungkinkan orang untuk bekerja lebih efisien. Hal ini menyebabkan harga barang dan jasa yang ada turun dan upah naik. Hal ini pada gilirannya mendorong pertumbuhan ekonomi dan pertumbuhan lapangan kerja, dan merangsang penciptaan lapangan kerja baru dan industri baru. **Jika ekonomi pasar dapat berfungsi dengan baik dan teknologi dapat diperkenalkan dengan bebas, itu akan menjadi siklus naik yang tidak pernah berakhir. Seperti yang diamati Friedman, "keinginan dan kebutuhan manusia tidak ada habisnya"—kita selalu menginginkan lebih dari yang kita miliki. Ekonomi pasar yang merangkul teknologi adalah cara kita semakin dekat untuk mencapai segala sesuatu yang dapat dibayangkan semua orang, tetapi tidak pernah tercapai. Itu sebabnya teknologi tidak akan menghancurkan pekerjaan, tidak akan pernah.
Bagi mereka yang belum pernah mendengar ide-ide ini, ini adalah pemikiran mengejutkan yang mungkin membutuhkan waktu untuk dipahami. Tapi saya bersumpah saya tidak mengada-ada - sebenarnya, Anda bisa membaca semuanya di buku teks ekonomi standar. Saya merekomendasikan bab "Kutukan Mesin" Henry Hazlitt dalam Ekonomi dalam Satu Pelajaran, dan sindiran Frederic Bastiat "Petisi Pembuat Lilin" yang Memprotes matahari karena matahari telah bersaing secara tidak adil dalam industri penerangan. Kami juga memiliki versi modern dari waktu kami.
Tetapi Anda mungkin berpikir kali ini berbeda. Kali ini, dengan munculnya kecerdasan buatan, kita memiliki teknologi yang dapat menggantikan semua tenaga manusia.
Tapi, mengikuti prinsip-prinsip yang saya jelaskan di atas, bayangkan apa artinya jika semua tenaga manusia yang ada digantikan oleh mesin.
Ini akan berarti bahwa pertumbuhan produktivitas ekonomi akan meningkat pesat, jauh melebihi preseden sejarah mana pun. Harga barang dan jasa yang ada akan turun hingga hampir nol secara keseluruhan. Kesejahteraan konsumen akan melonjak. Daya beli konsumen akan melonjak. Akan ada lonjakan permintaan baru dalam perekonomian. Pengusaha akan menciptakan rangkaian industri baru, produk baru, dan layanan baru yang memusingkan, dan mempekerjakan AI dan pekerja sebanyak mungkin, secepat mungkin, untuk memenuhi semua permintaan baru.
Bagaimana jika kecerdasan buatan menggantikan para pekerja ini lagi? Siklus ini akan berulang, mendorong kesejahteraan konsumen, pertumbuhan ekonomi, dan pertumbuhan lapangan kerja dan upah yang lebih tinggi. Itu akan menjadi spiral ke atas linier, yang mengarah ke utopia material yang tidak pernah berani diimpikan oleh Adam Smith dan Karl Marx.
Kita mestinya sangat beruntung.
**Risiko AI 4: Akankah Kecerdasan Buatan Menyebabkan Ketidaksetaraan yang Parah? **
Berbicara tentang Karl Marx, kekhawatiran tentang AI yang mengambil pekerjaan mengarah langsung ke risiko AI yang diklaim berikutnya, yaitu, Marc, dengan asumsi AI memang mengambil semua pekerjaan, baik untuk kebaikan atau karena buruk. Jadi, bukankah fakta bahwa menjadi pemilik kecerdasan buatan menuai semua imbalan finansial dan orang biasa tidak mendapatkan apa-apa akan menyebabkan ketidaksetaraan kekayaan yang sangat besar dan parah?
Tepatnya, ini adalah tesis sentral Marxis bahwa para pemilik alat produksi—kaum borjuis—mau tidak mau mencuri semua kekayaan masyarakat dari mereka yang benar-benar bekerja—kaum proletar. Tidak peduli berapa kali kenyataan membuktikannya salah, kekeliruan itu sepertinya tidak pernah mati. Tapi mari kita membantahnya.
Kekurangan dalam teori ini adalah, sebagai pemilik sebuah teknologi, bukan kepentingan Anda sendiri untuk menyimpannya dan tidak membagikannya—sebaliknya, kepentingan Anda adalah menjualnya kepada sebanyak mungkin pelanggan. . Pasar terbesar di dunia adalah pasar global, termasuk 8 miliar orang. Jadi pada kenyataannya, setiap teknologi baru - bahkan jika itu mulai dijual ke perusahaan besar, bergaji tinggi atau konsumen kaya - menyebar dengan cepat hingga jatuh ke tangan pasar massal terbesar, yang akhirnya mencakup seluruh planet manusia.
Contoh klasik dari hal ini adalah apa yang disebut "rencana rahasia" Elon Musk pada tahun 2006 - yang, tentu saja, dia rilis ke publik - tentang rencana Tesla:
langkah pertama, bangun mobil sport [mahal];
Langkah kedua adalah menggunakan uang yang diperoleh pada langkah pertama untuk membuat mobil yang terjangkau;
Langkah 3, gunakan uang yang diperoleh di Langkah 2 untuk membuat mobil yang lebih terjangkau.
Yang tentu saja dia lakukan dan akhirnya menjadi orang terkaya di dunia.
Poin terakhir sangat penting. Apakah Musk akan lebih kaya jika hari ini dia hanya menjual mobil kepada orang kaya? Tidak akan. Apakah dia akan lebih kaya daripada sekarang jika dia hanya membuat mobil untuk dirinya sendiri? tentu saja tidak. Tidak, dia memaksimalkan keuntungannya dengan menjual ke pasar seluas mungkin di seluruh dunia.
Singkatnya, setiap orang dapat memiliki benda ini, seperti yang telah kita lihat di masa lalu dengan mobil, listrik, radio, komputer, Internet, ponsel, dan mesin pencari. Perusahaan yang membuat teknologi ini sangat termotivasi untuk menurunkan harga hingga semua orang di planet ini mampu membelinya. Inilah yang sebenarnya terjadi di AI — itulah sebabnya Anda dapat menggunakannya hari ini di AI generatif gratis atau berbiaya rendah dalam bentuk Microsoft Bing dan Google Bard — dan ini akan terus terjadi. Bukan karena pemasok ini bodoh atau dermawan, tetapi justru karena mereka serakah - mereka ingin memaksimalkan ukuran pasar dan dengan demikian memaksimalkan keuntungan.
Jadi yang terjadi adalah kebalikan dari teori bahwa teknologi mendorong konsentrasi kekayaan — pengguna teknologi secara individu, yang pada akhirnya mencakup setiap manusia di planet ini, malah diberdayakan dan menangkap sebagian besar nilai yang dihasilkan. Seperti teknologi sebelumnya, perusahaan yang membangun AI—dengan asumsi mereka harus beroperasi di pasar bebas—akan berlomba untuk mewujudkannya.
Marx dulu salah, dan dia salah sekarang.
Ini bukan untuk mengatakan bahwa ketidaksetaraan bukanlah masalah dalam masyarakat kita. Ini masalah, kecuali bahwa itu tidak didorong oleh teknologi, tetapi sebaliknya, oleh sektor-sektor ekonomi yang paling tahan terhadap teknologi baru dan di mana pemerintah paling banyak campur tangan untuk mencegah adopsi teknologi baru seperti kecerdasan buatan, khususnya perumahan, pendidikan dan kesehatan. **Risiko sebenarnya dari AI dan ketimpangan bukanlah bahwa AI akan menyebabkan lebih banyak ketimpangan, tetapi kami tidak akan membiarkan AI digunakan untuk mengurangi ketimpangan. **
**Risiko AI 5: Akankah AI menyebabkan orang jahat melakukan hal buruk? **
Sejauh ini, saya telah menjelaskan bagaimana empat dari lima risiko AI yang paling sering muncul sebenarnya tidak nyata—AI tidak akan hidup untuk membunuh kita, AI tidak akan menghancurkan masyarakat kita, kecerdasan buatan tidak akan Kecerdasan tidak akan memimpin pengangguran massal, dan AI tidak akan menyebabkan peningkatan ketidaksetaraan yang menghancurkan. Tapi sekarang mari kita bicara tentang yang kelima, dan ini yang ** saya benar-benar setujui: AI akan mempermudah orang jahat untuk melakukan hal buruk. **
Dalam arti tertentu, ini adalah argumen melingkar. Teknologi adalah alat. Dimulai dengan api dan batu, perkakas dapat digunakan untuk kebaikan—memasak makanan dan membangun rumah—dan untuk kejahatan—membakar dan memukul. Teknologi apa pun dapat digunakan untuk tujuan baik atau buruk. dimengerti. Dan AI akan memudahkan penjahat, teroris, dan pemerintah yang bermusuhan untuk melakukan hal-hal buruk, tidak diragukan lagi.
Itu membuat beberapa orang berkata, baiklah, jika itu masalahnya, mari kita blokir AI dalam kasus ini sebelum hal buruk terjadi. Sayangnya, AI bukanlah zat misterius yang sulit didapat seperti plutonium. Sebaliknya, ini adalah materi yang paling mudah diakses di dunia - matematika dan kode.
Rupanya, kucing AI sudah keluar dari paket. Anda dapat mempelajari cara membangun kecerdasan buatan dengan ribuan kursus online gratis, buku, makalah, dan video, dan semakin banyak implementasi sumber terbuka yang luar biasa setiap hari. AI itu seperti udara—akan ada di mana-mana. Untuk menangkapnya, tingkat represi totaliter yang dibutuhkan akan sangat parah - sebuah pemerintahan dunia yang memantau dan mengontrol semua komputer? Polisi bersenjata dengan helikopter hitam merampok GPU jahat? — Kami tidak akan memiliki masyarakat untuk dilindungi.
Jadi kami memiliki dua cara yang sangat mudah untuk menghadapi risiko pelaku jahat menggunakan AI untuk melakukan hal-hal buruk, dan itulah yang harus kami fokuskan.
**Pertama, kami memiliki undang-undang untuk mengkriminalkan sebagian besar penggunaan kecerdasan buatan untuk kejahatan. ** Meretas ke Pentagon? Itu kejahatan. Mencuri uang dari bank? Itu kejahatan. Membuat senjata biologis? Itu kejahatan. Melakukan serangan teroris? Itu kejahatan. Kita hanya perlu fokus untuk mencegah kejahatan ini saat kita bisa dan menuntut mereka saat kita tidak bisa. Kami bahkan tidak memerlukan undang-undang baru - saya tidak tahu apakah ada kasus aktual yang diangkat untuk penggunaan AI yang berbahaya yang belum ilegal. Jika penggunaan baru yang buruk ditemukan, kami melarang penggunaan tersebut. Sertifikat selesai.
Tapi Anda akan melihat apa yang baru saja saya katakan - saya katakan pertama-tama kita harus fokus pada pencegahan kejahatan yang dibantu oleh AI sebelum hal-hal buruk terjadi - bukankah itu berarti melarang AI? Nah, ada cara lain untuk mencegah perilaku seperti itu yaitu dengan menggunakan AI sebagai alat pertahanan. AI yang sama yang memberdayakan orang jahat dengan tujuan buruk sama kuatnya di tangan orang baik — terutama orang baik yang bertugas mencegah hal buruk terjadi.
Misalnya, jika Anda khawatir tentang kecerdasan buatan yang menghasilkan orang palsu dan video palsu, jawabannya adalah membangun sistem baru yang memungkinkan orang mengautentikasi diri mereka sendiri dan konten nyata melalui tanda tangan kriptografi. Kreasi digital dan modifikasi konten nyata dan palsu sudah ada sebelum AI; jawabannya bukan untuk melarang pengolah kata dan Photoshop — atau AI — tetapi menggunakan teknologi untuk membangun sistem yang benar-benar menyelesaikan masalah.
Jadi ** pendekatan kedua adalah, mari gunakan kecerdasan buatan secara agresif untuk tujuan yang jinak, sah, dan defensif. Mari manfaatkan AI dalam pertahanan dunia maya, pertahanan biologis, pelacakan teroris, dan semua hal lain yang kita lakukan untuk melindungi diri kita sendiri, komunitas kita, dan bangsa kita. **
Tentu saja, ada banyak orang pintar di dalam dan di luar pemerintahan yang sudah melakukan pekerjaan semacam ini - tetapi jika kita menempatkan semua upaya dan intelijen saat ini berfokus pada pelarangan kecerdasan buatan yang tidak efektif untuk menggunakan kecerdasan buatan untuk mencegah orang jahat melakukan hal-hal buruk. , Saya percaya bahwa dunia yang penuh dengan kecerdasan buatan Dunia yang cerdas akan lebih aman daripada dunia yang kita tinggali saat ini.
Risiko Nyata dari Tidak Mengimplementasikan AI dengan Kekuatan dan Kecepatan Maksimum
Ada satu risiko AI terakhir dan nyata yang mungkin paling menakutkan dari semuanya:
AI dieksploitasi tidak hanya di masyarakat Barat yang relatif liberal, tetapi juga di China.
China memiliki visi AI yang sangat berbeda dari kita. Mereka bahkan tidak merahasiakannya, dan mereka telah membuatnya sangat jelas bahwa mereka sudah mengejar tujuan mereka. Dan, mereka tidak bermaksud untuk membatasi strategi AI mereka ke China -- mereka bermaksud untuk melakukannya di mana mereka menyediakan jaringan 5G, menawarkan pinjaman Belt and Road, menawarkan aplikasi yang ramah konsumen seperti TikTok sebagai kontrol terpusat dan frontend AI komando mereka, menyebarkan itu ke setiap sudut dunia.
**Risiko terbesar untuk AI adalah China memenangkan dominasi AI global sementara kami – AS dan Barat – tidak. **
Saya mengusulkan sebuah strategi sederhana untuk mengatasi masalah ini—sebenarnya, ini adalah strategi yang diadopsi Presiden Ronald Reagan ketika dia memenangkan Perang Dingin pertama dengan Uni Soviet.
"Kami menang, mereka kalah."
Alih-alih dikesampingkan oleh ketakutan tak berdasar seputar pembunuh AI, AI berbahaya, AI penghancur pekerjaan, dan AI yang menghasilkan ketidaksetaraan, kita di AS dan Barat harus berinvestasi sepenuhnya dalam AI sebanyak mungkin.
Kita harus melawan perlombaan global untuk keunggulan teknologi AI dan memastikan China tidak menang.
Dalam prosesnya, kita harus memperkenalkan AI ke dalam ekonomi dan masyarakat kita secepat dan sekuat mungkin untuk memaksimalkan manfaatnya bagi produktivitas ekonomi dan potensi manusia.
Ini adalah cara terbaik untuk mengimbangi risiko nyata dari kecerdasan buatan dan memastikan bahwa cara hidup kita tidak digantikan oleh visi China.
**apa yang harus kita lakukan? **
Saya datang dengan rencana sederhana:
• Perusahaan AI besar harus diizinkan untuk membangun AI secepat dan seagresif mungkin - tetapi tidak mencapai monopoli peraturan, tidak membuat kartel yang dilindungi pemerintah, dan dibebaskan dari klaim palsu tentang risiko AI untuk bersaing di pasar. Ini akan memaksimalkan penghargaan teknologi dan sosial dari kemampuan luar biasa dari perusahaan-perusahaan ini, permata kapitalisme modern.
**• Perusahaan AI pemula harus diizinkan untuk membangun AI secepat dan seagresif mungkin. **Mereka tidak boleh menghadapi perlindungan yang diterima perusahaan besar dari pemerintah, juga tidak boleh menerima bantuan pemerintah. Mereka seharusnya hanya diizinkan untuk bersaing. Jika startup tidak berhasil, kehadiran mereka di pasar juga akan terus memotivasi perusahaan besar untuk melakukannya dengan baik -- bagaimanapun ekonomi dan masyarakat kita adalah pemenangnya.
**• AI open source harus diizinkan untuk menyebar secara bebas dan bersaing dengan perusahaan AI besar dan perusahaan rintisan. **Sumber terbuka seharusnya tidak memiliki hambatan regulasi. Bahkan jika open source tidak memenangkan perusahaan, ketersediaannya yang luas merupakan keuntungan bagi siswa di seluruh dunia yang ingin belajar bagaimana membangun dan menggunakan kecerdasan buatan untuk menjadi bagian dari masa depan teknologi dan memastikan bahwa tidak peduli siapa mereka atau berapa banyak uang yang mereka miliki, AI akan bekerja untuk mereka tersedia.
**• Untuk menangkal risiko pelaku jahat yang menggunakan AI untuk melakukan hal-hal buruk, pemerintah, dalam kemitraan dengan sektor swasta, harus secara aktif terlibat dalam setiap aspek area risiko potensial, menggunakan AI untuk memaksimalkan pertahanan masyarakat. **Hal ini tidak boleh terbatas pada risiko AI, tetapi mencakup masalah yang lebih umum seperti malnutrisi, penyakit, dan masalah iklim. AI bisa menjadi alat yang sangat ampuh untuk memecahkan masalah, dan kita harus memikirkannya seperti itu.
**• Untuk mencegah risiko China mencapai dominasi AI global, kita harus memanfaatkan sepenuhnya kekuatan sektor swasta, lembaga penelitian ilmiah, dan pemerintah kita untuk bersama-sama mempromosikan dominasi mutlak AI AS dan Barat dalam skala global , dan akhirnya bahkan di Hal yang sama berlaku di Cina. Kami menang, mereka kalah. **
Inilah cara kita dapat menggunakan kecerdasan buatan untuk menyelamatkan dunia.
Saatnya beraksi.
Legenda dan Pahlawan
Saya akhiri dengan dua pernyataan sederhana.
Perkembangan kecerdasan buatan dimulai pada tahun 1940-an, bersamaan dengan penemuan komputer. Makalah ilmiah pertama tentang jaringan saraf — arsitektur kecerdasan buatan yang kita miliki saat ini — diterbitkan pada tahun 1943. Selama 80 tahun terakhir, seluruh generasi ilmuwan AI lahir, bersekolah, bekerja, dan dalam banyak kasus meninggal tanpa melihat imbalan yang kita dapatkan sekarang. Mereka adalah legenda, semuanya.
Saat ini, semakin banyak insinyur — banyak di antaranya masih muda dan mungkin memiliki kakek nenek atau bahkan kakek buyut yang terlibat dalam menciptakan ide di balik AI — bekerja untuk menghidupkan AI, meskipun ada tembok kepanikan dan pesimisme terhadap penjahat. Saya tidak berpikir mereka sembrono atau penjahat. Mereka adalah pahlawan, semuanya. Perusahaan saya dan saya dengan senang hati mendukung mereka sebanyak mungkin, dan kami akan mendukung mereka dan pekerjaan mereka 100%.
**"Selama bertahun-tahun, milenialis sering [prediktor risiko kecerdasan buatan terus-menerus] mencoba memprediksi waktu yang tepat dari peristiwa masa depan tersebut, seringkali melalui interpretasi berbagai tanda dan prekursor. Namun, prediksi sejarah hampir selalu gagal Berakhir [saat ini tidak ada bukti yang kredibel bahwa AI akan membunuh manusia]. **Namun, penggemar mereka [prediktor risiko AI] biasanya mencoba merevisi penjelasan agar selaras dengan [potensi risiko di masa depan AI] ketika peristiwa terjadi Sesuai."
Mereka yang tergabung dalam sekte "risiko AI" mungkin tidak setuju dengan saya, dan mereka mungkin bersikeras bahwa mereka rasional, berbasis sains, dan bahwa saya adalah pengikut yang dicuci otak. Perhatikan, bagaimanapun, bahwa saya tidak mengklaim bahwa "kecerdasan buatan tidak akan pernah menjadi ancaman bagi umat manusia". Saya hanya menunjukkan bahwa sampai saat ini tidak ada bukti yang mendukung tesis "AI akan membunuh kita". Alih-alih terlibat dalam kepanikan dan reaksi seperti kultus, kita harus membuat penilaian rasional berdasarkan bukti yang tersedia.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Hadiah
suka
1
Bagikan
Komentar
0/400
Don’tShortInABull
· 2023-06-07 08:20
Hanya kecerdasan buatan yang benar-benar dapat mewujudkan masyarakat sosialis, saya pikir begitu ketika saya masih di sekolah dasar
pendiri a16z Wanzi Changwen: Mengapa AI akan menyelamatkan dunia
Penulis: MarcAndreessen, pendiri a16z; terjemahan: Jinse Finance cryptonaitive&ChatGPT
Zaman kecerdasan buatan telah tiba, dan orang-orang panik karenanya.
Untungnya, saya di sini untuk membawa kabar baik: AI tidak akan menghancurkan dunia, malah mungkin menyelamatkannya.
Pertama, pengenalan singkat tentang apa itu kecerdasan buatan: proses penerapan matematika dan kode perangkat lunak untuk mengajari komputer cara memahami, mensintesis, dan menghasilkan pengetahuan, seperti manusia. Kecerdasan buatan adalah program seperti program komputer lainnya—berjalan, menerima masukan, memprosesnya, dan menghasilkan keluaran. Keluaran kecerdasan buatan sangat berguna di berbagai bidang, mulai dari pemrograman hingga kedokteran, hukum, dan seni kreatif. Itu dimiliki dan dikendalikan oleh manusia, sama seperti teknologi lainnya.
Deskripsi singkat tentang kecerdasan buatan: tidak seperti di film-film di mana perangkat lunak dan robot pembunuh tiba-tiba menjadi hidup dan memutuskan untuk membantai manusia atau menghancurkan segalanya.
Deskripsi singkat untuk kecerdasan buatan: ini bisa menjadi cara untuk menjadikan semua yang kita pedulikan menjadi lebih baik.
**Mengapa AI dapat membuat semua yang kita sayangi menjadi lebih baik? **
Kesimpulan utama dari berbagai penelitian yang dilakukan dalam ilmu sosial selama bertahun-tahun adalah bahwa kecerdasan manusia dapat membawa perbaikan dramatis di semua bidang kehidupan. Orang yang lebih cerdas mencapai hasil yang lebih baik di hampir setiap bidang: prestasi akademik, kinerja pekerjaan, status karir, pendapatan, kreativitas, kesehatan fisik, umur panjang, mempelajari keterampilan baru, menangani tugas kompleks, kepemimpinan, kesuksesan wirausaha, Pemecahan konflik, Pemahaman Membaca, Pengambilan Keputusan Keuangan , Memahami Perspektif Orang Lain, Seni Kreatif, Hasil Parenting, dan Kepuasan Hidup.
Selain itu, kecerdasan manusia adalah pengungkit yang telah kita gunakan selama ribuan tahun untuk menciptakan dunia kita: sains, teknologi, matematika, fisika, kimia, kedokteran, energi, arsitektur, transportasi, komunikasi, seni, musik, budaya, filsafat, etika, dan Moralitas. Tanpa penerapan kecerdasan di semua wilayah ini, kita mungkin masih tinggal di gubuk lumpur, berjuang untuk bertahan dari kemiskinan bercocok tanam. Sebaliknya, kami telah menggunakan kecerdasan untuk meningkatkan standar hidup kami sekitar 10.000 kali lipat selama 4.000 tahun terakhir.
AI memberi kita kesempatan untuk membuat berbagai hasil kecerdasan—mulai dari menciptakan obat-obatan baru hingga mengatasi perubahan iklim hingga teknologi yang memungkinkan perjalanan antarbintang—jauh lebih baik di masa depan dengan meningkatkan kecerdasan manusia secara mendalam.
Proses kecerdasan buatan yang menambah kecerdasan manusia sudah dimulai-kecerdasan buatan telah muncul di sekitar kita dalam berbagai bentuk, seperti berbagai sistem kontrol komputer, dan sekarang ada model bahasa skala besar kecerdasan buatan seperti ChatGPT, dan mulai sekarang akan Akselerasi cepat - jika kita mengizinkannya.
Di era baru kecerdasan buatan kami:
• Setiap anak akan memiliki tutor AI dengan kesabaran tak terbatas, simpati tak terbatas, pengetahuan tak terbatas dan bantuan tak terbatas. Mentor AI ini akan berada di sisi setiap anak saat mereka tumbuh, membantu mereka mencapai potensi penuh mereka dan memberikan cinta tanpa akhir.
• Setiap orang akan memiliki asisten/pelatih/mentor/pelatih/penasihat/terapis AI dengan kesabaran tak terbatas, kasih sayang tak terbatas, pengetahuan tak terbatas, dan bantuan tak terbatas. Asisten AI ini akan ada sepanjang peluang dan tantangan hidup, memaksimalkan hasil semua orang.
• Setiap ilmuwan akan memiliki asisten/kolaborator/mitra AI yang mampu memperluas cakupan penelitian dan pencapaian ilmiah mereka. Begitu juga dunia setiap artis, insinyur, pengusaha, dokter, dan paramedis.
• Setiap pemimpin—CEO, pejabat pemerintah, presiden nirlaba, pelatih atletik, guru—akan melakukan hal yang sama. Efek amplifikasi dari pengambilan keputusan yang lebih baik oleh para pemimpin sangat besar, sehingga augmentasi kecerdasan mungkin yang paling penting.
• Pertumbuhan produktivitas di seluruh ekonomi akan meningkat secara signifikan, mendorong pertumbuhan ekonomi, penciptaan industri baru, penciptaan lapangan kerja baru, dan pertumbuhan upah, yang mengarah ke era baru kemakmuran materi di Bumi.
• Terobosan ilmiah, teknologi baru, dan obat-obatan baru akan berkembang secara dramatis karena AI membantu kita memecahkan kode hukum alam lebih lanjut dan menggunakannya untuk keuntungan kita.
• Seni kreatif akan memasuki zaman keemasan karena seniman, musisi, penulis, dan pembuat film yang disempurnakan dengan AI dapat mewujudkan visi mereka lebih cepat dan dalam skala yang lebih besar daripada sebelumnya.
• Saya bahkan berpikir AI akan meningkatkan peperangan, jika perlu, dengan sangat mengurangi tingkat kematian di masa perang. Setiap perang ditandai dengan keputusan yang mengerikan oleh pemimpin manusia yang sangat terbatas di bawah tekanan yang ekstrim dan informasi yang terbatas. Komandan militer dan pemimpin politik sekarang akan memiliki penasihat AI untuk membantu mereka membuat keputusan strategis dan taktis yang lebih baik yang meminimalkan risiko, kesalahan, dan pertumpahan darah yang tidak perlu.
• Singkatnya, apa pun yang dilakukan orang hari ini dengan kecerdasan alaminya, dapat dilakukan lebih baik dengan AI, dan kita akan dapat menghadapi tantangan baru yang tidak dapat diselesaikan tanpa AI, mulai dari menyembuhkan semua penyakit hingga memungkinkan perjalanan antarbintang .
• Dan ini bukan hanya tentang kecerdasan! Mungkin kualitas AI yang paling diremehkan adalah sentuhan manusianya. Seni AI memberi kebebasan kepada mereka yang tidak memiliki keterampilan teknis untuk membuat dan berbagi ide artistik mereka. Berbicara dengan teman AI yang berempati sebenarnya dapat meningkatkan kemampuan mereka untuk mengatasi kesulitan. Dan, dibandingkan dengan manusia, chatbot medis AI sudah lebih berempati. Kecerdasan buatan dengan kesabaran dan kasih sayang tak terbatas akan membuat dunia menjadi tempat yang lebih hangat dan ramah.
Taruhannya di sini tinggi dan peluangnya sangat besar. Kecerdasan buatan sangat mungkin adalah hal terpenting dan terbaik yang pernah dilihat peradaban kita, setidaknya setara dengan listrik dan microchip, dan mungkin bahkan lebih baik daripada mereka.
Merupakan kewajiban moral kita terhadap diri kita sendiri, anak-anak kita, dan masa depan kita untuk mengembangkan dan mempopulerkan kecerdasan buatan — dan untuk menghindari risiko yang seharusnya kita takuti.
Kami berhak hidup di dunia yang lebih baik dengan kecerdasan buatan, dan sekarang kami dapat mewujudkannya.
** Jadi, mengapa panik? **
Berlawanan dengan pandangan positif ini, percakapan publik saat ini tentang AI penuh dengan kepanikan dan paranoia.
Kami mendengar segala macam klaim bahwa AI akan menghancurkan kita semua, mengganggu masyarakat kita, mengambil pekerjaan kita, menyebabkan ketidaksetaraan besar-besaran, dan memungkinkan aktor jahat melakukan hal-hal buruk.
Mengapa perbedaan dalam hasil potensial ini, dari yang mendekati utopis menjadi distopia yang mengerikan?
**Secara historis, setiap teknologi baru yang penting, dari bola lampu hingga mobil, dari radio hingga Internet, telah memicu kepanikan moral—penularan sosial yang membuat orang percaya bahwa teknologi baru akan menghancurkan dunia, atau masyarakat, atau Keduanya akan binasa. ** Orang-orang baik di Archives of Pessimism telah mendokumentasikan dekade-dekade episode kepanikan moral yang didorong oleh teknologi ini; sejarah mereka dengan jelas menunjukkan pola ini. Ternyata, kepanikan saat ini atas kecerdasan buatan bahkan bukan yang pertama.
Saat ini memang banyak teknologi baru yang mengarah pada hasil yang tidak diinginkan—seringkali teknologi yang memiliki manfaat besar bagi kesejahteraan kita. Jadi, bukan berarti adanya kepanikan moral berarti tidak ada yang perlu dikhawatirkan.
Tetapi ** kepanikan moral pada dasarnya tidak rasional — hal itu membesar-besarkan apa yang mungkin merupakan masalah yang sah hingga ke tingkat histeria yang, ironisnya, mempersulit kita untuk menghadapi masalah yang sangat serius. **
Saat ini kita berada dalam kepanikan moral penuh tentang AI.
Kepanikan moral ini telah dimanfaatkan oleh banyak aktor untuk mendorong tindakan kebijakan – mendorong pembatasan, peraturan, dan undang-undang AI yang baru. Aktor-aktor ini secara terbuka berbicara tentang bahaya kecerdasan buatan dengan dramatisasi yang ekstrim—mereka memberi makan dan semakin memicu kepanikan moral—semua menampilkan diri mereka sebagai pembela kebaikan bersama yang tidak memihak.
Tapi apakah mereka benar-benar seperti ini?
Apakah mereka benar atau salah?
** AI Baptis dan Moonshiner **
Ekonom telah mengamati pola lama di antara gerakan reformasi tersebut. Aktor dalam gerakan ini dapat dibagi menjadi dua kategori - "Baptis" dan "pembuat minuman keras", berdasarkan contoh sejarah Larangan di Amerika Serikat pada 1920-an:
• Para "Baptis" adalah pembaru sosial yang percaya secara mendalam dan emosional (walaupun tidak harus secara intelektual) bahwa pembatasan, peraturan dan undang-undang baru diperlukan untuk mencegah bencana sosial. Dalam kasus Larangan, para aktor ini biasanya adalah orang Kristen yang tulus yang percaya bahwa alkohol merusak tatanan moral masyarakat. Untuk risiko AI, aktor-aktor ini adalah orang-orang yang benar-benar percaya bahwa AI menimbulkan risiko eksistensial dalam satu atau lain jenis - jika Anda memasangnya pada pendeteksi kebohongan, mereka benar-benar melakukannya.
• Pembuat minuman keras adalah oportunis yang mementingkan diri sendiri yang mendapat manfaat dari pembatasan, peraturan, dan undang-undang baru saat diterapkan dan melindungi diri dari pesaing. Untuk Larangan, ini adalah penyelundup yang menghasilkan banyak uang dengan menjual alkohol secara ilegal pada saat penjualan alkohol legal dilarang. Untuk risiko AI, ini adalah kepala eksekutif yang dapat menghasilkan lebih banyak uang jika mereka membangun semacam kartel pemasok AI yang disetujui pemerintah, terlindung dari startup dan persaingan sumber terbuka. Eksekutif - Ini adalah versi perangkat lunak dari "terlalu besar untuk gagal" bank.
Orang yang sinis mungkin berpendapat bahwa beberapa orang Baptis yang berpura-pura juga pembuat minuman keras - terutama mereka yang universitas, lembaga pemikir, kelompok aktivis, dan medianya membayar gaji mereka atau menerima hibah untuk menyerang AI. Jika Anda mendapat gaji atau hibah untuk memicu kepanikan AI, Anda mungkin seorang penyelundup.
Masalah dengan pembuat minuman keras adalah mereka menang. Orang Baptis adalah ideolog yang naif dan pembuat minuman keras adalah operator yang sinis, jadi hasil dari gerakan reformasi seperti itu biasanya pembuat minuman keras mendapatkan apa yang mereka inginkan - kontrol regulasi, perlindungan dari persaingan , membentuk monopoli, sementara orang Baptis dibingungkan oleh dorongan untuk perbaikan sosial.
Kita baru saja mengalami contoh yang mengejutkan – reformasi perbankan setelah krisis keuangan global tahun 2008. Umat Baptis mengatakan kepada kita bahwa kita membutuhkan undang-undang dan peraturan baru untuk menghancurkan bank-bank yang "terlalu besar untuk gagal" guna mencegah krisis serupa terjadi lagi. Jadi Kongres AS mengesahkan Undang-Undang Dodd-Frank tahun 2010, yang diiklankan memenuhi tujuan Baptis, tetapi sebenarnya dimanfaatkan oleh para penyelundup - bank-bank besar. Hasilnya adalah bank yang terlalu besar untuk gagal pada tahun 2008 kini menjadi lebih besar.
Jadi dalam praktiknya, meskipun kaum Baptis tulus, meskipun kaum Baptis benar, mereka akan dimanfaatkan oleh penyelundup yang licik dan tamak untuk menguntungkan diri mereka sendiri.
Inilah yang saat ini mendorong regulasi AI.
Namun, tidak cukup hanya mengidentifikasi aktor dan menyalahkan motif mereka. Kita harus membandingkannya dengan argumen kaum Baptis dan pembuat minuman keras.
** Risiko AI 1: Akankah Kecerdasan Buatan Membunuh Kita? **
**Risiko kiamat AI yang pertama dan paling awal adalah ketakutan bahwa AI akan memutuskan untuk membunuh umat manusia. **
Ketakutan kita bahwa teknologi itu sendiri akan bangkit dan menghancurkan kita sudah tertanam dalam budaya kita. Orang Yunani mengungkapkan ketakutan ini melalui mitos Prometheus - Prometheus membawa kepada umat manusia kekuatan penghancur api dan teknologi yang lebih umum ("techne"), sehingga Prometheus diabadikan oleh para dewa yang disiksa. Belakangan, Mary Shelley menciptakan versi mitos diri kita sendiri untuk manusia modern dalam novelnya Frankenstein, di mana kita mengembangkan teknologi keabadian, yang kemudian bangkit dan mencoba menghancurkan kita. Tentu saja, penting untuk menakut-nakuti liputan surat kabar tentang kecerdasan buatan adalah gambar diam dari robot pembunuh bermata merah yang bersinar dari film Terminator James Cameron.
Tujuan evolusioner yang diduga dari mitos ini adalah untuk memotivasi kita agar secara serius mempertimbangkan potensi risiko dari teknologi baru—lagipula, api memang dapat digunakan untuk membakar seluruh kota. Tapi sama seperti api yang secara bersamaan menjadi fondasi peradaban modern, yang digunakan untuk menghangatkan kita dan melindungi kita di dunia yang dingin dan tidak bersahabat, mitos ini mengabaikan keuntungan yang lebih besar dari sebagian besar, jika tidak semua, teknologi baru dan malah menyebabkan malapetaka. analisis rasional. Hanya karena orang dahulu panik seperti ini bukan berarti kita harus panik juga, kita bisa menggunakan nalar.
**Saya pikir gagasan bahwa AI akan memutuskan untuk membunuh manusia adalah kesalahan kategori yang mendalam. **AI bukanlah makhluk hidup yang telah berevolusi selama miliaran tahun untuk berpartisipasi dalam perjuangan bertahan hidup bagi yang terkuat, seperti hewan dan diri kita sendiri. Ini adalah komputer kode matematika, dibuat, dimiliki, digunakan, dan dikendalikan oleh manusia. Memikirkannya pada suatu saat akan mengembangkan pikirannya sendiri dan memutuskan bahwa ia memiliki motif yang menyebabkannya mencoba membunuh kita adalah gelombang takhayul.
Singkatnya, **AI tidak punya kemauan, tidak punya tujuan, tidak ingin membunuhmu karena tidak hidup. AI adalah sebuah mesin -- tidak lebih hidup dari pemanggang roti Anda. **
Sekarang, tampaknya, ada orang yang sangat percaya pada pembunuh AI - peningkatan liputan media yang tiba-tiba membuat peringatan mengerikan mereka, beberapa di antaranya mengklaim bahwa mereka telah mempelajari subjek selama beberapa dekade dan sekarang ngeri dengan apa yang mereka ketahui terganggu. Beberapa dari orang percaya sejati ini bahkan adalah inovator teknologi yang sebenarnya. Orang-orang ini menganjurkan semua jenis pembatasan yang aneh dan ekstrem pada kecerdasan buatan, mulai dari melarang pengembangan kecerdasan buatan hingga serangan udara militer di pusat data dan perang nuklir. Mereka berpendapat bahwa karena orang-orang seperti saya tidak dapat mengesampingkan potensi konsekuensi bencana kecerdasan buatan di masa depan, kita harus mengambil sikap pencegahan yang mungkin memerlukan kekerasan fisik dan kematian yang substansial untuk mencegah potensi risiko eksistensial.
Tanggapan saya adalah bahwa posisi mereka tidak ilmiah - hipotesis apa yang dapat diuji? Fakta apa yang akan membuktikan asumsi ini salah? Bagaimana kita tahu kalau kita sudah memasuki zona bahaya? Pertanyaan-pertanyaan ini sebagian besar tidak terjawab, selain "Anda tidak dapat membuktikan bahwa itu tidak akan terjadi!" Kenyataannya, posisi kaum Baptis ini sangat tidak ilmiah dan ekstrem—sebuah teori konspirasi tentang matematika dan kode—yang mereka sebut kekerasan Fisik, jadi saya akan melakukan sesuatu yang tidak biasa saya lakukan, mempertanyakan motif mereka.
Secara khusus, saya pikir tiga hal sedang terjadi:
Pertama, ingat tanggapan John von Neumann terhadap kekhawatiran Robert Oppenheimer tentang pembuatan senjata nuklirnya - yang membantu mengakhiri Perang Dunia II dan mencegah Perang Dunia III. "Beberapa orang mengakui kejahatan untuk mengklaim kejahatan mereka," katanya. Apa cara terbaik untuk mengklaim pentingnya pekerjaan seseorang dengan cara yang dilebih-lebihkan tanpa terlihat terlalu sombong? Ini menjelaskan ketidakkonsistenan kaum Baptis yang sebenarnya membangun dan mendanai AI — perhatikan tindakan mereka, bukan kata-kata mereka. (Truman bahkan lebih tegas setelah pertemuannya dengan Oppenheimer: "Jangan biarkan bayi cengeng itu masuk lagi.")
Kedua, beberapa orang Baptis sebenarnya adalah pembuat minuman keras. Ada seluruh karier yang disebut "ahli keamanan AI", "ahli etika AI", "peneliti risiko AI". Tugas mereka adalah menjadi pembawa malapetaka, dan pernyataan mereka harus diperlakukan dengan tepat.
Ketiga, California dikenal dengan banyak sekte, dari EST hingga People's Temple, dari Heaven's Gate hingga Manson Family. Banyak dari ini, meskipun tidak semua, kultus tidak berbahaya dan bahkan memberikan bantuan kepada orang terasing yang menemukan rumah di dalamnya. Tetapi beberapa sangat berbahaya sehingga sekte sering berjuang untuk melewati garis kekerasan dan kematian.
Dan kenyataannya, tampaknya jelas bagi semua orang di Bay Area, bahwa "risiko kecerdasan buatan" telah berubah menjadi kultus, muncul dalam perhatian media global dan diskusi publik. Kultus tersebut tidak hanya menarik beberapa tokoh pinggiran, tetapi juga beberapa pakar industri nyata dan beberapa donor kaya — termasuk, hingga saat ini, Sam Bankman-Fried. Itu mengembangkan seluruh rangkaian perilaku dan kepercayaan kultus.
Kultus ini bukanlah hal baru - ada tradisi lama Barat yang disebut Milenialisme, yang menelurkan kultus Apocalypse. Kultus "Risiko AI" memiliki semua ciri kultus apokaliptik milenialis. Dari Wikipedia, saya membuat beberapa tambahan:
Pola sekte hari kiamat ini sangat jelas sehingga saya heran banyak orang tidak melihatnya.
Jangan salah paham, sekte itu menyenangkan, materi tertulis mereka seringkali kreatif dan menarik, dan anggotanya memesona di pesta makan malam dan di TV. Tetapi keyakinan ekstrem mereka seharusnya tidak menentukan masa depan hukum dan masyarakat - dan jelas tidak seharusnya.
** Risiko AI 2: Akankah AI Menghancurkan Masyarakat Kita? **
Gagasan risiko AI kedua yang beredar luas adalah bahwa **AI akan menghancurkan masyarakat kita dengan menghasilkan hasil yang "berbahaya" (dalam bahasa para peramal seperti itu), bahkan jika kita tidak benar-benar terbunuh. **
Singkatnya: **Jika mesin pembunuh tidak menyakiti kita, ujaran kebencian dan informasi yang salah bisa. **
Ini adalah fokus apokaliptik yang relatif baru yang bercabang dari, dan sampai batas tertentu mendominasi, gerakan "risiko AI" yang saya jelaskan di atas. Faktanya, terminologi risiko AI baru-baru ini telah berubah dari "keselamatan AI" (istilah yang digunakan oleh mereka yang khawatir bahwa AI benar-benar akan membunuh kita) menjadi "penyelarasan AI" (istilah yang digunakan oleh mereka yang mengkhawatirkan "bahaya" masyarakat). . Frustrasi oleh perubahan ini, orang-orang keamanan AI asli, meskipun mereka tidak tahu bagaimana menariknya kembali, sekarang menganjurkan untuk mengganti nama topik risiko AI yang sebenarnya "AInotkilleveryoneism" (AInotkilleveryoneism), meskipun istilah tersebut belum diakui. Diadopsi secara luas, tetapi setidaknya jelas.
Isyarat dari proposisi risiko sosial AI adalah istilahnya sendiri, "Alignment AI." Sejajar dengan apa? nilai-nilai kemanusiaan. Nilai kemanusiaan apa? Oh, dan di sinilah segalanya menjadi rumit.
Seperti yang terjadi, saya telah menyaksikan situasi serupa secara langsung - perang "kepercayaan dan keamanan" media sosial. Yang jelas, selama bertahun-tahun, layanan media sosial mendapat tekanan kuat dari pemerintah dan aktivis untuk melarang, membatasi, menyensor, dan menindas segala jenis konten. Dan kekhawatiran tentang "ujaran kebencian" (dan pasangan matematisnya "bias algoritmik") dan "misinformasi" telah berpindah langsung dari konteks media sosial ke ranah baru "penyelarasan AI".
Pelajaran utama yang saya pelajari dari perang media sosial adalah:
Di satu sisi, tidak ada posisi kebebasan berbicara yang mutlak. Pertama, setiap negara, termasuk Amerika Serikat, menganggap setidaknya beberapa konten ilegal. Kedua, ada jenis konten tertentu, seperti pornografi anak dan menghasut kekerasan di dunia nyata, yang umumnya dianggap terlarang di hampir semua masyarakat — baik legal maupun tidak. Oleh karena itu, setiap platform teknologi yang memfasilitasi atau menghasilkan konten - ucapan - akan memiliki beberapa batasan.
Sebaliknya, lereng yang licin bukanlah mitos, melainkan keniscayaan. Setelah ada kerangka kerja untuk membatasi bahkan konten yang paling mengerikan—seperti ujaran kebencian, istilah tertentu yang menyakitkan, atau informasi yang salah, klaim palsu yang terang-terangan (seperti “Paus telah meninggal”)—berbagai lembaga Pemerintah, kelompok penekan aktivis, dan non -entitas pemerintah akan bergerak cepat untuk menuntut peningkatan penyensoran dan penindasan ucapan yang mereka anggap sebagai ancaman bagi masyarakat dan/atau preferensi pribadi mereka. Mereka akan melakukannya dengan cara yang termasuk kejahatan mencolok. Siklus ini tampaknya berlangsung selamanya dalam praktiknya, didukung oleh pemantau resmi yang antusias dalam struktur kekuasaan elit kita. Ini telah terjadi di ruang media sosial selama satu dekade, dan dengan beberapa pengecualian, ini semakin memburuk.
Jadi sekarang ada dinamika yang terbentuk di sekitar "penyelarasan AI". Pendukungnya mengklaim untuk merangkul kebijaksanaan merangkul pidato dan ide yang dihasilkan AI yang direkayasa yang bermanfaat bagi masyarakat, dan melarang ucapan dan ide yang dihasilkan AI yang berbahaya bagi masyarakat. Para penentangnya mengklaim bahwa Polisi Pikiran sangat arogan, sombong, dan seringkali kriminal yang mencolok, setidaknya di Amerika Serikat, dan pada dasarnya mencoba menjadi kediktatoran akademik-pemerintah-perusahaan-akademik baru dari pidato otoritatif, langsung ke tangan George F. Orwell. 1984.
Sebagai pendukung "kepercayaan dan keamanan" dan "penyelarasan AI" terkonsentrasi di segmen yang sangat sempit dari populasi global yang dicirikan oleh elit pesisir AS, yang mencakup banyak orang yang bekerja dan menulis tentang industri teknologi. Akibatnya, banyak pembaca saya akan menemukan diri mereka dikondisikan untuk berpendapat bahwa pembatasan besar-besaran pada keluaran AI diperlukan untuk menghindari gangguan masyarakat. Saya tidak akan mencoba meyakinkan kalian sekarang, saya hanya akan mengatakan bahwa ini adalah sifat dari kebutuhan dan sebagian besar dunia tidak setuju dengan ideologi Anda atau ingin melihat Anda menang.
Jika Anda tidak setuju dengan moralitas sempit yang saat ini dipaksakan di media sosial dan AI melalui norma ucapan yang diintensifkan, Anda juga harus menyadari bahwa pertarungan atas apa yang boleh dikatakan/dihasilkan oleh AI akan jauh lebih penting daripada pertarungan atas sensor media sosial. jauh lebih penting. AI kemungkinan besar akan menjadi lapisan pengendali segala sesuatu di dunia. Bagaimana itu diizinkan berfungsi mungkin akan lebih penting dari apa pun. Anda harus menyadari bahwa segelintir insinyur sosial partisan yang terisolasi sedang mencoba memutuskan bagaimana AI harus beroperasi sekarang dengan kedok mengejar retorika lama yang melindungi Anda.
Singkatnya, jangan biarkan polisi pikiran menekan AI.
**Risiko AI 3: Akankah AI mengambil semua pekerjaan kita? **
**Terdapat ketakutan terus-menerus akan kehilangan pekerjaan karena penggantian tenaga manusia dengan mesin dalam berbagai bentuk seperti mekanisasi, otomasi, komputerisasi, atau kecerdasan buatan. **Kekhawatiran ini telah berlangsung selama ratusan tahun, sejak munculnya perangkat mekanis seperti alat tenun mekanis. Sementara setiap teknologi besar baru secara historis menghasilkan lebih banyak pekerjaan bergaji tinggi, setiap gelombang kepanikan disertai dengan narasi "kali ini berbeda" — kali ini akan terjadi, kali ini teknologinya. pukulan bagi kerja manusia. Namun, ini tidak pernah terjadi.
Di masa lalu, kami mengalami dua siklus kepanikan pengangguran yang didorong oleh teknologi — ketakutan outsourcing di tahun 2000-an dan ketakutan otomatisasi di tahun 2010-an. Sementara banyak media, pakar, dan bahkan eksekutif industri teknologi terus menggebrak meja selama dua dekade, mengklaim bahwa pengangguran massal akan segera terjadi, pada akhir 2019—sebelum wabah COVID—peluang pekerjaan dunia lebih besar daripada di setiap titik dalam sejarah, dan upah lebih tinggi.
Namun, ide yang salah ini tidak hilang begitu saja.
Benar saja, itu kembali.
Kali ini, kami akhirnya memiliki teknologi yang akan menghilangkan semua pekerjaan dan membuat pekerjaan manusia menjadi tidak relevan — kecerdasan buatan yang sesungguhnya. Tentu saja, sejarah tidak akan terulang kali ini, kali ini: kecerdasan buatan akan menyebabkan pengangguran massal daripada pertumbuhan ekonomi yang cepat, lebih banyak pekerjaan dan upah yang lebih tinggi. Kanan?
Tidak, ini pasti tidak akan terjadi, dan jika AI dibiarkan berkembang dan menyebar ke seluruh ekonomi, ini dapat menyebabkan ledakan ekonomi yang paling menarik dan bertahan lama, dengan catatan penciptaan lapangan kerja dan pertumbuhan upah yang sama -- tepatnya kebalikan dari apa yang ditakuti orang. Alasannya adalah sebagai berikut.
**Otomatisasi Membunuh Pekerjaan Kesalahan utama yang dilakukan para teis disebut "kekeliruan tenaga kerja agregat". **** Kekeliruan ini adalah bahwa ada jumlah tenaga kerja tetap yang perlu dilakukan dalam perekonomian pada waktu tertentu, baik oleh mesin maupun manusia, dan jika dilakukan oleh mesin maka manusia tidak memiliki pekerjaan untuk dilakukan. **
Kekeliruan Kerja Agregat muncul secara alami dari intuisi, tetapi intuisi itu salah. **Ketika teknologi diterapkan pada produksi, kami memperoleh pertumbuhan produktivitas—peningkatan output yang dihasilkan dengan mengurangi input. **Hasilnya adalah jatuhnya harga barang dan jasa. Saat harga barang dan jasa turun, kita membayar lebih sedikit, yang berarti kita sekarang memiliki daya beli ekstra untuk membeli barang lain. Hal ini meningkatkan permintaan dalam ekonomi, mendorong produksi baru—baik produk baru maupun industri baru—menciptakan lapangan kerja baru bagi orang-orang yang digantikan oleh mesin. **Hasilnya adalah ekonomi yang lebih besar, kemakmuran materi yang lebih banyak, lebih banyak industri, lebih banyak produk, lebih banyak pekerjaan. **
Tapi kabar baiknya lebih dari itu. Kami juga mendapatkan upah yang lebih tinggi. Hal ini karena pada tingkat individu pekerja, pasar menentukan kompensasi berdasarkan produktivitas marjinal pekerja. Seorang pekerja di industri yang diresapi teknologi lebih produktif daripada pekerja di industri tradisional. Entah pemberi kerja akan membayar lebih berdasarkan peningkatan produktivitas pekerja, atau pemberi kerja lain akan melakukannya karena kepentingan pribadi semata. Hasilnya, industri yang memperkenalkan teknologi tidak hanya akan meningkatkan kesempatan kerja, tetapi juga menaikkan upah.
Kesimpulannya, teknologi canggih memungkinkan orang untuk bekerja lebih efisien. Hal ini menyebabkan harga barang dan jasa yang ada turun dan upah naik. Hal ini pada gilirannya mendorong pertumbuhan ekonomi dan pertumbuhan lapangan kerja, dan merangsang penciptaan lapangan kerja baru dan industri baru. **Jika ekonomi pasar dapat berfungsi dengan baik dan teknologi dapat diperkenalkan dengan bebas, itu akan menjadi siklus naik yang tidak pernah berakhir. Seperti yang diamati Friedman, "keinginan dan kebutuhan manusia tidak ada habisnya"—kita selalu menginginkan lebih dari yang kita miliki. Ekonomi pasar yang merangkul teknologi adalah cara kita semakin dekat untuk mencapai segala sesuatu yang dapat dibayangkan semua orang, tetapi tidak pernah tercapai. Itu sebabnya teknologi tidak akan menghancurkan pekerjaan, tidak akan pernah.
Bagi mereka yang belum pernah mendengar ide-ide ini, ini adalah pemikiran mengejutkan yang mungkin membutuhkan waktu untuk dipahami. Tapi saya bersumpah saya tidak mengada-ada - sebenarnya, Anda bisa membaca semuanya di buku teks ekonomi standar. Saya merekomendasikan bab "Kutukan Mesin" Henry Hazlitt dalam Ekonomi dalam Satu Pelajaran, dan sindiran Frederic Bastiat "Petisi Pembuat Lilin" yang Memprotes matahari karena matahari telah bersaing secara tidak adil dalam industri penerangan. Kami juga memiliki versi modern dari waktu kami.
Tetapi Anda mungkin berpikir kali ini berbeda. Kali ini, dengan munculnya kecerdasan buatan, kita memiliki teknologi yang dapat menggantikan semua tenaga manusia.
Tapi, mengikuti prinsip-prinsip yang saya jelaskan di atas, bayangkan apa artinya jika semua tenaga manusia yang ada digantikan oleh mesin.
Ini akan berarti bahwa pertumbuhan produktivitas ekonomi akan meningkat pesat, jauh melebihi preseden sejarah mana pun. Harga barang dan jasa yang ada akan turun hingga hampir nol secara keseluruhan. Kesejahteraan konsumen akan melonjak. Daya beli konsumen akan melonjak. Akan ada lonjakan permintaan baru dalam perekonomian. Pengusaha akan menciptakan rangkaian industri baru, produk baru, dan layanan baru yang memusingkan, dan mempekerjakan AI dan pekerja sebanyak mungkin, secepat mungkin, untuk memenuhi semua permintaan baru.
Bagaimana jika kecerdasan buatan menggantikan para pekerja ini lagi? Siklus ini akan berulang, mendorong kesejahteraan konsumen, pertumbuhan ekonomi, dan pertumbuhan lapangan kerja dan upah yang lebih tinggi. Itu akan menjadi spiral ke atas linier, yang mengarah ke utopia material yang tidak pernah berani diimpikan oleh Adam Smith dan Karl Marx.
Kita mestinya sangat beruntung.
**Risiko AI 4: Akankah Kecerdasan Buatan Menyebabkan Ketidaksetaraan yang Parah? **
Berbicara tentang Karl Marx, kekhawatiran tentang AI yang mengambil pekerjaan mengarah langsung ke risiko AI yang diklaim berikutnya, yaitu, Marc, dengan asumsi AI memang mengambil semua pekerjaan, baik untuk kebaikan atau karena buruk. Jadi, bukankah fakta bahwa menjadi pemilik kecerdasan buatan menuai semua imbalan finansial dan orang biasa tidak mendapatkan apa-apa akan menyebabkan ketidaksetaraan kekayaan yang sangat besar dan parah?
Tepatnya, ini adalah tesis sentral Marxis bahwa para pemilik alat produksi—kaum borjuis—mau tidak mau mencuri semua kekayaan masyarakat dari mereka yang benar-benar bekerja—kaum proletar. Tidak peduli berapa kali kenyataan membuktikannya salah, kekeliruan itu sepertinya tidak pernah mati. Tapi mari kita membantahnya.
Kekurangan dalam teori ini adalah, sebagai pemilik sebuah teknologi, bukan kepentingan Anda sendiri untuk menyimpannya dan tidak membagikannya—sebaliknya, kepentingan Anda adalah menjualnya kepada sebanyak mungkin pelanggan. . Pasar terbesar di dunia adalah pasar global, termasuk 8 miliar orang. Jadi pada kenyataannya, setiap teknologi baru - bahkan jika itu mulai dijual ke perusahaan besar, bergaji tinggi atau konsumen kaya - menyebar dengan cepat hingga jatuh ke tangan pasar massal terbesar, yang akhirnya mencakup seluruh planet manusia.
Contoh klasik dari hal ini adalah apa yang disebut "rencana rahasia" Elon Musk pada tahun 2006 - yang, tentu saja, dia rilis ke publik - tentang rencana Tesla:
Yang tentu saja dia lakukan dan akhirnya menjadi orang terkaya di dunia.
Poin terakhir sangat penting. Apakah Musk akan lebih kaya jika hari ini dia hanya menjual mobil kepada orang kaya? Tidak akan. Apakah dia akan lebih kaya daripada sekarang jika dia hanya membuat mobil untuk dirinya sendiri? tentu saja tidak. Tidak, dia memaksimalkan keuntungannya dengan menjual ke pasar seluas mungkin di seluruh dunia.
Singkatnya, setiap orang dapat memiliki benda ini, seperti yang telah kita lihat di masa lalu dengan mobil, listrik, radio, komputer, Internet, ponsel, dan mesin pencari. Perusahaan yang membuat teknologi ini sangat termotivasi untuk menurunkan harga hingga semua orang di planet ini mampu membelinya. Inilah yang sebenarnya terjadi di AI — itulah sebabnya Anda dapat menggunakannya hari ini di AI generatif gratis atau berbiaya rendah dalam bentuk Microsoft Bing dan Google Bard — dan ini akan terus terjadi. Bukan karena pemasok ini bodoh atau dermawan, tetapi justru karena mereka serakah - mereka ingin memaksimalkan ukuran pasar dan dengan demikian memaksimalkan keuntungan.
Jadi yang terjadi adalah kebalikan dari teori bahwa teknologi mendorong konsentrasi kekayaan — pengguna teknologi secara individu, yang pada akhirnya mencakup setiap manusia di planet ini, malah diberdayakan dan menangkap sebagian besar nilai yang dihasilkan. Seperti teknologi sebelumnya, perusahaan yang membangun AI—dengan asumsi mereka harus beroperasi di pasar bebas—akan berlomba untuk mewujudkannya.
Marx dulu salah, dan dia salah sekarang.
Ini bukan untuk mengatakan bahwa ketidaksetaraan bukanlah masalah dalam masyarakat kita. Ini masalah, kecuali bahwa itu tidak didorong oleh teknologi, tetapi sebaliknya, oleh sektor-sektor ekonomi yang paling tahan terhadap teknologi baru dan di mana pemerintah paling banyak campur tangan untuk mencegah adopsi teknologi baru seperti kecerdasan buatan, khususnya perumahan, pendidikan dan kesehatan. **Risiko sebenarnya dari AI dan ketimpangan bukanlah bahwa AI akan menyebabkan lebih banyak ketimpangan, tetapi kami tidak akan membiarkan AI digunakan untuk mengurangi ketimpangan. **
**Risiko AI 5: Akankah AI menyebabkan orang jahat melakukan hal buruk? **
Sejauh ini, saya telah menjelaskan bagaimana empat dari lima risiko AI yang paling sering muncul sebenarnya tidak nyata—AI tidak akan hidup untuk membunuh kita, AI tidak akan menghancurkan masyarakat kita, kecerdasan buatan tidak akan Kecerdasan tidak akan memimpin pengangguran massal, dan AI tidak akan menyebabkan peningkatan ketidaksetaraan yang menghancurkan. Tapi sekarang mari kita bicara tentang yang kelima, dan ini yang ** saya benar-benar setujui: AI akan mempermudah orang jahat untuk melakukan hal buruk. **
Dalam arti tertentu, ini adalah argumen melingkar. Teknologi adalah alat. Dimulai dengan api dan batu, perkakas dapat digunakan untuk kebaikan—memasak makanan dan membangun rumah—dan untuk kejahatan—membakar dan memukul. Teknologi apa pun dapat digunakan untuk tujuan baik atau buruk. dimengerti. Dan AI akan memudahkan penjahat, teroris, dan pemerintah yang bermusuhan untuk melakukan hal-hal buruk, tidak diragukan lagi.
Itu membuat beberapa orang berkata, baiklah, jika itu masalahnya, mari kita blokir AI dalam kasus ini sebelum hal buruk terjadi. Sayangnya, AI bukanlah zat misterius yang sulit didapat seperti plutonium. Sebaliknya, ini adalah materi yang paling mudah diakses di dunia - matematika dan kode.
Rupanya, kucing AI sudah keluar dari paket. Anda dapat mempelajari cara membangun kecerdasan buatan dengan ribuan kursus online gratis, buku, makalah, dan video, dan semakin banyak implementasi sumber terbuka yang luar biasa setiap hari. AI itu seperti udara—akan ada di mana-mana. Untuk menangkapnya, tingkat represi totaliter yang dibutuhkan akan sangat parah - sebuah pemerintahan dunia yang memantau dan mengontrol semua komputer? Polisi bersenjata dengan helikopter hitam merampok GPU jahat? — Kami tidak akan memiliki masyarakat untuk dilindungi.
Jadi kami memiliki dua cara yang sangat mudah untuk menghadapi risiko pelaku jahat menggunakan AI untuk melakukan hal-hal buruk, dan itulah yang harus kami fokuskan.
**Pertama, kami memiliki undang-undang untuk mengkriminalkan sebagian besar penggunaan kecerdasan buatan untuk kejahatan. ** Meretas ke Pentagon? Itu kejahatan. Mencuri uang dari bank? Itu kejahatan. Membuat senjata biologis? Itu kejahatan. Melakukan serangan teroris? Itu kejahatan. Kita hanya perlu fokus untuk mencegah kejahatan ini saat kita bisa dan menuntut mereka saat kita tidak bisa. Kami bahkan tidak memerlukan undang-undang baru - saya tidak tahu apakah ada kasus aktual yang diangkat untuk penggunaan AI yang berbahaya yang belum ilegal. Jika penggunaan baru yang buruk ditemukan, kami melarang penggunaan tersebut. Sertifikat selesai.
Tapi Anda akan melihat apa yang baru saja saya katakan - saya katakan pertama-tama kita harus fokus pada pencegahan kejahatan yang dibantu oleh AI sebelum hal-hal buruk terjadi - bukankah itu berarti melarang AI? Nah, ada cara lain untuk mencegah perilaku seperti itu yaitu dengan menggunakan AI sebagai alat pertahanan. AI yang sama yang memberdayakan orang jahat dengan tujuan buruk sama kuatnya di tangan orang baik — terutama orang baik yang bertugas mencegah hal buruk terjadi.
Misalnya, jika Anda khawatir tentang kecerdasan buatan yang menghasilkan orang palsu dan video palsu, jawabannya adalah membangun sistem baru yang memungkinkan orang mengautentikasi diri mereka sendiri dan konten nyata melalui tanda tangan kriptografi. Kreasi digital dan modifikasi konten nyata dan palsu sudah ada sebelum AI; jawabannya bukan untuk melarang pengolah kata dan Photoshop — atau AI — tetapi menggunakan teknologi untuk membangun sistem yang benar-benar menyelesaikan masalah.
Jadi ** pendekatan kedua adalah, mari gunakan kecerdasan buatan secara agresif untuk tujuan yang jinak, sah, dan defensif. Mari manfaatkan AI dalam pertahanan dunia maya, pertahanan biologis, pelacakan teroris, dan semua hal lain yang kita lakukan untuk melindungi diri kita sendiri, komunitas kita, dan bangsa kita. **
Tentu saja, ada banyak orang pintar di dalam dan di luar pemerintahan yang sudah melakukan pekerjaan semacam ini - tetapi jika kita menempatkan semua upaya dan intelijen saat ini berfokus pada pelarangan kecerdasan buatan yang tidak efektif untuk menggunakan kecerdasan buatan untuk mencegah orang jahat melakukan hal-hal buruk. , Saya percaya bahwa dunia yang penuh dengan kecerdasan buatan Dunia yang cerdas akan lebih aman daripada dunia yang kita tinggali saat ini.
Risiko Nyata dari Tidak Mengimplementasikan AI dengan Kekuatan dan Kecepatan Maksimum
Ada satu risiko AI terakhir dan nyata yang mungkin paling menakutkan dari semuanya:
AI dieksploitasi tidak hanya di masyarakat Barat yang relatif liberal, tetapi juga di China.
China memiliki visi AI yang sangat berbeda dari kita. Mereka bahkan tidak merahasiakannya, dan mereka telah membuatnya sangat jelas bahwa mereka sudah mengejar tujuan mereka. Dan, mereka tidak bermaksud untuk membatasi strategi AI mereka ke China -- mereka bermaksud untuk melakukannya di mana mereka menyediakan jaringan 5G, menawarkan pinjaman Belt and Road, menawarkan aplikasi yang ramah konsumen seperti TikTok sebagai kontrol terpusat dan frontend AI komando mereka, menyebarkan itu ke setiap sudut dunia.
**Risiko terbesar untuk AI adalah China memenangkan dominasi AI global sementara kami – AS dan Barat – tidak. **
Saya mengusulkan sebuah strategi sederhana untuk mengatasi masalah ini—sebenarnya, ini adalah strategi yang diadopsi Presiden Ronald Reagan ketika dia memenangkan Perang Dingin pertama dengan Uni Soviet.
"Kami menang, mereka kalah."
Alih-alih dikesampingkan oleh ketakutan tak berdasar seputar pembunuh AI, AI berbahaya, AI penghancur pekerjaan, dan AI yang menghasilkan ketidaksetaraan, kita di AS dan Barat harus berinvestasi sepenuhnya dalam AI sebanyak mungkin.
Kita harus melawan perlombaan global untuk keunggulan teknologi AI dan memastikan China tidak menang.
Dalam prosesnya, kita harus memperkenalkan AI ke dalam ekonomi dan masyarakat kita secepat dan sekuat mungkin untuk memaksimalkan manfaatnya bagi produktivitas ekonomi dan potensi manusia.
Ini adalah cara terbaik untuk mengimbangi risiko nyata dari kecerdasan buatan dan memastikan bahwa cara hidup kita tidak digantikan oleh visi China.
**apa yang harus kita lakukan? **
Saya datang dengan rencana sederhana:
• Perusahaan AI besar harus diizinkan untuk membangun AI secepat dan seagresif mungkin - tetapi tidak mencapai monopoli peraturan, tidak membuat kartel yang dilindungi pemerintah, dan dibebaskan dari klaim palsu tentang risiko AI untuk bersaing di pasar. Ini akan memaksimalkan penghargaan teknologi dan sosial dari kemampuan luar biasa dari perusahaan-perusahaan ini, permata kapitalisme modern.
**• Perusahaan AI pemula harus diizinkan untuk membangun AI secepat dan seagresif mungkin. **Mereka tidak boleh menghadapi perlindungan yang diterima perusahaan besar dari pemerintah, juga tidak boleh menerima bantuan pemerintah. Mereka seharusnya hanya diizinkan untuk bersaing. Jika startup tidak berhasil, kehadiran mereka di pasar juga akan terus memotivasi perusahaan besar untuk melakukannya dengan baik -- bagaimanapun ekonomi dan masyarakat kita adalah pemenangnya.
**• AI open source harus diizinkan untuk menyebar secara bebas dan bersaing dengan perusahaan AI besar dan perusahaan rintisan. **Sumber terbuka seharusnya tidak memiliki hambatan regulasi. Bahkan jika open source tidak memenangkan perusahaan, ketersediaannya yang luas merupakan keuntungan bagi siswa di seluruh dunia yang ingin belajar bagaimana membangun dan menggunakan kecerdasan buatan untuk menjadi bagian dari masa depan teknologi dan memastikan bahwa tidak peduli siapa mereka atau berapa banyak uang yang mereka miliki, AI akan bekerja untuk mereka tersedia.
**• Untuk menangkal risiko pelaku jahat yang menggunakan AI untuk melakukan hal-hal buruk, pemerintah, dalam kemitraan dengan sektor swasta, harus secara aktif terlibat dalam setiap aspek area risiko potensial, menggunakan AI untuk memaksimalkan pertahanan masyarakat. **Hal ini tidak boleh terbatas pada risiko AI, tetapi mencakup masalah yang lebih umum seperti malnutrisi, penyakit, dan masalah iklim. AI bisa menjadi alat yang sangat ampuh untuk memecahkan masalah, dan kita harus memikirkannya seperti itu.
**• Untuk mencegah risiko China mencapai dominasi AI global, kita harus memanfaatkan sepenuhnya kekuatan sektor swasta, lembaga penelitian ilmiah, dan pemerintah kita untuk bersama-sama mempromosikan dominasi mutlak AI AS dan Barat dalam skala global , dan akhirnya bahkan di Hal yang sama berlaku di Cina. Kami menang, mereka kalah. **
Inilah cara kita dapat menggunakan kecerdasan buatan untuk menyelamatkan dunia.
Saatnya beraksi.
Legenda dan Pahlawan
Saya akhiri dengan dua pernyataan sederhana.
Perkembangan kecerdasan buatan dimulai pada tahun 1940-an, bersamaan dengan penemuan komputer. Makalah ilmiah pertama tentang jaringan saraf — arsitektur kecerdasan buatan yang kita miliki saat ini — diterbitkan pada tahun 1943. Selama 80 tahun terakhir, seluruh generasi ilmuwan AI lahir, bersekolah, bekerja, dan dalam banyak kasus meninggal tanpa melihat imbalan yang kita dapatkan sekarang. Mereka adalah legenda, semuanya.
Saat ini, semakin banyak insinyur — banyak di antaranya masih muda dan mungkin memiliki kakek nenek atau bahkan kakek buyut yang terlibat dalam menciptakan ide di balik AI — bekerja untuk menghidupkan AI, meskipun ada tembok kepanikan dan pesimisme terhadap penjahat. Saya tidak berpikir mereka sembrono atau penjahat. Mereka adalah pahlawan, semuanya. Perusahaan saya dan saya dengan senang hati mendukung mereka sebanyak mungkin, dan kami akan mendukung mereka dan pekerjaan mereka 100%.
**"Selama bertahun-tahun, milenialis sering [prediktor risiko kecerdasan buatan terus-menerus] mencoba memprediksi waktu yang tepat dari peristiwa masa depan tersebut, seringkali melalui interpretasi berbagai tanda dan prekursor. Namun, prediksi sejarah hampir selalu gagal Berakhir [saat ini tidak ada bukti yang kredibel bahwa AI akan membunuh manusia]. **Namun, penggemar mereka [prediktor risiko AI] biasanya mencoba merevisi penjelasan agar selaras dengan [potensi risiko di masa depan AI] ketika peristiwa terjadi Sesuai."
Mereka yang tergabung dalam sekte "risiko AI" mungkin tidak setuju dengan saya, dan mereka mungkin bersikeras bahwa mereka rasional, berbasis sains, dan bahwa saya adalah pengikut yang dicuci otak. Perhatikan, bagaimanapun, bahwa saya tidak mengklaim bahwa "kecerdasan buatan tidak akan pernah menjadi ancaman bagi umat manusia". Saya hanya menunjukkan bahwa sampai saat ini tidak ada bukti yang mendukung tesis "AI akan membunuh kita". Alih-alih terlibat dalam kepanikan dan reaksi seperti kultus, kita harus membuat penilaian rasional berdasarkan bukti yang tersedia.