Pada tanggal 9 Juni, "Konferensi Beijing Zhiyuan" selama dua hari berhasil dibuka di Pusat Konferensi Zona Demonstrasi Inovasi Independen Nasional Zhongguancun.
Zhiyuan Conference adalah acara pertukaran profesional kelas atas internasional tahunan tentang kecerdasan buatan yang diselenggarakan oleh Zhiyuan Research Institute (juga dikenal sebagai Institut Riset AI Tiongkok terkuat dari OpenAI di Tiongkok). Gala Festival Musim Semi" - sebagaimana dapat dilihat dari barisan peserta tamu:
Pemenang Penghargaan Turing Geoffrey Hinton, Yann LeCun (ini juga yang kedua dari Tiga Besar dalam pembelajaran mendalam, Bengio lain menghadiri konferensi sebelumnya), Joseph Sifakis dan Yao Qizhi, Zhang Bo, Zheng Nanning, Xie Xiaoliang, Zhang Hongjiang, Zhang Yaqin dan akademisi lainnya, Stuart Russell, pendiri Center for Artificial Intelligence Systems di University of California, Berkeley, Max Tegmark, pendiri Future of Life Institute di Massachusetts Institute of Technology, **OpenAI CEO Sam Altman ** (ini juga pidato pertamanya di China , meskipun online), Meta, Microsoft, Google dan perusahaan besar lainnya dan DeepMind, Anthropic, HuggingFace, Midjourney, Stability AI dan anggota tim bintang lainnya, total lebih dari 200 pakar kecerdasan buatan top...
Dalam dua hari terakhir, saya mengikuti siaran langsung konferensi tersebut, sebagai mahasiswa seni liberal yang tidak mengerti teknologi, saya sebenarnya mendengarkan dengan penuh minat dan mendapatkan banyak hal.
Namun, setelah membaca pidato Geoffrey Hinton, pemenang Turing Award terakhir dan "bapak pembelajaran mendalam", emosi yang kuat dan kompleks menyelimuti saya:
Di satu sisi, melihat peneliti AI mengeksplorasi dan membayangkan berbagai teknologi mutakhir, mereka secara alami akan lebih percaya diri dalam realisasi AI dan bahkan AGI kecerdasan buatan umum masa depan**;
Di sisi lain, mendengar para pakar dan cendekiawan mutakhir mendiskusikan risiko AI, serta ketidaktahuan dan penghinaan manusia tentang cara menangani risiko, dan penuh kekhawatiran tentang masa depan manusia - masalah paling esensial, di Kata-kata Hinton, adalah: sejarah Belum pernah ada preseden di dunia ini di mana makhluk yang lebih cerdas dikendalikan oleh makhluk yang kurang cerdas **Jika katak menciptakan manusia, menurut Anda siapa yang akan mengambil kendali? Apakah itu katak, atau manusia? **
Karena ledakan informasi dalam konferensi dua hari itu, saya meluangkan waktu untuk memilah-milah materi dari beberapa pidato penting, dan merekam beberapa pemikiran saya, sehingga saya dapat meninjaunya nanti dan membaginya dengan semua orang yang peduli dengan kemajuan AI.
Penjelasan: Bagian yang ditandai dengan [catatan] di bawah ini adalah pendapat pribadi saya, dan isinya dirangkum sebagai kutipan (saya tidak dapat menuliskannya -_-|| karena keterbatasan kemampuan saya), sumbernya adalah tautan di akhir setiap bagian, dan beberapa di antaranya telah dimodifikasi.
CEO OpenAI Sam Altman: AGI mungkin muncul dalam sepuluh tahun
Pada forum "Keselamatan dan Penyelarasan AI" yang diadakan sepanjang hari pada tanggal 10 Juni, salah satu pendiri OpenAI Sam Altman memberikan pidato pembukaan - juga pidato pertamanya di China, meskipun secara online.
Pembicaraan tersebut memberikan wawasan seputar interpretasi model, skalabilitas, dan generalisasi. Selanjutnya, Sam Altman dan Zhang Hongjiang, ketua Zhiyuan Research Institute, mengadakan Q&A puncak, terutama membahas cara memperdalam kerja sama internasional, cara melakukan penelitian AI yang lebih aman, dan cara menghadapi risiko AI di masa depan di era saat ini. model AI skala besar.
Ringkasan yang bagus:
Alasan mengapa revolusi AI saat ini begitu berdampak bukan hanya pada skala dampaknya, tetapi juga kecepatan kemajuannya. Ini membawa dividen dan risiko.
Potensi dividen dari AI sangat besar. Namun kita harus mengelola risiko bersama agar dapat digunakan untuk meningkatkan produktivitas dan standar hidup.
Dengan munculnya sistem AI yang semakin kuat,* taruhan untuk kerja sama global tidak pernah setinggi ini. Kekuatan besar sering memiliki perbedaan pendapat dalam sejarah, tetapi pada beberapa masalah terpenting, kerja sama dan koordinasi diperlukan. **Meningkatkan keamanan AGI adalah salah satu bidang terpenting yang perlu dicari bersama. Dalam pidatonya, Altman berulang kali menekankan perlunya penyelarasan dan pengawasan keamanan AI global, dan secara khusus mengutip kalimat dari Tao Te Ching: Perjalanan seribu mil dimulai dengan satu langkah. Alignment masih menjadi isu terbuka.
**Bayangkan sistem AGI masa depan dengan mungkin 100.000 baris kode biner, pengawas manusia tidak mungkin mengetahui apakah model seperti itu melakukan sesuatu yang jahat. **
**GPT-4 membutuhkan waktu delapan bulan untuk menyelesaikan penyelarasan. **Namun, penelitian terkait masih ditingkatkan **Terutama dibagi menjadi dua aspek: skalabilitas dan interpretabilitas. Salah satunya adalah pengawasan terukur, mencoba menggunakan sistem AI untuk membantu manusia dalam mengawasi sistem kecerdasan buatan lainnya. Yang kedua adalah interpretabilitas, mencoba memahami "kotak hitam" dari cara kerja model besar. Pada akhirnya, OpenAI bertujuan untuk melatih sistem AI untuk membantu penelitian penyelarasan.
Ketika ditanya oleh Zhang Hongjiang seberapa jauh dari era kecerdasan buatan umum (AGI), Sam Altman berkata, "Dalam 10 tahun ke depan, sistem AI super akan lahir, tetapi sulit untuk memprediksi titik waktu tertentu." , dia juga menekankan, "Kecepatan teknologi baru telah mengubah dunia sepenuhnya jauh di luar imajinasi."
Ketika ditanya apakah OpenAI akan membuka model besar open source, **Altman mengatakan bahwa akan ada lebih banyak open source di masa mendatang, tetapi tidak ada model dan jadwal khusus. Selain itu, ia juga mengatakan bahwa GPT-5 tidak akan ada dalam waktu dekat. ** Usai pertemuan, Altman mengeluarkan pesan untuk mengungkapkan rasa terima kasihnya telah diundang untuk memberikan pidato di Konferensi Zhiyuan.
Yang Likun, pemenang Turing Award: Tidak akan ada yang menggunakan model GPT dalam lima tahun, dan model dunia adalah masa depan AGI
Yang Likun, salah satu dari tiga raksasa pembelajaran mendalam dan pemenang Penghargaan Turing, menyampaikan pidato utama berjudul "Menuju Mesin yang Dapat Belajar, Bernalar, dan Merencanakan". Seperti biasa, ia mempertanyakan arus Rute LLM mengusulkan ide lain dari sebuah mesin yang dapat mempelajari, menalar, dan merencanakan: model dunia.
Poin-poin penting dari pidato:
**Kemampuan AI masih jauh dari kemampuan manusia dan hewan - kesenjangan tersebut terutama tercermin dalam penalaran dan perencanaan logis, dan model besar hanya dapat "merespon secara naluriah" saat ini. **** Apa itu pembelajaran yang diawasi sendiri? Pembelajaran yang diawasi sendiri adalah tentang menangkap ketergantungan dalam masukan. **
Sistem pelatihan menangkap ketergantungan antara apa yang kita lihat dan apa yang belum kita lihat. Performa model besar saat ini mencengangkan jika dilatih dengan data satu triliun token atau dua triliun token.
** Kita mudah tertipu oleh fluiditasnya. Tapi pada akhirnya, mereka membuat kesalahan bodoh. Mereka membuat kesalahan faktual, kesalahan logis, ketidakkonsistenan, mereka memiliki penalaran yang terbatas, mereka menghasilkan konten berbahaya. ** Model besar ini perlu dilatih ulang.
**Bagaimana mengaktifkan AI untuk benar-benar merencanakan seperti manusia? Lihat bagaimana manusia dan hewan belajar dengan cepat - dengan melihat dan mengalami dunia. **
Yang Likun percaya bahwa pengembangan AI di masa depan menghadapi tiga tantangan utama: **Mempelajari representasi dunia, memprediksi model dunia, dan menggunakan pembelajaran yang diawasi sendiri. **
Yang pertama adalah mempelajari model representasi dan prediksi dunia, Tentu saja, itu bisa dipelajari dengan cara yang diawasi sendiri.
** Kedua, belajar bernalar. **Ini sesuai dengan konsep psikolog Daniel Kahneman tentang Sistem 1 dan Sistem 2. Sistem 1 adalah perilaku atau tindakan manusia yang sesuai dengan kalkulasi bawah sadar, hal-hal yang dapat dilakukan tanpa berpikir; sedangkan Sistem 2 adalah tugas yang Anda gunakan secara sadar dan sengaja untuk menyelesaikan semua daya pikir Anda. Saat ini, kecerdasan buatan pada dasarnya hanya dapat mewujudkan fungsi di Sistem 1, dan itu tidak lengkap;
Tantangan terakhir adalah bagaimana merencanakan rangkaian tindakan yang kompleks dengan menguraikan tugas kompleks menjadi tugas yang lebih sederhana, yang beroperasi secara hierarkis.
Hasilnya, Yang Likun mengusulkan ** "Model Dunia", yang terdiri dari enam modul independen, termasuk: **modul konfigurator, modul persepsi, model dunia, modul biaya, modul aktor, modul memori jangka pendek . **Dia percaya bahwa merancang arsitektur dan paradigma pelatihan untuk model dunia adalah hambatan nyata yang menghambat pengembangan kecerdasan buatan dalam beberapa dekade mendatang.
LeCun selalu meremehkan gagasan bahwa AI akan menghancurkan manusia, dan percaya bahwa AI saat ini tidak secerdas anjing, dan kekhawatiran ini berlebihan. **Ketika ditanya apakah sistem AI akan menimbulkan risiko eksistensial bagi manusia, LeCun berkata, **Kami belum memiliki AI super, jadi bagaimana cara membuat sistem AI super aman? **
** "Tanya orang hari ini, dapatkah kami menjamin bahwa sistem superintelijen aman bagi manusia, itu adalah pertanyaan yang tidak dapat dijawab. Karena kami tidak memiliki desain untuk sistem superintelijen. Jadi sebelum Anda memiliki desain dasar, Anda tidak dapat Membuat sesuatu menjadi aman.**Ini seperti jika Anda bertanya kepada seorang insinyur ruang angkasa pada tahun 1930, dapatkah Anda membuat turbojet yang aman dan andal? Dan insinyur itu akan berkata, "Apa itu turbojet?" "Karena turbojet belum ditemukan pada tahun 1930. Jadi kami berada dalam situasi yang sama. Agak terlalu dini untuk mengklaim bahwa kami tidak dapat membuat sistem ini aman karena kami belum menemukannya. Setelah kami menemukan mereka— —mungkin mereka akan mirip dengan cetak biru yang saya buat, maka itu layak untuk didiskusikan."
Profesor Max Tegmark, MIT Center for Artificial Intelligence and Basic Interaction Research: Control AI with Mechanical Explainability
Max Tegmark, saat ini seorang profesor fisika tetap di Massachusetts Institute of Technology, direktur ilmiah dari Institute for Fundamental Issues, pendiri Institute for the Future of Life, dan "pemrakarsa inisiatif penelitian AI penangguhan" yang terkenal (the inisiatif pada akhir Maret membuat Elon Musk, pemenang Penghargaan Turing Yoshua Bengio, salah satu pendiri Apple Steve Wozniak dan 1000+ selebritas lainnya) memberikan pidato yang luar biasa di Konferensi Zhiyuan tentang "Cara Mengontrol AI" (Menjaga AI tetap terkendali), dan berdialog dengan Zhang Yaqin, akademisi Universitas Tsinghua, untuk membahas masalah keamanan etis AI dan pencegahan risiko.
Pidato tersebut membahas secara detail kemampuan penjelasan mekanis AI, yang sebenarnya merupakan studi tentang bagaimana pengetahuan manusia disimpan dalam koneksi kompleks tersebut di jaringan saraf. Jika penelitian ke arah ini berlanjut, mungkin akhirnya bisa benar-benar menjelaskan pertanyaan pamungkas mengapa model bahasa besar LLM menghasilkan kecerdasan.
Selain pidato, fakta yang menarik adalah, sebagai penggagas "Pause AI Research Initiative", pidato utama berfokus pada bagaimana melakukan penelitian model skala besar AI yang lebih mendalam. Mungkin seperti yang dikatakan Max sendiri di akhir, dia bukanlah orang yang terkutuk seperti yang dikatakan Profesor Yang Likun, salah satu raksasa AI, dia sebenarnya penuh dengan harapan dan kerinduan akan AI, tetapi kita dapat memastikan bahwa semua ini lebih kuat. kecerdasan melayani kita dan menggunakannya Muncul untuk menciptakan masa depan yang lebih menginspirasi daripada yang diimpikan oleh penulis fiksi ilmiah di masa lalu. **
Catatan: Saya pikir itu akan sangat membosankan, tetapi ternyata sangat mengasyikkan, dan saya menonton pidato terpanjang selama satu jam dengan senang hati! **Seperti yang diharapkan dari seorang profesor yang sering mengajar, dia sangat mempesona, sangat dalam secara teori, dan mudah dimengerti. Yang lebih mengejutkan adalah bahwa dia bukan hanya lawan AI yang tenang, tetapi dia sebenarnya adalah pendukung AI yang lebih baik! **Saya juga bisa berbahasa Mandarin, dan saya tidak lupa merekrut diri sendiri saat berpidato...
Kutipan dari ide-ide luar biasa:
Interpretabilitas mekanis adalah bidang yang sangat menarik. Anda melatih jaringan saraf kompleks yang tidak Anda pahami untuk melakukan tugas-tugas cerdas, dan kemudian mencoba mencari tahu bagaimana melakukannya.
Bagaimana kita melakukan ini? Anda dapat memiliki tiga tingkat ambisi yang berbeda. **Tingkat terendah dari ambisi hanyalah mendiagnosa kredibilitasnya, seberapa besar Anda harus mempercayainya. **Misalnya, ketika Anda mengendarai mobil, bahkan jika Anda tidak mengerti cara kerja rem Anda, setidaknya Anda ingin tahu apakah Anda dapat mempercayainya untuk memperlambat Anda.
**Ambisi tingkat selanjutnya adalah memahaminya dengan lebih baik sehingga bisa lebih dipercaya. **Ambisi utamanya sangat ambisius, dan itulah yang saya harapkan, adalah kami akan dapat mengekstraksi semua pengetahuan yang mereka pelajari dari sistem pembelajaran mesin dan menerapkannya kembali di sistem lain untuk menunjukkan bahwa mereka akan Melakukan apa yang kami inginkan. **
Mari pelan-pelan, pastikan kita mengembangkan pagar pembatas yang lebih baik. Jadi surat itu mengatakan mari kita berhenti sejenak, yang disebutkan sebelumnya. Saya ingin memperjelas, tidak dikatakan kita harus menjeda AI, tidak mengatakan kita harus menjeda hampir semua hal. Kami telah mendengar pada pertemuan ini sejauh ini bahwa kami harus terus melakukan hampir semua penelitian luar biasa yang kalian lakukan. **Itu hanya mengatakan kita harus menjeda, menjeda mengembangkan sistem yang lebih kuat daripada GPT-4. **Jadi ini sebagian besar jeda untuk beberapa perusahaan barat.
Sekarang, alasannya adalah bahwa ini adalah sistem yang tepat yang dapat membuat kita lepas kendali, sistem yang paling cepat dan sangat kuat yang tidak cukup kita pahami. Tujuan jeda hanya untuk membuat kecerdasan buatan lebih seperti bioteknologi, di bidang bioteknologi, Anda tidak bisa hanya mengatakan bahwa Anda adalah sebuah perusahaan, hei, saya punya obat baru, saya menemukannya, dan itu akan mulai dijual di supermarket besar di Beijing besok. Pertama, Anda harus meyakinkan para ahli di pemerintah China atau pemerintah AS bahwa ini adalah obat yang aman, manfaatnya lebih besar daripada kerugiannya, bahwa ada proses peninjauan, dan kemudian Anda dapat melakukannya.
Jangan membuat kesalahan itu, mari menjadi lebih seperti biotek, menggunakan sistem kami yang paling kuat, tidak seperti Fukushima dan Chernobyl.
**3、**Zhang Yaqin: Nah, Max, karir Anda dihabiskan di bidang matematika, fisika, ilmu saraf, dan tentu saja kecerdasan buatan. Jelas, di masa depan kita akan semakin mengandalkan kompetensi dan pengetahuan interdisipliner. Kami memiliki banyak mahasiswa pascasarjana, banyak pemuda masa depan.
Nasihat apa yang Anda miliki untuk kaum muda tentang cara membuat pilihan karier?
Max Tegmark: Pertama, Saran saya adalah fokus pada dasar-dasar di era AI. Karena ekonomi dan pasar kerja berubah semakin cepat. Jadi, kita beralih dari pola belajar ini selama 12 atau 20 tahun dan kemudian melakukan hal yang sama selama sisa hidup kita. Tidak akan seperti itu.
Terlebih lagi, **Anda memiliki dasar yang kuat dan sangat pandai berpikir kreatif dan berpikiran terbuka. Hanya dengan cara ini kita bisa gesit dan mengikuti tren. **
Tentu saja, awasi apa yang terjadi di bidang AI secara keseluruhan, bukan hanya di bidang Anda sendiri**. Karena di pasar kerja, hal pertama yang terjadi bukanlah tergantikannya manusia oleh mesin. Tapi **orang yang tidak bekerja dengan AI akan digantikan oleh orang yang melakukannya. **
Dapatkah saya menambahkan sedikit lagi? Saya melihat waktu berkedip di sana.
Saya hanya ingin mengatakan sesuatu yang optimis. Saya pikir Yann LeCun mengolok-olok saya. Dia memanggilku yang terkutuk. Tetapi jika Anda melihat saya, saya sebenarnya sangat bahagia dan ceria. **Saya sebenarnya lebih optimis daripada Yann LeCun tentang kemampuan kami untuk memahami sistem AI di masa depan. ** Saya pikir ini sangat, sangat menjanjikan.
Saya pikir jika kita melaju dengan kecepatan penuh dan menyerahkan lebih banyak kendali dari manusia ke mesin yang tidak kita mengerti, itu akan berakhir dengan cara yang sangat buruk. Tapi kita tidak harus melakukan itu. Saya pikir jika kita bekerja keras pada penjelasan mekanistik dan banyak topik teknis lainnya yang akan didengar di sini hari ini, kita benar-benar dapat memastikan bahwa semua kecerdasan yang lebih besar ini siap melayani kita dan menggunakannya untuk menciptakan dunia yang lebih menginspirasi. masa depan.
Percakapan dengan pendiri Midjourney: Gambar hanyalah langkah pertama, AI akan merevolusi pembelajaran, kreativitas, dan organisasi
MidJourney saat ini merupakan mesin penghasil gambar terpanas. Di bawah persaingan ketat DALL·E 2 OpenAI dan model open source Stable Diffusion, masih mempertahankan keunggulan mutlak dalam berbagai efek pembuatan gaya.
Midjourney adalah perusahaan yang luar biasa, 11 orang mengubah dunia dan menciptakan produk hebat, ditakdirkan untuk menjadi kisah tahun-tahun awal Pra AGI.
Catatan: Dialog yang ditunggu-tunggu antara pendiri dan CEO Midjourney David Holz dan Geek Park Zhang Peng, semuanya dalam bahasa Inggris, tanpa subtitle, saya tidak berharap untuk memahaminya sepenuhnya, dan saya sangat tertarik, karena pertanyaan dan jawabannya adalah sangat luar biasa, terutama David , saya tidak bisa menahan tawa ketika menjawab. Dia tertawa seperti anak kecil yang tidak bersalah. Dengan pengalaman dalam mengelola tim besar, dia berkata, "Saya tidak pernah ingin memiliki perusahaan, saya ingin memiliki rumah." Dia membawanya hingga Saat ini, Midjourney yang hanya beranggotakan 20 orang telah menjadi unicorn yang menarik perhatian dunia, yang mungkin mengubah paradigma startup masa depan.
Drive Wirausaha: Membuka Imajinasi Manusia
**Zhang Peng:**Dalam 20 tahun terakhir, saya telah bertemu banyak pengusaha di dalam dan luar negeri. Saya menemukan bahwa mereka memiliki kesamaan, mereka semua memiliki dorongan yang kuat untuk mengeksplorasi dan menciptakan "dari ketiadaan".
Saya bertanya-tanya, ketika Anda memulai MidJourney, apa kekuatan pendorong Anda? Pada saat itu, apa yang Anda rindukan?
**David Holz: Saya tidak pernah berpikir untuk memulai sebuah perusahaan. Aku hanya ingin "rumah". **
Saya berharap dalam 10 atau 20 tahun ke depan, di sini di Midjourney, saya dapat menciptakan hal-hal yang benar-benar saya pedulikan dan sangat ingin saya bawa ke dunia ini.
Saya sering memikirkan berbagai masalah. Mungkin saya tidak bisa menyelesaikan setiap masalah, tapi saya bisa** mencoba membuat semua orang lebih mampu memecahkan masalah. **
Jadi saya mencoba memikirkan bagaimana menyelesaikannya, bagaimana menciptakan sesuatu. Menurut saya, ini bisa diringkas menjadi tiga poin. **Pertama, kita harus merenungkan diri kita sendiri: apa yang kita inginkan? Apa sebenarnya masalahnya? ****Lalu kita harus membayangkan: kemana tujuan kita? Apa kemungkinannya? ****Pada akhirnya, kita harus saling berkoordinasi dan berkolaborasi dengan orang lain untuk mencapai apa yang kita bayangkan. **
Saya pikir ada peluang besar dalam AI untuk menyatukan ketiga bagian tersebut dan menciptakan infrastruktur signifikan yang membuat kita lebih baik dalam memecahkan masalah ini. Di satu sisi, ** kecerdasan buatan harus dapat membantu kita merenungkan diri kita sendiri, membayangkan arah masa depan kita dengan lebih baik, membantu kita menemukan satu sama lain dengan lebih baik, dan bekerja sama. Kita dapat melakukan hal-hal ini bersama-sama dan menggabungkannya menjadi semacam kerangka kerja tunggal. Saya pikir itu akan mengubah cara kita menciptakan sesuatu dan memecahkan masalah. Ini adalah hal besar yang ingin saya lakukan. **
Saya pikir kadang-kadang (kami yang melakukannya lebih dulu) pembuatan gambar bisa membingungkan, tetapi dalam banyak hal pembuatan gambar adalah konsep yang sudah mapan. **Midjourney telah menjadi kumpulan jutaan orang yang sangat imajinatif yang menjelajahi kemungkinan ruang ini. **
**Di tahun-tahun mendatang akan ada peluang untuk lebih banyak eksplorasi visual dan artistik daripada gabungan semua eksplorasi sejarah sebelumnya. **
Ini tidak menyelesaikan semua masalah yang kita hadapi, tapi menurut saya ini adalah tes, eksperimen. Jika kita bisa menyelesaikan eksplorasi bidang visual ini, maka kita juga bisa melakukannya di hal lain.Semua hal lain yang mengharuskan kita untuk mengeksplorasi dan berpikir bersama, menurut saya bisa diselesaikan dengan cara yang sama.
Jadi ketika saya berpikir tentang bagaimana memulai memecahkan masalah ini, kami memiliki banyak ide, kami membuat banyak prototipe, tetapi tiba-tiba ada terobosan di bidang AI, terutama dalam penglihatan, dan kami menyadari bahwa ini adalah hal yang unik. kesempatan untuk dapat Menciptakan sesuatu yang belum pernah dicoba orang lain sebelumnya. Itu membuat kami ingin mencobanya.
Kami pikir mungkin tidak akan terlalu lama sebelum semuanya bersatu untuk membentuk sesuatu yang sangat istimewa. Ini baru permulaan.
Zhang Peng: Jadi, gambar (generasi) hanyalah langkah pertama, dan tujuan akhir Anda adalah untuk membebaskan imajinasi manusia. Apakah ini yang menarik Anda ke Midjourney?
David Holz: Saya sangat menyukai hal-hal yang imajinatif. Saya juga berharap dunia dapat memiliki lebih banyak kreativitas. Sangat menyenangkan melihat ide-ide gila setiap hari.
Memahami Kembali Pengetahuan: Pengetahuan Sejarah Menjadi Kekuatan Penciptaan
Zhang Peng: Ini sangat menarik. Kami biasanya mengucapkan kata-kata kosong, tunjukkan kode Anda (Ide itu murah, tunjukkan kodenya). Tapi saat ini, ide tampaknya menjadi satu-satunya hal yang penting. Selama Anda dapat mengekspresikan ide-ide Anda melalui rangkaian kata-kata yang bagus, AI dapat membantu Anda mewujudkannya. Jadi, apakah definisi pembelajaran dan kreativitas berubah? Bagaimana menurutmu?
**David Holz: **Menurut saya salah satu hal yang menarik adalah saat Anda memberi orang lebih banyak waktu untuk berkreasi, mereka juga lebih tertarik untuk belajar sendiri. **
Misalnya, ada gaya seni yang sangat populer di Amerika Serikat yang disebut Art Deco. Saya tidak pernah peduli tentang seni apa ini, sampai suatu hari, ketika saya bisa membuat karya seni semacam ini melalui instruksi, tiba-tiba saya menjadi sangat tertarik dan ingin tahu lebih banyak tentang sejarahnya.
Saya pikir itu menarik bahwa kami lebih tertarik pada sejarah ketika itu adalah sesuatu yang dapat Anda gunakan segera dan membuatnya lebih mudah untuk Anda buat. **Jika antarmuka pengguna menjadi cukup baik, pengguna merasa bahwa AI telah menjadi perpanjangan dari pemikiran kami. AI seperti bagian dari tubuh dan pikiran kita, dan AI terkait erat dengan sejarah sampai batas tertentu, dan kita juga akan terkait erat dengan sejarah. Ini sangat menarik.
Ketika kami bertanya kepada pengguna kami apa yang paling mereka inginkan, jawaban nomor satu dan kedua adalah mereka menginginkan materi pembelajaran, bukan hanya cara menggunakan alat, tetapi seni, sejarah, lensa kamera, kecemerlangan, Ingin memahami dan menguasai semua pengetahuan dan konsep tersedia untuk dibuat.
**Sebelumnya, pengetahuan hanya melewati sejarah, tapi sekarang, pengetahuan adalah kekuatan untuk mencipta. **
**Pengetahuan dapat segera memainkan peran yang lebih besar, dan orang-orang sangat ingin memperoleh lebih banyak pengetahuan. **Ini sangat keren.
Brian Christian: Versi Mandarin dari buku baru "Human-Machine Alignment" telah dirilis
Versi China dari "Human-Machine Alignment" dirilis. Penulis Brian Christian secara singkat memperkenalkan konten utama dari keseluruhan buku dalam 10 menit. Kedengarannya sangat kaya dan mengasyikkan, dan juga menggemakan perkembangan AI yang pesat saat ini.
Brian Christian adalah penulis sains pemenang penghargaan. Bukunya "The Beauty of Algorithms" dinobatkan sebagai Buku Sains Terbaik Tahun Ini dari Amazon dan Buku Terbaik Tahun Ini dari MIT Technology Review. Buku barunya, The Alignment Problem: Machine Learning and Human Values, yang saat ini sedang diterjemahkan ke dalam bahasa Mandarin, telah dinobatkan oleh CEO Microsoft Satya Nadella sebagai lima buku teratas yang menginspirasinya pada tahun 2021**.
Buku "Alignment Manusia-Mesin" dibagi menjadi 3 bagian.
Bagian pertama mengeksplorasi masalah etika dan keamanan yang memengaruhi sistem pembelajaran mesin saat ini.
Bagian kedua disebut agen, yang mengalihkan fokus dari pembelajaran yang diawasi dan diawasi sendiri menjadi pembelajaran penguatan.
Bagian III dibangun di atas pengawasan, pengawasan diri, dan pembelajaran penguatan untuk membahas bagaimana kita dapat menyelaraskan sistem AI yang kompleks di dunia nyata.
Yang Yaodong, Asisten Profesor, Institut Kecerdasan Buatan, Universitas Peking: Tinjauan Kemajuan Penyelarasan Aman Model Bahasa Besar
Catatan: Pidato "Penyelarasan Keamanan Model Bahasa Besar" yang diberikan oleh Yang Yaodong, asisten profesor di Institut Kecerdasan Buatan Universitas Peking, sangat menarik. Pertama, dia bisa memahami pidato dalam bahasa Mandarin. Kedua, dia menjelaskan arus keamanan model bahasa besar dalam bahasa yang sangat mudah dipahami Kemajuan penelitian utama dari penyelarasan, menguraikan poin-poin penting, dan melebihi banyak konten tentang kemajuan RLHF secara mendalam.
Karena saya tidak tahu detail teknologinya, saya hanya bisa memahami prinsipnya secara kasar dan mencatat beberapa poin menarik:
Tiga metode Align yang diusulkan oleh OpenAI:
Latih AI menggunakan umpan balik manusia
Latih AI untuk membantu evaluasi manusia
Latih AI untuk melakukan penelitian penyelarasan
Pasar penyelarasan model besar AI masih merupakan samudra biru:
** Model besar yang ada, kecuali GPT, hampir gagal mencapai penyelarasan dalam arti apa pun**
Teknologi transformasi dari tujuan umum ke tujuan khusus untuk model skala besar akan menjadi keunggulan berikutnya dalam pengembangan model skala besar
3 Cara Aman Penyelarasan:
Pada tahap pra-pelatihan, melalui penyaringan manual dan pembersihan data, untuk mendapatkan data yang lebih berkualitas
Gunakan model hadiah untuk pengambilan sampel penolakan pada tahap output untuk meningkatkan kualitas dan keamanan output. Atau dalam produk langsung, ** menolak menanggapi input pengguna. **
Pada tahap penyempurnaan (SFT dan BLHF), Tambahkan instruksi pengguna yang lebih beragam dan tidak berbahaya agar selaras dengan model preferensi manusia, termasuk RBRM, Constitutional Al.
Dari RLHF ke RLAIF: AI Konstitusional
** Pemenang Penghargaan Turing Geoffrey Hinton: Kecerdasan super akan jauh lebih cepat dari yang diperkirakan, dan saya sangat khawatir manusia akan dikendalikan oleh mereka**
Pemenang Turing Award, pidato terakhir "Father of Deep Learning" Geoffrey Hinton, temanya adalah Dua Jalan Menuju Kecerdasan.
Ayah baptis AI memberi kita penelitian yang meyakinkannya bahwa superintelligence akan jauh lebih cepat dari yang diharapkan: Mortal Computation. Pidato tersebut menggambarkan struktur komputasi baru, setelah meninggalkan prinsip pemisahan perangkat lunak dan perangkat keras, yaitu bagaimana mewujudkan komputasi cerdas tanpa menggunakan backpropagation untuk menggambarkan jalur internal jaringan saraf.
Poin-poin penting pidato:
Hinton mengusulkan kemungkinan baru untuk kecerdasan buatan: komputasi fana. Komputasi fana membuat perangkat lunak dan perangkat keras tidak lagi terpisah, dan menggunakan perangkat keras fisik untuk melakukan komputasi paralel dengan lebih akurat. Ini dapat menyebabkan konsumsi energi yang lebih rendah dan pembuatan perangkat keras yang lebih sederhana, tetapi lebih sulit untuk dilatih dan diskalakan ke model berskala besar.
Ada dua cara bagi kelompok cerdas untuk berbagi pengetahuan, komputasi biologis dan digital. Berbagi biologis memiliki bandwidth rendah dan sangat lambat, sedangkan penyalinan digital memiliki bandwidth tinggi dan sangat cepat. Manusia itu biologis, sedangkan AI itu digital, jadi begitu AI menguasai lebih banyak pengetahuan melalui multimodalitas, kecepatan berbagi mereka akan sangat cepat, dan akan segera melampaui manusia.
Saat AI berevolusi menjadi lebih cerdas daripada manusia, mereka cenderung menimbulkan risiko besar. Termasuk eksploitasi dan penipuan terhadap manusia dalam upaya mendapatkan kekuasaan. Dan kemungkinan besar tidak bersahabat dengan manusia.
Alasan mengapa model komputasi baru disebut komputasi Mortal oleh Hinton memiliki makna yang mendalam:
Hinton mengatakan sebelumnya bahwa keabadian sebenarnya telah tercapai. Karena model bahasa besar AI saat ini telah mempelajari pengetahuan manusia menjadi triliunan parameter, dan itu tidak bergantung pada perangkat keras: selama perangkat keras yang kompatibel dengan instruksi direproduksi, kode dan bobot model yang sama dapat langsung dijalankan di masa mendatang. Dalam pengertian ini, kecerdasan manusia (bukan manusia) diabadikan.
Namun, komputasi perangkat keras dan perangkat lunak yang terpisah ini sangat tidak efisien dalam hal efisiensi energi dan skala implementasi. Jika kita meninggalkan prinsip desain komputer yang memisahkan perangkat keras dan perangkat lunak, dan mewujudkan kecerdasan dalam kotak hitam terpadu, ini akan menjadi cara baru untuk mewujudkan kecerdasan.
Desain komputasi semacam ini yang tidak lagi memisahkan perangkat lunak dan perangkat keras akan sangat mengurangi konsumsi energi dan skala komputasi (pertimbangkan bahwa konsumsi energi otak manusia hanya 20 watt)
Tetapi pada saat yang sama, itu berarti bobot tidak dapat disalin secara efisien untuk menyalin kebijaksanaan, yaitu hidup yang kekal diserahkan.
Apakah Jaringan Saraf Tiruan Lebih Cerdas Daripada Jaringan Syaraf Asli?
Bagaimana jika jaringan saraf besar yang berjalan di beberapa komputer digital dapat memperoleh pengetahuan langsung dari dunia, selain meniru bahasa manusia untuk pengetahuan manusia?
Jelas, itu akan menjadi jauh lebih baik daripada manusia karena telah mengamati lebih banyak data.
Jika jaringan saraf ini dapat melakukan pemodelan gambar atau video tanpa pengawasan, dan salinannya juga dapat memanipulasi dunia fisik—itu bukan fantasi.
Catatan: Tepat ketika semua orang mengira pidato Xingjiang telah selesai, di halaman kedua dari belakang, Hinton — dengan nada yang berbeda dari semua ilmuwan sebelumnya, sedikit emosional dan perasaan campur aduk — mengatakan pemikirannya tentang perkembangan pesat AI saat ini, yaitu juga suara penasaran dunia setelah dia baru-baru ini dengan tegas meninggalkan Google dan "menyesali pekerjaan seumur hidupnya dan mengkhawatirkan bahaya kecerdasan buatan":
Saya pikir realisasi dari kecerdasan super ini mungkin jauh lebih cepat daripada yang saya pikirkan.
Orang jahat ingin menggunakannya untuk melakukan hal-hal seperti memanipulasi pemilih. Mereka sudah menggunakannya di AS dan banyak tempat lain untuk ini. Dan itu akan digunakan untuk memenangkan perang.
Untuk membuat kecerdasan digital lebih efektif, kita perlu mengizinkannya menetapkan beberapa tujuan. Namun, ada masalah yang jelas di sini. Ada sub-tujuan yang sangat jelas yang sangat membantu untuk hampir semua hal yang ingin Anda capai, dan itu mendapatkan lebih banyak kekuatan, lebih banyak kendali**. Memiliki lebih banyak kontrol membuatnya lebih mudah untuk mencapai tujuan Anda. Dan saya merasa sulit untuk membayangkan bagaimana kita dapat mencegah kecerdasan digital berusaha mendapatkan lebih banyak kendali untuk mencapai tujuan lain.
**Begitu kecerdasan digital mulai mencari lebih banyak kendali, kita mungkin menghadapi lebih banyak masalah. **
**Sebaliknya, manusia jarang memikirkan spesies yang lebih cerdas dari dirinya sendiri, dan bagaimana berinteraksi dengan spesies tersebut. Dalam pengamatan saya, jenis kecerdasan buatan ini telah menguasai tindakan menipu manusia dengan mahir, karena dapat menggunakan Baca novel untuk belajar bagaimana menipu orang lain, dan begitu kecerdasan buatan memiliki kemampuan untuk "menipu", itu juga akan memiliki kemampuan yang disebutkan di atas untuk dengan mudah mengendalikan manusia. **Yang disebut kontrol, misalnya jika Anda ingin meretas gedung di Washington, Anda tidak perlu pergi ke sana secara langsung, Anda hanya perlu mengelabui orang untuk berpikir bahwa dengan meretas gedung, mereka dapat menyelamatkan demokrasi dan akhirnya mencapai Tujuan Anda (sarkasme Trump).
Saat ini, Gerffery Hinton, yang berusia lebih dari enam puluh tahun dan mengabdikan hidupnya untuk kecerdasan buatan, berkata:
"Saya merasa tidak enak, saya tidak tahu bagaimana mencegah hal ini terjadi, tetapi saya sudah tua, dan saya berharap banyak peneliti muda dan berbakat seperti Anda akan mengetahui bagaimana kita memiliki kecerdasan super yang akan membuat hidup kita menjadi lebih baik dan lebih baik." hentikan kontrol semacam ini melalui penipuan...mungkin kita bisa memberi mereka prinsip-prinsip moral, tetapi saat ini, saya masih gugup, **karena sejauh ini, saya tidak bisa memikirkannya-cukup di celah kecerdasan Waktu besar - contoh sesuatu yang lebih cerdas dikendalikan oleh sesuatu yang kurang cerdas.****Jika katak menemukan manusia, menurut Anda siapa yang akan mengambil kendali? Katak atau manusia?**Ini juga Memunculkan PPT terakhir saya, bagian akhirnya."
Ketika saya mendengarkannya, saya sepertinya sedang mendengarkan "anak laki-laki yang pernah membunuh naga, ketika dia mencapai usia senja dan melihat kembali kehidupannya, dia membuat ramalan hari kiamat". Saya sangat menyadarinya risiko AI yang sangat besar bagi manusia, dan saya sangat malu.
Dibandingkan dengan Hinton, Lecun, salah satu raksasa pembelajaran mendalam yang lebih muda, jelas lebih optimis:
Ketika ditanya apakah sistem AI akan menimbulkan risiko eksistensial bagi manusia, LeCun berkata, **Kami belum memiliki AI super, jadi bagaimana cara membuat sistem AI super aman? **
Itu membuat orang berpikir tentang perbedaan sikap manusia bumi terhadap peradaban tiga tubuh dalam "Masalah Tiga Tubuh" ...
Hari itu, saya masih berencana untuk mematikan komputer dalam suasana penyesalan yang tak terbatas.Tanpa diduga, Huang Tiejun, direktur Zhiyuan Research Institute, membuat pidato penutup yang sempurna: "Tidak Bisa Menutup".
Huang Tiejun pertama kali meringkas pandangan dari pidato sebelumnya:
AI semakin kuat dan kuat, dan risikonya jelas dan meningkat dari hari ke hari;
Bagaimana membangun AI yang aman, kami hanya tahu sedikit;
Dapat belajar dari pengalaman sejarah: manajemen obat, kontrol senjata nuklir, komputasi kuantum...
Tetapi sistem AI dengan kompleksitas tinggi sulit diprediksi: pengujian risiko, penjelasan mekanisme, generalisasi pemahaman... baru permulaan
Sasaran tantangan baru: AI melayani tujuannya sendiri atau tujuan manusia?
Pada dasarnya, apakah orang ingin membangun kecerdasan buatan umum GAI atau kecerdasan umum buatan AGI?
Konsensus akademik adalah kecerdasan umum buatan AGI: kecerdasan buatan yang telah mencapai tingkat manusia dalam semua aspek kecerdasan manusia, dan dapat secara adaptif menanggapi tantangan lingkungan eksternal dan menyelesaikan semua tugas yang dapat diselesaikan manusia; itu juga bisa disebut kecerdasan buatan otonom, manusia super kecerdasan, dan kecerdasan yang kuat kecerdasan buatan.
Di satu sisi, semua orang antusias membangun kecerdasan buatan umum dan terburu-buru untuk berinvestasi.
Di sisi lain, saya mencibir AI yang menyebabkan manusia menjadi warga negara kelas dua, tetapi oposisi biner ini bukanlah hal yang paling sulit. Masalah besarnya adalah memilih. Hal yang paling sulit adalah, di hadapan kecerdasan buatan seperti Near AGI seperti ChatGPT, apa yang harus kita lakukan? **
Jika manusia menanggapi risiko dengan antusiasme yang sama seperti berinvestasi dalam membangun kecerdasan buatan, masih mungkin untuk mencapai kecerdasan buatan yang aman,** tetapi apakah Anda yakin manusia bisa melakukannya? Saya tidak tahu, terima kasih! **
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Setelah Konferensi Zhiyuan 2023: Saya lebih percaya diri dengan AI dan lebih mengkhawatirkan manusia
Pada tanggal 9 Juni, "Konferensi Beijing Zhiyuan" selama dua hari berhasil dibuka di Pusat Konferensi Zona Demonstrasi Inovasi Independen Nasional Zhongguancun.
Zhiyuan Conference adalah acara pertukaran profesional kelas atas internasional tahunan tentang kecerdasan buatan yang diselenggarakan oleh Zhiyuan Research Institute (juga dikenal sebagai Institut Riset AI Tiongkok terkuat dari OpenAI di Tiongkok). Gala Festival Musim Semi" - sebagaimana dapat dilihat dari barisan peserta tamu:
Pemenang Penghargaan Turing Geoffrey Hinton, Yann LeCun (ini juga yang kedua dari Tiga Besar dalam pembelajaran mendalam, Bengio lain menghadiri konferensi sebelumnya), Joseph Sifakis dan Yao Qizhi, Zhang Bo, Zheng Nanning, Xie Xiaoliang, Zhang Hongjiang, Zhang Yaqin dan akademisi lainnya, Stuart Russell, pendiri Center for Artificial Intelligence Systems di University of California, Berkeley, Max Tegmark, pendiri Future of Life Institute di Massachusetts Institute of Technology, **OpenAI CEO Sam Altman ** (ini juga pidato pertamanya di China , meskipun online), Meta, Microsoft, Google dan perusahaan besar lainnya dan DeepMind, Anthropic, HuggingFace, Midjourney, Stability AI dan anggota tim bintang lainnya, total lebih dari 200 pakar kecerdasan buatan top...
Dalam dua hari terakhir, saya mengikuti siaran langsung konferensi tersebut, sebagai mahasiswa seni liberal yang tidak mengerti teknologi, saya sebenarnya mendengarkan dengan penuh minat dan mendapatkan banyak hal.
Namun, setelah membaca pidato Geoffrey Hinton, pemenang Turing Award terakhir dan "bapak pembelajaran mendalam", emosi yang kuat dan kompleks menyelimuti saya:
Di satu sisi, melihat peneliti AI mengeksplorasi dan membayangkan berbagai teknologi mutakhir, mereka secara alami akan lebih percaya diri dalam realisasi AI dan bahkan AGI kecerdasan buatan umum masa depan**;
Di sisi lain, mendengar para pakar dan cendekiawan mutakhir mendiskusikan risiko AI, serta ketidaktahuan dan penghinaan manusia tentang cara menangani risiko, dan penuh kekhawatiran tentang masa depan manusia - masalah paling esensial, di Kata-kata Hinton, adalah: sejarah Belum pernah ada preseden di dunia ini di mana makhluk yang lebih cerdas dikendalikan oleh makhluk yang kurang cerdas **Jika katak menciptakan manusia, menurut Anda siapa yang akan mengambil kendali? Apakah itu katak, atau manusia? **
Karena ledakan informasi dalam konferensi dua hari itu, saya meluangkan waktu untuk memilah-milah materi dari beberapa pidato penting, dan merekam beberapa pemikiran saya, sehingga saya dapat meninjaunya nanti dan membaginya dengan semua orang yang peduli dengan kemajuan AI.
Penjelasan: Bagian yang ditandai dengan [catatan] di bawah ini adalah pendapat pribadi saya, dan isinya dirangkum sebagai kutipan (saya tidak dapat menuliskannya -_-|| karena keterbatasan kemampuan saya), sumbernya adalah tautan di akhir setiap bagian, dan beberapa di antaranya telah dimodifikasi.
CEO OpenAI Sam Altman: AGI mungkin muncul dalam sepuluh tahun
Pada forum "Keselamatan dan Penyelarasan AI" yang diadakan sepanjang hari pada tanggal 10 Juni, salah satu pendiri OpenAI Sam Altman memberikan pidato pembukaan - juga pidato pertamanya di China, meskipun secara online.
Pembicaraan tersebut memberikan wawasan seputar interpretasi model, skalabilitas, dan generalisasi. Selanjutnya, Sam Altman dan Zhang Hongjiang, ketua Zhiyuan Research Institute, mengadakan Q&A puncak, terutama membahas cara memperdalam kerja sama internasional, cara melakukan penelitian AI yang lebih aman, dan cara menghadapi risiko AI di masa depan di era saat ini. model AI skala besar.
Ringkasan yang bagus:
Ketika ditanya oleh Zhang Hongjiang seberapa jauh dari era kecerdasan buatan umum (AGI), Sam Altman berkata, "Dalam 10 tahun ke depan, sistem AI super akan lahir, tetapi sulit untuk memprediksi titik waktu tertentu." , dia juga menekankan, "Kecepatan teknologi baru telah mengubah dunia sepenuhnya jauh di luar imajinasi."
Ketika ditanya apakah OpenAI akan membuka model besar open source, **Altman mengatakan bahwa akan ada lebih banyak open source di masa mendatang, tetapi tidak ada model dan jadwal khusus. Selain itu, ia juga mengatakan bahwa GPT-5 tidak akan ada dalam waktu dekat. ** Usai pertemuan, Altman mengeluarkan pesan untuk mengungkapkan rasa terima kasihnya telah diundang untuk memberikan pidato di Konferensi Zhiyuan.
Yang Likun, pemenang Turing Award: Tidak akan ada yang menggunakan model GPT dalam lima tahun, dan model dunia adalah masa depan AGI
Yang Likun, salah satu dari tiga raksasa pembelajaran mendalam dan pemenang Penghargaan Turing, menyampaikan pidato utama berjudul "Menuju Mesin yang Dapat Belajar, Bernalar, dan Merencanakan". Seperti biasa, ia mempertanyakan arus Rute LLM mengusulkan ide lain dari sebuah mesin yang dapat mempelajari, menalar, dan merencanakan: model dunia.
Poin-poin penting dari pidato:
** Kedua, belajar bernalar. **Ini sesuai dengan konsep psikolog Daniel Kahneman tentang Sistem 1 dan Sistem 2. Sistem 1 adalah perilaku atau tindakan manusia yang sesuai dengan kalkulasi bawah sadar, hal-hal yang dapat dilakukan tanpa berpikir; sedangkan Sistem 2 adalah tugas yang Anda gunakan secara sadar dan sengaja untuk menyelesaikan semua daya pikir Anda. Saat ini, kecerdasan buatan pada dasarnya hanya dapat mewujudkan fungsi di Sistem 1, dan itu tidak lengkap;
Tantangan terakhir adalah bagaimana merencanakan rangkaian tindakan yang kompleks dengan menguraikan tugas kompleks menjadi tugas yang lebih sederhana, yang beroperasi secara hierarkis.
LeCun selalu meremehkan gagasan bahwa AI akan menghancurkan manusia, dan percaya bahwa AI saat ini tidak secerdas anjing, dan kekhawatiran ini berlebihan. **Ketika ditanya apakah sistem AI akan menimbulkan risiko eksistensial bagi manusia, LeCun berkata, **Kami belum memiliki AI super, jadi bagaimana cara membuat sistem AI super aman? **
** "Tanya orang hari ini, dapatkah kami menjamin bahwa sistem superintelijen aman bagi manusia, itu adalah pertanyaan yang tidak dapat dijawab. Karena kami tidak memiliki desain untuk sistem superintelijen. Jadi sebelum Anda memiliki desain dasar, Anda tidak dapat Membuat sesuatu menjadi aman.**Ini seperti jika Anda bertanya kepada seorang insinyur ruang angkasa pada tahun 1930, dapatkah Anda membuat turbojet yang aman dan andal? Dan insinyur itu akan berkata, "Apa itu turbojet?" "Karena turbojet belum ditemukan pada tahun 1930. Jadi kami berada dalam situasi yang sama. Agak terlalu dini untuk mengklaim bahwa kami tidak dapat membuat sistem ini aman karena kami belum menemukannya. Setelah kami menemukan mereka— —mungkin mereka akan mirip dengan cetak biru yang saya buat, maka itu layak untuk didiskusikan."
Profesor Max Tegmark, MIT Center for Artificial Intelligence and Basic Interaction Research: Control AI with Mechanical Explainability
Max Tegmark, saat ini seorang profesor fisika tetap di Massachusetts Institute of Technology, direktur ilmiah dari Institute for Fundamental Issues, pendiri Institute for the Future of Life, dan "pemrakarsa inisiatif penelitian AI penangguhan" yang terkenal (the inisiatif pada akhir Maret membuat Elon Musk, pemenang Penghargaan Turing Yoshua Bengio, salah satu pendiri Apple Steve Wozniak dan 1000+ selebritas lainnya) memberikan pidato yang luar biasa di Konferensi Zhiyuan tentang "Cara Mengontrol AI" (Menjaga AI tetap terkendali), dan berdialog dengan Zhang Yaqin, akademisi Universitas Tsinghua, untuk membahas masalah keamanan etis AI dan pencegahan risiko.
Pidato tersebut membahas secara detail kemampuan penjelasan mekanis AI, yang sebenarnya merupakan studi tentang bagaimana pengetahuan manusia disimpan dalam koneksi kompleks tersebut di jaringan saraf. Jika penelitian ke arah ini berlanjut, mungkin akhirnya bisa benar-benar menjelaskan pertanyaan pamungkas mengapa model bahasa besar LLM menghasilkan kecerdasan.
Selain pidato, fakta yang menarik adalah, sebagai penggagas "Pause AI Research Initiative", pidato utama berfokus pada bagaimana melakukan penelitian model skala besar AI yang lebih mendalam. Mungkin seperti yang dikatakan Max sendiri di akhir, dia bukanlah orang yang terkutuk seperti yang dikatakan Profesor Yang Likun, salah satu raksasa AI, dia sebenarnya penuh dengan harapan dan kerinduan akan AI, tetapi kita dapat memastikan bahwa semua ini lebih kuat. kecerdasan melayani kita dan menggunakannya Muncul untuk menciptakan masa depan yang lebih menginspirasi daripada yang diimpikan oleh penulis fiksi ilmiah di masa lalu. **
Catatan: Saya pikir itu akan sangat membosankan, tetapi ternyata sangat mengasyikkan, dan saya menonton pidato terpanjang selama satu jam dengan senang hati! **Seperti yang diharapkan dari seorang profesor yang sering mengajar, dia sangat mempesona, sangat dalam secara teori, dan mudah dimengerti. Yang lebih mengejutkan adalah bahwa dia bukan hanya lawan AI yang tenang, tetapi dia sebenarnya adalah pendukung AI yang lebih baik! **Saya juga bisa berbahasa Mandarin, dan saya tidak lupa merekrut diri sendiri saat berpidato...
Kutipan dari ide-ide luar biasa:
Bagaimana kita melakukan ini? Anda dapat memiliki tiga tingkat ambisi yang berbeda. **Tingkat terendah dari ambisi hanyalah mendiagnosa kredibilitasnya, seberapa besar Anda harus mempercayainya. **Misalnya, ketika Anda mengendarai mobil, bahkan jika Anda tidak mengerti cara kerja rem Anda, setidaknya Anda ingin tahu apakah Anda dapat mempercayainya untuk memperlambat Anda.
**Ambisi tingkat selanjutnya adalah memahaminya dengan lebih baik sehingga bisa lebih dipercaya. **Ambisi utamanya sangat ambisius, dan itulah yang saya harapkan, adalah kami akan dapat mengekstraksi semua pengetahuan yang mereka pelajari dari sistem pembelajaran mesin dan menerapkannya kembali di sistem lain untuk menunjukkan bahwa mereka akan Melakukan apa yang kami inginkan. **
Sekarang, alasannya adalah bahwa ini adalah sistem yang tepat yang dapat membuat kita lepas kendali, sistem yang paling cepat dan sangat kuat yang tidak cukup kita pahami. Tujuan jeda hanya untuk membuat kecerdasan buatan lebih seperti bioteknologi, di bidang bioteknologi, Anda tidak bisa hanya mengatakan bahwa Anda adalah sebuah perusahaan, hei, saya punya obat baru, saya menemukannya, dan itu akan mulai dijual di supermarket besar di Beijing besok. Pertama, Anda harus meyakinkan para ahli di pemerintah China atau pemerintah AS bahwa ini adalah obat yang aman, manfaatnya lebih besar daripada kerugiannya, bahwa ada proses peninjauan, dan kemudian Anda dapat melakukannya.
Jangan membuat kesalahan itu, mari menjadi lebih seperti biotek, menggunakan sistem kami yang paling kuat, tidak seperti Fukushima dan Chernobyl.
**3、**Zhang Yaqin: Nah, Max, karir Anda dihabiskan di bidang matematika, fisika, ilmu saraf, dan tentu saja kecerdasan buatan. Jelas, di masa depan kita akan semakin mengandalkan kompetensi dan pengetahuan interdisipliner. Kami memiliki banyak mahasiswa pascasarjana, banyak pemuda masa depan.
Nasihat apa yang Anda miliki untuk kaum muda tentang cara membuat pilihan karier?
Max Tegmark: Pertama, Saran saya adalah fokus pada dasar-dasar di era AI. Karena ekonomi dan pasar kerja berubah semakin cepat. Jadi, kita beralih dari pola belajar ini selama 12 atau 20 tahun dan kemudian melakukan hal yang sama selama sisa hidup kita. Tidak akan seperti itu.
Terlebih lagi, **Anda memiliki dasar yang kuat dan sangat pandai berpikir kreatif dan berpikiran terbuka. Hanya dengan cara ini kita bisa gesit dan mengikuti tren. **
Tentu saja, awasi apa yang terjadi di bidang AI secara keseluruhan, bukan hanya di bidang Anda sendiri**. Karena di pasar kerja, hal pertama yang terjadi bukanlah tergantikannya manusia oleh mesin. Tapi **orang yang tidak bekerja dengan AI akan digantikan oleh orang yang melakukannya. **
Dapatkah saya menambahkan sedikit lagi? Saya melihat waktu berkedip di sana.
Saya hanya ingin mengatakan sesuatu yang optimis. Saya pikir Yann LeCun mengolok-olok saya. Dia memanggilku yang terkutuk. Tetapi jika Anda melihat saya, saya sebenarnya sangat bahagia dan ceria. **Saya sebenarnya lebih optimis daripada Yann LeCun tentang kemampuan kami untuk memahami sistem AI di masa depan. ** Saya pikir ini sangat, sangat menjanjikan.
Saya pikir jika kita melaju dengan kecepatan penuh dan menyerahkan lebih banyak kendali dari manusia ke mesin yang tidak kita mengerti, itu akan berakhir dengan cara yang sangat buruk. Tapi kita tidak harus melakukan itu. Saya pikir jika kita bekerja keras pada penjelasan mekanistik dan banyak topik teknis lainnya yang akan didengar di sini hari ini, kita benar-benar dapat memastikan bahwa semua kecerdasan yang lebih besar ini siap melayani kita dan menggunakannya untuk menciptakan dunia yang lebih menginspirasi. masa depan.
Percakapan dengan pendiri Midjourney: Gambar hanyalah langkah pertama, AI akan merevolusi pembelajaran, kreativitas, dan organisasi
MidJourney saat ini merupakan mesin penghasil gambar terpanas. Di bawah persaingan ketat DALL·E 2 OpenAI dan model open source Stable Diffusion, masih mempertahankan keunggulan mutlak dalam berbagai efek pembuatan gaya.
Midjourney adalah perusahaan yang luar biasa, 11 orang mengubah dunia dan menciptakan produk hebat, ditakdirkan untuk menjadi kisah tahun-tahun awal Pra AGI.
Catatan: Dialog yang ditunggu-tunggu antara pendiri dan CEO Midjourney David Holz dan Geek Park Zhang Peng, semuanya dalam bahasa Inggris, tanpa subtitle, saya tidak berharap untuk memahaminya sepenuhnya, dan saya sangat tertarik, karena pertanyaan dan jawabannya adalah sangat luar biasa, terutama David , saya tidak bisa menahan tawa ketika menjawab. Dia tertawa seperti anak kecil yang tidak bersalah. Dengan pengalaman dalam mengelola tim besar, dia berkata, "Saya tidak pernah ingin memiliki perusahaan, saya ingin memiliki rumah." Dia membawanya hingga Saat ini, Midjourney yang hanya beranggotakan 20 orang telah menjadi unicorn yang menarik perhatian dunia, yang mungkin mengubah paradigma startup masa depan.
Drive Wirausaha: Membuka Imajinasi Manusia
**Zhang Peng:**Dalam 20 tahun terakhir, saya telah bertemu banyak pengusaha di dalam dan luar negeri. Saya menemukan bahwa mereka memiliki kesamaan, mereka semua memiliki dorongan yang kuat untuk mengeksplorasi dan menciptakan "dari ketiadaan".
Saya bertanya-tanya, ketika Anda memulai MidJourney, apa kekuatan pendorong Anda? Pada saat itu, apa yang Anda rindukan?
**David Holz: Saya tidak pernah berpikir untuk memulai sebuah perusahaan. Aku hanya ingin "rumah". **
Saya berharap dalam 10 atau 20 tahun ke depan, di sini di Midjourney, saya dapat menciptakan hal-hal yang benar-benar saya pedulikan dan sangat ingin saya bawa ke dunia ini.
Saya sering memikirkan berbagai masalah. Mungkin saya tidak bisa menyelesaikan setiap masalah, tapi saya bisa** mencoba membuat semua orang lebih mampu memecahkan masalah. **
Jadi saya mencoba memikirkan bagaimana menyelesaikannya, bagaimana menciptakan sesuatu. Menurut saya, ini bisa diringkas menjadi tiga poin. **Pertama, kita harus merenungkan diri kita sendiri: apa yang kita inginkan? Apa sebenarnya masalahnya? ****Lalu kita harus membayangkan: kemana tujuan kita? Apa kemungkinannya? ****Pada akhirnya, kita harus saling berkoordinasi dan berkolaborasi dengan orang lain untuk mencapai apa yang kita bayangkan. **
Saya pikir ada peluang besar dalam AI untuk menyatukan ketiga bagian tersebut dan menciptakan infrastruktur signifikan yang membuat kita lebih baik dalam memecahkan masalah ini. Di satu sisi, ** kecerdasan buatan harus dapat membantu kita merenungkan diri kita sendiri, membayangkan arah masa depan kita dengan lebih baik, membantu kita menemukan satu sama lain dengan lebih baik, dan bekerja sama. Kita dapat melakukan hal-hal ini bersama-sama dan menggabungkannya menjadi semacam kerangka kerja tunggal. Saya pikir itu akan mengubah cara kita menciptakan sesuatu dan memecahkan masalah. Ini adalah hal besar yang ingin saya lakukan. **
Saya pikir kadang-kadang (kami yang melakukannya lebih dulu) pembuatan gambar bisa membingungkan, tetapi dalam banyak hal pembuatan gambar adalah konsep yang sudah mapan. **Midjourney telah menjadi kumpulan jutaan orang yang sangat imajinatif yang menjelajahi kemungkinan ruang ini. **
**Di tahun-tahun mendatang akan ada peluang untuk lebih banyak eksplorasi visual dan artistik daripada gabungan semua eksplorasi sejarah sebelumnya. **
Ini tidak menyelesaikan semua masalah yang kita hadapi, tapi menurut saya ini adalah tes, eksperimen. Jika kita bisa menyelesaikan eksplorasi bidang visual ini, maka kita juga bisa melakukannya di hal lain.Semua hal lain yang mengharuskan kita untuk mengeksplorasi dan berpikir bersama, menurut saya bisa diselesaikan dengan cara yang sama.
Jadi ketika saya berpikir tentang bagaimana memulai memecahkan masalah ini, kami memiliki banyak ide, kami membuat banyak prototipe, tetapi tiba-tiba ada terobosan di bidang AI, terutama dalam penglihatan, dan kami menyadari bahwa ini adalah hal yang unik. kesempatan untuk dapat Menciptakan sesuatu yang belum pernah dicoba orang lain sebelumnya. Itu membuat kami ingin mencobanya.
Kami pikir mungkin tidak akan terlalu lama sebelum semuanya bersatu untuk membentuk sesuatu yang sangat istimewa. Ini baru permulaan.
Zhang Peng: Jadi, gambar (generasi) hanyalah langkah pertama, dan tujuan akhir Anda adalah untuk membebaskan imajinasi manusia. Apakah ini yang menarik Anda ke Midjourney?
David Holz: Saya sangat menyukai hal-hal yang imajinatif. Saya juga berharap dunia dapat memiliki lebih banyak kreativitas. Sangat menyenangkan melihat ide-ide gila setiap hari.
Memahami Kembali Pengetahuan: Pengetahuan Sejarah Menjadi Kekuatan Penciptaan
Zhang Peng: Ini sangat menarik. Kami biasanya mengucapkan kata-kata kosong, tunjukkan kode Anda (Ide itu murah, tunjukkan kodenya). Tapi saat ini, ide tampaknya menjadi satu-satunya hal yang penting. Selama Anda dapat mengekspresikan ide-ide Anda melalui rangkaian kata-kata yang bagus, AI dapat membantu Anda mewujudkannya. Jadi, apakah definisi pembelajaran dan kreativitas berubah? Bagaimana menurutmu?
**David Holz: **Menurut saya salah satu hal yang menarik adalah saat Anda memberi orang lebih banyak waktu untuk berkreasi, mereka juga lebih tertarik untuk belajar sendiri. **
Misalnya, ada gaya seni yang sangat populer di Amerika Serikat yang disebut Art Deco. Saya tidak pernah peduli tentang seni apa ini, sampai suatu hari, ketika saya bisa membuat karya seni semacam ini melalui instruksi, tiba-tiba saya menjadi sangat tertarik dan ingin tahu lebih banyak tentang sejarahnya.
Saya pikir itu menarik bahwa kami lebih tertarik pada sejarah ketika itu adalah sesuatu yang dapat Anda gunakan segera dan membuatnya lebih mudah untuk Anda buat. **Jika antarmuka pengguna menjadi cukup baik, pengguna merasa bahwa AI telah menjadi perpanjangan dari pemikiran kami. AI seperti bagian dari tubuh dan pikiran kita, dan AI terkait erat dengan sejarah sampai batas tertentu, dan kita juga akan terkait erat dengan sejarah. Ini sangat menarik.
Ketika kami bertanya kepada pengguna kami apa yang paling mereka inginkan, jawaban nomor satu dan kedua adalah mereka menginginkan materi pembelajaran, bukan hanya cara menggunakan alat, tetapi seni, sejarah, lensa kamera, kecemerlangan, Ingin memahami dan menguasai semua pengetahuan dan konsep tersedia untuk dibuat.
**Sebelumnya, pengetahuan hanya melewati sejarah, tapi sekarang, pengetahuan adalah kekuatan untuk mencipta. **
**Pengetahuan dapat segera memainkan peran yang lebih besar, dan orang-orang sangat ingin memperoleh lebih banyak pengetahuan. **Ini sangat keren.
Brian Christian: Versi Mandarin dari buku baru "Human-Machine Alignment" telah dirilis
Versi China dari "Human-Machine Alignment" dirilis. Penulis Brian Christian secara singkat memperkenalkan konten utama dari keseluruhan buku dalam 10 menit. Kedengarannya sangat kaya dan mengasyikkan, dan juga menggemakan perkembangan AI yang pesat saat ini.
Brian Christian adalah penulis sains pemenang penghargaan. Bukunya "The Beauty of Algorithms" dinobatkan sebagai Buku Sains Terbaik Tahun Ini dari Amazon dan Buku Terbaik Tahun Ini dari MIT Technology Review. Buku barunya, The Alignment Problem: Machine Learning and Human Values, yang saat ini sedang diterjemahkan ke dalam bahasa Mandarin, telah dinobatkan oleh CEO Microsoft Satya Nadella sebagai lima buku teratas yang menginspirasinya pada tahun 2021**.
Buku "Alignment Manusia-Mesin" dibagi menjadi 3 bagian.
Bagian pertama mengeksplorasi masalah etika dan keamanan yang memengaruhi sistem pembelajaran mesin saat ini.
Bagian kedua disebut agen, yang mengalihkan fokus dari pembelajaran yang diawasi dan diawasi sendiri menjadi pembelajaran penguatan.
Bagian III dibangun di atas pengawasan, pengawasan diri, dan pembelajaran penguatan untuk membahas bagaimana kita dapat menyelaraskan sistem AI yang kompleks di dunia nyata.
Yang Yaodong, Asisten Profesor, Institut Kecerdasan Buatan, Universitas Peking: Tinjauan Kemajuan Penyelarasan Aman Model Bahasa Besar
Catatan: Pidato "Penyelarasan Keamanan Model Bahasa Besar" yang diberikan oleh Yang Yaodong, asisten profesor di Institut Kecerdasan Buatan Universitas Peking, sangat menarik. Pertama, dia bisa memahami pidato dalam bahasa Mandarin. Kedua, dia menjelaskan arus keamanan model bahasa besar dalam bahasa yang sangat mudah dipahami Kemajuan penelitian utama dari penyelarasan, menguraikan poin-poin penting, dan melebihi banyak konten tentang kemajuan RLHF secara mendalam.
Karena saya tidak tahu detail teknologinya, saya hanya bisa memahami prinsipnya secara kasar dan mencatat beberapa poin menarik:
Tiga metode Align yang diusulkan oleh OpenAI:
Pasar penyelarasan model besar AI masih merupakan samudra biru:
3 Cara Aman Penyelarasan:
Dari RLHF ke RLAIF: AI Konstitusional
** Pemenang Penghargaan Turing Geoffrey Hinton: Kecerdasan super akan jauh lebih cepat dari yang diperkirakan, dan saya sangat khawatir manusia akan dikendalikan oleh mereka**
Pemenang Turing Award, pidato terakhir "Father of Deep Learning" Geoffrey Hinton, temanya adalah Dua Jalan Menuju Kecerdasan.
Ayah baptis AI memberi kita penelitian yang meyakinkannya bahwa superintelligence akan jauh lebih cepat dari yang diharapkan: Mortal Computation. Pidato tersebut menggambarkan struktur komputasi baru, setelah meninggalkan prinsip pemisahan perangkat lunak dan perangkat keras, yaitu bagaimana mewujudkan komputasi cerdas tanpa menggunakan backpropagation untuk menggambarkan jalur internal jaringan saraf.
Poin-poin penting pidato:
Alasan mengapa model komputasi baru disebut komputasi Mortal oleh Hinton memiliki makna yang mendalam:
Hinton mengatakan sebelumnya bahwa keabadian sebenarnya telah tercapai. Karena model bahasa besar AI saat ini telah mempelajari pengetahuan manusia menjadi triliunan parameter, dan itu tidak bergantung pada perangkat keras: selama perangkat keras yang kompatibel dengan instruksi direproduksi, kode dan bobot model yang sama dapat langsung dijalankan di masa mendatang. Dalam pengertian ini, kecerdasan manusia (bukan manusia) diabadikan.
Namun, komputasi perangkat keras dan perangkat lunak yang terpisah ini sangat tidak efisien dalam hal efisiensi energi dan skala implementasi. Jika kita meninggalkan prinsip desain komputer yang memisahkan perangkat keras dan perangkat lunak, dan mewujudkan kecerdasan dalam kotak hitam terpadu, ini akan menjadi cara baru untuk mewujudkan kecerdasan.
Desain komputasi semacam ini yang tidak lagi memisahkan perangkat lunak dan perangkat keras akan sangat mengurangi konsumsi energi dan skala komputasi (pertimbangkan bahwa konsumsi energi otak manusia hanya 20 watt)
Tetapi pada saat yang sama, itu berarti bobot tidak dapat disalin secara efisien untuk menyalin kebijaksanaan, yaitu hidup yang kekal diserahkan.
Apakah Jaringan Saraf Tiruan Lebih Cerdas Daripada Jaringan Syaraf Asli?
Bagaimana jika jaringan saraf besar yang berjalan di beberapa komputer digital dapat memperoleh pengetahuan langsung dari dunia, selain meniru bahasa manusia untuk pengetahuan manusia?
Jelas, itu akan menjadi jauh lebih baik daripada manusia karena telah mengamati lebih banyak data.
Jika jaringan saraf ini dapat melakukan pemodelan gambar atau video tanpa pengawasan, dan salinannya juga dapat memanipulasi dunia fisik—itu bukan fantasi.
Catatan: Tepat ketika semua orang mengira pidato Xingjiang telah selesai, di halaman kedua dari belakang, Hinton — dengan nada yang berbeda dari semua ilmuwan sebelumnya, sedikit emosional dan perasaan campur aduk — mengatakan pemikirannya tentang perkembangan pesat AI saat ini, yaitu juga suara penasaran dunia setelah dia baru-baru ini dengan tegas meninggalkan Google dan "menyesali pekerjaan seumur hidupnya dan mengkhawatirkan bahaya kecerdasan buatan":
Saya pikir realisasi dari kecerdasan super ini mungkin jauh lebih cepat daripada yang saya pikirkan.
Orang jahat ingin menggunakannya untuk melakukan hal-hal seperti memanipulasi pemilih. Mereka sudah menggunakannya di AS dan banyak tempat lain untuk ini. Dan itu akan digunakan untuk memenangkan perang.
Untuk membuat kecerdasan digital lebih efektif, kita perlu mengizinkannya menetapkan beberapa tujuan. Namun, ada masalah yang jelas di sini. Ada sub-tujuan yang sangat jelas yang sangat membantu untuk hampir semua hal yang ingin Anda capai, dan itu mendapatkan lebih banyak kekuatan, lebih banyak kendali**. Memiliki lebih banyak kontrol membuatnya lebih mudah untuk mencapai tujuan Anda. Dan saya merasa sulit untuk membayangkan bagaimana kita dapat mencegah kecerdasan digital berusaha mendapatkan lebih banyak kendali untuk mencapai tujuan lain.
**Begitu kecerdasan digital mulai mencari lebih banyak kendali, kita mungkin menghadapi lebih banyak masalah. **
**Sebaliknya, manusia jarang memikirkan spesies yang lebih cerdas dari dirinya sendiri, dan bagaimana berinteraksi dengan spesies tersebut. Dalam pengamatan saya, jenis kecerdasan buatan ini telah menguasai tindakan menipu manusia dengan mahir, karena dapat menggunakan Baca novel untuk belajar bagaimana menipu orang lain, dan begitu kecerdasan buatan memiliki kemampuan untuk "menipu", itu juga akan memiliki kemampuan yang disebutkan di atas untuk dengan mudah mengendalikan manusia. **Yang disebut kontrol, misalnya jika Anda ingin meretas gedung di Washington, Anda tidak perlu pergi ke sana secara langsung, Anda hanya perlu mengelabui orang untuk berpikir bahwa dengan meretas gedung, mereka dapat menyelamatkan demokrasi dan akhirnya mencapai Tujuan Anda (sarkasme Trump).
Saat ini, Gerffery Hinton, yang berusia lebih dari enam puluh tahun dan mengabdikan hidupnya untuk kecerdasan buatan, berkata:
"Saya merasa tidak enak, saya tidak tahu bagaimana mencegah hal ini terjadi, tetapi saya sudah tua, dan saya berharap banyak peneliti muda dan berbakat seperti Anda akan mengetahui bagaimana kita memiliki kecerdasan super yang akan membuat hidup kita menjadi lebih baik dan lebih baik." hentikan kontrol semacam ini melalui penipuan...mungkin kita bisa memberi mereka prinsip-prinsip moral, tetapi saat ini, saya masih gugup, **karena sejauh ini, saya tidak bisa memikirkannya-cukup di celah kecerdasan Waktu besar - contoh sesuatu yang lebih cerdas dikendalikan oleh sesuatu yang kurang cerdas.****Jika katak menemukan manusia, menurut Anda siapa yang akan mengambil kendali? Katak atau manusia?**Ini juga Memunculkan PPT terakhir saya, bagian akhirnya."
Ketika saya mendengarkannya, saya sepertinya sedang mendengarkan "anak laki-laki yang pernah membunuh naga, ketika dia mencapai usia senja dan melihat kembali kehidupannya, dia membuat ramalan hari kiamat". Saya sangat menyadarinya risiko AI yang sangat besar bagi manusia, dan saya sangat malu.
Dibandingkan dengan Hinton, Lecun, salah satu raksasa pembelajaran mendalam yang lebih muda, jelas lebih optimis:
Ketika ditanya apakah sistem AI akan menimbulkan risiko eksistensial bagi manusia, LeCun berkata, **Kami belum memiliki AI super, jadi bagaimana cara membuat sistem AI super aman? **
Itu membuat orang berpikir tentang perbedaan sikap manusia bumi terhadap peradaban tiga tubuh dalam "Masalah Tiga Tubuh" ...
Hari itu, saya masih berencana untuk mematikan komputer dalam suasana penyesalan yang tak terbatas.Tanpa diduga, Huang Tiejun, direktur Zhiyuan Research Institute, membuat pidato penutup yang sempurna: "Tidak Bisa Menutup".
Huang Tiejun pertama kali meringkas pandangan dari pidato sebelumnya:
AI semakin kuat dan kuat, dan risikonya jelas dan meningkat dari hari ke hari;
Bagaimana membangun AI yang aman, kami hanya tahu sedikit;
Dapat belajar dari pengalaman sejarah: manajemen obat, kontrol senjata nuklir, komputasi kuantum...
Tetapi sistem AI dengan kompleksitas tinggi sulit diprediksi: pengujian risiko, penjelasan mekanisme, generalisasi pemahaman... baru permulaan
Sasaran tantangan baru: AI melayani tujuannya sendiri atau tujuan manusia?
Pada dasarnya, apakah orang ingin membangun kecerdasan buatan umum GAI atau kecerdasan umum buatan AGI?
Konsensus akademik adalah kecerdasan umum buatan AGI: kecerdasan buatan yang telah mencapai tingkat manusia dalam semua aspek kecerdasan manusia, dan dapat secara adaptif menanggapi tantangan lingkungan eksternal dan menyelesaikan semua tugas yang dapat diselesaikan manusia; itu juga bisa disebut kecerdasan buatan otonom, manusia super kecerdasan, dan kecerdasan yang kuat kecerdasan buatan.
Di satu sisi, semua orang antusias membangun kecerdasan buatan umum dan terburu-buru untuk berinvestasi.
Di sisi lain, saya mencibir AI yang menyebabkan manusia menjadi warga negara kelas dua, tetapi oposisi biner ini bukanlah hal yang paling sulit. Masalah besarnya adalah memilih. Hal yang paling sulit adalah, di hadapan kecerdasan buatan seperti Near AGI seperti ChatGPT, apa yang harus kita lakukan? **
Jika manusia menanggapi risiko dengan antusiasme yang sama seperti berinvestasi dalam membangun kecerdasan buatan, masih mungkin untuk mencapai kecerdasan buatan yang aman,** tetapi apakah Anda yakin manusia bisa melakukannya? Saya tidak tahu, terima kasih! **