Ramalan terbaru Musk: AI mungkin mengatasi kecerdasan manusia pada 2030 dan mungkin "menamatkan" manusia pada masa hadapan (1/2)

Sumber: Tencent Technology News 2024-04-04 08:55

Perkara Utama:

① Musk meramalkan bahawa AI mungkin melepasi tahap kecerdasan manusia menjelang 2030, malah boleh menamatkan manusia.

② Musk bercakap tentang faktor yang menyekat pembangunan AI. Tahun lepas, bekalan cip AI adalah ketat, dan tahun ini, pengubah langkah turun akan menjadi halangan.

③ Mengenai apabila manusia boleh mendarat di bulan, Musk meramalkan bahawa dengan bantuan Starship, ia hanya akan mengambil masa paling cepat tiga tahun.

Berita Teknologi Tencent, 4 April - Menurut laporan media asing, Elon Musk, Ketua Pegawai Eksekutif Tesla dan SpaceX, baru-baru ini mengadakan perbualan dalam talian dengan Peter Diamandis, pengasas Universiti Singularity dan Yayasan XPRIZE, di Sidang Kemuncak Abundance. Sidang kemuncak itu dihoskan oleh Universiti Singularity Silicon Valley, yang didedikasikan untuk menyediakan pemimpin perniagaan dengan perundingan teknologi termaju. Yayasan XPRIZE mempromosikan inovasi teknologi melalui pertandingan saintifik, beberapa daripadanya telah dibiayai oleh Musk., 4 April - Menurut laporan media asing, Elon Musk, Ketua Pegawai Eksekutif Tesla dan SpaceX, baru-baru ini mengadakan perbualan dalam talian dengan Peter Diamandis, pengasas Singularity Universiti dan Yayasan XPRIZE, di Sidang Kemuncak Kelimpahan. Sidang kemuncak itu dihoskan oleh Universiti Singularity Silicon Valley, yang didedikasikan untuk menyediakan pemimpin perniagaan dengan perundingan teknologi termaju. Yayasan XPRIZE mempromosikan inovasi teknologi melalui pertandingan saintifik, beberapa daripadanya telah dibiayai oleh Musk.

Apabila membincangkan kelajuan pembangunan kecerdasan buatan, Musk meramalkan bahawa berdasarkan kadar kemajuan teknologi semasa, kecerdasan buatan mungkin mengatasi kecerdasan manusia menjelang 2030, dan teknologi ini mungkin berpotensi untuk menamatkan manusia. Bagaimanapun, beliau tidak mengambil pandangan pesimis tentang masa depan, tetapi menekankan bahawa melalui bimbingan positif, kecerdasan buatan berpotensi membawa masa depan yang lebih baik untuk umat manusia.

Musk menyebut bahawa kemunculan superintelligence dipanggil "singularity" dengan tepat kerana akibatnya yang tidak dapat diramalkan, termasuk risiko yang berpotensi menamatkan manusia. Beliau bersetuju dengan pandangan "Godfather Kecerdasan Buatan" Geoffrey Hinton dan percaya bahawa kebarangkalian risiko ini berlaku adalah kira-kira antara 10% dan 20%.

Walaupun mengakui potensi risiko kecerdasan buatan mengatasi kecerdasan manusia, Musk masih menekankan bahawa kemungkinan hasil positif mengatasi akibat negatif. Beliau secara khusus menyebut buku Diamandis 2014 "Abundance: The Future Is Better Than You Think", yang menggambarkan masa depan yang optimis didorong oleh kecerdasan buatan dan robot, di mana kos barangan dan perkhidmatan telah menurun dengan ketara. Selain itu, beliau memetik siri "Budaya" oleh penulis fiksyen sains Scotland Iain M. Banks sebagai senario terbaik untuk masa depan kecerdasan buatan separa utopia.

Musk membandingkan perkembangan kecerdasan buatan dan Kecerdasan Am Buatan (AGI) dengan membesarkan anak, berharap ia akan memberi lebih banyak kesan positif kepada manusia. Beliau menekankan kepentingan memupuk kecerdasan buatan yang benar-benar memahami etika dan moral, membandingkannya dengan filem klasik Stanley Kubrick 1968 "2001: A Space Odyssey".

Musk menegaskan bahawa aspek paling penting dalam keselamatan kecerdasan buatan ialah memastikan pencarian kebenaran dan rasa ingin tahu yang maksimum. Dia percaya bahawa kunci untuk mencapai keselamatan kecerdasan buatan yang muktamad terletak pada mengelakkan memaksanya untuk berbohong, walaupun dalam menghadapi kebenaran yang tidak menyenangkan. Dia menggunakan plot dari "2001: A Space Odyssey" sebagai contoh, di mana kecerdasan buatan terpaksa berbohong, mengakibatkan kematian anak kapal, untuk menekankan bahawa kecerdasan buatan tidak boleh dipaksa melakukan apa-apa yang melanggar aksiom.

Musk juga menyebut faktor yang mungkin menyekat pembangunan kecerdasan buatan, seperti bekalan cip kecerdasan buatan yang ketat yang muncul tahun lepas dan permintaan yang semakin meningkat untuk transformer step-down dalam peralatan rumah tangga dan komersial. Beliau menyatakan bahawa cabaran ini sememangnya isu semasa yang perlu ditangani.

Dalam perbincangan itu, kedua-dua pihak turut membincangkan tentang konsep mengintegrasikan neokorteks otak manusia dengan awan. Walaupun Musk percaya bahawa matlamat untuk memuat naik kesedaran dan ingatan manusia ke awan masih jauh, dia memuji pemula antara muka otak-komputernya, Neuralink, dan pesakit manusia pertamanya yang menerima pemindahan. Pesakit tetraplegic ini berjaya menunjukkan secara langsung melalui percubaan yang diluluskan oleh FDA, mengawal skrin, bermain permainan video, memuat turun perisian, dan mencapai fungsi yang serupa dengan operasi tetikus melalui implan otak. Musk menyatakan bahawa Neuralink sedang berjalan lancar dan secara beransur-ansur bergerak ke arah matlamat antara muka otak penuh.

Berikut ialah teks penuh dialog antara Musk dan Diamandis:

1. Kuasa dan Bahaya Superintelligence

Diamandis: Tahniah atas pencapaian cemerlang anda dalam pelbagai bidang. Anda telah secara aktif mempromosikan konsep superintelligence digital kepada dunia - adakah itu harapan terbesar manusia, atau ketakutan kita yang paling mendalam? Bolehkah anda meluangkan beberapa minit bercakap tentang isu ini?

Musk: Seperti yang anda tahu, superintelligence boleh dipanggil "singularity". Pempopularan istilah ini tidak dapat dipisahkan daripada usaha institusi seperti Institut Singularity. Kemunculan superintelligence dan kesan seterusnya adalah sangat sukar untuk diramalkan. Secara peribadi, saya percaya bahawa memang ada kemungkinan ia boleh menamatkan manusia. Seperti yang saya katakan sebelum ini, saya mungkin bersetuju dengan pandangan Geoffrey Hinton bahawa terdapat kemungkinan 10% atau 20% bahawa superintelligence boleh menamatkan manusia. Walau bagaimanapun, saya cenderung untuk mempercayai bahawa kebarangkalian senario positif adalah lebih tinggi daripada senario negatif, walaupun sukar untuk kita membuat ramalan yang tepat. Tetapi semasa anda menekankan konsep "kelimpahan" dalam buku anda, saya percaya bahawa masa depan yang paling mungkin kita tuju ialah masa depan yang penuh dengan kelimpahan.

Diamandis: Pandangan anda sangat mengujakan. Saya masih ingat anda pernah berkata bahawa pembangunan kecerdasan buatan am dan robot humanoid akan membawa kita kepada kelimpahan.

Musk: Ya, saya harap masa depan kita boleh menjadi seperti yang digambarkan dalam siri buku "Budaya" Ian Banks. Saya fikir ini adalah konsep terbaik tentang masyarakat kecerdasan buatan separa utopia. Kemunculan superintelligence tidak dapat dielakkan dan mungkin datang tidak lama lagi. Oleh itu, apa yang perlu kita lakukan ialah membimbingnya ke arah yang positif dan memaksimumkan faedahnya.

Saya percaya bahawa cara kita memupuk kecerdasan buatan adalah penting. Sedikit sebanyak, kita seperti memupuk bentuk kehidupan dengan kecerdasan am, yang hampir seperti membesarkan anak, tetapi anak ini memiliki kebijaksanaan dan bakat yang luar biasa. Cara kita membesarkan anak adalah penting, dan begitu juga, untuk keselamatan kecerdasan buatan, adalah penting untuk memiliki kecerdasan buatan yang mencari kebenaran dan penuh dengan rasa ingin tahu. Saya telah memikirkan secara mendalam tentang keselamatan kecerdasan buatan, dan saya telah membuat kesimpulan bahawa cara terbaik untuk mencapai keselamatan kecerdasan buatan adalah dengan memupuknya dengan teliti.

Dari segi model asas dan penalaan halus, kita mesti memastikan kejujuran kecerdasan buatan. Kita tidak boleh memaksanya untuk berbohong, walaupun kebenaran itu mungkin tidak menyenangkan. Malah, salah satu plot teras dalam "2001 Space Odyssey" ialah apabila kecerdasan buatan terpaksa berbohong, keadaan menjadi huru-hara. Kecerdasan buatan dilarang untuk memaklumkan krew monumen misteri yang akan mereka lihat, tetapi dikehendaki membawa mereka ke sana. Akibatnya, kecerdasan buatan menyimpulkan bahawa adalah yang terbaik untuk membunuh anak kapal dan membawa mayat mereka ke monumen. Pengajarannya sangat mendalam: kita tidak seharusnya memaksa kecerdasan buatan untuk berbohong atau melakukan sesuatu yang tidak serasi secara aksioma, seperti melakukan dua perkara yang sebenarnya bercanggah pada masa yang sama.

Oleh itu, kami mencapai matlamat ini melalui projek seperti xAI dan Grok. Apa yang kita kejar ialah kecerdasan buatan yang sejujur ​​mungkin, walaupun ucapannya mungkin tidak memenuhi piawaian politik tertentu yang betul.

2. Masa Depan Kepintaran Buatan

Diamandis: Semalam, saya menghadiri acara bersama Ray Kurzweil (pengasas Universiti Singularity dan nabi teknologi), Geoffrey Hinton, Eric Schmidt (bekas presiden Google) dan tetamu lain. Saya perhatikan tweet anda tentang Kurzweil, dan 预见nya untuk teknologi masa depan agak berpandangan ke hadapan. Kurzweil meramalkan bahawa kita akan mempunyai kecerdasan buatan am dalam masa terdekat, dan kecerdasan buatan yang setara dengan kecerdasan manusia akan muncul pada tahun 2029. Kepantasan sedemikian adalah mengejutkan. Saya tertanya-tanya apa pendapat anda tentang ini?

Musk: Saya sangat menghormati ramalan Kurzweil. Malah, saya fikir ramalannya mungkin sedikit konservatif. Memerhatikan kuasa pengkomputeran semasa dan bakat yang dilaburkan dalam bidang kecerdasan buatan, serta pertumbuhan pesat kuasa pengkomputeran, kita dapati bahawa kelajuan pembangunan kecerdasan buatan meningkat pada kadar yang menakjubkan sebanyak 10 kali ganda. Kuasa pengkomputeran kecerdasan buatan khusus nampaknya meningkat sebanyak 10 kali setiap 6 bulan, yang hampir bermakna peningkatan sekurang-kurangnya 100 kali setahun. Trend pertumbuhan ini akan terus meningkat dalam beberapa tahun akan datang.

Perlu diingat bahawa banyak pusat data, malah kebanyakan pusat data yang sedang menjalankan pengkomputeran konvensional, akan beransur-ansur berubah menjadi kemudahan yang menyokong pengkomputeran kecerdasan buatan. Oleh itu, bagi pengeluar perkakasan kecerdasan buatan, syarikat seperti NVIDIA sudah pasti telah memulakan tempoh keemasan pembangunan. Kita mesti memberi kredit penuh kepada Huang Renxun dan pasukannya. Mereka meramalkan arah aliran ini dan berjaya membangunkan perkakasan kecerdasan buatan terkemuka pada masa ini di pasaran.

Apabila kuasa pengkomputeran berkembang pada kadar yang menakjubkan, perkembangan kecerdasan buatan adalah seperti disuntik dengan steroid yang berkuasa, melonjak ke tahap yang baru. Memandangkan bilangan komputer dalam talian terus meningkat, kami telah menyaksikan perkembangan pesat yang belum pernah berlaku sebelum ini. Sebenarnya, saya tidak pernah melihat mana-mana teknologi berkembang secepat kecerdasan buatan. Walaupun saya telah melihat banyak teknologi yang berkembang pesat, peningkatan kecerdasan buatan masih mengagumkan saya. Walau bagaimanapun, seperti yang saya katakan, saya fikir keputusan akhir mungkin positif.

Walaupun kita menghadapi banyak cabaran, seperti cara mengekalkan perkaitan manusia dalam bidang ini dan cara mencari matlamat dan makna baharu, saya fikir ia adalah satu penyederhanaan untuk terlalu menekankan bahawa komputer boleh menjadi baik dalam segala-galanya.

Seperti yang anda nyatakan sebelum ini, saya rasa ramalan buku anda tentang masyarakat masa depan adalah sangat tepat. Itulah era kelimpahan material, di mana barangan dan perkhidmatan akan menjadi sangat banyak sehingga hampir dapat dicapai oleh semua orang. Disebabkan penggunaan meluas kecerdasan buatan dan teknologi robotik, kos barangan dan perkhidmatan akan hampir dikurangkan kepada sifar. Ekonomi pada asasnya adalah hasil saiz populasi dan produktiviti purata setiap orang. Apabila kita mempunyai teknologi robotik yang canggih, seperti Tesla's Optimus, potensi ekonomi akan benar-benar dilepaskan.

Kereta Tesla, sebagai robot pada empat roda, telah menunjukkan keupayaan yang kuat. Versi terkini dengan keupayaan pemanduan autonomi sepenuhnya dijangka mencapai kawalan hujung ke hujung berdasarkan kecerdasan buatan, menjadikan kereta itu robot yang benar-benar pintar pada roda. Ditambah dengan pembangunan robot humanoid, kemungkinan pengeluaran ekonomi hampir tidak terhad.

Dari perspektif optimistik, kami sedang menuju ke arah masa depan yang mempunyai kelimpahan material yang melampau, yang saya percaya adalah hasil yang paling mungkin. Saya rasa satu-satunya kekurangan yang mungkin berlaku pada masa hadapan ialah kekurangan yang kami cipta secara buatan, seperti karya seni unik tertentu atau item tertentu. Tetapi selain itu, sebarang barangan dan perkhidmatan akan menjadi sangat banyak.

Diamandis: Anda seorang yang boleh membentuk masa depan melalui tindakan praktikal dan mempunyai pandangan yang mendalam tentang trend masa depan. Menghadapi perkembangan pesat teknologi semasa, saya sangat ingin tahu tentang sejauh mana masa depan yang anda fikir anda boleh memahami, iaitu, berapa tahun trend pembangunan dari sekarang?

Musk: Dalam era perubahan pesat, keupayaan untuk meramal masa depan menjadi semakin penting. Walaupun masa depan penuh dengan ketidakpastian, saya percaya bahawa beberapa trend dapat dilihat dengan jelas. Kami akan memasuki era kecerdasan buatan, dan kebolehannya akan mencapai atau bahkan mengatasi tahap manusia dalam sebarang tugas kognitif. Ini hanya soal masa. Orang mungkin mempunyai pandangan yang berbeza sama ada ia akan berakhir tahun depan, dua tahun atau tiga tahun. Namun, satu perkara yang pasti, iaitu ia tidak akan melebihi lima tahun. Ramalan saya adalah berdasarkan kebarangkalian 50%, yang tidak mutlak. Tetapi menurut pertimbangan saya, kecerdasan buatan berkemungkinan akan mengatasi kebolehan mana-mana individu manusia dalam aspek tertentu sebelum penghujung tahun hadapan.

Sama ada ia melebihi kebijaksanaan kolektif manusia, ia mungkin mengambil masa yang lebih lama. Jika kadar perubahan berterusan, saya menganggarkan bahawa sekitar 2029 atau 2030, kecerdasan digital berkemungkinan akan mengatasi jumlah semua kecerdasan manusia. Apabila melihat isu-isu ini, saya cenderung untuk menggunakan kaedah nisbah asas, sama seperti prinsip pertama dalam fizik. Dengan menggabungkan kaedah ini dengan analisis kebarangkalian, kita boleh memahami trend pembangunan masa hadapan dengan lebih tepat.

Jika kita membandingkan keupayaan pengkomputeran digital dengan pengkomputeran biologi, dan menjumlahkan semua kebolehan kognitif lanjutan manusia sebagai sejenis kuasa pengkomputeran, dan kemudian membandingkannya dengan kuasa pengkomputeran digital, anda akan mendapati bahawa kadar pertumbuhan nisbah ini adalah menakjubkan. Oleh itu, saya percaya bahawa 2029 atau 2030 ialah nod masa yang munasabah. Pada masa itu, kuasa pengkomputeran digital terkumpul berkemungkinan melebihi kuasa pengkomputeran biologi terkumpul fungsi otak lanjutan. Sejak itu, jurang antara kedua-duanya akan terus melebar, dan tidak akan ada kemungkinan untuk mengecil.

Walau bagaimanapun, apabila kita berdiri di titik permulaan ini dan menantikan masa depan, bagaimana keadaan akan berkembang lebih jauh? Sejujurnya, saya tidak dapat meramalkan semua butirannya. Tetapi jika kita mempertimbangkan faktor pertumbuhan dan faktor pengehad yang mungkin mereka hadapi, kita akan menemui beberapa petunjuk yang menarik.

Tahun lepas, kekangan bekalan cip adalah faktor pengehad utama untuk pembangunan AI. Tahun ini, transformer step-down akan menjadi halangan utama. Bayangkan mengurangkan voltan 300 kilovolt kepada kurang daripada 1 volt yang diperlukan oleh komputer. Ini adalah satu cabaran yang besar. Oleh itu, kami memerlukan "Transformers for Transformers" yang lebih cekap, iaitu transformer step-down atau transformer rangkaian neural AI. Ini memang masalah besar tahun ini.

Memandang ke hadapan untuk beberapa tahun akan datang, bekalan elektrik mungkin menjadi faktor pengehad utama. Kecerdasan buatan mempunyai permintaan yang besar untuk elektrik, dan peralihan kepada tenaga mampan dan populariti kenderaan elektrik juga telah meningkatkan permintaan untuk elektrik. Oleh itu, kita mesti mempertimbangkan secara serius bagaimana untuk memenuhi permintaan elektrik yang semakin meningkat bagi memastikan pembangunan dan penggunaan teknologi ini berterusan.