MediaTek bekerjasama dengan Alibaba Cloud untuk cip mudah alih model besar

Sumber:www.ichunt.com

Menurut Sci-Tech Innovation Board Daily, MediaTek, pengeluar cip telefon pintar, telah berjaya menggunakan model besar dengan 1.8 bilion dan 4 bilion parameter pada cip utamanya seperti Dimensity 9300, mencapai penyesuaian mendalam model besar pada cip mudah alih dan membolehkan Tongyi Qianwen menjalankan beberapa pusingan dialog AI walaupun dalam situasi luar talian. Pada masa hadapan, kedua-dua pihak juga akan menyesuaikan lebih banyak model besar dengan saiz yang berbeza, termasuk satu dengan 7 bilion parameter, berdasarkan cip Dimensity.

Alibaba Cloud menyatakan bahawa ia akan bekerjasama rapat dengan MediaTek untuk menyediakan penyelesaian model besar sebelah hujung kepada pengeluar telefon mudah alih global.

Pada masa ini, MediaTek ialah syarikat semikonduktor dengan jumlah penghantaran cip telefon pintar tertinggi di seluruh dunia. Menurut data terkini daripada Canalys, ia menghantar lebih 117 juta unit pada suku keempat 2023, menduduki tempat pertama, diikuti oleh Apple dengan 78 juta penghantaran dan Qualcomm dengan 69 juta penghantaran. Tongyi Qianwen ialah model besar asas yang dibangunkan oleh Alibaba Cloud. Setakat ini, ia telah melancarkan versi dengan sehingga 100 bilion parameter dan versi sumber terbuka dengan 72 bilion, 14 bilion, 7 bilion, 4 bilion, 1.8 bilion, dan 500 juta parameter, serta model besar berbilang modal seperti model pemahaman visual Qwen-VL dan model besar audio Qwen-Audio.

Semasa MWC2024, MediaTek mempamerkan pelbagai aplikasi kecerdasan buatan, termasuk cip Dimensity 9300 dan 8300. Difahamkan bahawa cip Dimensity 9300 telah pun menyokong aplikasi model besar 7 bilion parameter Meta Llama 2 di luar negara, dan ia telah dilaksanakan pada telefon siri vivo X100 di China dengan model bahasa besar 7 bilion parameter pada bahagian hujung, dan juga telah berjaya menjalankan model 13 bilion parameter dalam persekitaran percubaan bahagian hujung.

Kerjasama antara MediaTek dan Alibaba Cloud menandakan kali pertama model besar Tongyi mencapai penyesuaian perkakasan dan perisian peringkat cip. Xu Dong, ketua perniagaan Makmal Tongyi Alibaba, menjelaskan, "AI sisi akhir ialah salah satu senario penting untuk aplikasi model besar, tetapi ia menghadapi banyak cabaran seperti kesukaran dalam penyesuaian perkakasan dan perisian serta persekitaran pembangunan yang tidak lengkap. Alibaba Cloud dan MediaTek telah mengatasi beberapa siri cabaran teknikal dan kejuruteraan yang berkaitan dengan penyesuaian asas dan pembangunan peringkat atas, benar-benar menyepadukan model besar ke dalam cip mudah alih dan meneroka model penggunaan baharu Model-on-Chip untuk AI bahagian hujung."

Selain MediaTek, Qualcomm juga giat mempromosikan pelaksanaan model besar pada peranti mudah alih. Pada 18 Mac, Qualcomm mengumumkan pelancaran platform mudah alih Snapdragon 8 generasi ketiga, yang menyokong model bahasa besar dengan sehingga 10 bilion parameter dan juga boleh menyokong model AI generatif pelbagai mod, termasuk Baichuan-7B, Gemini Nano, Llama 2 , dan Zhipu ChatGLM daripada syarikat seperti Baidu Xiriver, Google dan META. Dilaporkan bahawa Xiaomi Civi 4 Pro akan menjadi yang pertama dilengkapi dengan platform mudah alih Snapdragon 8s.

Seorang penganalisis industri elektronik pengguna menyatakan bahawa kerjasama antara Alibaba Cloud dan MediaTek bermakna pengeluar telefon mudah alih domestik kini mempunyai alternatif kepada Baidu.

Mengikut pemahaman wartawan, Honor dan Samsung sebelum ini telah mengumumkan kerjasama dengan Baidu Wenxin Yiyan. Contohnya, telefon perdana terbaharu Samsung, siri Galaxy S24, menyepadukan pelbagai keupayaan model besar Wenxin, termasuk panggilan, terjemahan dan ringkasan pintar. Selain itu, sumber mendedahkan bahawa Apple sedang berhubung dengan Baidu, berharap untuk menggunakan teknologi kecerdasan buatan Baidu, dan perbincangan awal telah pun berlaku antara kedua-dua pihak.

Lin Dahua, seorang saintis terkemuka di Makmal Kepintaran Buatan Shanghai, menyatakan bahawa dengan pertumbuhan eksponen model besar berasaskan awan, bahagian akhir akan memasuki tempoh pertumbuhan keemasan. Kerjasama awan-hujung akan menjadi trend penting pada masa hadapan, dengan pengkomputeran sisi awan mewujudkan siling dan pengkomputeran sisi akhir menyokong penggunaan pengguna berskala besar.

Menurut ramalan daripada firma perunding IDC, jumlah penghantaran telefon pintar di pasaran China akan mencapai 277 juta unit pada 2024, dengan kadar pertumbuhan tahun ke tahun sebanyak 2.3%. Antaranya, jumlah penghantaran telefon AI akan mencapai 36.6 juta, dengan kadar pertumbuhan tahun ke tahun melebihi tiga digit. Aplikasi model AI yang besar pada telefon mudah alih akan menjadi lebih meluas.