MediaTek ผนึกกำลัง Llama 2 ของ Meta พัฒนา Generative AI บนอุปกรณ์เอดจ์ในตัว

MediaTek บริษัทผลิตเซมิคอนดักเตอร์แฟบเลสชั้นนำระดับโลกซึ่งขับเคลื่อนอุปกรณ์เชื่อมต่อเอดจ์มากกว่าสองพันล้านเครื่องต่อปี แถลงวันนี้ว่าบริษัทกำลังมุ่งมั่นทำงานร่วมกับ Llama 2 ของ Meta ซึ่งเป็น Large Language Model (LLM) โอเพ่นซอร์สรุ่นต่อไป การใช้ LLM ของ Meta รวมถึง APU ล่าสุดของ MediaTek และแพลตฟอร์ม NeuroPilot AI นั้น MediaTek มีเป้าหมายที่จะสร้างระบบนิเวศเอดจ์คอมพิวติ้งโดยสมบูรณ์ ออกแบบมาเพื่อเร่งการพัฒนาแอปพลิเคชัน AI บนสมาร์ทโฟน IoT, ยานยนต์ สมาร์ทโฮม และอุปกรณ์เอดจ์อื่นๆ

ปัจจุบัน การประมวลผล Generative AI โดยมากดำเนินการผ่านคลาวด์คอมพิวติ้ง อย่างไรก็ตาม การใช้โมเดล Llama 2 ของ MediaTek จะช่วยให้แอปพลิเคชัน Generative AI ทำงานบนอุปกรณ์ได้โดยตรง ซึ่งมีข้อดีหลายอย่างสำหรับนักพัฒนาและผู้ใช้งาน อันได้แก่ ประสิทธิภาพการทำงานอย่างไร้รอยต่อ ความเป็นส่วนตัวที่มากขึ้น ความปลอดภัยและความน่าเชื่อถือที่มากขึ้น ความหน่วงที่ต่ำลง ความสามารถในการทำงานในพื้นที่ที่มีการเชื่อมต่อเพียงเล็กน้อยหรือไม่มีเลย และต้นทุนการดำเนินการที่ต่ำลง

เพื่อที่จะใช้ประโยชน์จากเทคโนโลยี Generative AI ในอุปกรณ์ให้เกิดประสิทธิผลสูงสุด ผู้ผลิตอุปกรณ์เอดจ์จะต้องใช้การประมวลผลสูง โปรเซสเซอร์ AI ที่ใช้พลังงานต่ำ และการเชื่อมต่อที่รวดเร็วและเสถียรมากขึ้นเพื่อเพิ่มขีดความสามารถในการประมวลผล SoC ของสมาร์ทโฟน 5G ที่ขับเคลื่อนโดย MediaTek ทุกเครื่องที่พร้อมใช้งานแล้ววันนี้ ซึ่งมาพร้อมกับ APU ที่ออกแบบมาเพื่อใช้งานฟีเจอร์ Generative AI เช่น AI Noise Reduction, AI Super Resolution, AI MEMC และอื่นๆ อีกมากมาย

นอกจากนี้ ชิปเซ็ตเรือธงรุ่นต่อไปของ MediaTek ที่จะเปิดตัวปลายปีนี้มีซอฟต์แวร์สแต็คที่ปรับให้เหมาะกับการใช้งาน Llama 2 อีกทั้งยังมี APU ที่อัปเกรดมาพร้อมการเร่งความเร็วแกนหลักของ Transformer, การเข้าถึงฟุตพริ้นท์และการใช้แบนด์วิธ DRAM ที่ลดลง การพัฒนาประสิทธิภาพการทำงานของ LLM และ AIGC ที่ดียิ่งขึ้นไปอีก ความพัฒนารุดหน้าเหล่านี้ช่วยอำนวยความสะดวกในการใช้งาน Generative AI ในตัวได้อย่างรวดเร็ว

คุณ JC Hsu รองประธานกรรมการอาวุโสฝ่ายองค์กรและผู้จัดการทั่วไปหน่วยธุรกิจการสื่อสารไร้สายของ MediaTek กล่าวว่า “Generative AI ที่ได้รับความนิยมเพิ่มขึ้นเป็นเทรนด์สำคัญในการพลิกโฉมด้วยดิจิทัล  วิสัยทัศน์ของเราคือการมอบเครื่องมือที่จำเป็นในการสร้างสรรค์นวัตกรรม AI อย่างเต็มรูปแบบแก่บรรดานักพัฒนาและผู้ใช้งาน Llama 2 ด้วยการเป็นพันธมิตรกับ Meta เราสามารถส่งมอบฮาร์ดแวร์และซอฟต์แวร์เชิงเอดจ์ที่มีความสามารถมากกว่าที่เคยมีมา”

MediaTek คาดการณ์ว่าแอปพลิเคชัน AI ที่ใช้ Llama 2 จะพร้อมใช้งานสำหรับสมาร์ทโฟนที่ขับเคลื่อนโดย SoC เรือธงรุ่นต่อไปมีกำหนดออกสู่ตลาดภายในสิ้นปีนี้