เทคโนโลยี

PrismML เปิดตัว Bonsai 27B รันบน iPhone ได้ลื่นไหล

จับตาการเจรจาลับกับ Apple

PrismML สตาร์ทอัพดาวรุ่งเพิ่งปล่อยโมเดลรุ่นใหม่ล่าสุดในชื่อ Bonsai 27B ออกมาให้ลองใช้กันอย่างเป็นทางการ โดยจุดเด่นที่ทำให้รุ่นนี้กลายเป็นที่พูดถึงคือความสามารถในการรันบนอุปกรณ์ของ Apple ได้โดยตรง ไม่ว่าจะเป็น iPhone, iPad หรือ Mac ซึ่งถือเป็นก้าวกระโดดครั้งสำคัญสำหรับเทคโนโลยีโมเดลขนาดใหญ่ที่ปกติมักต้องพึ่งพาเซิร์ฟเวอร์ภายนอก

ความลับที่ทำให้ Bonsai 27B ยัดลงใน โน้ตบุ๊ก และสมาร์ทโฟนได้สำเร็จคือการปรับแต่งโมเดลให้เหลือขนาดเพียง 4 GB ในรูปแบบ 1-bit ซึ่งเป็นขนาดที่เล็กพอจะเบียดตัวเข้าไปอยู่ในหน่วยความจำจำกัดของ iPhone ได้โดยไม่กระทบกับส่วนอื่นของระบบ นี่ถือเป็นโมเดลขนาด 27B รุ่นแรกที่ผ่านด่านทดสอบหินๆ นี้มาได้ และยังเปิดให้เหล่านักพัฒนาได้ทดลองใช้งานผ่าน Apache 2.0 License แบบฟรีๆ อีกด้วย

ทางด้าน Babak Hassibi ซีอีโอของ PrismML ได้ออกมาให้สัมภาษณ์กับ CNBC ว่าทางบริษัทกำลังอยู่ระหว่างพูดคุยกับยักษ์ใหญ่แห่งวงการอย่าง Apple เพื่อประเมินความเป็นไปได้ในการนำเทคโนโลยีนี้ไปปรับใช้ แม้จะเป็นเพียงช่วงเริ่มต้นแต่บรรยากาศการเจรจาก็เป็นไปอย่างราบรื่นและมีแนวโน้มที่ดีมากสำหรับการพัฒนาในอนาคต

apple-iphone-bonsai-model-ai

การรันโมเดล Bonsai 27B ทำได้ผ่าน MLX บนอุปกรณ์ของ Apple หรือใช้ CUDA บนการ์ดจอจาก NVIDIA ซึ่งประสิทธิภาพที่ออกมาถือว่าน่าประทับใจอย่างมาก แม้จะเป็นโมเดลระดับ 27B แต่ก็ยังทำความเร็วได้ดีเยี่ยมบนชิป M5 Max ทำให้ผู้ใช้งานอุปกรณ์ Apple ได้สัมผัสประสบการณ์ AI ที่ตอบสนองรวดเร็วโดยไม่ต้องรอการประมวลผลจากคลาวด์ให้เสียอารมณ์

สำหรับฝั่ง Apple เอง ดูเหมือนจะให้ความสนใจในเรื่องความเร็ว ประสิทธิภาพการใช้พลังงาน และความสามารถในการทำงานบนตัวเครื่องโดยตรงเป็นพิเศษ เพราะนี่คือจิ๊กซอว์ตัวสำคัญที่จะเข้ามาเสริมทัพ Apple Intelligence ให้แข็งแกร่งขึ้น ซึ่งถ้าหากการเจรจาครั้งนี้จบลงด้วยดี เราอาจได้เห็นความเปลี่ยนแปลงครั้งใหญ่ในการใช้งาน AI บน iPhone รุ่นถัดๆ ไป

คงต้องจับตาดูกันต่อไปว่าความร่วมมือในครั้งนี้จะออกมาหน้าตาเป็นแบบไหน แต่การที่บริษัทขนาดเล็กสามารถสร้างนวัตกรรมที่ท้าทายขีดจำกัดของฮาร์ดแวร์ได้ขนาดนี้ ก็เป็นสัญญาณเตือนภัยที่ดีว่าการแข่งขันในโลกของ AI จะยิ่งดุเดือดขึ้นเรื่อยๆ และผู้ที่จะได้ประโยชน์สูงสุดจากเรื่องนี้ก็คือเหล่านักพัฒนาและผู้ใช้งานที่รอคอยนวัตกรรมใหม่ๆ บนสมาร์ทโฟนคู่ใจนั่นเอง

ที่มา
9to5mac

Artherlus

แค่คนทั่วไปที่หลงใหลในวงการไอที
Back to top button