ในโลกธุรกิจ คำว่า "Moat" หรือคูเมือง เปรียบเสมือนปราการป้องกันคู่แข่งไม่ให้เข้ามาแย่งชิงส่วนแบ่งการตลาด ซึ่งในอุตสาหกรรม AI ยักษ์ใหญ่ที่ครอบครองโมเดลระดับปิด (Closed Model) มักได้เปรียบเพราะการฝึกสอนโมเดลขนาดใหญ่นั้นต้องใช้ทรัพยากรคำนวณและเงินทุนมหาศาล ทว่าในปัจจุบัน ปราการนี้กำลังพังทลายลงอย่างรวดเร็วด้วยการเติบโตอย่างก้าวกระโดดของโมเดลแบบเปิด (Open-Source Model) ที่เปิดโอกาสให้ผู้ใช้งานทั่วไปสามารถนำมาใช้งานบนฮาร์ดแวร์ของตนเองได้โดยตรง
ล่าสุด บล็อกเทคโนโลยี TerminalBytes ได้ทำการทดสอบรันโมเดล Qwen รุ่น 27B บนเครื่อง Mac Studio ที่มีแรม 256 GB พบว่าทำงานได้อย่างมีประสิทธิภาพ นอกจากนี้ยังมีการเปรียบเทียบเทคโนโลยีที่เรียกว่า “Quants” หรือการบีบอัดโมเดลเพื่อลดขนาดหน่วยความจำ (RAM) ที่ต้องใช้ลง โดยการลดความละเอียดของค่าน้ำหนัก (Weights) ทำให้คอมพิวเตอร์สเปกทั่วไป เช่น พีซีสำหรับเล่นเกมที่มีแรม 32 GB หรือต่ำกว่า ก็สามารถรันโมเดลเหล่านี้ในเครื่องตนเองได้โดยสูญเสียคุณภาพเพียงเล็กน้อยเท่านั้น
ยิ่งไปกว่านั้น ยังมีการทดสอบโมเดลระดับ 1-bit Quant ที่สามารถรันบนคอมพิวเตอร์ที่มีแรมเพียง 16 GB ได้ แม้ผลลัพธ์การตอบกลับจะยังไม่สมบูรณ์แบบร้อยเปอร์เซ็นต์ แต่ก็แสดงให้เห็นถึงแนวโน้มในอนาคตที่โมเดล Open-Source จะถูกพัฒนาให้ประหยัดพลังงานและใช้ทรัพยากรน้อยลงไปอีก อย่างไรก็ตาม นักวิเคราะห์มองว่าความง่ายในการรันโมเดลในเครื่องตัวเองอาจไม่ใช่ปัจจัยเดียวที่จะทำให้ธุรกิจของยักษ์ใหญ่ AI สั่นคลอนโดยสิ้นเชิง เนื่องจากผู้ใช้ทั่วไปส่วนใหญ่ยังคงเลือกใช้ระบบที่สะดวกและเข้าถึงง่ายมากกว่าการปรับแต่งระบบด้วยตัวเอง
🏷️ หมวดหมู่: Artificial Intelligence, ai, LLM, mac studio, moat, open model, quants, ram, weights
🔗 อ่านบทความฉบับเต็ม: hackaday
