การพัฒนาโมเดลการเรียนรู้ของเครื่องขนาดเล็กประสิทธิภาพสูงด้วยเทคนิคการค้นหาสถาปัตยกรรมและการถ่ายทอดความรู้

บทคัดย่อ (Abstract) ปัญหาและที่มา ในปัจจุบันการนำปัญญาประดิษฐ์ (AI) ไปใช้งานในอุปกรณ์ที่มีทรัพยากรจำกัด หรืออุปกรณ์ขนาดพกพา ประสบปัญหาสำคัญคือขนาดของโมเดลที่มีความซับซ้อนและใช้พลังงานในการประมวลผลสูง ทำให้ไม่สามารถทำงานได้อย่างมีประสิทธิภาพบนระบบขนาดเล็ก การลดขนาดโมเดลแบบดั้งเดิมมักส่งผลให้ความแม่นยำลดลงอย่างมาก ซึ่งเป็นอุปสรรคต่อการนำ AI ไปประยุกต์ใช้ในสถานการณ์จริงที่ต้องการทั้งความกะทัดรัดและความแม่นยำ วิธีการดำเนินการ โครงงานนี้จึงนำเสนอแนวทางการสร้างโมเดล AI รูปแบบใหม่ที่ผสาน 2 เทคนิคขั้นสูงเข้าด้วยกัน ได้แก่ การค้นหาสถาปัตยกรรมโครงข่ายประสาทอัตโนมัติ (Neural Architecture Search: NAS) เพื่อเฟ้นหาโครงสร้างโมเดลที่เหมาะสมที่สุด (Optimal Architecture) ซึ่งมีขนาดเล็กแต่มีประสิทธิภาพการทำงานสูง และ เทคนิคการถ่ายทอดความรู้ (Knowledge Distillation: KD) โดยการส่งผ่านความรู้จากโมเดลขนาดใหญ่ที่มีความแม่นยำสูง (Teacher Model) ไปยังโมเดลขนาดเล็กที่สร้างขึ้น (Student Model) เพื่อเพิ่มขีดความสามารถในการเรียนรู้และรักษาความแม่นยำให้ใกล้เคียงกับโมเดลต้นแบบ ผลการดำเนินงานและประโยชน์ ผลการศึกษาพบว่าโมเดลที่พัฒนาด้วยเทคนิค NAS ร่วมกับ KD สามารถลดจำนวนพารามิเตอร์และขนาดของหน่วยความจำลงได้อย่างมีนัยสำคัญ เมื่อเปรียบเทียบกับโมเดลมาตรฐานทั่วไป โดยยังคงรักษาความแม่นยำในระดับสูงไว้ได้ โครงงานนี้ไม่เพียงแต่แสดงถึงความเป็นไปได้ในการเพิ่มประสิทธิภาพ AI สำหรับอุปกรณ์ทรัพยากรจำกัด แต่ยังเป็นรากฐานสำคัญในการพัฒนานวัตกรรมด้าน AI Application ที่ตอบโจทย์การใช้งานในระดับ Edge Computing และเทคโนโลยีอัจฉริยะในอนาคต