22–23, 25–26 มิถุนายน
AI Deployment & Infrastructure
วิทยากร
Muhammad Usman
Lead Growth Strategist, Developer Ecosystem, Embedded LLM
Jeff Aw
Principal Software Engineer, Embedded LLM
กำหนดการ
Foundations, Architecture, & Infrastructure
09:00 – 10:00
How to Design an Integrated AI Solution Ready for Deployment
เรียนรู้แนวคิดการออกแบบระบบ AI แบบครบวงจร ตั้งแต่การกำหนดปัญหา การเลือกโมเดล การจัดการข้อมูล การเชื่อมต่อกับระบบอื่น และการเตรียมระบบให้พร้อมสำหรับการนำไปใช้งานจริง
10:00 – 10:45
Deployment Architectures: Cloud-Native vs On-Prem
เปรียบเทียบสถาปัตยกรรมการ Deploy ระบบ AI ระหว่าง Cloud-Native และ On-Premise พร้อมทำความเข้าใจข้อดี ข้อจำกัด ต้นทุน ความยืดหยุ่น และบริบทที่เหมาะสมของแต่ละแนวทาง
10:45 – 11:00
Break 1
11:00 – 12:00
Large Language Models (LLMs): What, Types & Practical Use
แนะนำพื้นฐานของ Large Language Models ประเภทของโมเดลภาษา และตัวอย่างการประยุกต์ใช้งานจริง เช่น Chatbot, Knowledge Assistant, Content Generation และการช่วยวิเคราะห์ข้อมูล
12:00 – 13:00
Lunch Break
13:00 – 14:30
Introduction to vLLM & Open-Source Inferencing
เรียนรู้แนวคิดของการให้บริการโมเดลแบบ Open-Source Inferencing และทำความเข้าใจบทบาทของ vLLM ในการเพิ่มประสิทธิภาพการรัน LLM เช่น throughput, latency และการจัดการ request จำนวนมาก
14:30 – 14:45
Break 2
14:45 – 16:00
Introduction to JamAI Base & Its Technical Architecture
แนะนำ JamAI Base และสถาปัตยกรรมทางเทคนิคของระบบ เพื่อให้เห็นภาพการเชื่อมต่อระหว่างโมเดล ข้อมูล API การประมวลผล และการนำไปใช้งานในรูปแบบ AI Application