ควบคุมค่าใช้จ่าย LLM: Token, Cache และการเลือกโมเดล
หลายทีมเริ่มใช้ LLM ในระบบจริงแล้วพบว่าบิลสิ้นเดือนสูงกว่าที่คิดไว้มาก สาเหตุส่วนใหญ่ไม่ได้มาจากผู้ใช้เยอะเกินไป แต่มาจากการส่งข้อมูลเกินจำเ…
บทเรียน บล็อก คอร์สออนไลน์ และกระทู้ถาม-ตอบ จากคนทำงานจริง — PHP, Yii2, JavaScript, Python, DevOps และอีกมากมาย
อ่านสั้น เข้าใจเร็ว เอาไปใช้กับงานได้ทันที
หลายทีมเริ่มใช้ LLM ในระบบจริงแล้วพบว่าบิลสิ้นเดือนสูงกว่าที่คิดไว้มาก สาเหตุส่วนใหญ่ไม่ได้มาจากผู้ใช้เยอะเกินไป แต่มาจากการส่งข้อมูลเกินจำเ…
ฟีเจอร์ AI มีนิสัยแปลกอย่างหนึ่ง คือแก้ prompt เพื่อให้คำถามข้อหนึ่งตอบดีขึ้น แล้วคำถามอีกสามข้อที่เคยตอบดีกลับแย่ลงโดยไม่มีใครรู้ เพราะเราท…
งานจำนวนมากที่เราอยากให้ AI ช่วยไม่ใช่การคุย แต่คือการ ดึงข้อมูล เช่น อ่านข้อความลูกค้าในแชตแล้วแยกออกมาว่าต้องการอะไร เลขคำสั่งซื้อคืออะไร…
LLM เก่งเรื่องเข้าใจภาษาและเรียบเรียงคำตอบ แต่ไม่รู้ว่าสินค้าในร้านเราเหลือกี่ชิ้น ราคาวันนี้เท่าไร หรือคำสั่งซื้อของลูกค้าถึงไหนแล้ว ความสา…
คำตอบจาก LLM ที่ยาวสักหน่อยอาจใช้เวลาสร้างหลายวินาทีจนถึงหลายสิบวินาที ถ้าเรารอจนเสร็จแล้วค่อยส่งทั้งก้อน ผู้ใช้จะเห็นหน้าจอนิ่งพร้อม spinne…
ถ้าระบบของคุณใช้ PostgreSQL อยู่แล้ว ไม่จำเป็นต้องเพิ่ม vector database อีกตัวเพื่อทำ semantic search หรือ RAG เพราะมี extension ชื่อ pgvect…
เรียนเป็นระบบ มีบทเรียนวิดีโอและแบบฝึกหัด