Boom Field Lab

Model risk ที่ต้องออกแบบไว้ตั้งแต่วันแรกของ fintech — ยุคที่ AI agent เขียนโค้ดและสรุปเอกสารให้

model risk ไม่ได้หายไปเมื่อใช้ AI มันแค่เปลี่ยนรูป: โมเดลผิดเอง หรือถูกใช้ผิดบริบท ยุค AI agent เพิ่มกล่องดำ ดริฟต์ และการพึ่งเกิน สรุปหลักจาก SR 11-7 และแนวนโยบาย ธปท. ปี 2568 เรื่องการบริหารความเสี่ยง AI แล้วแปลงเป็น 4 control ที่ใส่ใน product ได้จริง พร้อมตัวเลขจากระบบที่ใช้สร้าง Terminal

โดย วรัญชัย ยิ่งคำนึง (Boom) · เผยแพร่ครั้งแรก · ตรวจทานล่าสุด

ห้องประชุมกระจกของธนาคารยามค่ำคืน เก้าอี้ว่างรอบโต๊ะยาว พร้อมข้อความ AI เก่งขึ้น ความเสี่ยงไม่ได้ลดลง

ผมทำงาน validate โมเดลในแบงก์มาก่อนจะมาสร้าง Boom Leverage Terminal สิ่งที่พกติดตัวมามากที่สุดไม่ใช่เทคนิคสถิติ แต่เป็นคำถามเดียว: "ถ้ามันผิด เราจะรู้ตัวไหม และรู้ทันหรือเปล่า" บทความนี้เขียนใหม่จากฉบับเดือนพฤษภาคม ให้เป็นความรู้ที่คนสร้าง fintech ใช้ได้ทันที — โดยเฉพาะเมื่อ AI agent ทั้งช่วยเขียนโค้ดและอยู่ในตัว product เอง

Model risk คืออะไรกันแน่?

แนวทางที่วงการธนาคารใช้เป็นหลักมานานคือ SR 11-7 ของ Federal Reserve (2011) ซึ่งแบ่งต้นเหตุของ model risk ไว้ 2 ข้อ: โมเดลมีข้อผิดพลาดพื้นฐานจนให้ผลไม่ตรงวัตถุประสงค์ และ

The model may be used incorrectly or inappropriately.

(SR 11-7 Attachment)

แผนภาพ 2 ต้นเหตุของ model risk: โมเดลผิดเอง และโมเดลถูกใช้ผิดบริบท ไหลไปสู่การตัดสินใจที่ผิด โดยยุค AI agent เพิ่มกล่องดำ ดริฟต์ และการพึ่งเกิน
2 ต้นเหตุของ model risk ตาม SR 11-7 และสิ่งที่ AI agent ทำให้หนักขึ้น · หลักการเดียวกันใช้ได้ตั้งแต่ regression ถึง LLM

หลักนี้ไม่ผูกกับเทคโนโลยี regression มี model risk และ LLM ก็มี สิ่งที่เปลี่ยนคือ ยิ่งโมเดลทำงานได้กว้าง พื้นที่ที่มัน "ผิดโดยเราไม่รู้ตัว" ก็ยิ่งใหญ่

AI agent ทำให้ความเสี่ยงแบบไหนหนักขึ้น?

ความเสี่ยงอาการตัวอย่างใน product การเงิน
กล่องดำคำตอบลื่นไหลแต่ตามรอยที่มาไม่ได้สรุป 56-1 ที่ฟังดูถูก แต่ชี้ไม่ได้ว่ามาจากหน้าไหน
ดริฟต์โลก/ข้อมูลเปลี่ยน ผลค่อยๆ เพี้ยนเงียบๆรูปแบบเอกสารเปลี่ยน ตัวแยกข้อความพลาดโดยไม่มี error
พึ่งเกินคนเลิกตั้งคำถามเพราะคำตอบดูเฉียบทีมเชื่อผลสรุปโดยไม่เปิดต้นฉบับ
ความผิดพลาดทบทอดagent ทำหลายขั้นต่อกัน ขั้นแรกพลาด ขั้นหลังขยายสกัดตัวเลขผิดตั้งแต่ต้น แล้วกราฟทั้งชุดผิดตาม

สามข้อแรกเสริมกันเอง: ระบบที่อธิบายไม่ได้ + ดริฟต์ที่มองไม่เห็น + คนที่เลิกตรวจ = ความผิดพลาดที่ไม่มีใครจับได้จนกว่าจะสาย

ผู้กำกับในไทยคาดหวังอะไร?

ธนาคารแห่งประเทศไทยออก แนวนโยบายเรื่อง การบริหารจัดการความเสี่ยงของการใช้งานระบบปัญญาประดิษฐ์ ลงวันที่ 12 กันยายน 2568 (ธปท.) ยึดหลัก FEAT — ความเป็นธรรม (fairness) จริยธรรม (ethics) ความรับผิดชอบ (accountability) และความโปร่งใส (transparency) — และแยกระดับการมีมนุษย์ร่วมไว้ชัด:

ระดับความหมายตามแนวนโยบาย
human in the loopมนุษย์ควบคุมหรือตัดสินใจทั้งหมด AI ให้คำแนะนำหรือข้อมูลเท่านั้น
human over the loopAI ทำงาน/ตัดสินใจอัตโนมัติได้ แต่มนุษย์กำกับดูแล และเข้าควบคุมหรือระงับได้เมื่อพบความผิดพลาด

ส่วนที่ตรงกับคนสร้าง product ด้วย generative AI ที่สุดคือข้อนี้:

การ์ดข้อความจากแนวนโยบาย ธปท. เรื่องการบริหารความเสี่ยง AI: ในการใช้ Generative AI มีแนวทางลดความเสี่ยงจากการที่ระบบให้ข้อมูลเท็จ (hallucination) เช่น การใช้เทคนิค retrieval-augmented generation เพื่อช่วยให้โมเดลมีแหล่งข้อมูลสำหรับอ้างอิง
แนวนโยบาย ธปท. เรื่องการบริหารจัดการความเสี่ยงของการใช้งานระบบ AI (12 ก.ย. 2568) ข้อ (2.3) หน้า 10 ของไฟล์ PDF · ตัดเชิงอรรถออก

ในการใช้ Generative AI มีแนวทางลดความเสี่ยงจากการที่ระบบให้ข้อมูลเท็จ (hallucination) เช่น การใช้เทคนิค retrieval-augmented generation เพื่อช่วยให้โมเดลมีแหล่งข้อมูลสำหรับอ้างอิง

ข้อถัดไปในเอกสารยังพูดถึงการให้ generative AI ระบุแหล่งอ้างอิงของเนื้อหา (referencing) ควบคู่กับผลลัพธ์ ซึ่งเป็นหลักเดียวกับที่ Terminal ใช้ตั้งแต่วันแรก แม้ Terminal ไม่ใช่สถาบันการเงินที่อยู่ใต้แนวนโยบายนี้ การออกแบบตามมาตรฐานที่ลูกค้าสถาบันถูกกำกับ ทำให้เขาใช้ของเราได้โดยไม่ต้องอธิบายเยอะ

4 control ที่ใส่ลงใน product ได้จริง

แผนภาพชั้น 4 control: ทุกบรรทัดชี้ต้นฉบับ, คนถือเบรก, เฝ้าหลังใช้, ตรวจก่อนใช้ ซึ่งมีตัวเลข 293 รอบ ตัดสินต้องแก้อย่างน้อย 185 รอบ
4 control ที่ใช้ใน Terminal และระบบที่ใช้สร้างมัน · ตัวเลขนับจาก log ของด่านตรวจแผน วัดเมื่อ 27 ก.ย. 2026
Controlในทางปฏิบัติตัวอย่างจากระบบจริง
ตรวจก่อนใช้ทดสอบกับเคสที่รู้คำตอบและเคสขอบก่อนปล่อย · แยกคนสร้างออกจากคนตรวจด่านตรวจแผน (adversarial gate) 293 รอบตั้งแต่ 26 พ.ค. 2026 · อย่างน้อย 185 รอบ (63%) ตัดสินว่าต้องแก้ก่อนทำ
เฝ้าหลังใช้วัดผลเป็นรอบ ตั้งสัญญาณเตือนเมื่อเบี่ยงวัดความสดของข้อมูลแต่ละหมวดและแจ้งเตือนเมื่อค้าง
คนถือเบรกงานผลกระทบสูงต้องมีคนที่หยุดได้จริงงานที่แตะเงินหรือเผยแพร่ต่อสาธารณะ ต้องให้เจ้าของระบบเคาะเอง
ทุกบรรทัดชี้ต้นฉบับแสดงแหล่งอ้างอิงคู่ผลลัพธ์ · ตรวจว่าถ้อยคำมีอยู่จริงถ้อยคำบริษัทพร้อมเลขหน้า (ดู pipeline หุ้นไทยของ Terminal)

ตัวเลข 63% น่าสนใจกว่าที่เห็น: แปลว่าแผนเกือบ 2 ใน 3 ที่ AI agent เสนอ มีจุดอ่อนที่ควรแก้ก่อนลงมือ ถ้าไม่มีด่านนี้ แผนพวกนั้นจะถูกลงมือทำไปแล้ว — นี่คือ validation ที่ทำงานจริง ไม่ใช่เอกสารที่ทำไว้ให้ผ่านการตรวจ (กลไกด่านแบบนี้คือส่วนหนึ่งของ harness ดู Harness คืออะไร)

สรุป

ยิ่ง AI เก่ง model risk ไม่ได้ลดลง มันแค่เดินทางเร็วขึ้นและซ่อนตัวเก่งขึ้น สำหรับคนสร้าง fintech ทางลัดคือออกแบบตามสิ่งที่ผู้กำกับคาดหวังตั้งแต่วันแรก: แยกคนสร้างกับคนตรวจ เฝ้าดูหลังปล่อย กำหนดว่าตรงไหนต้องมีคนถือเบรก และให้ทุกผลลัพธ์ชี้กลับแหล่งอ้างอิงได้ ของพวกนี้ใส่ทีหลังยากกว่าใส่ตั้งแต่แรกหลายเท่า

คำถามที่พบบ่อย

Model risk คืออะไร และเกิดจากอะไร
ตาม SR 11-7 ของ Federal Reserve (2011) model risk มี 2 ต้นเหตุ คือโมเดลมีข้อผิดพลาดพื้นฐานจนให้ผลไม่ตรงวัตถุประสงค์ และโมเดลถูกใช้อย่างไม่ถูกต้องหรือไม่เหมาะสม หลักนี้ไม่ผูกกับเทคโนโลยี ใช้ได้ตั้งแต่ regression ถึง LLM
AI agent ทำให้ model risk แบบไหนหนักขึ้น
บทความระบุ 4 แบบ คือกล่องดำที่คำตอบลื่นแต่ตามรอยที่มาไม่ได้ ดริฟต์ที่ผลค่อยๆ เพี้ยนเงียบๆ เมื่อข้อมูลเปลี่ยน การพึ่งเกินจนคนเลิกตั้งคำถาม และความผิดพลาดทบทอดเมื่อ agent ทำหลายขั้นต่อกัน สามข้อแรกเสริมกันจนเกิดความผิดพลาดที่ไม่มีใครจับได้
แนวนโยบาย ธปท. ปี 2568 เรื่องความเสี่ยงของการใช้ AI กำหนดอะไรไว้
แนวนโยบายลงวันที่ 12 ก.ย. 2568 ยึดหลัก FEAT คือความเป็นธรรม จริยธรรม ความรับผิดชอบ และความโปร่งใส แยกระดับ human in the loop กับ human over the loop และให้มีแนวทางลด hallucination ของ Generative AI เช่น ใช้ RAG ให้โมเดลมีแหล่งข้อมูลอ้างอิง รวมถึงระบุแหล่งอ้างอิงคู่กับผลลัพธ์
Human in the loop กับ human over the loop ต่างกันอย่างไร
ตามแนวนโยบาย ธปท. human in the loop คือมนุษย์ควบคุมหรือตัดสินใจทั้งหมด AI ให้แค่คำแนะนำหรือข้อมูล ส่วน human over the loop คือ AI ทำงานหรือตัดสินใจอัตโนมัติได้ แต่มนุษย์กำกับดูแลและเข้าควบคุมหรือระงับได้เมื่อพบความผิดพลาด
Control สำหรับ model risk ที่ใส่ใน fintech product ได้จริงมีอะไรบ้าง
บทความใช้ 4 control คือตรวจก่อนใช้ เฝ้าหลังใช้ คนถือเบรกสำหรับงานผลกระทบสูง และทุกบรรทัดชี้ต้นฉบับ ตัวอย่างคือด่านตรวจแผนที่นับถึง 27 ก.ย. 2026 มี 293 รอบตั้งแต่ 26 พ.ค. 2026 อย่างน้อย 185 รอบหรือ 63% ตัดสินว่าต้องแก้ก่อนลงมือ

อ่านต่อ

ห้องเก็บเอกสารมืดยามค่ำ มีแสงไฟส่องแฟ้มเอกสาร พร้อมข้อความ AI มโนได้ ต้องชี้ที่มาได้

ทำไม Terminal ต้องชี้เลขหน้าทุกบรรทัด — เมื่อ FINRA นับ AI hallucination เป็นความเสี่ยงที่มีชื่อ

รายงานกำกับดูแลปี 2026 ของ FINRA นิยาม hallucination ไว้ชัดและขอให้บริษัทเก็บ log ตรวจย้อนได้ นี่คือเหตุผลที่ Boom Leverage Terminal ออกแบบให้ทุกผลลัพธ์เป็นข้อความต้นฉบับพร้อมลิงก์ — และตัวเลขจริงว่าตอนนี้ทำได้ครบแค่ไหน (และตรงไหนยังไม่ครบ)

โต๊ะทำงานมืดยามค่ำ มีกราฟและเอกสารสินเชื่อภายใต้แสงไฟ พร้อมข้อความ โมเดลเครดิต ต้องพิสูจน์ได้ ไม่ใช่แค่แม่น

Data Science สาย Credit Risk: จากสมมติฐานสู่โมเดลที่ใช้ได้จริง — และวินัยเดียวกันที่ใช้สร้าง Terminal

งาน credit risk ไม่ใช่การไล่ accuracy แต่คือวงจร ตั้งคำถาม → สร้าง → พิสูจน์ → เฝ้าดู ที่ต้องตรวจย้อนได้ทุกขั้น บทความนี้เล่าวงจรนั้นจากงาน validation ในแบงก์ และตัวเลขจริงจาก Terminal ว่าหลัง TFRS 9 บริษัทไทยเขียนถึง expected credit loss ใน MD&A เพิ่มจาก 2 เป็น 163 บริษัท

ผู้เล่นหมากรุกสองคนนั่งเผชิญหน้าใต้โคมไฟดวงเดียว พร้อมข้อความ ให้ AI โจมตีแผนตัวเองก่อนลงมือ

ให้ AI โจมตีแผนตัวเองก่อนลงมือ: บันทึก 293 รอบของ adversarial gate ที่ใช้สร้าง Terminal

AI เห็นด้วยกับเราเก่งเกินไป ผมเลยให้โมเดลอีกตัวรับบท 'ฝ่ายค้าน' ตรวจทุกแผนสำคัญก่อนลงมือ บันทึกจริง 293 รอบ: ใน 200 รอบที่มีคำตัดสิน 191 รอบจบด้วยการแก้แผน พร้อมตัวอย่างจริงวันนี้ที่คำวิจารณ์เดียวเปลี่ยนวิธีตั้ง URL ของทั้งเว็บ

BOOM FIELD LAB

อยากเห็นว่าเครื่องมือพวกนี้ประกอบร่างเป็น Terminal จริงได้ยังไง?

Workshop สั้นจากเคสจริง — ดูการทำงานจริงบนหน้าจอ พร้อม Field Kit ให้ลงมือตาม ไม่ใช่สไลด์ทฤษฎี