Model risk ที่ต้องออกแบบไว้ตั้งแต่วันแรกของ fintech — ยุคที่ AI agent เขียนโค้ดและสรุปเอกสารให้

model risk ไม่ได้หายไปเมื่อใช้ AI มันแค่เปลี่ยนรูป: โมเดลผิดเอง หรือถูกใช้ผิดบริบท ยุค AI agent เพิ่มกล่องดำ ดริฟต์ และการพึ่งเกิน สรุปหลักจาก SR 11-7 และแนวนโยบาย ธปท. ปี 2568 เรื่องการบริหารความเสี่ยง AI แล้วแปลงเป็น 4 control ที่ใส่ใน product ได้จริง พร้อมตัวเลขจากระบบที่ใช้สร้าง Terminal

โดย วรัญชัย ยิ่งคำนึง (Boom) · เผยแพร่ครั้งแรก 28 พฤษภาคม 2569 · ตรวจทานล่าสุด 27 กันยายน 2569

ผมทำงาน validate โมเดลในแบงก์มาก่อนจะมาสร้าง Boom Leverage Terminal สิ่งที่พกติดตัวมามากที่สุดไม่ใช่เทคนิคสถิติ แต่เป็นคำถามเดียว: "ถ้ามันผิด เราจะรู้ตัวไหม และรู้ทันหรือเปล่า" บทความนี้เขียนใหม่จากฉบับเดือนพฤษภาคม ให้เป็นความรู้ที่คนสร้าง fintech ใช้ได้ทันที — โดยเฉพาะเมื่อ AI agent ทั้งช่วยเขียนโค้ดและอยู่ในตัว product เอง

Model risk คืออะไรกันแน่?

แนวทางที่วงการธนาคารใช้เป็นหลักมานานคือ SR 11-7 ของ Federal Reserve (2011) ซึ่งแบ่งต้นเหตุของ model risk ไว้ 2 ข้อ: โมเดลมีข้อผิดพลาดพื้นฐานจนให้ผลไม่ตรงวัตถุประสงค์ และ

The model may be used incorrectly or inappropriately.

(SR 11-7 Attachment)

หลักนี้ไม่ผูกกับเทคโนโลยี regression มี model risk และ LLM ก็มี สิ่งที่เปลี่ยนคือ ยิ่งโมเดลทำงานได้กว้าง พื้นที่ที่มัน "ผิดโดยเราไม่รู้ตัว" ก็ยิ่งใหญ่

AI agent ทำให้ความเสี่ยงแบบไหนหนักขึ้น?

สามข้อแรกเสริมกันเอง: ระบบที่อธิบายไม่ได้ + ดริฟต์ที่มองไม่เห็น + คนที่เลิกตรวจ = ความผิดพลาดที่ไม่มีใครจับได้จนกว่าจะสาย

ผู้กำกับในไทยคาดหวังอะไร?

ธนาคารแห่งประเทศไทยออก แนวนโยบายเรื่อง การบริหารจัดการความเสี่ยงของการใช้งานระบบปัญญาประดิษฐ์ ลงวันที่ 12 กันยายน 2568 (ธปท.) ยึดหลัก FEAT — ความเป็นธรรม (fairness) จริยธรรม (ethics) ความรับผิดชอบ (accountability) และความโปร่งใส (transparency) — และแยกระดับการมีมนุษย์ร่วมไว้ชัด:

ส่วนที่ตรงกับคนสร้าง product ด้วย generative AI ที่สุดคือข้อนี้:

ในการใช้ Generative AI มีแนวทางลดความเสี่ยงจากการที่ระบบให้ข้อมูลเท็จ (hallucination) เช่น การใช้เทคนิค retrieval-augmented generation เพื่อช่วยให้โมเดลมีแหล่งข้อมูลสำหรับอ้างอิง

ข้อถัดไปในเอกสารยังพูดถึงการให้ generative AI ระบุแหล่งอ้างอิงของเนื้อหา (referencing) ควบคู่กับผลลัพธ์ ซึ่งเป็นหลักเดียวกับที่ Terminal ใช้ตั้งแต่วันแรก แม้ Terminal ไม่ใช่สถาบันการเงินที่อยู่ใต้แนวนโยบายนี้ การออกแบบตามมาตรฐานที่ลูกค้าสถาบันถูกกำกับ ทำให้เขาใช้ของเราได้โดยไม่ต้องอธิบายเยอะ

4 control ที่ใส่ลงใน product ได้จริง

ตัวเลข 63% น่าสนใจกว่าที่เห็น: แปลว่าแผนเกือบ 2 ใน 3 ที่ AI agent เสนอ มีจุดอ่อนที่ควรแก้ก่อนลงมือ ถ้าไม่มีด่านนี้ แผนพวกนั้นจะถูกลงมือทำไปแล้ว — นี่คือ validation ที่ทำงานจริง ไม่ใช่เอกสารที่ทำไว้ให้ผ่านการตรวจ (กลไกด่านแบบนี้คือส่วนหนึ่งของ harness ดู Harness คืออะไร)

สรุป

ยิ่ง AI เก่ง model risk ไม่ได้ลดลง มันแค่เดินทางเร็วขึ้นและซ่อนตัวเก่งขึ้น สำหรับคนสร้าง fintech ทางลัดคือออกแบบตามสิ่งที่ผู้กำกับคาดหวังตั้งแต่วันแรก: แยกคนสร้างกับคนตรวจ เฝ้าดูหลังปล่อย กำหนดว่าตรงไหนต้องมีคนถือเบรก และให้ทุกผลลัพธ์ชี้กลับแหล่งอ้างอิงได้ ของพวกนี้ใส่ทีหลังยากกว่าใส่ตั้งแต่แรกหลายเท่า