03 / GOVERNANCE
โมเดลเสนอได้ แต่อำนาจอนุญาตอยู่ที่ระบบควบคุม
AI ใช้เหตุผลได้ยืดหยุ่น แต่การทำงานกับระบบจริงต้องอยู่ภายใต้การควบคุม Identity สิทธิ์ และการอนุมัติมาจาก Execution Layer ที่เชื่อถือได้ ไม่ได้มาจากสิ่งที่ LLM พูด
ลองดูขอบเขตการอนุญาต
สิทธิ์ Staging ไม่รวม Production
การดำเนินการที่เสนออาจมีประโยชน์ แต่ยังไม่ได้รับอนุญาต ต้องตรวจสอบนโยบายก่อนดำเนินการ ไม่ใช่ภายหลัง
การร้องขอไม่ได้แปลว่ามีสิทธิ์
ตัวอย่างจำลองเท่านั้น ทำงานในเบราว์เซอร์และไม่ได้เชื่อมต่อ Infrastructure ใด ลองตรวจสอบคำขอ แล้วจำลองการอนุมัติ Revision นั้นในบทบาทผู้ตรวจสอบ
- Identity จากระบบที่เชื่อถือได้
workflow-agent-17- ขอบเขตที่ได้รับอนุญาต
staging/*
การดำเนินการ: restart
การอนุมัติมีผลเฉพาะเป้าหมาย การดำเนินการ และ Revision ที่แสดงด้านบน
ปฏิเสธ · production/payment-api อยู่นอกขอบเขต staging/* และยังไม่มีการอนุมัติโดยมนุษย์
หลักฐานจำลอง: Identity workflow-agent-17 เป้าหมาย Revision ผลตรวจนโยบาย และขอบเขตการอนุมัติ หลังดำเนินการจริงต้องตรวจสอบสถานะที่เกิดขึ้นเทียบกับสิ่งที่อนุมัติ และจัดการความคลาดเคลื่อน
คำขอ restart production/payment-api จาก workflow-agent-17 ที่มีสิทธิ์เฉพาะ staging/* จะถูกปฏิเสธ การอนุมัติโดยมนุษย์ที่ระบุเป้าหมายนี้ การดำเนินการ restart และ Revision 182 อนุญาตได้เฉพาะคำขอที่ตรงกัน Identity และสิทธิ์ถูกบังคับใช้โดย Execution Layer ที่เชื่อถือได้ ไม่ได้มาจากสิ่งที่ LLM อ้าง
สิ่งที่ระบบควบคุมต้องรักษา
ตรวจสอบคำขอ เก็บหลักฐานให้ครบ
กำหนดการควบคุมของแต่ละ Workflow เป็นส่วนหนึ่งของการเชื่อมระบบ รวมถึงวิธีหยุดและผู้มีสิทธิ์อนุมัติข้อยกเว้น
Identity และ Authorization
ใช้ Workload Identity ที่เชื่อถือได้และสิทธิ์ที่กำหนดชัดเจน โมเดลไม่ได้รับสิทธิ์ของ Agent อื่นเพียงเพราะอ้างชื่อของ Agent นั้น
Scope และ Approval
ผูกการใช้เครื่องมือและการเปลี่ยนแปลงกับเป้าหมาย การดำเนินการ และ Revision ที่อนุมัติ เมื่อสิ่งที่ต้องการทำเปลี่ยน ต้องขออนุมัติใหม่
State และ Audit
บันทึกคำขอ ผลตรวจนโยบาย การอนุมัติ และผลการดำเนินการ เพื่อให้ผู้ตรวจสอบย้อนดูได้ว่าอนุญาตอะไรและเกิดอะไรขึ้น
ตรวจสอบและ Reconcile
เปรียบเทียบสถานะที่เกิดขึ้นกับสิ่งที่อนุมัติ แสดงความล้มเหลวบางส่วน การเปลี่ยนแปลงที่ไม่คาดคิด และผลลัพธ์ที่ยังไม่ชัดเจนเพื่อให้ผู้รับผิดชอบติดตาม
ตรวจสอบตามความเสี่ยงและข้อยกเว้น
ใช้ความสนใจของมนุษย์กับสิ่งที่สำคัญ
AI จัดการปริมาณงาน มนุษย์ใช้วิจารณญาณ เงื่อนไขส่งตรวจสอบต้องชัดเจน ไม่ใช่ให้เชื่อคะแนนความมั่นใจโดยไม่ตรวจหลักฐาน
ผลลัพธ์ปกติ
ดำเนินการตามนโยบายที่อนุมัติไว้
ธุรกรรมมูลค่าสูง
ต้องให้มนุษย์ตรวจสอบ
หลักฐานไม่ครบ / ข้อมูลขัดแย้ง
หยุดและส่งให้ผู้รับผิดชอบตรวจสอบ
ความเชื่อมั่นต่ำ
ส่งต่อแทนการคาดเดา
ขัดต่อนโยบาย
ระงับการดำเนินการและส่งตรวจสอบ
ผลกระทบเป็นวงกว้าง
ต้องได้รับอนุมัติอย่างชัดเจน
เริ่มจากระบบของคุณ บอกเราว่าอยากให้งานส่วนไหนเดินหน้าได้
ไม่ว่าจะเป็นการตัดสินใจด้าน Infrastructure การย้ายระบบ หรือ Workflow ที่อยากให้ AI ช่วย เริ่มจากปัญหา ข้อมูลที่มี และผลลัพธ์ที่ต้องการ โดยยังไม่ต้องเลือกโมเดลหรือ Framework