การกำกับดูแลโดยมนุษย์ในกล้อง AI คือการจัดให้คนตรวจ แก้ หรือระงับผลของระบบก่อนมีผลต่อตัวบุคคล ไม่ใช่แค่มีคนนั่งดูจอ ข้อ 3.3.6 ของแนวปฏิบัติ สกมช. ระบุว่าไม่ควรเชื่อผลโดยอัตโนมัติ บทความนี้สำหรับผู้บริหารและหัวหน้า รปภ. ที่ต้องรู้ว่ากล้องแจ้งเตือนผิดแล้วใครรับผิดชอบ
- ข้อ 3.3.5: ให้ดูประเภทและผลของความผิดพลาด ไม่ใช่แค่ความแม่นยำรวม มีสี่แบบ เช่น แจ้งเตือนผิดและระบุตัวบุคคลผิด
- ข้อ 3.3.6: ผู้ปฏิบัติงานควรเข้าใจข้อจำกัด ตรวจหลักฐานเพิ่ม ไม่เชื่อผลอัตโนมัติ และแทรกแซงหรือระงับผลได้
- ข้อ 4.3.6: ‘มีคนตรวจสอบ’ ไม่พอ ต้องออกแบบไม่ให้คนทำได้แค่กดยืนยันผลของ AI สำหรับผลที่กระทบสูง
- ข้อ 4.3.5: ยิ่ง AI มีอำนาจดำเนินการมาก มาตรการควบคุมยิ่งต้องเพิ่ม และไม่ควรให้อำนาจเกินที่กรณีใช้งานต้องการ
- แนวปฏิบัติ สกมช. ไม่มีสภาพบังคับใช้ และไม่ได้ตัดสินความรับผิดทางกฎหมาย ส่วนนั้นต้องดูกฎหมายและสัญญาเป็นรายกรณี
สมมติว่ากล้องที่ลานจอดรถของคอนโดแจ้งเตือนว่ามีคนแปลกหน้าเข้ามาวนเวียน เจ้าหน้าที่ รปภ. ได้ยินเสียงเตือนตอนกำลังตรวจชั้นล่าง จึงโทรสั่งให้ลูกบ้านรายหนึ่งแสดงตัว ที่แท้เป็นผู้อยู่อาศัยจริงที่เพิ่งย้ายเข้ามา ระบบยังไม่มีข้อมูลของเขา คำถามคือเหตุครั้งนี้ใครผิด กล้อง ผู้ขายระบบ รปภ. หรือนิติบุคคล
แนวปฏิบัติของสำนักงานคณะกรรมการการรักษาความมั่นคงปลอดภัยไซเบอร์แห่งชาติ (สกมช.) ฉบับกล้องวงจรปิดที่ใช้ AI ไม่ได้ตอบว่าใครต้องรับผิดตามกฎหมาย แต่ให้วิธีคิดที่ทำให้คำตอบหาได้ คือกำหนดล่วงหน้าว่าใครต้องตรวจอะไร ก่อนใช้ผลของ AI ในเรื่องที่กระทบตัวคน
บทความนี้อ่านข้อ 3.3.5 ถึง 3.3.7 ข้อ 3.3.10 และบทที่ 4.3.5–4.3.6 ของแนวปฏิบัติฉบับนั้น คู่กับ พ.ร.บ.คุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562 (PDPA) และแนวทางการใช้ AI ของสำนักงานคณะกรรมการคุ้มครองข้อมูลส่วนบุคคล (สคส.) ส่วนเรื่องสแกนใบหน้าและข้อมูลชีวมิติโดยเฉพาะ อ่านต่อที่ กล้องสแกนใบหน้าพนักงาน ต้องมีเหตุผลแค่ไหนจึงใช้ได้
กล้อง AI ผิดพลาดได้กี่แบบ และแต่ละแบบเกิดอะไรกับคน?
ข้อ 3.3.5 ไล่ความผิดพลาดไว้สี่แบบ คือ แจ้งเตือนผิด (False Positive) ตรวจไม่พบเหตุที่ควรพบ (False Negative) จำแนกผิด และระบุบุคคลผิด แต่ละแบบทำร้ายคนคนละทาง แบบแรกทำให้คนบริสุทธิ์ถูกเรียกตรวจ แบบที่สองทำให้เหตุจริงหลุดไป
ความผิดพลาดของ AI อาจทำให้บุคคลถูกตรวจจับ จำแนก ติดตาม หรือระบุอย่างไม่ถูกต้องโดยเฉพาะเมื่อผลลัพธ์ถูกนำไปใช้ในการตัดสินใจหรือดำเนินการที่มีผลต่อบุคคล
องค์กรจึงไม่ควรประเมินเพียงค่าความแม่นยำโดยรวม แต่ควรพิจารณาประเภทและผลกระทบของความผิดพลาด
ตัวเลขความแม่นยำรวมจึงตอบไม่ได้ว่าระบบปลอดภัยพอ ระบบที่แม่นยำ 99 เปอร์เซ็นต์ (ตัวเลขสมมติ) ที่ผิดอีกหนึ่งเปอร์เซ็นต์บนเรื่องสำคัญ อาจอันตรายกว่าระบบที่แม่นยำน้อยกว่าแต่ผลลัพธ์ทุกครั้งมีคนตรวจก่อน ข้อนี้ยังให้ดูสภาพแวดล้อมจริง คุณภาพของภาพ ลักษณะของกลุ่มคนที่เกี่ยวข้อง และผลที่ตามมาเมื่อระบบผิดด้วย
ข้อมูลที่ AI สร้างผิด ก็ยังเป็นข้อมูลส่วนบุคคลของคนคนนั้น
ความเห็นของผู้เขียน ซึ่งผู้อ่านควรตรวจกับนักกฎหมายของตนเองเพิ่มเติม คือ ถ้าระบบสร้างผลที่ระบุตัวบุคคลได้ เช่น ‘คนนี้ตรงกับรายชื่อเฝ้าระวัง’ ผลนั้นก็เป็นข้อมูลส่วนบุคคลที่ผู้ควบคุมข้อมูลถืออยู่ มาตรา 35 ของ PDPA จึงเกี่ยวข้อง เพราะให้ผู้ควบคุมข้อมูลดำเนินการให้ข้อมูลถูกต้อง เป็นปัจจุบัน สมบูรณ์ และไม่ก่อให้เกิดความเข้าใจผิด
ผู้ควบคุมข้อมูลส่วนบุคคลต้องดำเนินการให้ข้อมูลส่วนบุคคลนั้นถูกต้อง เป็นปัจจุบัน สมบูรณ์ และไม่ก่อให้เกิดความเข้าใจผิด
เมื่อเจ้าของข้อมูลร้องขอให้แก้ให้ถูกต้องตามมาตรา 35 แล้วผู้ควบคุมไม่ทำตาม มาตรา 36 ให้บันทึกคำร้องพร้อมเหตุผลไว้ในรายการตามมาตรา 39 ดังนั้น องค์กรที่ใช้ผลระบุตัวบุคคลของกล้อง AI ควรมีช่องทางรับคำโต้แย้งและแก้ผลที่ผิดจริง ไม่ใช่แค่ปล่อยให้บันทึกผิดอยู่ในระบบ
คนต้องดูแค่ไหนจึงนับว่ากำกับดูแลจริง?
ต้องดูจนทำอะไรได้ ไม่ใช่ดูเพื่อให้มีลายเซ็นคนรับรอง ข้อ 3.3.6 และข้อ 4.3.6 ของแนวปฏิบัติเขียนตรงกันว่า การมีคนตรวจต้องไปพร้อมกับความสามารถที่จะแก้หรือหยุดผลของ AI
กรณีที่ผลลัพธ์ของ AI อาจมีผลกระทบต่อบุคคล ควรจัดให้มีการกำกับดูแลโดยมนุษย์ในระดับที่เหมาะสมกับความเสี่ยง
ข้อ 3.3.6 ไล่ไว้ห้าอย่างที่ผู้ปฏิบัติงานควรทำได้ เป็นรายการที่เอาไปใช้เป็นแบบประเมินหัวหน้างานได้ทันที
- เข้าใจว่าผลของ AI หมายถึงอะไรและมีข้อจำกัดอย่างไร
- ตรวจข้อมูลหรือหลักฐานประกอบก่อนดำเนินการเมื่อจำเป็น
- หลีกเลี่ยงการเชื่อผลของ AI โดยอัตโนมัติ
- แทรกแซง แก้ไข หรือระงับการใช้ผลเมื่อพบความผิดปกติ
- ส่งต่อหรือยกระดับให้ผู้มีอำนาจเมื่อผลกระทบเกินหน้าที่ของตน
ค่าความเชื่อมั่น (Confidence Score) ไม่ควรถูกตีความว่าเป็นหลักฐานยืนยันความถูกต้องของผลลัพธ์โดยอัตโนมัติ
ข้อ 4.3.6 ซึ่งว่าด้วยการออกแบบ ไปไกลกว่านั้น โดยบอกว่าคำว่า ‘มีคนตรวจสอบ’ เป็นการกำหนดที่ยังหยาบเกินไป
การกำกับดูแลโดยมนุษย์ไม่ควรถูกกำหนดเพียงว่า “มีคนตรวจสอบ” แต่ควรออกแบบให้บุคคลสามารถดำเนินการได้จริง
แนวปฏิบัติให้ตอบหกคำถามต่อไปนี้ตามระดับความเสี่ยง ใครตรวจสอบ ตรวจเมื่อใด เห็นข้อมูลอะไร อนุมัติหรือปฏิเสธได้หรือไม่ หยุดหรือจำกัด AI ได้หรือไม่ และต้องยกระดับให้ใคร ถ้าหัวหน้า รปภ. ตอบหกข้อนี้ได้โดยไม่ต้องเปิดคู่มือ ก็แปลว่าขั้นตอนมีอยู่จริง
สำหรับผลลัพธ์ที่มีผลกระทบสูง ผู้ตรวจสอบควรได้รับข้อมูลที่เพียงพอต่อการตัดสินใจ และไม่ควรถูกบังคับโดยการออกแบบระบบให้ทำได้เพียงยืนยันผลลัพธ์ของ AI โดยไม่มีทางเลือกที่เหมาะสม
ประโยคนี้ตรงกับภาพที่เห็นบ่อยในซอฟต์แวร์ คือหน้าจอที่มีปุ่ม ‘ยืนยัน’ ปุ่มเดียวใหญ่ ๆ ส่วนปุ่มปฏิเสธซ่อนอยู่ในเมนู หรือไม่มีช่องให้เขียนเหตุผลที่ไม่เห็นด้วย ถ้าผู้ใช้ไม่มีทางเลือกอื่น การตรวจของคนนั้นก็เป็นแค่พิธีกรรม
แนวทางการใช้ AI ของ สคส. พูดเรื่องเดียวกันจากมุมของข้อมูลส่วนบุคคล โดยนิยามว่าการทบทวนโดยมนุษย์ที่ ‘มีความหมาย’ ต้องครบสามเงื่อนไข
การทบทวนโดยมนุษย์จะถือว่ามีความหมาย (Meaningful Human Review) ต่อเมื่อผู้ทบทวน (1) พิจารณาผลลัพธ์ของระบบประกอบข้อมูลและปัจจัยอื่นเพิ่มเติมภายหลังจากที่ระบบให้ผลลัพธ์ (2) มีอำนาจหน้าที่และความรู้ความสามารถเพียงพอที่จะกลับหรือแก้ไขผลของระบบได้จริง และ (3) ได้รับการฝึกอบรมให้รู้เท่าทันความเสี่ยงจากการคล้อยตามระบบ (Automation Bias) ทั้งนี้ การให้มนุษย์เพียงยืนยันผลของระบบ (Rubber-stamping) ไม่ควรถือเป็นการทบทวนที่มีความหมาย และทำให้การตัดสินใจนั้นยังคงมีลักษณะเป็นการตัดสินใจอัตโนมัติตามข้อเท็จจริง
เอกสารของ สคส. ฉบับนี้ก็เป็นแนวทาง ไม่ใช่กฎหมาย แต่ช่วยให้เห็นว่าคำถามเรื่องการตัดสินใจอัตโนมัติ ที่บทความ ลูกค้าขอให้คนทบทวนผลที่ AI ตัดสิน ตอบไว้ในมุมของงานบริการ ก็ใช้ได้กับงานกล้องเช่นกัน ถ้าผลของกล้องกระทบสิทธิหรือการจ้างงาน ต้องดู AI ในงานสรรหาและประเมินพนักงาน เพิ่มด้วย
ผลของ AI มีอำนาจแค่ไหน และใครต้องตรวจก่อนใช้?
ข้อ 3.1.4 เรียงอำนาจของผลลัพธ์ AI เป็นหกระดับ เริ่มจากให้ข้อมูล (Inform) แจ้งเตือน (Alert) เสนอแนะ (Recommend) สนับสนุนการตัดสินใจ (Decision Support) กระตุ้นการดำเนินการ (Trigger) และดำเนินการโดยอัตโนมัติ (Automated Action) ข้อ 4.3.5 ให้ออกแบบโดยบอกให้ชัดว่าผลของ AI อยู่ระดับไหน แล้วเพิ่มการควบคุมตามระดับ
เมื่อผลลัพธ์ของ AI มีอำนาจเพิ่มขึ้น มาตรการควบคุมควรเพิ่มขึ้นตามความเสี่ยง
สำหรับระดับ Trigger และ Automated Action ข้อ 4.3.5 ให้กำหนดเจ็ดเรื่อง คือ ระบบหรือการดำเนินการที่ AI กระตุ้นได้ เงื่อนไขก่อนดำเนินการ สิทธิที่ใช้ ขอบเขตการดำเนินการ (Action Boundary) การตรวจหรืออนุมัติโดยบุคคล วิธีระงับหรือหยุด และหลักฐานที่ต้องบันทึก ท้ายข้อมีหลักที่สั้นและตรงที่สุดข้อหนึ่ง
ไม่ควรให้ AI มีสิทธิหรืออำนาจมากกว่าที่จำเป็นต่อกรณีใช้งาน
ระบบที่มีผลกระทบสูงไม่ควรนำผลลัพธ์จาก AI ไปก่อให้เกิดการดำเนินการที่มีผลกระทบสูงโดยอัตโนมัติ หากไม่มีมาตรการตรวจสอบ จำกัดสิทธิ กำกับดูแล และจำกัดผลกระทบที่เหมาะสม
ตารางต่อไปนี้เป็นข้อเสนอของผู้เขียนเพื่อใช้เป็นต้นแบบเริ่มคิด ไม่ใช่ข้อกำหนดของแนวปฏิบัติหรือของกฎหมาย และเหตุการณ์ในคอลัมน์ขวาเป็นเหตุสมมติทั้งหมด องค์กรควรปรับตามพื้นที่ ความเสี่ยง และกฎหมายที่เกี่ยวข้องของตน
| ผลที่ AI ให้ | ใครหรือขั้นไหนควรตรวจก่อนใช้ | ตัวอย่างเหตุที่ตัดสินผิด (สมมติ) |
|---|---|---|
| แจ้งเตือนมีคนเข้าเขตหวงห้ามตอนกลางคืน (Alert) | เจ้าหน้าที่ รปภ. ดูภาพสดหรือภาพย้อนหลังสั้น ๆ ก่อนออกไปตรวจหรือโทรแจ้งตำรวจ | เงาของต้นไม้ในคืนที่ลมแรง ทำให้ระบบเตือนซ้ำจน รปภ. เริ่มเมินการเตือน |
| ระบุว่าคนนี้ตรงกับบัญชีเฝ้าระวัง (Recommend หรือ Decision Support) | ผู้มีอำนาจตัดสินใจเทียบภาพกับข้อมูลอื่นก่อนห้ามเข้า ยึดของ หรือแจ้งความ ไม่ใช่แค่ผู้ปฏิบัติงานหน้าจอ | ลูกค้าหน้าคล้ายอีกคนถูกห้ามเข้าร้านต่อหน้าคนอื่น |
| สแกนใบหน้าเพื่อเปิดประตูหรือลงเวลา (Trigger) | ต้องมีทางเลือกที่ไม่ใช้ใบหน้า เช่น บัตรหรือรหัส และผู้ดูแลต้องตรวจเมื่อคนถูกปฏิเสธซ้ำ | พนักงานที่เพิ่งตัดผมเข้าห้องไม่ได้ และถูกบันทึกว่ามาสาย |
| อ่านป้ายทะเบียนเพื่อเรียกเก็บค่าจอดหรือปรับ (Trigger) | เจ้าหน้าที่ตรวจภาพป้ายจริงก่อนออกใบแจ้งหนี้ และมีช่องให้เจ้าของรถโต้แย้ง | ระบบอ่านเลข 8 เป็น 3 ทำให้ส่งใบแจ้งหนี้ถึงคนผิด |
| ติดป้ายว่าพฤติกรรม ‘น่าสงสัย’ ของคนที่เดินในร้านหรือในโรงงาน (Recommend) | ห้ามใช้เป็นหลักฐานเดียวในการลงโทษทางวินัย ต้องมีหัวหน้างานกับฝ่ายบุคคลดูพยานหลักฐานอื่นประกอบ | พนักงานที่ยืนรอเพื่อนนานเกินกำหนด ถูกตั้งธงว่าน่าสงสัย |
| สั่งปิดล็อกประตูหรือส่งเรื่องเข้าระบบอื่นเอง (Automated Action) | ต้องจำกัดสิทธิ กำหนดขอบเขตที่สั่งได้ มีปุ่มหยุดที่คนเข้าถึงได้เสมอ และบันทึกทุกครั้ง | ระบบล็อกทางออกฉุกเฉินเพราะแจ้งเตือนผิด ทำให้คนออกไม่ได้ชั่วคราว |
แถวสุดท้ายคือแถวที่แนวปฏิบัติระวังที่สุด ในข้อ 3.1.5 แนวปฏิบัติอธิบายว่าความผิดพลาดของ AI ที่ถูกส่งต่อเข้ากระบวนงานอัตโนมัติหรือ API ของระบบอื่น จะขยายผลกระทบออกนอกระบบกล้องได้เร็วกว่าที่คนจะทันดู และข้อ 3.1.6 จึงให้จำกัดสิทธิ แยกการวิเคราะห์ออกจากการสั่งการ และกำหนดสภาวะปลอดภัยเมื่อระบบเชื่อไม่ได้
ใครรับผิดชอบเมื่อ AI ตัดสินผิด?
แนวปฏิบัติตอบในเชิงการบริหารงาน ไม่ใช่เชิงคดี คือองค์กรต้องระบุตัวผู้รับผิดชอบต่อการใช้ AI ไว้ล่วงหน้า และไม่ควรปล่อยให้ใช้ AI ทำให้หาตัวผู้รับผิดชอบไม่ได้
องค์กรควรกำหนดผู้รับผิดชอบต่อการใช้ AI และจัดให้มีการกำกับดูแลโดยมนุษย์ในระดับที่เหมาะสมกับผลกระทบของระบบ
การใช้ AI ไม่ควรทำให้ความรับผิดชอบต่อการตัดสินใจหรือผลกระทบที่เกิดขึ้นไม่สามารถระบุได้
ในทางปฏิบัติ ความรับผิดชอบที่ระบุไม่ได้เกิดจากสามช่องว่างที่เจอบ่อย ช่องแรกคือผู้ขายระบบบอกว่าตั้งค่าตามที่ลูกค้าสั่ง ช่องที่สองคือ รปภ. บอกว่าทำตามที่ระบบเตือน ช่องที่สามคือผู้บริหารบอกว่ามอบให้ฝ่ายไอทีดูแลแล้ว ผลคือเมื่อเกิดเหตุ ไม่มีใครเป็นเจ้าของการตัดสินใจ
ข้อเสนอของผู้เขียนเพื่อปิดช่องว่างเหล่านี้ คือเขียนชื่อตำแหน่ง ไม่ใช่ชื่อคน ไว้ในเอกสารเดียวสำหรับสี่จุด ได้แก่ ผู้อนุมัติให้เปิดความสามารถ AI ผู้ตรวจผลก่อนใช้ ผู้มีอำนาจระงับระบบ และผู้รับเรื่องโต้แย้งจากคนที่ถูกกระทบ แล้วให้สัญญากับผู้ขายสอดคล้องกัน เช่น ใครแก้ค่าตั้งต้นได้ ใครได้รับรายงานเมื่อระบบเปลี่ยนรุ่น เรื่องข้อตกลงกับผู้ประมวลผลอ่านต่อได้ที่ คู่มือสัญญาผู้ประมวลผลข้อมูล
ส่วนว่าเมื่อเกิดความเสียหายแล้วใครต้องรับผิดต่อผู้เสียหายและเป็นจำนวนเท่าใด ต้องวิเคราะห์ตามข้อเท็จจริงและตัวบทกฎหมายที่เกี่ยวข้องเป็นรายกรณี แนวปฏิบัติ สกมช. ไม่ได้กำหนดเรื่องนั้นไว้ และบทความนี้ไม่ได้ให้คำตอบแทน
ต้องบอกคนที่ถูกกล้องวิเคราะห์ไหมว่ามี AI?
ข้อ 3.3.10 ให้องค์กรพิจารณาแจ้งการใช้ CCTV และ AI ในระดับที่เหมาะสมกับการประมวลผลและข้อกำหนดที่มีผลบังคับ เรื่องหนึ่งที่ข้อนี้ย้ำไว้คือป้ายบอกว่ามีกล้อง ไม่ใช่การแจ้งเรื่อง AI อัตโนมัติ
การมีป้ายแจ้งว่าพื้นที่มี CCTV ไม่ควรถูกตีความโดยอัตโนมัติว่าเป็นการแจ้งหรืออนุญาตให้ใช้ความสามารถ AI ทุกประเภทโดยไม่มีการพิจารณาเพิ่มเติม
ข้อมูลที่ข้อ 3.3.10 ว่าเหมาะสมจะแจ้งมีวัตถุประสงค์ของระบบ ประเภทการประมวลผล AI ลักษณะข้อมูล การนำผลไปใช้ ระยะเก็บ และช่องทางติดต่อเพื่อใช้สิทธิ ป้ายกล้องธรรมดาที่เล่าไว้ในบทความ ติดกล้องวงจรปิดในออฟฟิศ ร้าน คอนโด ต้องทำอะไรตาม PDPA จึงควรเติมอีกชั้นหนึ่งเมื่อเปิดความสามารถ AI ข้อความสั้น ๆ พอ เช่น ระบบอ่านป้ายทะเบียน ใช้เพื่อเปิดไม้กั้น เก็บผลกี่วัน (ตามที่องค์กรกำหนด) และติดต่อใคร
เมื่อ AI รวนหรือเชื่อไม่ได้ ควรทำอย่างไร?
ข้อ 3.8.4 ให้กำหนดล่วงหน้าว่าจะทำงานอย่างไรเมื่อ AI ไม่พร้อมหรือผลเชื่อไม่ได้ ภาพที่แนวปฏิบัติยกไว้คือ ลดระดับลงทีละขั้น จากใช้ AI ตามปกติ ไปทำงานแบบจำกัด แล้วกลับไปใช้ CCTV พื้นฐานและคนตรวจ จนถึงสภาวะปลอดภัย (Fail-Safe)
ในบางกรณี การระงับความสามารถของ AI ชั่วคราวและกลับไปใช้ CCTV พื้นฐานหรือการตรวจสอบโดยบุคคล อาจมีความปลอดภัยมากกว่าการปล่อยให้ระบบใช้ผลลัพธ์ AI ที่ไม่สามารถเชื่อถือได้ต่อไป
แปลเป็นงานจริงได้ว่า ควรมีเกณฑ์ล่วงหน้าที่ทำให้คนมีสิทธิปิดโหมด AI ได้โดยไม่ต้องรออนุมัติจากหลายชั้น เช่น แจ้งเตือนผิดซ้ำหลายครั้งติดกัน หรือผู้ขายประกาศอัปเดตแบบจำลองและยังไม่ได้ทดสอบ (จำนวนครั้งที่เหมาะสม องค์กรต้องกำหนดเอง ไม่มีตัวเลขในแนวปฏิบัติ)
อีกเรื่องที่ข้อ 3.5.3 เตือนไว้ คือก่อนปรับค่าเกณฑ์ (Threshold) เพื่อให้แจ้งเตือนผิดน้อยลง ให้ดูสาเหตุและผลกระทบก่อน ไม่งั้นการแก้ปัญหาอาจสร้างความเสี่ยงใหม่ เช่น ปรับเกณฑ์ให้หย่อนจนตรวจไม่พบเหตุจริง
- เมื่อระบบแจ้งเตือนผู้ปฏิบัติงานดูภาพประกอบและบริบท ไม่ตัดสินจากข้อความแจ้งเตือนหรือค่าความเชื่อมั่นอย่างเดียวข้อ 3.3.6
- ก่อนดำเนินการที่กระทบคนผู้มีอำนาจตรวจหลักฐานเพิ่มและตัดสินใจ มีสิทธิปฏิเสธผลของ AI ได้โดยไม่ต้องอธิบายยาวข้อ 4.3.6 · 6.2.6
- เมื่อพบว่าผลผิดแก้หรือระงับการใช้ผลนั้น บันทึกเหตุการณ์และเหตุผล แล้วแจ้งผู้ที่ถูกกระทบถ้าผลนั้นถูกนำไปใช้กับเขาแล้วข้อ 6.2.6 · PDPA มาตรา 35
- เมื่อผิดซ้ำหรือผิดเป็นรูปแบบระงับโหมด AI ชั่วคราวและกลับไปใช้กล้องพื้นฐานกับคนตรวจ แล้วสอบหาสาเหตุก่อนปรับเกณฑ์ข้อ 3.8.4 · 3.5.3
- ทุกรอบทบทวนดูสถิติว่า AI ผิดกี่ครั้ง คนแก้กี่ครั้ง และมีใครกดยืนยันโดยไม่ตรวจหรือไม่ แล้วปรับการอบรมและการออกแบบหน้าจอข้อ 3.11.3
ข้อ 3.11.3 ว่าด้วยการอบรม และเขียนเป้าหมายไว้ชัดว่าอบรมเพื่อลดความเสี่ยงจากการเชื่อระบบมากเกินไป
การอบรมควรช่วยลดความเสี่ยงจากการเชื่อผลลัพธ์ของระบบอัตโนมัติมากเกินไป (Automation Bias) โดยเฉพาะเมื่อ AI ถูกใช้สนับสนุนการตัดสินใจที่มีผลกระทบต่อบุคคลหรือภารกิจสำคัญ
ถ้าองค์กรมีกล้อง AI หลายยี่ห้อ หลายสาขา การจดว่าตัวไหนมีความสามารถอะไร ใครเป็นเจ้าของ และอนุมัติให้ใช้ระดับอำนาจใด ทำได้ในทะเบียน AI ของ AIPDPA และให้คะแนนความเสี่ยงเบื้องต้นได้ที่ หน้าตรวจความเสี่ยง AI ก่อนตัดสินใจซื้อหรือเปิดฟีเจอร์ใหม่
คำถามที่พบบ่อย
ถ้ากล้อง AI แจ้งเตือนผิดจน รปภ. ทำผิดตามไปด้วย ใครรับผิด?
แนวปฏิบัติ สกมช. ไม่ได้ตัดสินความรับผิดทางกฎหมาย ข้อ 2.3.4 เพียงให้องค์กรกำหนดผู้รับผิดชอบการใช้ AI ไว้ล่วงหน้า ส่วนผลทางกฎหมายต้องดูข้อเท็จจริง สัญญากับผู้ขาย และกฎหมายที่เกี่ยวข้องเป็นรายกรณี ควรปรึกษานักกฎหมาย
มี รปภ. นั่งดูจออยู่แล้ว นับเป็นการกำกับดูแลโดยมนุษย์ไหม?
ข้อ 4.3.6 บอกว่า ‘มีคนตรวจสอบ’ ยังไม่พอ ต้องออกแบบให้คนทำได้จริง คือเห็นข้อมูลที่เพียงพอ ปฏิเสธผลของ AI ได้ หยุดหรือจำกัด AI ได้ และรู้ว่าต้องยกระดับให้ใคร
ค่าความเชื่อมั่น 95 เปอร์เซ็นต์ แปลว่าผลถูกต้องหรือเปล่า?
ไม่ได้แปลอย่างนั้นโดยอัตโนมัติ ข้อ 3.3.6 บอกว่าค่าความเชื่อมั่นไม่ควรถูกตีความว่าเป็นหลักฐานยืนยันความถูกต้อง และข้อ 2.3.5 บอกว่าไม่ควรใช้ค่าเดียวเป็นหลักฐานว่าผลถูกในทุกกรณี โดยเฉพาะเมื่อมีผลกระทบสูง
ต้องบอกคนที่เดินผ่านกล้องว่าเราใช้ AI ไหม?
ข้อ 3.3.10 ให้พิจารณาแจ้งในระดับที่เหมาะสมกับการประมวลผลและข้อกำหนดที่ใช้บังคับ และบอกว่าป้ายกล้องธรรมดาไม่ควรถูกตีความว่าเป็นการแจ้งเรื่องความสามารถ AI ทุกประเภท หน้าที่แจ้งตามกฎหมายอยู่ที่ PDPA มาตรา 23 ซึ่งอ่านเพิ่มได้ในบทความเรื่องกล้องวงจรปิดกับ PDPA
ถ้าเจอว่าข้อมูลที่ AI สร้างผิด ต้องแก้ไหม?
ผู้ควบคุมข้อมูลมีหน้าที่ตามมาตรา 35 ที่จะให้ข้อมูลส่วนบุคคลถูกต้อง เป็นปัจจุบัน สมบูรณ์ และไม่ก่อให้เกิดความเข้าใจผิด การนำมาตรานี้ไปใช้กับผลที่ AI สร้างเป็นความเห็นของผู้เขียน ควรตรวจกับนักกฎหมายของท่าน และถ้าเจ้าของข้อมูลร้องขอแล้วไม่ทำตาม มาตรา 36 ให้บันทึกคำร้องพร้อมเหตุผล
ร้านเล็กที่ใช้กล้อง AI สำเร็จรูปต้องทำอะไรอย่างน้อยที่สุด?
เขียนในหนึ่งหน้ากระดาษว่า AI ในกล้องทำอะไรได้บ้าง ผลของมันใช้ทำอะไร ใครเป็นคนตรวจก่อนใช้ ใครมีสิทธิปิดโหมด AI และผู้ถูกกระทบติดต่อใคร ถ้าผลของ AI ไม่กระทบตัวคนนอกจากการแจ้งเตือนภายใน มาตรการอาจเบาได้ตามระดับความเสี่ยง
ตัวบทและแหล่งอ้างอิง
- แนวปฏิบัติ สกมช. ระบบกล้องโทรทัศน์วงจรปิดที่ใช้ปัญญาประดิษฐ์สำหรับประเทศไทย ฉบับ 1.0.0 (29 ก.ย. 2569) — ข้อ 2.3.4 · 3.1.4 · 3.3.5–3.3.7 · 3.3.10 · 3.8.4 · 3.11.3 · 4.3.5–4.3.6 · 6.2.6
- พระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562 — มาตรา 35 · มาตรา 36
- แนวทางการใช้ AI ของสำนักงานคณะกรรมการคุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2569 — หัวข้อ 5.4 (การทบทวนโดยมนุษย์ที่มีความหมาย)
ตัวบทที่ยกมาในกรอบ "ตัวบท" คัดคำต่อคำจากคลังกฎหมายของ AIPDPA ซึ่งถอดจากราชกิจจานุเบกษาและเอกสารของหน่วยงานรัฐ แล้วระบบตรวจทุกครั้งที่แก้บทความว่าตรงกับคลังทุกตัวอักษร · บทความนี้เป็นความรู้ทั่วไป ไม่ใช่คำปรึกษากฎหมายสำหรับกรณีใดกรณีหนึ่ง
ลงมือในระบบได้ที่
ใครรับผิดชอบเนื้อหานี้?
เรียบเรียงโดยทีมกฎหมาย AIPDPA · ผู้รับผิดชอบเนื้อหา ภูวรา ครอบตะคุ ทนายความ · เนติบัณฑิตไทย · ที่ปรึกษากฎหมายเทคโนโลยีและทรัพย์สินทางปัญญา
ใบอนุญาตทนายความ 477/2558 · เนติบัณฑิตไทย · นิติศาสตรมหาบัณฑิต กฎหมายทรัพย์สินทางปัญญาและสารสนเทศ (เหรียญทอง)