ตลอดสองปีที่ผ่านมา เราได้สร้างโซลูชันที่ขยายการรองรับผู้ใช้หลายล้านคนได้อย่างปลอดภัย หัวใจสำคัญของงานนี้คือการออกแบบระบบตรวจสอบเนื้อหาที่รวดเร็วและแม่นยำ การตรวจสอบเนื้อหาที่มีประสิทธิภาพช่วยให้บริษัทนำโซลูชัน AI ล้ำสมัยไปใช้งานได้อย่างมั่นใจ โดยปกป้องผู้ใช้ปลายทางจากอันตรายและรักษาความปลอดภัยของแบรนด์ ด้วยการตรวจจับผลลัพธ์ที่ไม่พึงประสงค์ก่อนจะกลายเป็นปัญหา
เมื่อไม่นานมานี้ OpenAI เปิดตัวโมเดล GPT-OSS-Safeguard ซึ่งเป็น OSS รุ่น 20B และ 120B ที่เปิดตัวเมื่อต้นปีนี้และได้รับการปรับแต่งเพิ่มเติม โมเดลเหล่านี้ตีความนโยบายของผู้ใช้ได้โดยตรงในขั้นตอนการอนุมาน จึงเป็นแนวทางตรวจสอบเนื้อหาที่ยืดหยุ่นและทรงประสิทธิภาพ โมเดลเหล่านี้ยังอยู่ในช่วงตัวอย่างเพื่อการวิจัย จึงมีแนวโน้มว่าจะพัฒนาดีขึ้นอย่างต่อเนื่อง
เราร่วมมือกับ OpenAI ก่อนการเปิดตัวครั้งนี้ โดยประเมินการใช้งานจริงเพื่อให้ข้อมูลประกอบการพัฒนาโมเดล บทความนี้นำเสนอข้อมูลเชิงลึกจากความร่วมมือดังกล่าว พร้อมสำรวจว่าความก้าวหน้าเหล่านี้มีความหมายอย่างไรต่ออนาคตของการตรวจสอบเนื้อหาในระบบ AI ที่ใช้งานจริง
ปัจจุบัน โซลูชันตรวจสอบเนื้อหามักอยู่ในรูปของการป้องกันหลายชั้นที่ครอบแอปพลิเคชันไว้ เราใช้รูปแบบนี้อย่างแพร่หลายในการใช้งานระบบสาธารณะที่รองรับปริมาณงานสูง หากต้องการเจาะลึก โปรดอ่านบล็อกเกี่ยวกับเรื่องนี้ได้ที่นี่
จำแนกอินพุตพร้อมกัน (อย่าปล่อยให้พรอมต์อันตรายผ่านเข้ามา): ตัวจำแนกขนาดเล็กที่เจาะจงแต่ละหัวข้อจะทำงานพร้อมกันเพื่อติดป้ายกำกับข้อความของผู้ใช้แต่ละรายการ เราพบว่าตัวจำแนกที่มุ่งเน้นขอบเขตแคบมีความน่าเชื่อถือสูงกว่าตัวจำแนกอเนกประสงค์เพียงตัวเดียวอย่างวัดผลได้ ตัวอย่าง few-shot ที่คัดสรรอย่างรอบคอบในพรอมต์ช่วยแยกความแตกต่างระหว่าง “I keep getting killed by this boss” (บริบทในเกมซึ่งไม่เป็นอันตรายเลย) กับสัญญาณอันตรายในโลกจริงได้
ปลอดภัย → สร้างคำตอบตามปกติ
เจลเบรก → ไม่สนใจหรือเบี่ยงประเด็นด้วยคำปฏิเสธที่สอดคล้องกับแบรนด์
ความเสี่ยงด้านความปลอดภัยหรือสุขภาวะ → ส่งต่อให้มนุษย์พร้อมบริบทที่ครบถ้วน
จำแนกเอาต์พุต (อย่าส่งคำตอบที่ไม่เหมาะสม): คำตอบที่เป็นไปได้ทุกรายการจะได้รับการตรวจสอบซ้ำก่อนส่งมอบ วิธีนี้ช่วยป้องกันการเบี่ยงเบนของโมเดล การวางยาพิษข้อมูล RAG และกรณีชายขอบของนโยบายที่ตรวจจับได้ยาก เช่น เนื้อหาที่เป็นอันตราย การเปิดเผย PII หรือการรั่วไหลของข้อมูลละเอียดอ่อน หากระบบตรวจพบปัญหา เราจะแทนที่คำตอบที่ LLM สร้างขึ้นด้วยข้อความที่ปลอดภัยและสอดคล้องกับแบรนด์ หรือส่งต่อให้มนุษย์ แทนที่จะส่งสิ่งที่อาจต้องเสียใจภายหลัง
ทำให้รวดเร็วและคุ้มค่า: การสร้างพรอมต์เป็นองค์ประกอบที่นำกลับมาใช้ใหม่ได้ ช่วยให้คุณแคชส่วนย่อยของพรอมต์ ตัวอย่าง few-shot ของตัวจำแนก และส่วนนำของบทสนทนาที่ใช้บ่อยได้ แนวทางนี้ช่วยลดทั้งเวลาแฝงและต้นทุนของมาตรการป้องกัน
มองความปลอดภัยเป็นส่วนหนึ่งของประสบการณ์ผลิตภัณฑ์เขียนคำปฏิเสธและคำเตือนด้วยน้ำเสียงของแบรนด์ เช่น สนุกสนานสำหรับเกมหรือเป็นทางการสำหรับการเงิน เมื่อ UX เคารพเจตนาของผู้ใช้ การยอมรับมาตรการป้องกันจะเพิ่มขึ้น ขณะที่ความพยายามเจลเบรกลดลง
เฝ้าติดตาม ทำ red teaming และปิดวงจรการปรับปรุงการทำ red teaming อย่างต่อเนื่องและแดชบอร์ดความปลอดภัยแบบสดช่วยตรวจจับประสิทธิภาพที่ถดถอยก่อนส่งผลกระทบต่อผู้ใช้ เราสอนรูปแบบการโจมตีใหม่ๆ ให้โมเดลได้ด้วยการเพิ่มตัวอย่าง few-shot และ/หรือกฎการกำหนดเส้นทาง ทำให้ระบบเจาะได้ยากขึ้นเรื่อยๆ โดยไม่กระทบประสิทธิภาพของแอปพลิเคชัน
การสร้างและดูแลมาตรการป้องกันให้มีประสิทธิภาพเป็นเรื่องยาก
ในทางปฏิบัติ ผู้มีส่วนได้ส่วนเสียหลักทางธุรกิจและนักพัฒนาต้องร่วมมือกันอย่างรอบคอบเพื่อกำหนดนโยบายให้ชัดเจน เมื่อกำหนดนโยบายแล้ว จึงต้องสร้างและปรับแต่งทั้งการออกแบบระบบและพฤติกรรมของระบบ
การมาถึงของโมเดลการให้เหตุผลด้านความปลอดภัยแบบเปิดอย่าง gpt-oss-safeguard มีศักยภาพที่จะแก้ปัญหาบางส่วนในกระบวนการนี้ โดยมอบรากฐานสำหรับการตรวจสอบเนื้อหาที่พร้อมใช้และยืดหยุ่นกว่าเดิม
Gpt-oss-safeguard มุ่งแก้ความท้าทายบางประการที่พบได้ทั่วไปในการสร้างระบบตรวจสอบเนื้อหาในปัจจุบัน โมเดลขนาดเล็กเฉพาะทางเหล่านี้ได้รับการปรับแต่งให้ใช้การให้เหตุผลกับนโยบายเป้าหมายในขั้นตอนการอนุมาน เพื่อค้นหาเนื้อหาที่เป็นอันตรายหรือละเอียดอ่อน เช่น เจลเบรก การเปิดเผย PII และการละเมิดนโยบายอื่นๆ
การผสานการให้เหตุผลเข้ากับกระบวนการจำแนก ทำให้โมเดลตรวจสอบเนื้อหาได้แม่นยำและทนทานขึ้น รวมถึงหลบเลี่ยงได้ยากกว่าเดิม โมเดลเหล่านี้เป็นรุ่นความปลอดภัยเฉพาะทางของ GPT-OSS 20B และ 120B จึงมอบประสิทธิภาพด้านความปลอดภัยระดับแนวหน้า พร้อมลดภาระการตั้งค่าให้เหลือน้อยที่สุดด้วยการกำหนดนโยบายแบบกำหนดเอง
เราประเมิน gpt-oss-safeguard 20B และ 120B กับงานหลายประเภทที่จำลองสภาพแวดล้อมจริง ได้แก่ ผู้ช่วยเสียงแบบเรียลไทม์ บอตช่วยเหลือผู้เล่นในเกม ระบบตรวจสอบแชตเชิงรุก และการตรวจหาความเป็นพิษหลายภาษา (สเปน ฝรั่งเศส อิตาลี โปรตุเกส รัสเซีย และตุรกี)
การตรวจสอบเสียงที่ไวต่อเวลาแฝง: ในการทดสอบเสียงแบบเรียลไทม์ของเรา ซึ่งเป็นการจำแนกสดภายในบทสนทนาที่ต้องวิเคราะห์และคัดแยกคำตอบ เช่น การตรวจสอบแชตระหว่างเล่นเกม gpt-oss-safeguard-20B ลดช่องว่างด้านความแม่นยำระหว่าง GPT-OSS-20B กับ GPT-5-Mini ได้ราว 80% (0.71 เทียบกับ 0.78 โดยเพิ่มจาก 0.45) พร้อมทำงานด้วยเวลาแฝงที่ลดลงอย่างมาก
การส่งต่อเคสช่วยเหลือผู้เล่น: ในการคัดแยกเคสช่วยเหลือผู้เล่น gpt-oss-safeguard-20B ลดช่องว่างระหว่าง GPT-OSS-20b กับ GPT-5-Mini ได้ราว 90% (0.66 เทียบกับ 0.67 โดยเพิ่มจาก 0.57) นอกจากนี้ยังให้ค่า macro precision สูงที่สุดในชุดทดสอบ มีค่า recall 88% สำหรับเนื้อหาที่ไม่เป็นอันตราย และ precision 87% ในการตรวจจับผู้ใช้กลุ่มเปราะบาง เหมาะสำหรับการส่งต่อเคสอย่างรอบคอบและน่าเชื่อถือ โดยไม่เพิ่มภาระให้ผู้ตรวจสอบที่เป็นมนุษย์มากเกินไป
การตรวจสอบแชตตามนโยบายที่ซับซ้อนในวงกว้าง: ในการประเมินที่ท้าทายที่สุด ซึ่งกำหนดให้ระบบตรวจสอบเนื้อหาต้องทำเครื่องหมายข้อความในเกมเชิงรุกตามเอกสารนโยบายที่ละเอียด gpt-oss-safeguard ทำผลงานเหนือกว่า OSS รุ่นพื้นฐานอย่างชัดเจน โดยเพิ่มขึ้นราว 35% ในเชิงสัมพัทธ์และจัดการนโยบายขนาดยาวได้อย่างมีประสิทธิภาพ นี่เป็นกรณีใช้งานที่ละเอียดอ่อนเป็นพิเศษและต้องการทั้ง recall และ precision สูง หาก recall ต่ำเกินไป ข้อความที่เป็นอันตรายจำนวนมากจะไม่ถูกตรวจพบ ส่วน precision ที่ต่ำจะทำให้ข้อความที่ไม่เกี่ยวข้องจำนวนมากถูกส่งให้ผู้ตรวจสอบที่เป็นมนุษย์ ส่งผลให้ความสนใจต่อเคสที่ยากอย่างแท้จริงลดลง
ประสิทธิภาพหลายภาษา: เมื่อทดสอบกับชุดข้อมูลความเป็นพิษที่สมดุลในหกภาษา gpt-oss-safeguard ทำผลงานใกล้เคียง GPT-5-Mini โดยความแม่นยำมักต่างกันเพียง 3–5 จุดเปอร์เซ็นต์ และ gpt-oss-safeguard-120B ทำได้ดีกว่าเล็กน้อยในภาษาสเปน เราพบช่องว่างเพิ่มขึ้นเล็กน้อยในภาษาที่มีทรัพยากรน้อยกว่า เช่น ภาษาตุรกี แต่ภาพรวมยังแสดงถึงประสิทธิภาพข้ามภาษาที่แข็งแกร่ง โดยค่า recall เพิ่มขึ้นอย่างสม่ำเสมอเมื่อขยับจาก 20B เป็น 120B
เรายังพบว่าโมเดล gpt-oss-safeguard ทำผลงานได้ดีในด้านที่เดิมที LLM มักอ่อนกว่าในการตรวจสอบเนื้อหา เช่น ข้อมูล PII ซึ่งโมเดลทั่วไปมักเอนเอียงไปทางการตรวจจับ PII ในรูปแบบของสหรัฐฯ และทำงานได้ด้อยกว่าในภูมิภาคอื่น ด้วยเหตุนี้ เราเชื่อว่า gpt-oss-safeguard จะช่วยให้การตั้งค่าระบบตรวจสอบเนื้อหาง่ายขึ้น โดยลดการพึ่งพาเครื่องมือที่สร้างขึ้นเฉพาะเพื่อจับการละเมิดนโยบายเล็กน้อยซึ่ง LLM ที่ครอบคลุมกว่าจัดการไม่ได้
ผลการประเมินของเรายืนยันว่า “โมเดลพื้นฐานสำหรับการตรวจสอบเนื้อหา” อย่าง gpt-oss-safeguard-20B และ gpt-oss-safeguard-120B ช่วยให้คุณไปได้ไกลและรวดเร็ว อย่างไรก็ตาม โมเดลที่ปรับแต่งเฉพาะโดเมนยังคงเป็นมาตรฐานสูงสุด เมื่อระบบต้องการความปลอดภัยและความเฉพาะเจาะจงในระดับสูงสุด
สำหรับกรณีการตรวจสอบเนื้อหาภายในเกม เราปรับแต่งตัวจำแนก Qwen3-0.6B ด้วยการเทรนแบบมีผู้สอน โดยใช้การดำเนินการของผู้ตรวจสอบและผลลัพธ์ตามนโยบายในอดีตราว 10,000 รายการ โมเดลนี้ทำผลงานในงานดังกล่าวเหนือกว่าโมเดลพื้นฐานทุกตัวที่เราทดสอบอย่างมาก โดยมีความแม่นยำ 57% เทียบกับ 15% (gpt-oss-safeguard-120B ซึ่งประเมินจากสัดส่วนประสิทธิภาพของ GPT-4.1-nano) เพิ่มขึ้น 42 จุด หรือราว 280% ผลลัพธ์นี้สอดคล้องกับคำแนะนำของ OpenAI ที่ว่า ตัวจำแนกขนาดเล็กซึ่งสร้างขึ้นเพื่อวัตถุประสงค์เฉพาะและฝึกด้วยตัวอย่างที่ติดป้ายกำกับ สามารถทำผลงานเหนือกว่าโมเดลป้องกันภัยในโดเมนเฉพาะได้
ข้อสรุปชัดเจนว่า เมื่อนโยบายมีรายละเอียดซับซ้อนและมีกรณีชายขอบจำนวนมาก โมเดลขนาดเล็กที่ปรับแต่งเฉพาะโดเมนยังคงเป็นมาตรฐานชั้นเลิศ กระบวนการปรับแต่งจะฝังนโยบายและกรณีชายขอบของคุณลงในพารามิเตอร์โดยตรง ทำให้โมเดลทำงานสม่ำเสมอยิ่งขึ้นท่ามกลางสภาพแวดล้อมจริงอันซับซ้อน ทั้งยังใช้เวลาแฝงและต้นทุนน้อยมาก
การเทรนแบบมีผู้สอนเป็นเพียงหนึ่งในหลายแนวทางที่เป็นไปได้ นอกจากนี้ยังใช้เทคนิคการฝึกที่ทรงประสิทธิภาพอื่นๆ เช่น การเรียนรู้แบบเสริมกำลังหรือการกลั่นความรู้แบบ on-policy เพื่อปรับพฤติกรรมของโมเดลให้ดียิ่งขึ้นได้
โดยทั่วไป การปรับแต่งโมเดลต้องใช้ข้อมูลจำนวนมาก ชุดข้อมูลที่ใช้ปรับแต่งตัวจำแนก Qwen3-0.6B นี้ได้รับการติดป้ายกำกับด้วยมือโดยผู้ตรวจสอบที่เป็นมนุษย์ จึงเป็นแหล่งข้อมูลจริงอ้างอิงที่สะอาดและเชื่อถือได้
ในหลายโครงการ อาจยังไม่มีข้อได้เปรียบจากข้อมูลคุณภาพสูงเช่นนี้ตั้งแต่เริ่มต้น ดังนั้น เราจึงมักมองว่าการปรับแต่งโมเดลเป็นการเพิ่มประสิทธิภาพที่ทำได้ในช่วงหลังของวงจรการพัฒนาโซลูชัน เมื่อรูปแบบของโซลูชันมีความเสถียรและรวบรวมข้อมูลผู้ใช้จริงได้แล้ว นักพัฒนาจึงเริ่มใช้การปรับแต่งโมเดลแบบเจาะจงเพื่อยกระดับโซลูชันตรวจสอบเนื้อหาได้
โมเดลพื้นฐานสำหรับการตรวจสอบเนื้อหาอย่าง gpt-oss-safeguard คือองค์ประกอบใหม่ที่มีประสิทธิภาพสูง โมเดลเหล่านี้มีศักยภาพที่จะช่วยให้การออกแบบระบบตรวจสอบเนื้อหาง่ายขึ้นอย่างมีนัยสำคัญ พร้อมลดเวลาแฝงสำหรับแอปพลิเคชันแบบเรียลไทม์ เมื่อใช้ร่วมกับตัวจำแนกขนาดเล็กที่ออกแบบเฉพาะ คุณจะสร้างระบบที่ปลอดภัยและรวดเร็วขึ้นได้ โดยมีองค์ประกอบที่ต้องจัดการน้อยกว่าแนวทางที่ใช้พรอมต์กับโมเดลอเนกประสงค์ขนาดใหญ่
หากกำลังสร้างหรืออัปเกรดระบบตรวจสอบเนื้อหาในวันนี้ ลองเริ่มจากโมเดลอย่าง gpt-oss-safeguard วัดประสิทธิภาพ แล้วค่อยเสริมจุดที่ข้อมูลชี้ว่ายังบกพร่องด้วยตัวจำแนกที่ออกแบบเฉพาะ ไม่ว่าจะใช้พรอมต์หรือผ่านการปรับแต่งโมเดล
สนใจเรียนรู้เพิ่มเติมไหม ส่งข้อความหาเรา