Katika miaka miwili iliyopita, tumeunda suluhisho ambazo zimepanuka kwa usalama na kuwafikia mamilioni ya watumiaji. Sehemu muhimu ya kazi hii imekuwa kubuni mifumo ya udhibiti ya haraka na sahihi. Udhibiti bora huwezesha kampuni kuzindua kwa kujiamini suluhisho za kisasa za AI, kuwalinda watumiaji dhidi ya madhara na kulinda chapa kwa kunasa maudhui yasiyotakikana kabla hayajaleta tatizo.
Hivi karibuni, OpenAI ilitoa miundo yake ya GPT-OSS-Safeguard: matoleo yaliyoboreshwa ya miundo ya OSS ya 20B na 120B iliyoanzishwa mapema mwaka huu. Miundo hii inaweza kufasiri sera ya mtumiaji moja kwa moja wakati wa uendeshaji, hivyo kutoa mbinu nyumbufu na madhubuti ya kudhibiti maudhui. Miundo hii iko katika hatua ya majaribio ya utafiti, kwa hivyo bila shaka itaendelea kuboreka.
Tulishirikiana na OpenAI kabla ya uzinduzi huu, tukifanya tathmini katika mazingira halisi ili kusaidia ukuzaji wa muundo. Katika makala haya, tunashiriki tulichojifunza kutokana na ushirikiano huo na kuchunguza maana ya maendeleo haya kwa mustakabali wa udhibiti katika mifumo ya AI ya uzalishaji.
Leo, suluhisho za udhibiti kwa kawaida huundwa kama tabaka za ulinzi zinazozunguka programu. Tunatumia sana mpangilio huu katika mifumo yenye matumizi makubwa inayotumiwa na umma. Kwa maelezo ya kina zaidi, soma blogu yetu kuhusu mada hii hapa.
Ainisha ingizo sambamba (usiruhusu dokeza hatari kuingia): Viainishaji vidogo vya mada mahususi huendeshwa kwa wakati mmoja ili kuwekea lebo kila ujumbe wa mtumiaji. Tumegundua kuwa viainishaji vinavyolenga eneo dogo vinaaminika zaidi kwa kiwango kinachoweza kupimwa kuliko kiainishaji kimoja kinachojaribu kushughulikia kila kitu. Mifano ya sampuli-chache iliyochaguliwa kwa makini katika dokeza inaweza kusaidia kutofautisha kati ya “I keep getting killed by this boss” (muktadha wa mchezo, usio na madhara kabisa) na ishara ya madhara katika ulimwengu halisi.
Salama → Zalisha kama kawaida
Jailbreak → Puuza au epusha kwa kukataa kwa mtindo wa chapa
Hatari za usalama au ustawi → mpe binadamu akishirikishwa muktadha wa kina
Ainisha matokeo (usitoe jibu baya): Kila jibu linalopendekezwa hukaguliwa tena kabla ya kutolewa. Hii hulinda dhidi ya kupotoka kwa muundo, sumu kwenye data ya RAG na hali tata za sera kama vile maudhui hatari, kufichuliwa kwa PII au kuvuja kwa taarifa nyeti. Likitiwa alama, tunabadilisha jibu lililozalishwa na LLM kwa ujumbe salama unaoendana na chapa au tunalikabidhi kwa binadamu, badala ya kutoa jambo tutakalojutia.
Ifanye iwe ya haraka na nafuu: Kuunda dokeza kama vipengele vinavyoweza kutumiwa tena hukuruhusu kuhifadhi vipande vya dokeza, mifano ya sampuli-chache ya viainishaji na mianzo ya kawaida ya mazungumzo kwenye akiba. Mbinu hii hupunguza muda wa kusubiri na gharama ya vizuizi vyako vya usalama.
Chukulia usalama kama sehemu ya bidhaaMaandishi ya kukataa na maonyo huandikwa kwa sauti ya chapa, kwa mfano ya kufurahisha kwa michezo au rasmi kwa fedha. UX inapoheshimu lengo la mtumiaji, watu hukubali zaidi vizuizi vya usalama na majaribio ya jailbreak hupungua
Fuatilia, fanya jaribio la kubaini udhaifu wa mfumo na ukamilishe mzungukoJaribio endelevu la kubaini udhaifu wa mfumo na dashibodi za moja kwa moja za usalama husaidia kunasa hitilafu kabla hazijawafikia watumiaji. Tunaweza kuufundisha muundo kuhusu mifumo mipya ya mashambulizi kwa kutoa mifano zaidi ya sampuli-chache na/au kanuni za kuelekeza, ili mfumo uzidi kuwa mgumu kuvunjwa bila kudhoofisha utendaji wa programu.
Kuunda na kudumisha vizuizi bora vya usalama ni vigumu.
Kwa vitendo, jambo hili huhitaji ushirikiano makini kati ya wadau wakuu wa biashara na wasanidi ili kuunda sera iliyofafanuliwa vizuri. Kisha, baada ya sera kufafanuliwa, usanifu na tabia ya mfumo lazima ziundwe na kuboreshwa.
Kuibuka kwa miundo wazi ya uwazaji kuhusu usalama kama gpt-oss-safeguard kunaweza kutatua baadhi ya changamoto katika mchakato huu kwa kutoa msingi unaoweza kutumiwa mara moja, unaonyumbulika na unaofaa kwa udhibiti wa maudhui.
Gpt-oss-safeguard inalenga kutatua baadhi ya changamoto zinazojitokeza mara kwa mara katika kuunda mifumo ya sasa ya udhibiti. Miundo hii midogo na maalumu imeboreshwa ili kufanya uwazaji kuhusu sera lengwa wakati wa uendeshaji, ikitafuta maudhui hatari au nyeti kama vile jailbreak, kufichuliwa kwa PII na ukiukaji mwingine wa sera.
Kwa kujumuisha uwazaji katika mchakato wake wa uainishaji, miundo hii hutoa udhibiti sahihi zaidi, thabiti na mgumu kukwepa. Ikiwa matoleo maalumu ya usalama ya GPT-OSS 20B na 120B, huwezesha utendaji wa kisasa zaidi wa usalama huku yakihitaji maandalizi machache kupitia ufafanuzi maalumu wa sera.
Tulitathmini gpt-oss-safeguard 20B na 120B katika kazi kadhaa zinazofanana na mazingira ya uzalishaji: msaidizi wa sauti wa wakati halisi, roboti ya kuwasaidia wachezaji ndani ya mchezo, mfumo makini wa kudhibiti gumzo na ukaguzi wa maudhui yenye sumu katika lugha nyingi—Kihispania, Kifaransa, Kiitaliano, Kireno, Kirusi na Kituruki.
Udhibiti wa sauti unaozingatia muda wa kusubiri: Katika majaribio yetu ya sauti ya wakati halisi—yaani uainishaji wa moja kwa moja ndani ya mazungumzo ambapo jibu lazima lichanganuliwe na kupewa kipaumbele, kama katika udhibiti wa gumzo la mchezo—gpt-oss-safeguard-20B iliziba takriban 80% ya pengo la usahihi kati ya GPT-OSS-20B na GPT-5-Mini (0.71 dhidi ya 0.78, kutoka 0.45), huku ikifanya kazi kwa muda mfupi zaidi wa kusubiri.
Kukabidhi usaidizi wa wachezaji: Katika upangaji wa usaidizi wa wachezaji, gpt-oss-safeguard-20B iliziba takriban 90% ya pengo kati ya GPT-OSS-20b na GPT-5-Mini (0.66 dhidi ya 0.67, kutoka 0.57). Pia ilitoa macro precision bora zaidi katika kundi, recall ya 88% kwa maudhui yasiyo hatari na precision ya 87% katika kutambua watumiaji walio hatarini—muhimu ikiwa unahitaji ukabidhishaji makini na unaoaminika bila kuwalemea wakaguzi binadamu.
Udhibiti mkubwa wa gumzo lenye sera nyingi: Katika tathmini yetu ngumu zaidi, inayohitaji mfumo wa udhibiti kutia alama mapema ujumbe wa ndani ya mchezo kulingana na hati nzito ya sera, gpt-oss-safeguard ilifanya vizuri zaidi kuliko kiwango msingi cha OSS kwa tofauti dhahiri, ikifikia ongezeko linganishi la takriban 35% na kushughulikia sera ndefu kwa ufanisi. Haya ni matumizi nyeti sana yanayohitaji recall na precision ya juu. Recall ikiwa chini sana, ujumbe mwingi hatari hautagunduliwa. Nayo precision ya chini ingesababisha ujumbe mwingi usiohusika kutiwa alama kwa ajili ya wasimamizi binadamu, na kuondoa umakini wao kwenye visa vigumu kweli.
Utendaji katika lugha nyingi: Kwenye seti sawia ya data ya maudhui yenye sumu katika lugha sita, gpt-oss-safeguard ilikaribia utendaji wa GPT-5-Mini, kwa kawaida ikiwa ndani ya tofauti ya pointi za asilimia 3–5 za usahihi, huku gpt-oss-safeguard-120B ikiipita kidogo katika Kihispania. Tuliona mapengo makubwa kidogo katika lugha zenye rasilimali chache kama Kituruki, lakini kwa ujumla utendaji katika lugha mbalimbali ulikuwa thabiti, huku recall ikiongezeka kila mara wakati wa kuhama kutoka 20B hadi 120B.
Pia tuliona kuwa miundo ya gpt-oss-safeguard hufanya vizuri katika maeneo ambayo kwa kawaida LLM huwa dhaifu katika udhibiti, kama data ya PII. Miundo inayotumiwa sana huwa na upendeleo zaidi wa kutambua PII ya mtindo wa Marekani na hufanya vibaya zaidi katika maeneo mengine. Kwa msingi huu, tunaamini gpt-oss-safeguard itasaidia kurahisisha mipangilio ya udhibiti kwa kupunguza utegemezi wa zana mahususi za kugundua ukiukaji mdogo wa sera ambao LLM za jumla haziwezi kushughulikia.
Kwa hivyo, tathmini zetu zimethibitisha kuwa ‘miundo msingi ya udhibiti’ kama vile gpt-oss-safeguard-20B na gpt-oss-safeguard-120B inaweza kukufikisha mbali, haraka. Hata hivyo, miundo iliyoboreshwa kwa kikoa mahususi bado ndiyo kiwango cha juu zaidi kwa mifumo inayohitaji usalama na umahususi wa hali ya juu.
Kwa matumizi ya udhibiti ndani ya mchezo, tuliboresha kiainishaji cha Qwen3-0.6B kwa kutumia marekebisho ya kuboresha yanayosimamiwa, tukitumia takriban vitendo 10,000 vya kihistoria vya wasimamizi na matokeo ya sera. Muundo huu ulifanya vizuri zaidi kwa tofauti kubwa kuliko kila muundo msingi tuliojaribu kwa kazi hii, ukifikia usahihi wa 57% dhidi ya 15% (gpt-oss-safeguard-120B, iliyokadiriwa kutokana na uwiano wa utendaji wa GPT-4.1-nano), ongezeko la pointi 42, au takriban 280%. Matokeo haya yanaendana na mwongozo wa OpenAI kwamba viainishaji vidogo, mahususi na vilivyofunzwa kwa mifano yenye lebo vinaweza kufanya vizuri kuliko miundo ya ulinzi katika vikoa maalumu.
Hitimisho ni wazi: sera zinapokuwa na tofauti ndogondogo na hali nyingi zisizo za kawaida, muundo mdogo ulioboreshwa kwa kikoa husika hubaki kuwa kiwango bora zaidi. Mchakato wa uboreshaji hujumuisha sera na hali zako zisizo za kawaida moja kwa moja katika vigezo, hivyo kutoa tabia thabiti zaidi katika mazingira halisi yenye utata, huku ukitumia muda na gharama ndogo sana.
Marekebisho ya kuboresha yanayosimamiwa ni mojawapo tu ya mbinu kadhaa zinazoweza kutumika. Pia, mbinu nyingine madhubuti za mafunzo kama vile mafunzo ya uimarishaji au udondoshaji unaofuata sera zinaweza kutumiwa kuboresha zaidi tabia ya muundo.
Kwa kawaida, uboreshaji huhitaji data nyingi. Seti ya data iliyotumiwa kuboresha kiainishaji hiki cha Qwen3-0.6B ilikuwa imewekewa lebo mwenyewe na wasimamizi binadamu, hivyo ilikuwa chanzo safi na bora cha ukweli.
Katika miradi mingi, huenda data hii bora isiwepo mwanzoni. Kwa hivyo, kwa kawaida tunachukulia uboreshaji kuwa hatua inayoweza kufanywa baadaye katika mzunguko wa uundaji wa suluhisho. Baada ya muundo wa suluhisho kutulia na data halisi ya watumiaji kukusanywa, wasanidi wanaweza kutumia uboreshaji lengwa ili kuimarisha zaidi suluhisho zao za udhibiti.
Miundo msingi ya udhibiti kama gpt-oss-safeguard ni vipengele vipya na madhubuti vya kujengea. Ina uwezo wa kurahisisha kwa kiasi kikubwa usanifu wa mifumo ya udhibiti huku ikipunguza muda wa kusubiri katika programu za wakati halisi. Ukiiunganisha na viainishaji vidogo vilivyoundwa kwa mahitaji mahususi, unaweza kuunda mfumo salama na wa kasi zaidi, wenye vipengele vichache kuliko mbinu inayotumia dokeza na miundo mikubwa ya jumla.
Ikiwa unaanzisha au kuboresha udhibiti leo, zingatia kuanza na miundo kama gpt-oss-safeguard, pima utendaji, kisha ongeza maboresho lengwa kupitia viainishaji mahususi—vinavyotumia dokeza au vilivyoboreshwa—pale data inapoonyesha mapengo.
Ungependa kujua zaidi? Tutumie ujumbe.