Labadii sano ee la soo dhaafay, waxaan dhisnay xalal si ammaan ah u gaadhay malaayiin isticmaale. Qayb muhiim ah oo hawshan ka mid ahi waxay ahayd naqshadaynta nidaamyo dhexdhexaadin oo dhakhso iyo sax ah. Dhexdhexaadin wax-ku-ool ahi waxay shirkadaha u saamaxdaa inay si kalsooni leh u hirgeliyaan xalalka AI ee ugu casrisan, iyagoo isticmaaleyaasha ka ilaalinaya waxyeello, sumcaddana dhowraya, maadaama waxyaabaha aan loo baahnayn la qabto ka hor intaanay dhibaato noqon.
Dhawaan, OpenAI waxay soo saartay noocyadeeda GPT-OSS-Safeguard: waa noocyo turxaan-bixiyey oo ka mid ah noocyada OSS ee 20B iyo 120B ee horraantii sannadkan la soo bandhigay. Noocyadani waxay siyaasadda isticmaalaha si toos ah u fasiri karaan xilliga saadaalinta, iyagoo bixinaya hab dabacsan oo awood leh oo lagu dhexdhexaadiyo nuxurka. Noocyadani waxay ku jiraan marxaladda tijaabada cilmi-baadhista, sidaas darteed shaki la’aan way sii fiicnaan doonaan.
Waxaan OpenAI la shaqaynay ka hor soo-saaristan, annagoo samaynay qiimayno xaalado dhab ah si horumarinta nooca xog loogu biiriyo. Maqaalkan, waxaan ku wadaagaynaa aragtiyihii iskaashigaas, waxaanan eegaynaa waxa horumarradani uga dhigan yihiin mustaqbalka dhexdhexaadinta nidaamyada AI ee hawlgalka ku jira.
Maanta, xalalka dhexdhexaadintu badanaa waxay noqdaan lakabyo ilaalin ah oo ku wareegsan barnaamijka. Qaabkan ayaan si weyn ugu adeegsannaa hirgelinnada dadweynaha u furan ee baaxadda weyn. Faahfaahin dheeraad ah, waxaad ka akhrisan kartaa balooggeenna arrintan ku saabsan halkan.
Gelinnada si barbar socda u kala saar (ha soo gelin weydiimaha xun): Kala-saarayaal yaryar oo mawduucyo gaar ah qaabilsan ayaa isku mar shaqeeya si ay farriin kasta oo isticmaale u summadeeyaan. Waxaan ogaanay in kala-saarayaasha si kooban diiradda u saaraa ay si la qiyaasi karo uga kalsooni badan yihiin hal kala-saare oo wax walba qabta. Tusaalooyin tiro yar oo si taxaddar leh loogu doortay weydiinta ayaa kala saari kara “I keep getting killed by this boss” (xaalad ciyaareed oo gebi ahaan aan waxyeello lahayn) iyo calaamad muujinaysa waxyeello dunida dhabta ah.
Ammaan → Si caadi ah u soo saar
Ka gudbidda xannibaadaha amniga → Iska dhaaf ama kaga leexi diidmo waafaqsan sumcadda
Khataraha badbaadada ama fayoqabka → U gudbi qof, adigoo siinaya macluumaad faahfaahsan
Wax-soo-saarka kala saar (ha dirin jawaab xun): Jawaab kasta oo la soo jeediyo dib ayaa loo baadhaa ka hor dirista. Tani waxay ka ilaalisaa leexashada nooca, sumaynta xogta RAG iyo xaaladaha siyaasadeed ee qarsoon, sida nuxur waxyeello leh, soo-bandhigidda PII ama daadinta macluumaad xasaasi ah. Haddii la calaamadiyo, jawaabta uu soo saaray LLM (Qaabka Luuqadda Ballaaran) waxaan ku beddelnaa farriin ammaan ah oo sumcadda waafaqsan ama qof ayaan u gudbinnaa, halkii aan diri lahayn wax aan ka shallayno.
Ka dhig mid dhakhso iyo jaban: U dhisidda weydiimaha qaybo dib loo adeegsan karo waxay kuu saamaxaysaa inaad kaydiso qaybaha weydiinta, tusaalooyinka tiro yar ee kala-saaraha iyo bilowga wada-hadallada caadiga ah. Habkani wuxuu yareeyaa dib-u-dhaca iyo kharashka xannibaadahaaga ilaalinta labadaba.
Badbaadada ula dhaqan sidii qayb badeecadda ka mid ahDiidmooyinka iyo digniinaha waxaa loo qoraa codka badeecadda, tusaale ahaan cod ciyaareed oo madadaalo leh ama cod maaliyadeed oo rasmi ah. Marka waayo-aragnimada isticmaaluhu ixtiraamto ujeeddadiisa, aqbalaadda xannibaadaha ilaalintu way korodhaa, isku-dayada ka gudbidda xannibaadaha amniguna way yaraadaan.
La soco, qiimee awoodda nidaamka, wareeggana dhammaystirQiimeynta awoodda nidaamka ee joogtada ah iyo shaashadaha badbaadada tooska ahi waxay qabtaan dib-u-dhacyada tayada ka hor intaanay isticmaaleyaasha gaadhin. Waxaan nooca bari karnaa qaab kasta oo weerar cusub ah annagoo siinayna tusaalooyin tiro yar oo dheeraad ah iyo/ama xeerar hagid, si nidaamku marba marka ka dambaysa u adkaado in la jebiyo iyadoo aan waxqabadka barnaamijka la wiiqin.
Dhisidda iyo joogtaynta xannibaado ilaalin oo wax-ku-ool ahi way adag tahay.
Dhab ahaan, waxay u baahan tahay iskaashi taxaddar leh oo dhex mara daneeyayaasha muhiimka ah ee ganacsiga iyo horumariyayaasha si loo sameeyo siyaasad si fiican loo qeexay. Marka siyaasadda la qeexo ka dib, waa in la dhisaa oo la habeeyaa naqshadda iyo habdhaqanka nidaamka.
Soo-ifbaxa noocyada furan ee caqliyeynta badbaadada, sida gpt-oss-safeguard, wuxuu xallin karaa qaar ka mid ah caqabadaha hawshan, isagoo bixinaya aasaas dhexdhexaadinta nuxurka u diyaarsan adeegsiga oo dabacsan.
Gpt-oss-safeguard wuxuu hiigsanayaa inuu wax ka qabto qaar ka mid ah caqabadaha caamka ku ah dhisidda nidaamyada dhexdhexaadinta maanta. Noocyadan yaryar ee takhasuska leh waxaa loo turxaan-bixiyey inay xilliga saadaalinta ka caqliyeeyaan siyaasadda la beegsanayo, iyagoo raadinaya nuxur waxyeello ama xasaasi ah, sida ka gudbidda xannibaadaha amniga, soo-bandhigidda PII iyo jebinno kale oo siyaasadeed.
Markay caqliyeynta ku daraan habka kala-saarista, waxay bixiyaan dhexdhexaadin sax ah oo adkaysi badan, lagana gudbi karo si dhib badan. Iyagoo ah noocyo amni oo gaar u ah GPT-OSS 20B iyo 120B, waxay suurtageliyaan waxqabad badbaado oo heerka ugu sarreeya, iyagoo u baahan diyaarin yar oo ku salaysan qeexitaanno siyaasadeed oo gaar ah.
Waxaan gpt-oss-safeguard 20B iyo 120B ku qiimaynay hawlo dhowr ah oo u eg kuwa hawlgalka dhabta ah: kaaliye cod oo isla waqtigaas shaqeeya, bot taageera ciyaartoyda ciyaarta gudaheeda, nidaam si firfircoon u dhexdhexaadiya wada-sheekaysiga iyo baadhitaan sunnaan oo luuqado badan ah—Isbaanish, Faransiis, Talyaani, Boortaqiis, Ruush iyo Turki.
Dhexdhexaadinta codka ee dib-u-dhaca u nugul: Tijaabooyinkeenna codka tooska ah—oo ah kala-saarid ka dhex dhacaysa wada-hadal, halkaas oo jawaab la falanqeeyo lana kala hormariyo, sida wada-sheekaysiga ciyaarta—gpt-oss-safeguard-20B wuxuu soo afjaray qiyaastii 80% farqigii saxnaanta ee u dhexeeyey GPT-OSS-20B iyo GPT-5-Mini (0.71 marka loo eego 0.78, isagoo ka soo kacay 0.45), iyadoo dib-u-dhacu aad u yaraa.
Gudbinta taageerada ciyaartoyga: Markii la kala hormarinayey taageerada ciyaartoyda, gpt-oss-safeguard-20B wuxuu soo afjaray qiyaastii 90% farqigii u dhexeeyey GPT-OSS-20b iyo GPT-5-Mini (0.66 marka loo eego 0.67, isagoo ka soo kacay 0.57). Waxa kale oo uu bixiyey saxnaanta guud ee ugu wanaagsan kooxdii la tijaabiyey, 88% helitaan nuxurka aan waxyeellada lahayn iyo 87% saxnaan ogaanshaha isticmaaleyaasha nugul—waxtar leh haddii aad rabto gudbin taxaddar leh oo lagu kalsoonaan karo, adigoon dib-u-eegayaasha bini’aadamka farriimo ku hafin.
Dhexdhexaadinta wada-sheekaysiga ee leh siyaasado badan, laguna sameeyo baaxad weyn: Qiimayntayadii ugu adkayd, oo nidaamka dhexdhexaadinta ka doonaysay inuu si firfircoon u calaamadiyo farriimaha ciyaarta gudaheeda iyadoo la raacayo dukumenti siyaasadeed oo faahfaahsan, gpt-oss-safeguard wuxuu si cad uga fiicnaaday heerka aasaasiga ah ee OSS, isagoo gaaray koror qaraabo ah oo qiyaastii 35% ah, si wax-ku-ool ahna ula tacaalay siyaasadaha dhaadheer. Tani waa xaalad adeegsi oo aad xasaasi u ah, una baahan heerar sare oo helitaan iyo saxnaan ah. Haddii heerka helitaanku aad u hooseeyo, farriimo badan oo waxyeello leh ayaa la seegi doonaa. Saxnaan hooseysaana waxay keenaysaa in farriimo badan oo aan khusayn loo calaamadiyo dhexdhexaadiyayaasha bini’aadamka, taasoo dareenkooda ka leexinaysa kiisaska run ahaantii adag.
Waxqabadka luuqadaha badan: Xogururin sunnaan oo dheellitiran, kana kooban lix luuqadood, gpt-oss-safeguard wuxuu si dhow ula socday GPT-5-Mini, farqiga saxnaantuna caadi ahaan wuxuu ahaa 3–5 dhibcood boqolle, halka gpt-oss-safeguard-120B uu Isbaanishka wax yar kaga horreeyey. Waxaan aragnay farqi wax yar ka weyn luuqadaha xogtoodu kooban tahay sida Turkiga, balse guud ahaan waxqabadka luuqadaha kala duwan wuu adkaa, heerka helitaankuna si joogto ah ayuu u kordhay markii 20B laga gudbay 120B.
Waxaan sidoo kale aragnay in noocyada gpt-oss-safeguard ay si fiican uga shaqeeyaan meelaha LLM (Qaabka Luuqadda Ballaaran) caadi ahaan kaga liitaan dhexdhexaadinta, sida xogta PII. Noocyada caanka ahi waxay inta badan u janjeedhaan aqoonsiga xogta PII ee qaabka Maraykanka, waxqabadkooduna wuu ka liitaa gobollada kale. Sidaas awgeed, waxaan rumaysan nahay in gpt-oss-safeguard uu fududayn doono diyaarinta dhexdhexaadinta, isagoo yaraynaya ku-tiirsanaanta qalab gaar ah oo qabta jebinnada yaryar ee siyaasadaha ee LLM-yada guud aanay maarayn karin.
Qiimaynahayagu waxay xaqiijiyeen in «noocyada aasaasiga ah ee dhexdhexaadinta» sida gpt-oss-safeguard-20B iyo gpt-oss-safeguard-120B ay si degdeg ah wax badan kuugu qaban karaan. Hase yeeshee, turxaan-bixinnada u gaarka ah qayb gaar ah ayaa weli ah heerka ugu sarreeya marka nidaamyadu u baahan yihiin badbaado iyo gaar ahaansho heerka ugu sarreeya.
Adeegsiga dhexdhexaadinta ciyaarta gudaheeda, waxaan turxaan-bixin la kormeero ku samaynay kala-saare Qwen3-0.6B ah, annagoo adeegsanay qiyaastii 10,000 tallaabo oo hore oo dhexdhexaadiyayaashu qaadeen iyo natiijooyinkii siyaasadaha. Noocani si weyn ayuu hawshan ugaga fiican yahay nooc kasta oo aasaasi ah oo aan tijaabinnay, isagoo gaaray saxnaan 57% ah marka loo eego 15% (gpt-oss-safeguard-120B, oo laga qiyaasay saamiga waxqabadka GPT-4.1-nano); taasi waa koror 42 dhibcood ah, ama qiyaastii 280%. Natiijooyinkani waxay waafaqsan yihiin tilmaanta OpenAI ee ah in kala-saarayaal yaryar oo gaar loo tababaray, laguna tababaray tusaalooyin summadaysan, ay noocyada ilaalinta kaga fiicnaan karaan qaybaha takhasuska leh.
Gunaanadku waa cad yahay: marka siyaasaduhu faahfaahsan yihiin oo ay leeyihiin xaalado badan oo gaar ah, nooc yar oo qaybtaas loo habeeyey ayaa weli ah halbeegga ugu sarreeya. Turxaan-bixintu waxay siyaasaddaada iyo xaaladaha gaarka ah si toos ah ugu dhex dartaa halbeegyada, taasoo keenta habdhaqan deggan marka nidaamka la hawlgeliyo, iyadoo dib-u-dhaca iyo kharashkuba aad u yar yihiin.
Turxaan bixinta la kormeero waa keliya mid ka mid ah hababka kala duwan ee arrintan loo wajahi karo. Waxa kale oo la adeegsan karaa farsamooyin tababar oo awood leh, sida waxbarashadda xoojinta ah ama miirista ku salaysan siyaasadda hadda jirta, si habdhaqanka nooca loo sii wanaajiyo.
Turxaan-bixintu caadi ahaan waxay u baahan tahay xog badan. Xogururinta loo adeegsaday turxaan-bixinta kala-saaraha Qwen3-0.6B waxaa gacanta ku summadeeyey dhexdhexaadiyayaal bini’aadam ah, sidaas darteedna waxay ahayd il xaqiiqo oo nadiif ah oo lagu kalsoonaan karo.
Mashruucyo badan, faa’iidadan xogta hodanka ahi bilowga ma jirto. Sidaas darteed, turxaan-bixinta waxaan u aragnaa wanaajin la samayn karo marxalad dambe oo horumarinta xalka ah. Marka qaabka xalku dego oo la ururiyo xoogaa xog dhab ah oo isticmaaleyaasha ah, horumariyayaashu waxay adeegsan karaan turxaan-bixin bartilmaameed leh si xalalka dhexdhexaadinta loo gaadhsiiyo heerka xiga.
Noocyada aasaasiga ah ee dhexdhexaadinta sida gpt-oss-safeguard waa dhismayaal cusub oo awood leh. Waxay si weyn u fududayn karaan naqshadaynta nidaamyada dhexdhexaadinta, iyagoo sidoo kale yaraynaya dib-u-dhaca barnaamijyada shaqeeya isla waqtigaas. Marka lagu lammaaniyo kala-saarayaal yaryar oo si gaar ah loo sameeyey, waxaad dhisi kartaa nidaam ka ammaan iyo dhakhso badan, kana qaybo yar hab ku salaysan weydiin oo adeegsada noocyo waaweyn oo guud.
Haddii aad maanta dhisayso ama casriyeynayso dhexdhexaadin, marka hore tixgeli noocyada sida gpt-oss-safeguard, cabbir waxqabadkooda, dabadeed meelaha xogtu muujiso daloollo ku dar wanaajin bartilmaameed leh oo adeegsanaysa kala-saarayaal gaar ah—kuwo weydiin ku salaysan ama la turxaan-bixiyey.
Ma danaynaysaa inaad wax badan ogaato? Farriin noo soo dir.