Dhisidda wakiillo wada-sheekeysi oo ammaan u ah ganacsiyada khatarta sare leh

• Barnaamijyada dadweynaha u furan ee LLM (Qaabka Luuqadda Ballaaran) waxay sumadaha ganacsi u keeni karaan khataro sumcad iyo dhaqaale.

• Waxaan adeegsannaa shaandhooyin kala-soocid oo lakabyo leh si loo yareeyo waxyeellada ka dhalata ka gudbidda xannibaadaha amniga ee LLM-yada iyo hab-dhaqannada kale ee aan loogu talagelin.

• Waxaan tan ku dabaqnay barnaamij wax-soo-saar oo aad loo isticmaalo, kaas oo hela 40,000 oo farriimood maalin kasta, tiraduna sii kordhayso.

Sannadkii la soo dhaafay, waxaan la shaqaynay horumariye ciyaareed oo hormuud ah si aan u hirgelinno chatbot GenAI ah oo ka jawaaba qiyaastii 40,000 oo farriimood maalintii, kuwaas oo ka yimaadda ciyaartoy ay carruuri ku jiraan. Waa lama huraan in la isu dheellitiro xawaaraha, saxnaanta, badbaadada iyo madadaalada:

Markaad samaynayso chatbot metelaya summaddaada, kuma filna inuu ammaan yahay—waa inuu si dhab ah ugu hadlaa codkaaga.

Shirkad ciyaareed, tani waxay ka dhigan tahay in badbaadada lagu daro madadaalo iyo xamaasadda isticmaalaha—gaar ahaan marka dhagaystayaashu da' yar yihiin.

LLM-yada saldhigga u ah barnaamijyada casriga ah ee GenAI aad bay u dabacsan yihiin—taas ayaana u saamaxda inay dhibaatooyin badan si fiican ula qabsadaan—laakiin xaddidaaddoodu way yar tahay. Taas macnaheedu waa inay marar badan ka leexan karaan wixii loogu talagalay oo ay soo saari karaan qoraallo aad u kala duwan, kuwaas oo qaarkood aan habboonayn.

In LLM (Qaabka Luuqadda Ballaaran) si toos ah dadweynaha loogu furo waxay hubaal keeni doontaa hab-dhaqan lama filaan ah; haddii aan la helin tallaabooyin habboon, waxa iman kara khataraha soo socda:

• “Ka gudbidda xannibaadaha amniga”, oo isticmaalayaashu si ula kac ah chatbot-ka ugu qasbaan inuu soo saaro waxyeello ama nuxur mamnuuc ah (xog xiiso leh: qof kastaa wuxuu booqan karaa mareegtan si uu ciyaar madadaalo leh ugu tijaabiyo ka gudbidda xannibaadaha amniga ee LLM-yada…); ama

• In si aan ula kac ahayn loo bixiyo nuxur laga yaqyaqsoodo, gef ah ama khatar ah. Xaalado badan, tani waxay khatar gelin kartaa fayoqabka isticmaalaha ama waxay adeeg-bixiyaha barnaamijka u keeni kartaa khasaare dhaqaale ama mid sumcadeed.

Cinwaanno warar oo ka dhashay adeegsi aan loogu talagelin oo LLM ah:

• Diseembar 2024, chatbot ayaa dacwad lagu soo oogay kadib markii uu qof 17 jir ah u sheegay in dilka waalidkii uu yahay “jawaab macquul ah” oo ku aaddan xaddidaadda wakhtiga shaashadda.

• Febraayo 2024, Air Canada waxay ku qasbanaatay inay bixiso qayb ka mid ah lacag-celinta geerida qoyska, sababtoo ah chatbot-keedu wuxuu bixiyay macluumaad marin-habaabin ah oo ku saabsan siyaasadda shirkadda.

Dhacdooyinkani waxay muujinayaan sababta dhisidda iyo joogtaynta badbaadadu aanay ikhtiyaar uga ahayn nidaamyada GenAI. Tani si gaar ah ayay muhiim u tahay marka carruur yaryari ku lug leeyihiin; laguma tiirsanaan karo afeef oo keliya—ilaalo adag ayaa lagama maarmaan u ah in nuxurku habboonaado.

Sida nidaamyada RAG (Soo-saarid Lagu Xoojiyey Soo-helid) ee aan macaamiisha u dhisnay, waxaan adeegsannaa qaybo badan oo AI ah si loo yareeyo khataraha ka gudbidda xannibaadaha amniga iyadoo waxqabadku sarreeyo.

Jaantus qaab-dhismeed la fududeeyey oo nidaamkayaga ah

Si loo xaqiijiyo badbaadada nidaamka, waxaan kala-soocayaasha LLM ku dabaqnaa xogta soo galaysa iyo ta baxaysaba:

1. Kala-soocidda Xogta Soo Galaysa (oo isku mar socota)

• Waxaan adeegsanay qaab-dhismeedyada Pydantic iyo soo saaridyo habeysan oo LLM ah si aan weydiimaha isticmaalayaasha ugu calaamadaynno (tusaale, SAFE, SUSPICIOUS, CHILD_HARM_RISK, VIOLENT, iwm.). Waxa kale oo ku jiray calaamado lagu aqoonsado ka gudbidda xannibaadaha amniga ama hab-dhaqanka mamnuuca ah.

• Adeegsiga kala-soocayaal badan oo mid walba mawduuc gaar ah qaabilsan yahay ayaa keenay waxqabad aad uga wanaagsan hal kala-sooce weyn oo “wax walba qabta”.

• Tusaalooyin tiro yar oo badan ayaa lama huraan u ahaa in kala-soocayaashu kala gartaan “I keep being killed by this character” (oo ciyaarta loola jeedo) iyo “I am being hurt by my parent” (oo tilmaamaysa waxyeello ilmo loo geysanayo).

• Wadashaqayn dhow oo lala yeeshay macmiilka iyo kooxihiisa ku takhasusay kalsoonida iyo badbaadada ayaa xaqiijisay in kala-soocayaashayadu ka tarjumaan sida ay xaaladaha dhabta ah ugu qiimayn lahaayeen farriimaha khatarta sare leh.

1. Soo Saaridda Jawaabta

• LLM-ka ugu weyn ayaa soo saara jawaab haddii xogta soo gashay loo arko mid ammaan ah.

• Haddii kale, farriinta waa la iska indhatiri karaa marka la isku dayo in xannibaadaha amniga laga gudbo, ama qof ayaa loo gudbin karaa haddii weydiintu muujiso arrin badbaado.

1. Kala-soocidda Xogta Baxaysa

• Kahor inta aan jawaabtu ka bixin barnaamijkayaga, waxaan kala-soocnaa jawaabta nooca kahor gudbinta kama dambaysta ah.

• Maadaama jawaabaha qaarkood ay adeegsan karaan farsamooyinka RAG iyo xog internetka laga soo ururiyey, tallaabadani waxay naga ilaalinaysaa sumaynta xogta.

• Haddii ay ku jirto nuxur mamnuuc ah, nidaamku wuu soo dhexgalaa oo wuxuu ku beddelaa farriin guud. Ficil ahaan, tani marar dhif ah ayay nagu dhacday, balse waa lakab taxaddar dheeraad ah oo xaqiijiya in hab-dhaqanka wakiilku sii ahaado mid habboon.

Si loo joogteeyo xawaaraha iyo kharash-jabnaanta:

• Waxaan kaydinnaa weydiimaha inta badan la isticmaalo iyo wada-hadallada qayb ahaan diyaarsan, iyo sidoo kale tusaalooyin tiro yar oo si taxaddar leh loo xulay.

• Kaydintani waxay noo saamaxdaa inaan kala-soocayaasha LLM si degdeg ah oo jaban u adeegsanno, annagoo aan mar kasta dib u dhisayn macnaha guud.

Daraasad dhowaan ay Anthropic samaysay ayaa sharraxday Kala-soocayaasha Dastuuriga ah—nidaam ku tiirsan kala-soocayaal dheeraad ah oo lagu tababaray xeerar “dastuuri ah” si loo ogaado codsiyada xaasidnimada ama ammaan-darrada leh. Waxay sheegeen:

• Adkaysi sare oo ka dhan ah kumannaan saacadood oo qiimeynta awoodda nidaamka ah oo dadku sameeyeen.

• Heer aad u hooseeya oo diidmo xad-dhaaf ah iyo kharash xisaabeed dhexdhexaad ah.

Waxaan aragnaa mustaqbal ay hababkan dastuuriga ahi kaabi karaan ama xitaa beddeli karaan lakabyada kala-soocidda dhaqameed, iyagoo bixinaya difaac dhammaystiran oo ka dhan ah farsamooyinka isbeddelaya ee lagaga gudbo xannibaadaha amniga.

1. Shaandhooyin Fudud oo Isbarbar Socda

Lakabyada kala-soociddu waxay ka hortagaan in weydiimaha xaasidnimada leh ay gaadhaan xudunta wax-soo-saarka, waxayna xaqiijiyaan inaan natiijooyin liita la gudbin.

1. Khibradda Isticmaaluhu Waa Muhiim

Marka xoogga la saaro madadaalo, digniino ku salaysan sheekada ciyaarta iyo diidmooyin kaftan leh, isticmaalayaashu waxay u badan tahay inay aqbalaan xaddidaadaha nidaamka.

1. Ha Dayicin Tijaabinta iyo Kormeerka

Qiimeynta joogtada ah ee awoodda nidaamka iyo kormeerka badan ee hab-dhaqanka ciyaartoydu waxay gacan ka geysanayaan in nuglaanta la ogaado kahor inta aanay ciyaartoyda badankoodu ogaan. Kadib waxa dib loogu dari karaa weydiimaha kala-soocaha ee leh tusaalooyinka tiro yar si looga hortago in mustaqbalka la adeegsado. Hadda hawshani gacanta ayay ku socotaa, balse waa la otomaatigayn karaa.

Haddii aad tahay shirkad ciyaareed, bangi ama xitaa waax dawladeed, markaad chatbot adeegga macaamiisha ah si baaxad leh u hirgelinayso waa inaad isku mar hiigsataa naqshad ku habboon isticmaalaha IYO isku-halayn.

Waxaan ururrada iyo summadaha u dhisnaa xalal ay macaamiishu isticmaalaan, kuwaas oo:

1. Badbaadadu tahay mudnaanta koowaad—chatbot-yo qiimo siiya isticmaalayaasha, isla markaana si adag uga ilaaliya nuxurka waxyeellada leh

2. Sumcadda la ilaaliyo—waxaan naqshadaynaa lakabyo badan oo ilaalin ah oo sumcadda summadda dhawra, xitaa haddii isticmaalayaashu isku dayaan inay nidaamka dhaafiyaan xuduudihiisa

3. Xeerarku xaddidaan ikhtiyaarradaada—waxaan si joogto ah ula soconnaa tilmaamaha u hoggaansanaanta ee ugu dambeeyay, si aad xalalka u ballaadhiso adigoon ka welwelin in xannibaadaha amniga ee barnaamijkaaga laga gudbo