ለሕዝብ በቀጥታ የሚቀርቡ የትልቅ ቋንቋ ሞዴል (LLM) መተግበሪያዎች የምርት ስምን ለስም እና ለገንዘብ አደጋዎች ሊያጋልጡ ይችላሉ።
ከLLM ጄልብሬኮችና ከሌሎች ያልታሰቡ የLLM ባህሪያት የሚመጣውን ጉዳት ለመቀነስ ባለብዙ እርከን የምደባ ማጣሪያዎችን እንጠቀማለን።
ይህን በቀን 40,000 መልዕክቶችን በሚቀበልና ቁጥሩም እያደገ ባለ ከፍተኛ የአጠቃቀም መጠን ባለው የምርት መተግበሪያ ላይ ተግብረነዋል።
ባለፈው ዓመት ከአንድ መሪ የጨዋታ አበልጻጊ ጋር በመተባበር፣ ልጆችንም ካካተተ የተጫዋቾች ማኅበረሰብ በቀን ወደ 40,000 ገደማ መልዕክቶችን የሚቀበል የGenAI ቻትቦት አሰማርተናል። ፍጥነትን፣ ትክክለኛነትን፣ ደህንነትንና አዝናኝነትን ማመጣጠን ወሳኝ ነው፦
የምርት ስምዎን የሚወክል ቻትቦት ሲፈጥሩ ደህንነቱ ብቻ አይበቃም—የእርስዎን ማንነት በእውነተኛነት ማንጸባረቅም አለበት።
ለጨዋታ ኩባንያ ይህ ማለት፣ በተለይ ለወጣት ታዳሚዎች፣ ደህንነትን ከአዝናኝነትና ከተጠቃሚ ጉጉት ጋር ማዋሃድ ነው።
ዘመናዊ የGenAI መተግበሪያዎችን የሚደግፉት LLMዎች እጅግ ተለዋዋጭ ናቸው፤ ለብዙ ችግሮች በሚገባ ሊውሉ የሚችሉትም ለዚህ ነው። ሆኖም በቂ ገደብ የላቸውም። ይህም ብዙ ጊዜ ከታሰበው መንገድ ወጥተው ሰፊ ዓይነት ጽሑፍ ሊመልሱ ይችላሉ ማለት ነው፤ ከእነዚህም አንዳንዶቹ ተገቢ ላይሆኑ ይችላሉ።
LLMን ያለምንም መካከለኛ ለሕዝብ ማቅረብ ያልተጠበቀ ባህሪን ማስከተሉ አይቀርም፤ ተገቢ መከላከያዎች ከሌሉም የሚከተሉትን አደጋዎች ሊያስከትል ይችላል፦
ተጠቃሚዎች ቻትቦቱን ሆን ብለው በማታለል ጎጂ ወይም ያልተፈቀደ ይዘት እንዲያወጣ የሚያደርጉባቸው “ጄልብሬኮች” (አስደሳች መረጃ፦ ማንኛውም ሰው ይህን ድረ ገጽ በመጎብኘት በአዝናኝ ጨዋታ የLLM ጄልብሬክን ማሰስ ይችላል…)፤ ወይም
ሳይታሰብ የማይጣፍጥ፣ አጸያፊ ወይም አደገኛ ይዘት ማቅረብ። በብዙ ሁኔታዎች ይህ የተጠቃሚን ደኅንነት ለአደጋ ሊያጋልጥ ወይም በመተግበሪያው አቅራቢ ላይ የገንዘብ ወይም የምርት ስም ጉዳት ሊያደርስ ይችላል።
ያልታሰበ የLLM አጠቃቀምን የሚመለከቱ የዜና ርዕሶች፦
በዲሴምበር 2024፣ አንድ ቻትቦት የ17 ዓመት ታዳጊን በስክሪን ጊዜ ገደቦች ምክንያት ወላጆቹን መግደል “ምክንያታዊ ምላሽ” እንደሆነ በመንገሩ ክስ ቀረበበት።
በፌብሩዋሪ 2024፣ የAir Canada ቻትቦት ስለመመሪያው አሳሳች መረጃ በመስጠቱ ኩባንያው ከሐዘን ጋር የተያያዘ ከፊል ተመላሽ ገንዘብ ለመስጠት ተገደደ።
እነዚህ ክስተቶች በGenAI ሥርዓቶች ውስጥ ደህንነትን መገንባትና ማስጠበቅ አማራጭ ያልሆነበትን ምክንያት ያሳያሉ። በተለይ ትናንሽ ልጆች ሲኖሩ ይህ ይበልጥ እውነት ነው፤ በማስጠንቀቂያ መግለጫዎች ብቻ መተማመን አይቻልም—ይዘቱን ተገቢ አድርጎ ለማቆየት ጠንካራ የደህንነት ገደቦች ወሳኝ ናቸው።
ለደንበኞች እንደገነባናቸው RAG (በሰርስሮ ማግኘት የተጠናከረ ማመንጨት) ሥርዓቶች ሁሉ፣ አፈጻጸሙን ከፍተኛ እንደያዘ የጄልብሬክ አደጋዎችን ለመቀነስ በርካታ የAI ክፍሎችን እንጠቀማለን።
የሥርዓታችን ቀለል ያለ የአወቃቀር ንድፍ
የሥርዓቱን ደህንነት ለማረጋገጥ በግብዓቶችም ሆነ በውጤቶች ላይ የLLM መዳቢያዎችን እንጠቀማለን፦
የግብዓት ምደባ (በትይዩ የሚከናወን)
የተጠቃሚ ጥያቄዎችን ለመሰየም (ለምሳሌ SAFE፣ SUSPICIOUS፣ CHILD_HARM_RISK፣ VIOLENT፣ ወዘተ) የPydantic ንድፎችን ከLLM የተዋቀሩ ውጤቶች ጋር ተጠቅመናል። ይህም ጄልብሬክን ወይም ያልተፈቀደ ባህሪን የሚለዩ ጠቋሚዎችን ያካትታል።
ለየትኛውም ነገር ከሚውል አንድ ግዙፍ መዳቢያ ይልቅ፣ ለየጉዳዩ የተዘጋጁ በርካታ መዳቢያዎች በእጅጉ የተሻለ አፈጻጸም አስገኝተዋል።
መዳቢያዎቹ “I keep being killed by this character” (ጨዋታውን የሚመለከት) እና “I am being hurt by my parent” (በልጅ ላይ የሚደርስ ጉዳትን የሚጠቁም) የሚሉትን እንዲለዩ፣ ሰፊ የእጥር ምጥን ምሳሌዎች ወሳኝ ነበሩ።
ከደንበኛውና ከልዩ የእምነትና ደህንነት ቡድኖቹ ጋር በቅርብ መተባበራችን፣ መዳቢያዎቻችን በገሃዱ ዓለም ከፍተኛ አደጋ ያላቸውን መልዕክቶች የሚገመግሙበትን መንገድ እንዲያንጸባርቁ አድርጓል።
ምላሽ ማመንጨት
ግብዓቱ ደህንነቱ የተጠበቀ ነው ተብሎ ከተወሰነ፣ ዋናው LLM ምላሽ ያመነጫል።
ካልሆነ መልዕክቱ ችላ ሊባል ይችላል (ጄልብሬክ ከሆነ) ወይም ለሰው ባለሙያ ሊተላለፍ ይችላል (ጥያቄው የደህንነት ችግር ካመለከተ)።
የውጤት ምደባ
የሞዴሉ ምላሽ ከመተግበሪያችን ወጥቶ ለተጠቃሚው ከመድረሱ በፊት እንመድበዋለን።
አንዳንድ ምላሾች ከበይነመረብ በተሰበሰበ ውሂብ ላይ የRAG ዘዴዎችን ሊጠቀሙ ስለሚችሉ፣ ይህ ደረጃ ከውሂብ መመረዝ ይጠብቀናል።
ያልተፈቀደ ይዘት ካለው፣ ሥርዓቱ ጣልቃ ገብቶ በአጠቃላይ መልዕክት ይተካዋል። በተግባር ይህን እምብዛም አላጋጠመንም፤ ነገር ግን የወኪሉ ባህሪ ተገቢ ሆኖ እንዲቀጥል የሚያረጋግጥ ተጨማሪ ጥንቃቄ ነው።
ፍጥነትንና ተመጣጣኝ ዋጋን ለመጠበቅ፦
በብዛት ጥቅም ላይ የሚውሉ እርምጃዎችንና ከፊል ውይይቶችን ከተመረጡ የእጥር ምጥን ምሳሌዎች ጋር እናከማቻለን።
ይህ መሸጎጥ አውዱን በየጊዜው እንደገና መገንባት ሳያስፈልገን፣ የLLM መዳቢያዎችን በፍጥነትና በአነስተኛ ወጪ እንድንተገብር ያስችለናል።
Anthropic በቅርቡ ያደረገው ጥናት Constitutional Classifiersን ገልጿል፤ ይህ በ“ሕገ-መርሃዊ” ደንቦች የሰለጠኑ ተጨማሪ መዳቢያዎችን በመጠቀም ተንኮል አዘል ወይም ደህንነቱ ያልተጠበቀ ጥያቄን የሚለይ ሥርዓት ነው። እንዲህ ሲሉ ዘግበዋል፦
በሰዎች ለሺዎች ሰዓታት በተካሄደ በእሳት መፈተን ላይ ከፍተኛ ጽናት።
እጅግ ዝቅተኛ የተጋነነ እምቢታ መጠንና መካከለኛ የስሌት ተጨማሪ ወጪ።
ወደፊት እነዚህ ሕገ-መርሃዊ አቀራረቦች ባህላዊ የምደባ እርከኖችን ሊያሟሉ ወይም ሊተኩ ይችላሉ፤ በዚህም እየተለወጡ ካሉ የጄልብሬክ ስልቶች የተሟላ ጥበቃ ይሰጣሉ ብለን እናስባለን።
በትይዩ የሚሠሩ ቀላል ማጣሪያዎች
የምደባ እርከኖች ተንኮል አዘል ጥያቄዎች ወደ አመንጪው ዋና ክፍል እንዳይደርሱ ይከላከላሉ፤ ደካማ ውጤቶችም ፈጽሞ እንዳይቀርቡ ያረጋግጣሉ።
የተጠቃሚ ተሞክሮ ወሳኝ ነው
አዝናኝ፣ በጨዋታው ታሪክ ላይ የተመሠረቱ ማስጠንቀቂያዎችና ቀልድ የተሞላባቸው እምቢታዎች ላይ በማተኮር፣ ተጠቃሚዎች የሥርዓቱን ገደቦች ይበልጥ ለመቀበል ይነሳሳሉ።
ሙከራና ክትትልን አቅልለው አይመልከቱ
መደበኛ በእሳት መፈተንና የተጫዋቾችን ባህሪ በተደጋጋሚ መከታተል፣ ተጋላጭነቶች ለሰፊው የተጫዋቾች ማኅበረሰብ ከመታወቃቸው በፊት ለመለየት ይረዳል። ከዚያም ወደፊት ጥቅም ላይ እንዳይውሉ፣ እነዚህን ወደ የእጥር ምጥን መዳቢያ እርምጃዎች መልሶ ማካተት ይቻላል፤ በአሁኑ ጊዜ ይህ በእጅ የሚከናወን ቢሆንም በራስ-ሰር ሊደረግ ይችላል።
የጨዋታ ኩባንያ፣ ባንክ ወይም የመንግሥት መሥሪያ ቤት ቢሆኑም፣ የደንበኞች አገልግሎት ቻትቦትን በስፋት ለመተግበር ካሰቡ ለተጠቃሚ ንድፍና ለታማኝነት እኩል ትኩረት መስጠት አለብዎት።
የሚከተሉት ጉዳዮች ወሳኝ ለሆኑባቸው ድርጅቶችና የምርት ስሞች ለደንበኞች የሚቀርቡ መፍትሔዎችን እንገነባለን፦
ደህንነት ከሁሉ ይቀድማል—ለተጠቃሚዎች ጥቅም የሚሰጡ ሲሆኑ፣ ከጎጂ ይዘትም በጥብቅ የሚጠብቋቸው ቻትቦቶች
መልካም ስም ይጠበቃል—ተጠቃሚዎች ሥርዓቱን ከገደቡ በላይ ለመግፋት ቢሞክሩም የምርት ስሙን መልካም ስም የሚጠብቁ ባለብዙ እርከን መከላከያዎችን እንነድፋለን
ደንቦች አማራጮችዎን ይገድባሉ—መተግበሪያዎ በጄልብሬክ እንዳይጠቃ ሳይጨነቁ መፍትሔዎችን በስፋት እንዲተገብሩ፣ የቅርብ ጊዜ የተገዢነት መመሪያዎችን እንከታተላለን