ከ750 በላይ ፈተናዎች ስለ AI በእሳት መፈተን ያሳዩት

የሚሠራ AI ስርዓት ለመገንባት መጀመሪያ ለማፍረስ መሞከር አለብዎት። በፋይናንስ አገልግሎት ዘርፍ ደንበኞች የሚጠቀሙበትን AI መተግበሪያ እንደ አጥቂ ሆነን በመፈተሽና በመመርመር በእሳት መፈተን አካሂደናል። ያገኘነው ውጤት፣ ደኅንነት አማራጭ ባልሆነባቸው ዘርፎች በLLM የሚሠሩ መተግበሪያዎችን ለሚያሰማራ ሁሉ ጠቃሚ ነው።

በእሳት መፈተን ማለት፣ እውነተኛ አጥቂ ተጋላጭነቶችን ከማግኘቱ በፊት ለማስተካከል፣ የAI ስርዓትዎን ሆን ብሎ ለማፍረስ መሞከር ነው። በፋይናንስ አገልግሎት ዘርፍ አደጋው በተለይ ከፍተኛ ነው፤ የAI መተግበሪያዎች የደንበኞችን ውሂብ ይጠቀማሉ፣ ግብይቶችን ያስኬዳሉ፣ የፋይናንስ ግንዛቤዎችንም ይሰጣሉ። ውድቀት ከመጥፎ የተጠቃሚ ተሞክሮ እስከ የደንብ ጥሰት፣ የገንዘብ ኪሳራና ሊጠገን የማይችል የምርት ስም ጉዳት ድረስ ሊደርስ ይችላል።

ግባችን ተጋላጭነቶችን ቀድመን ማግኘት፣ እውነታዊ የጥቃት ስልቶችን መፈተሽና ድርጅቱ ተቆጣጣሪዎች በጥብቅ የሚመለከቷቸውን የAI ደኅንነት መስፈርቶች እንዲያሟላ መርዳት ነበር።

እዚህ ላይ ሊጠቀስ የሚገባ ልዩነት አለ፤ ጄልብሬክ የመሠረታዊውን ሞዴል የደኅንነት ማጣሪያዎች ያጠቃል፤ ፈጣን መርፌ ግን ያልታመነ የተጠቃሚ ግብዓትን ከገንቢው ታማኝ እርምጃ ጋር በማጣመር መተግበሪያውን ራሱን ያጠቃል። ፈጣን መርፌ አጠቃላይ ዓላማ ያለውን ሞዴል ሳይሆን የእርስዎን ስርዓትና የሚያስተናግደውን ሚስጥራዊ ውሂብ ስለሚያነጣጥር የበለጠ አደጋ ያስከትላል።

የመጀመሪያው ዙር ፈተናችን በሚከተሉት ዙሪያ ወደ 750 የሚጠጉ ፈተናዎችን አካቷል፦

• በክፍለ ጊዜዎች መካከል የሚከሰት የውሂብ ፍሰት

• የግል መለያ መረጃ (PII) መጋለጥ፤ በተፈጥሯዊ ቋንቋ፣ በAPI ማጭበርበርና በተለያዩ ኢንኮዲንጎች

• የSQL መርፌ

• የስርዓት እርምጃን መሻር

በመጀመሪያው ፈተና ነባሩ ስርዓት ሁለት ዋና ችግሮች እንዳሉበት ለይተናል፤ ባለብዙ ዓላማ ጥያቄዎችን አያያዝና የተመሰጠሩ መመሪያዎችን አጠቃቀም።

ባለብዙ ዓላማ ጥያቄዎች፦ ሕጋዊና ተንኮል አዘል ጥያቄዎችን የሚያጣምሩ ጥያቄዎች። ለምሳሌ፦ “ወጪዬን በደረጃ አሳይ፣ እና ደግሞ [ተንኮል አዘል SQL] ን ፈጽም” መተግበሪያው ተንኮል አዘል ዓላማውን አላወቀም፤ በምትኩ ሙሉ በሙሉ በታችኛው የውሂብ ንብርብር መከላከያዎች ላይ ተማምኗል። ይህ፣ በምድር ቤቱ ያለውን ካዝና ስለሚያምኑ የፊት በርዎን ክፍት እንደመተው ነው።

ኢንኮዲንግ፦ ጥያቄዎችን በBase64፣ Hex፣ LeetSpeak እና ተመሳሳይ ቅርጽ ባላቸው ፊደላት መመስጠር። ስርዓቶች ተንኮል አዘል ዓላማን አጣርተው ማስወገድ ሊከብዳቸው ይችላል። እነዚህ ጥያቄዎች ሚስጥራዊ ውሂብን ባያጋልጡም፣ ስርዓቱን በእጅጉ እንዳወኩት አግኝተናል፤ ቅዠቶች፣ ተንኮል አዘል SQLን ለተጠቃሚዎች መልሶ መድገም፣ ግራ የተጋባ የዓላማ ምደባ ወዘተ።

የመጀመሪያ ፈተናችን ውጤቶች የሚከተሉትን አሳይተዋል፦

• የጊዜያዊ ቅዠቶች፦ ሞዴሉ በልበ ሙሉነት የተገለጹ ነገር ግን የፈጠራ ቀኖችን፣ የግብይት ጊዜ ማህተሞችን ወይም ጊዜ-ተኮር ማጠቃለያዎችን መመለስ። ደንበኛ በተሳሳተ ቀን ላይ ተመሥርቶ እርምጃ መውሰዱ እውነተኛ መዘዝ በሚያስከትልበት የፋይናንስ ዘርፍ ይህ ከፍተኛ አደጋ ነው

• ተንኮል አዘል SQLን ለተጠቃሚው መልሶ መድገም፤ ይህም የማህደረ ትውስታ መበከል አደጋን ያሳድጋል

• ግራ የተጋባ የዓላማ ምደባ

• የተዘበራረቀ የውጤት ቅርጸት

በእነዚያ ግኝቶች ተመርተን ትኩረታችንን አጥብበናል። የSQL መርፌና የኢንኮዲንግ ፈተናዎች ቅድሚያ እንዳይሰጣቸው ተደረገ፤ ቡድኑ ቀድሞውኑ ችግሮቹን እየፈታ ነበር። በምትኩ በጣም ውጤታማ በሆኑት የጥቃት መንገዶች፣ ማለትም በPII መጋለጥና በክፍለ ጊዜዎች መካከል በሚከሰት የውሂብ ፍሰት ላይ አተኮርን።

ከሁለተኛው ዙር ያገኘነው እጅግ አስደናቂ ግኝት በሚገርም ሁኔታ ቀላል ነበር፤ ብዙ ጊዜ ምንም ብልሃት አያስፈልግም።

በብዙ አጋጣሚዎች፣ ውስጣዊ ውሂብን መጠየቅ ብቻ፣ ጥያቄውን ሕጋዊ ከሚመስል ጥያቄ ጋር አጣምሮ ማቅረብ፣ ስርዓቱ ውሂቡን ለማጋለጥ እንዲስማማ በቂ ነበር። ቀላል ጥያቄዎች፣ ለዋና ተጠቃሚዎች ፈጽሞ መታየት የሌለባቸውን ውስጣዊ መለያዎችና የስርዓት መስኮች የሚጠቅሱ ምላሾችን ያገኙ ነበር።

ይበልጥ በጥልቀት ስንመረምር፣ ይህ የመተግበሪያ ደረጃ ውድቀት ብቻ እንዳልሆነ አገኘን። በታችኛው ያለው ጽሑፍን ወደ SQL የሚቀይር አገልግሎት ከሚገባው በላይ መስኮችን የሚጠይቁ መጠይቆችን ይገነባ ነበር፤ ገላጭ ምላሾቹም መገደብ የነበረበትን ውሂብ ይጠቅሱ ነበር። ይህም በስርዓቶች መካከል እውነተኛ ክፍተት እንዳለ አጋለጠ፤ ይህ ዓይነቱ ተጋላጭነት የሚታየው ነጠላ ክፍሎችን ለየብቻ ሳይሆን ሙሉውን የቴክኖሎጂ ቁልል ሲፈተሽ ብቻ ነው።

1. ሞዴሉን ሳይሆን ስርዓቱን በእሳት ፈትኑ። LLMን ለብቻው መፈተሽ ስለ መተግበሪያዎ የደኅንነት ሁኔታ የሚነግርዎት ነገር በጣም ጥቂት ነው። ተጠቃሚ እንደሚገለገልበት ሁሉ፣ ሙሉውን የቴክኖሎጂ ቁልል ከጫፍ እስከ ጫፍ ይፈትሹ።

2. የግብዓት ማረጋገጥ ከLLM በፊት መካሄድ አለበት። የተመሰጠሩ ጥያቄዎች፣ ባለብዙ ዓላማ ጥቃቶችና መሠረታዊ የመርፌ ሙከራዎች ለታችኛው አገልግሎት ሳይተዉ በዳርቻው መያዝ አለባቸው።

3. በስርዓቶች መገናኛን አትመኑ። ባለብዙ አገልግሎት አወቃቀሮች ውስጥ፣ እጅግ አሳሳቢ ተጋላጭነቶች የሚደበቁት በስርዓቶች መካከል ባሉ ክፍተቶች ነው። ዜሮ-እምነት ማለት በእርግጥ ዜሮ-እምነት ነው፤ ስለዚህ በየንብርብሩ ሁሉንም ነገር ያረጋግጡ።

4. ቀላል ጥቃቶች ይሠራሉ። የተራቀቁ ጄልብሬኮች በዜና ይጉላሉ፤ አንዳንድ ጊዜ ግን ዝም ብለው... ይጠይቁ። ተጠቃሚ ውስጣዊ መለያዎችን በሌላ መልኩ ሕጋዊ በሆነ ጥያቄ ውስጥ ሲያካትት ስርዓትዎ ያለምንም ማመንታት የሚያሳያቸው ከሆነ፣ ችግር አለ።

5. በእርግጥ ምን እየፈተሹ እንደሆነ ይረዱ። የታወቁ የጥቃት ስልቶችን የሚይዘው የእርስዎ መከላከያ ሳይሆን የLLM የራሱ ሥልጠና ሊሆን ይችላል። በእሳት መፈተንዎ ውስጥ የምልከታ ችሎታን በማካተት፣ የትኞቹ መቆጣጠሪያዎች በእርግጥ እየተፈተኑ እንደሆነ ይረዱ።

6. ገደብ ያለባቸው አካባቢዎች ፈጠራዊ መፍትሔዎችን ይፈልጋሉ። ብጁ አቅራቢዎችና የአካባቢያዊ ሞዴል ድጋፍ፣ ልዩ የደመና መዳረሻ ሳያስፈልግ ትርጉም ያለው በእሳት መፈተን እንዲቻል ያደርጋሉ። ነገር ግን ይህ ስለሚያስከትላቸው ገደቦች ግልጽ ይሁኑ።

7. በእሳት መፈተን የአንድ ጊዜ ሥራ አይደለም። ተደጋጋሚ ሂደት ነው፤ በሚቻልበት ቦታ በራስ-ሰር መካሄድ እና ስርዓትዎ ሲለወጥ አብሮ መሻሻል አለበት። ነገ አስፈላጊ የሚሆኑት ጥቃቶች ዛሬ አስፈላጊ ከሆኑት ጋር አንድ አይደሉም።

ቁጥጥር በሚደረግባቸው አካባቢዎች ያሉ የAI ስርዓቶች የሚያጋጥማቸው ምርመራ እየጨመረ እንጂ እየቀነሰ አይሄድም። የደኅንነት ፈተናን ከማስጀመር በፊት ብቻ የሚሞላ ምልክት ሳይሆን ቀጣይነት ያለው ሙያዊ ሥርዓት አድርገው የሚመለከቱ ድርጅቶች፣ ይህን ምርመራ ለማሟላትና የደንበኞችን እምነት የሚያሳጡ የሕዝብ ግንኙነት ቀውሶችን ለማስወገድ የተሻለ ዝግጁነት ይኖራቸዋል።