ወኪል-ተኮር ሥርዓትን ለመንደፍ ተግባራዊ መመሪያዎች

• በወኪል-ተኮር ሥርዓትዎ ውስጥ ውሳኔዎች እንዴትና የት እንደሚወሰኑ በጥንቃቄ ማጤን አስፈላጊ ነው።

• ተጨማሪ ውሳኔዎችን ለLLM መተው ሥርዓቱ ለብዙ ተግባራት እንዲስማማ ሊያስችለው ይችላል፤ ሆኖም ፍጥነትን፣ አስተማማኝነትንና ጽናትን ሊቀንስ ይችላል።

• በተቻለ መጠን የውሳኔ አሰጣጡን ሂደት ከLLM አውጥተው በግልጽ የሶፍትዌር ኮድ ውስጥ ለማካተት ይሞክሩ። ይህ በተለይ ከፍተኛ ስጋት ላላቸው እና/ወይም በምርት አካባቢ ለሚሠሩ የሥራ ፍሰቶች እውነት ነው።

በLLM ላይ የተመሠረተ ወኪል-ተኮር ሥርዓት ሲነድፉ፣ ከሚወስኗቸው ዋና ጉዳዮች አንዱ የውሳኔ አሰጣጡ ምን ያህል በLLM ሞዴል ውስጥ እንደሚካተትና ምን ያህሉ በግልጽ ሶፍትዌር እንደሚተገበር ነው።

ይህን ምርጫ ለመረዳት፣ በሚከተሉት አቀራረቦች መካከል ያለ ተከታታይ ክልል አድርገን ልናስበው እንችላለን፦

• በራውተር ላይ የተመሠረቱ አርክቴክቸሮች ቅደም ተከተሉንና አመክንዮውን በኮድ በግልጽ ይወስናሉ፤ ይህም ጠባብ የትግበራ መስክ ላላቸው ተግባራት መሞከርን፣ መተንበይንና ጽናትን ያረጋግጣል (እነዚህ «የሥራ ፍሰት ወኪሎች» ተብለውም ይጠራሉ)።

• ኦርኬስትሬተር ወኪሎች በተፈጥሯዊ ቋንቋ መጠየቂያዎች አማካይነት የተግባር ፍሰቶችን በቅጽበት እንዲወስኑ በትልልቅ የቋንቋ ሞዴሎች (LLMs) ላይ ይመረኮዛሉ፤ አስቀድሞ የተወሰነ አመክንዮ በቂ ወይም ተግባራዊ ላልሆነባቸው ክፍት መስተጋብሮች ተስማሚ ናቸው።

ከፍተኛ ስጋት ላላቸው በምርት አካባቢ የሚሠሩ የሥራ ፍሰቶች፣ ብዙውን ጊዜ ተጨማሪ ራውተር-ተኮር ባህሪያትን እንመክራለን፤ ኦርኬስትሬተሮችን ደግሞ ተለዋዋጭና አጠቃላይ ዓላማ ያለው ውይይት ለሚፈልጉ መተግበሪያዎች እናስቀምጣለን።

በራውተር ላይ የተመሠረቱ አርክቴክቸሮች

ራውተር-ተኮር የወኪል ሥርዓቶች፦

• የውሳኔ አሰጣጥ ፍሰቱን በኮድ/ሶፍትዌር በግልጽ ይወስናሉ፤ ከዚያም ሶፍትዌሩ የትኛውን መንገድ እንደሚከተል ለመወሰን LLMን ይጠቀማሉ።

• ግልጽና ሊተነበዩ የሚችሉ መንገዶች ስላሏቸው ከባህላዊ የሶፍትዌር ሥርዓቶች ጋር ይቀራረባሉ፤ ይህም ይበልጥ ወጥ የሆኑ ውጤቶችን ያስገኛል።

• በጥብቅ ሊገለጹ ለሚችሉ ተግባራት ተስማሚ ናቸው።

የሚከተለው «የራውተር አቀራረብን» የሚጠቀም ቀላል የአየር መንገድ የቦታ ማስያዣ ውይይት ሮቦት ወኪል ምሳሌ ነው። LLM ከሦስት አማራጮች መካከል የጥያቄውን ዓላማ እንድንመድብ ቢረዳንም፣ በመጨረሻ ይህን ዓላማ ከተዘጋጀ የጽሑፍ ምላሽ ጋር የሚያዛምደው ሶፍትዌራችን ነው። LLM በከፍተኛ ደረጃ የተገደበ ስለሆነ፣ ተጠቃሚው ይበልጥ ወጥ የሆነ ባህሪ ያጋጥመዋል።

የኦርኬስትሬተር አርክቴክቸሮች

ከራውተር ሥርዓት በተቃራኒ፣ የኦርኬስትሬተር ወኪል-ተኮር ሥርዓቶች፦

• የአመክንዮ ፍሰቶችን በሶፍትዌር ፈንታ በተፈጥሯዊ ቋንቋ መጠየቂያዎች ይገልጻሉ። ማስታወሻ፦ ከፕሮግራሚንግ ቋንቋ ጋር ሲነጻጸር፣ ተፈጥሯዊ ቋንቋ በባህሪው አሻሚና ተለዋዋጭ ነው፤ ይህም በኋላ እንደምንወያይበት አዎንታዊም አሉታዊም ባህሪ ነው። ይህንን «ከመመሪያ ይልቅ ዓላማ» ብለን እንገልጸዋለን።

• ብዙ የማቀናበሪያ አማራጮችን ማቅረብ ይችላሉ፤ የአፈጻጸም ቅደም ተከተሉንና ዘዴውን LLM ይወስናል።

• በሶፍትዌር ውስጥ በግልጽ ለመወሰን አስቸጋሪ የሆኑ አዳዲስ የአመክንዮ መንገዶችን በቅጽበት መፍጠር ይችላሉ።

• ይህ አሻሚነት ወጥነት የሌላቸው ውጤቶችን ሊያስከትል ይችላል፤ ሲሠራ ግን «አስማታዊ» ሊመስል ይችላል።

የሚከተለው ምሳሌ በዚያው ቀላል የአየር መንገድ ችግር ላይ የኦርኬስትሬተር አቀራረብን ይተገብራል። ተስማሚውን ምላሽ ሶፍትዌሩ እንዲወስን ከማድረግ ይልቅ፣ ውሳኔ አሰጣጡ ለLLM ንብርብር ይሰጣል። እዚህ፣ «ዋና» ኦርኬስትሬተር ወኪል የተጠቃሚውን ጥያቄ በመለየት በተለይ በረራዎችን ለመቀየር ለተነደፈ ወኪል የሚያስተላልፍበት ባለብዙ ወኪል ሥርዓት አለን፤ ያ ወኪልም በመጨረሻ ለተጠቃሚው ምላሽ ይሰጣል።

በዚህ ምሳሌ፣ የLLM ንብርብር እንደ መዳቢ፣ ራውተርና የምላሽ ጸሐፊ ሆኖ ይሠራል። በራውተሩ ምሳሌ ግን እንደ መዳቢ ብቻ ይሠራ ነበር፤ የቀረውን ሶፍትዌሩ ያከናውን ነበር።

በተቻለ ጊዜ ራውተር-ተኮር አቀራረብን እንመክራለን፤ ምክንያቱም የሚከተሉትን ጥቅሞች ያቀርባል፦

• ፍጥነትና ቅልጥፍና፦ በአካባቢው የሚከናወኑ ስሌቶች፣ በውጫዊ APIዎች ላይ ከሚመረኮዙ ኦርኬስትሬተሮች የበለጠ ፈጣን ናቸው። በተጨማሪም የ«IF/ELSE» አመክንዮዎን በPython ማስኬድ፣ አንድ የLLM አቅራቢ ባለ400 ቢሊዮን መለኪያዎች ባሉት ሞዴሉ እንዲያስኬደው ከመክፈል እጅግ ርካሽ ነው።

• የመሞከርና የመተንበይ ችሎታ፦ የተለመዱ የሶፍትዌር አሠራሮችን በመጠቀም ስህተት መፈለግ፣ መሞከርና መጠገን እጅግ ቀላል ነው።

• ግልጽነትና አስተማማኝነት፦ በባህሪ ላይ ያለው ልዩነት አነስተኛ በመሆኑ ችግር መፍታትን ያቀላጥፋል። ከማይታዩና ሊተረጎሙ ከማይችሉ የLLM ክብደቶች ይልቅ፣ የመተግበሪያው ፍሰት ከፍተኛ ድርሻ ግልጽና በስሪት ቁጥጥር ሥር ባለ ሶፍትዌር ውስጥ ይገለጻል።

የራውተር አቀራረቦች ጉዳታቸው ግትርና የማይለዋወጡ መሆናቸው እንዲሁም ይበልጥ ክፍት በሆኑ ችግሮች ላይ መቸገራቸው ነው። ሁልጊዜ ተመሳሳይ ምላሽ የሚሰጥ ውይይት ሮቦት በተጠቃሚዎቹ ዘንድ አሰልቺ ወይም የቆመ ተደርጎ ሊታይ ይችላል።

የኦርኬስትሬተር ንድፎች ኃይለኛ ችሎታዎች አሏቸው፦

1. እቅድ ማውጣት፦ ምላሾችን በቅጽበት ማቀድ ይችላሉ።

2. መሣሪያ መምረጥ/ወደ ወኪል ማስተላለፍ፦ ተስማሚ መሣሪያዎችን ይመርጣሉ ወይም ተግባራትን ለወኪሎች ይሰጣሉ።

3. ውጤቶችን በተደጋጋሚ ማጣመር፦ ውጤቶችን ደጋግመው በፈጠራ ያጣምራሉ።

4. መጠናቀቁን መወሰን፦ ምላሹን ለማጠናቀቅ በቂ መረጃ መሰብሰቡን ይወስናሉ።

እንደ Pydantic-AI ወይም የOpenAI Agents SDK ያሉ ማዕቀፎችን መጠቀም ኦርኬስትሬሽንን ቀላልና ፈጣን ያደርገዋል። ስለዚህ ለማሳያዎች ወይም ለጽንሰ ሐሳብ ማረጋገጫዎች በጣም ተስማሚ ነው።

የዚህ አቀራረብ ጉዳቶች የሚከተሉት ናቸው፦

• የLLM የእቅድ ደረጃዎችና ቀጣይ እርምጃዎች ትክክል ወይም ተስማሚ እንደሚሆኑ ማረጋገጫ የለንም። የራውተር ሥርዓቱም ይህ ችግር አለበት፤ ነገር ግን ይበልጥ የተገደበ ስለሆነ ባህሪው ይበልጥ ሊተነበይ ይችላል።

• ለቀላልና በግልጽ ለተወሰኑ ተግባራት፣ የባለብዙ ወኪል ሥርዓት ሙሉ ችሎታ ሊያስፈልገን አይችልም። ለምሳሌ፣ በአየር መንገድ ወኪል ምሳሌያችን ውስጥ፣ አንድ ሰው ከአየር መንገድ ድጋፍ ሥርዓት ጋር ሲገናኝ ማቅረብ የሚፈልጋቸው የጥያቄ ዓይነቶች ውስን ናቸው።

• አብዛኛው አመክንዮ በLLM ውስጥ ስለሚገኝ፣ ተንኮል አዘል ተዋናዮች ጄልብሬክ ለማድረግ ወይም ለመበዝበዝ በጣም የተጋለጠ ነው።

• ውሳኔ አሰጣጡን ወደ LLM በማካተት ዝርዝሩን ይሰውረዋል፤ በመሆኑም ሥርዓትዎን ለመረዳት ያስቸግራል። ሆኖም እንደ Langfuse ወይም Braintrust ያሉ የክትትል መሣሪያዎች በከፊል ሊረዱ ይችላሉ።

ለአንባቢ ማስታወሻ፦ የሞዴል ችሎታ በፍጥነት እየተለወጠ ቢሆንም፣ የሚከተለው በቅርብ ጊዜ የመለወጥ ዕድሉ አነስተኛ ነው።

የችግርዎን ወሰን ይወስኑ።

• የሚፈልጉትን የውሳኔ አመክንዮ በሥዕላዊ መግለጫ በቀላሉ መግለጽ ይችላሉ?

• በመተግበሪያዎ ውስጥ ውድቀትን ወይም ያልተጠበቀ ባህሪን በፍጹም መቀበል አይችሉም?

ከላይ ካሉት ጥያቄዎች ለአንዱ «አዎ» የሚል መልስ ከሰጡ፣ የራውተር ባህሪያት የተሻሉ እንደሚሆኑ ያመለክታል።

በተቻለ ጊዜና እስከሚፈቅደው ድረስ የራውተር አቀራረቦችን እንመክራለን። እንደ አጠቃላይ መርህ፣ የሥርዓትዎ አንድ ክፍል በኮድ ሊገለጽ ከቻለ በኮድ ይግለጹት፤ ማለትም አስፈላጊ ባልሆነበት ጊዜ LLMዎችን ከመጠን በላይ አይጠቀሙ።

እነዚህ አቀራረቦች ወሰናቸው ላይ ሲደርሱ፣ አንዳንድ የኦርኬስትሬተር ክፍት ባህሪያትን በተገደበ መንገድ ማባዛት ይቻላል። ለምሳሌ፦

1. መሣሪያ መምረጥ/ወደ ወኪል ማስተላለፍ፦ በሁኔታዊ ቅርንጫፎች ወይም በLLM መዳቢዎች በቀላሉ ሊተገበር ይችላል።

2. መጠናቀቁን መወሰን፦ ቀላል የLLM መዳቢዎች ምላሹ ለተጠቃሚው ከመላኩ በፊት የተሟላ መሆኑን ሊያረጋግጡ ይችላሉ።

ሆኖም «እቅድ ማውጣት» እና «ውጤቶችን በተደጋጋሚ ማጣመር» በግትር የራውተር ሥርዓት ውስጥ ለማሳካት እጅግ አስቸጋሪ እንደሆኑ አያጠያይቅም። ስለዚህ አንድ ተግባር እነዚህን ሲፈልግ—ይህም በLLM መዳቢ ወይም በሌላ አመክንዮ ሲወሰን—በሥርዓትዎ ውስጥ እምብዛም ያልተገደበ የኦርኬስትሬተር ቅርንጫፍ እንዲፈጥሩ እንመክራለን።

በራውተርና በኦርኬስትሬተር አርክቴክቸሮች መካከል የሚያደርጉት ምርጫ የመተግበሪያዎን ግልጽነት፣ ውስብስብነትና የመስተጋብር ዘይቤ ማንጸባረቅ አለበት። በአሁኑ ጊዜ ራውተር-ተኮር አቀራረቦች በግልጽ ለተወሰኑ ተግባራት አስተማማኝነትን፣ ቅልጥፍናንና የመሞከር ቀላልነትን ይሰጣሉ። ኦርኬስትሬተሮች ሰፊና ውይይታዊ ለሆኑ መስተጋብሮች የተሻለ ተለዋዋጭነት ይሰጣሉ።

LLMዎች እያደጉ ሲሄዱ፣ በእነዚህ አቀራረቦች መካከል ያለው ሚዛን ሊለወጥ ይችላል። በምርት አካባቢ ለሚሠሩ የሥራ ጫናዎች ራውተር-ተኮር ወይም ድብልቅ አርክቴክቸሮችን እንመርጣለን፤ ኦርኬስትሬተሮችን ደግሞ ተለዋዋጭና ሰው-መሰል ተሳትፎ ለሚፈልጉ ክፍት ችግሮች እናስቀምጣለን።