உங்கள் ஏஜென்ட் சார்ந்த அமைப்பில் முடிவுகள் எப்படி, எங்கே எடுக்கப்படுகின்றன என்பதைக் கவனமாகப் பரிசீலிப்பது முக்கியம்.
கூடுதல் முடிவுகளை LLM-இடம் ஒப்படைப்பதால், அமைப்பு மேலும் பல பணிகளுக்குப் பொதுமைப்படுத்தப்படலாம். ஆனால் வேகம், நம்பகத்தன்மை, உறுதித்தன்மை ஆகியவை பாதிக்கப்படலாம்.
சாத்தியமான இடங்களில், முடிவெடுக்கும் செயல்முறையின் பெரும்பகுதியை LLM-இலிருந்து பிரித்தெடுத்து, வெளிப்படையான மென்பொருள் குறியீடாக அமைக்க முயலுங்கள். அதிக ஆபத்துள்ள மற்றும் உற்பத்திப் பணிப்பாய்வுகளுக்கு இது குறிப்பாகப் பொருந்தும்.
LLM அடிப்படையிலான ஏஜென்ட் சார்ந்த அமைப்பை வடிவமைக்கும்போது, முடிவெடுப்பில் எந்த அளவை LLM மாடலுக்குள் வைப்பது, எந்த அளவை வெளிப்படையான மென்பொருளில் வைப்பது என்பது நீங்கள் எடுக்க வேண்டிய மிக முக்கியமான முடிவுகளில் ஒன்று.
இதைப் புரிந்துகொள்ள, பின்வரும் அணுகுமுறைகளுக்கு இடையிலான ஒரு தொடராக இந்தத் தேர்வைக் கருதலாம்:
வழித்தேர்வி அடிப்படையிலான கட்டமைப்புகள் வரிசையையும் தர்க்கத்தையும் குறியீட்டில் வெளிப்படையாக வரையறுக்கின்றன. இதனால் குறுகிய துறைசார் பணிகளில் சோதிக்கக்கூடிய தன்மை, முன்கணிப்புத்தன்மை, உறுதித்தன்மை ஆகியவை கிடைக்கின்றன. இவை “பணிப்பாய்வு ஏஜென்ட்கள்” என்றும் அழைக்கப்படுகின்றன.
ஒருங்கிணைப்பாளர் ஏஜென்ட்கள் இயல்மொழித் தூண்டுதல்களைப் பயன்படுத்திப் பணிப்பாய்வுகளை மாறும் சூழலுக்கேற்ப தீர்மானிக்கப் பெரும் மொழி மாடல்களைச் சார்ந்துள்ளன. முன்வரையறுக்கப்பட்ட தர்க்கம் போதாத அல்லது சாத்தியமில்லாத திறந்தநிலை உரையாடல்களுக்கு இவை ஏற்றவை.
அதிக ஆபத்துள்ள உற்பத்திப் பணிப்பாய்வுகளில், வழித்தேர்வி அடிப்படையிலான அம்சங்களை அதிகம் பயன்படுத்துமாறு பொதுவாகப் பரிந்துரைக்கிறோம். நெகிழ்வான, பொதுப் பயன்பாட்டு உரையாடல்கள் தேவைப்படும் செயலிகளுக்கு ஒருங்கிணைப்பாளர்களை ஒதுக்கலாம்.
வழித்தேர்வி அடிப்படையிலான கட்டமைப்புகள்
வழித்தேர்வி ஏஜென்ட் அமைப்புகள்:
முடிவெடுக்கும் ஓட்டத்தை குறியீடு அல்லது மென்பொருள் வழியாக வெளிப்படையாக வரையறுத்து, அந்த மென்பொருள் எந்த வழியைப் பின்பற்ற வேண்டும் என்பதைத் தீர்மானிக்க LLM-ஐப் பயன்படுத்துகின்றன.
தெளிவான, முன்கணிக்கக்கூடிய பாதைகளைக் கொண்டிருப்பதால், மேலும் சீரான முடிவுகளை வழங்கும் பாரம்பரிய மென்பொருள் அமைப்புகளைப் போன்றவை.
கண்டிப்பாக வரையறுக்கக்கூடிய பணிகளுக்கு இவை ஏற்றவை.
“வழித்தேர்வி அணுகுமுறையை” பயன்படுத்தும் விமான முன்பதிவு அரட்டையுதவி ஏஜென்ட்டின் எளிய எடுத்துக்காட்டு கீழே உள்ளது. மூன்று சாத்தியமான தேர்வுகளிலிருந்து கேள்வியின் நோக்கத்தை வகைப்படுத்த LLM உதவினாலும், இறுதியில் அந்த நோக்கத்தை வார்ப்புரைப் பதிலுடன் பொருத்துவது நமது மென்பொருள்தான். LLM கடுமையாகக் கட்டுப்படுத்தப்பட்டிருப்பதால், பயனருக்கு மேலும் சீரான நடத்தை கிடைக்கும்.
ஒருங்கிணைப்பாளர் கட்டமைப்புகள்
வழித்தேர்வி அமைப்புக்கு மாறாக, ஒருங்கிணைப்பாளர் ஏஜென்ட் அமைப்புகள்:
மென்பொருளுக்குப் பதிலாக இயல்மொழித் தூண்டுதல்கள் மூலம் தர்க்க ஓட்டங்களை வரையறுக்கின்றன. குறிப்பு: நிரலாக்க மொழியுடன் ஒப்பிடும்போது, இயல்மொழி இயல்பாகவே தெளிவின்மையும் நெகிழ்வுத்தன்மையும் கொண்டது. பின்னர் காண்பதுபோல், இவை சாதகமாகவும் பாதகமாகவும் அமையலாம். இதை “அறிவுறுத்தலுக்குப் பதிலாக நோக்கம்” எனக் கருதுகிறோம்.
பல செயலாக்க விருப்பங்களை வழங்கி, அவற்றின் செயல்பாட்டு வரிசையையும் முறையையும் LLM தீர்மானிக்க அனுமதிக்கின்றன.
மென்பொருளில் வெளிப்படையாக வரையறுப்பது கடினமான புதிய தர்க்கப் பாதைகளைச் சூழலுக்கேற்ப உருவாக்க முடியும்.
இந்தத் தெளிவின்மை சீரற்ற வெளியீடுகளுக்கு வழிவகுக்கலாம். ஆனால் சரியாகச் செயல்படும்போது அது “மாயம்” போலத் தோன்றலாம்.
அதே எளிய விமானப் பயணச் சிக்கலுக்கு ஒருங்கிணைப்பாளர் அணுகுமுறையைப் பயன்படுத்தும் எடுத்துக்காட்டு கீழே உள்ளது. எந்தப் பதில் பொருத்தமானது என்பதை மென்பொருள் தீர்மானிப்பதற்குப் பதிலாக, அந்த முடிவு LLM அடுக்கிடம் ஒப்படைக்கப்படுகிறது. இங்கு பல ஏஜென்ட்களைக் கொண்ட அமைப்பு உள்ளது. அதில் ஒரு “தலைமை” ஒருங்கிணைப்பாளர் ஏஜென்ட் பயனர் வினவலை வகைப்படுத்தி, விமானங்களை மாற்றுவதற்கென வடிவமைக்கப்பட்ட ஏஜென்ட்டிடம் ஒப்படைக்கிறது. அந்த ஏஜென்ட் இறுதியில் பயனருக்குப் பதிலளிக்கிறது.
இந்த எடுத்துக்காட்டில், LLM அடுக்கு வகைப்படுத்தி, வழித்தேர்வி, பதில் எழுதுபவர் ஆகிய மூன்று பங்குகளையும் வகிக்கிறது. வழித்தேர்வி எடுத்துக்காட்டில், அது வகைப்படுத்தியின் பங்கை மட்டுமே வகித்தது. மற்றவற்றை மென்பொருள் கையாண்டது.
சாத்தியமான இடங்களில் வழித்தேர்வி அடிப்படையிலான அணுகுமுறைகளைப் பயன்படுத்துமாறு பரிந்துரைக்கிறோம். அவை பின்வரும் நன்மைகளை வழங்குகின்றன:
வேகமும் செயல்திறனும்: வெளிப்புற API-களைச் சார்ந்த ஒருங்கிணைப்பாளர்களைவிட உள்ளகக் கணக்கீடுகள் அதிக வேகத்தை வழங்குகின்றன. உங்கள் “IF/ELSE” தர்க்கத்தை பைதானில் செயலாக்குவது, அதை 400 பில்லியன் அளவுருக்கள் கொண்ட மாடல் வழியாக அனுப்ப LLM வழங்குநருக்குப் பணம் செலுத்துவதைவிட மிகவும் மலிவானது.
சோதிக்கக்கூடிய தன்மையும் முன்கணிப்புத்தன்மையும்: நிலைபெற்ற மென்பொருள் நடைமுறைகள் மூலம் பிழைதிருத்துவது, சோதிப்பது, பராமரிப்பது குறிப்பிடத்தக்க அளவில் எளிது.
வெளிப்படைத்தன்மையும் நம்பகத்தன்மையும்: நடத்தையில் மாறுபாடு குறைவாக இருப்பதால், சிக்கல்களைக் கண்டறிந்து தீர்ப்பது எளிதாகிறது. LLM-இன் புரிந்துகொள்ள முடியாத, வெளிப்படையற்ற எடைகளுக்கு மாறாக, செயலியின் ஓட்டத்தில் பெரும்பகுதி வெளிப்படையான, பதிப்புக் கட்டுப்பாட்டிலுள்ள மென்பொருளில் குறிப்பிடப்படுகிறது.
வழித்தேர்வி அணுகுமுறைகள் இறுக்கமானவையாகவும் நெகிழ்வற்றவையாகவும் இருக்கலாம். மேலும் திறந்தநிலைச் சிக்கல்களைக் கையாள அவை தடுமாறலாம். எப்போதும் ஒரே பதில்களைத் துல்லியமாக வழங்கும் அரட்டையுதவி சலிப்பூட்டுவதாக அல்லது தேக்கமடைந்ததாகப் பயனர்களுக்குத் தோன்றலாம்.
ஒருங்கிணைப்பாளர் வடிவமைப்புகள் சக்திவாய்ந்த திறன்களைக் கொண்டுள்ளன:
திட்டமிடல்: சூழலுக்கேற்ப பதில்களைத் திட்டமிட முடியும்.
கருவித் தேர்வு அல்லது ஏஜென்ட்டிடம் ஒப்படைத்தல்: பொருத்தமான கருவிகளைத் தேர்ந்தெடுக்கலாம் அல்லது பணிகளை ஏஜென்ட்களிடம் ஒப்படைக்கலாம்.
வெளியீடுகளை மீள்செயலாக்கி இணைத்தல்: வெளியீடுகளைப் பலமுறை செயலாக்கிப் புதுமையாக மீண்டும் இணைக்கலாம்.
நிறைவைத் தீர்மானித்தல்: பதிலை இறுதிசெய்யப் போதுமான தகவல் சேகரிக்கப்பட்டுள்ளதா என்பதைத் தீர்மானிக்கலாம்.
Pydantic-AI அல்லது OpenAI-இன் Agents SDK போன்ற கட்டமைப்புகள் மூலம் ஒருங்கிணைப்பை எளிதாகவும் விரைவாகவும் செயல்படுத்தலாம். எனவே செயல்விளக்கங்களுக்கும் கருத்துருச் சான்றுகளுக்கும் இது சிறந்தது.
இந்த அணுகுமுறையின் குறைகள்:
LLM-இன் திட்டமிடல் படிகளும் அதைத் தொடரும் செயல்களும் சரியாக அல்லது பொருத்தமாக இருக்கும் என்பதற்கு எந்த உத்தரவாதமும் இல்லை. வழித்தேர்வி அமைப்பிலும் இதே சிக்கல் உள்ளது. ஆனால் அது அதிகம் கட்டுப்படுத்தப்பட்டிருப்பதால், அதன் நடத்தையை எளிதாக முன்கணிக்கலாம்.
எளிய, நன்கு வரையறுக்கப்பட்ட பணிகளுக்குப் பல ஏஜென்ட் அமைப்பின் முழுத் திறனும் தேவைப்பட வாய்ப்பில்லை. எடுத்துக்காட்டாக, நமது விமான ஏஜென்ட் எடுத்துக்காட்டில், விமான உதவி அமைப்புடன் தொடர்புகொள்ளும் ஒருவர் கேட்க விரும்பும் வினவல் வகைகள் குறைவாகவே இருக்கும்.
அதிகமான தர்க்கம் LLM-இல் இருப்பதால், தீங்கிழைப்பவர்கள் அதை ஜெயில்பிரேக் செய்யவோ தவறாகப் பயன்படுத்தவோ அதிக வாய்ப்புள்ளது.
இது முடிவெடுத்தலை LLM-க்குள் மறைத்துவிடுவதால், உங்கள் அமைப்பைப் புரிந்துகொள்வது கடினமாகிறது. Langfuse அல்லது Braintrust போன்ற கண்காணிப்புக் கருவிகள் இதற்கு ஓரளவு உதவலாம்.
வாசகர் குறிப்பு: மாடலின் திறன் விரைவாக மாறிவந்தாலும், கீழே உள்ளவை அண்மைக் காலத்தில் மாற வாய்ப்பில்லை.
உங்கள் சிக்கலின் வரம்பைத் தீர்மானியுங்கள்.
நீங்கள் விரும்பும் முடிவெடுக்கும் தர்க்கத்தை ஒரு வரைபடத்தில் எளிதாக வரையறுக்க முடியுமா?
உங்கள் செயலியில் தோல்வியையோ எதிர்பாராத நடத்தையையோ ஏற்றுக்கொள்ள முடியாதா?
மேலுள்ள இரண்டில் ஏதேனும் ஒன்றுக்கு “ஆம்” எனப் பதிலளித்தால், வழித்தேர்வி அம்சங்கள் சிறப்பாக இருக்கும்.
சாத்தியமானவரை வழித்தேர்வி அணுகுமுறைகளைப் பயன்படுத்துமாறு பரிந்துரைக்கிறோம். பொதுவான கொள்கையாக, உங்கள் அமைப்பின் ஒரு பகுதியைக் குறியீட்டில் குறிப்பிட முடிந்தால், அவ்வாறே செய்யுங்கள். அதாவது, தேவையில்லாதபோது LLM-களை அளவுக்கு மீறிப் பயன்படுத்தாதீர்கள்.
இவற்றின் வரம்பை எட்டும்போது, திறந்தநிலை ஒருங்கிணைப்பாளரின் சில நன்மைகளைக் கட்டுப்படுத்தப்பட்ட முறையில் உருவாக்கலாம். எடுத்துக்காட்டாக:
கருவித் தேர்வு அல்லது ஏஜென்ட்டிடம் ஒப்படைத்தல்: நிபந்தனைக் கிளைகள் அல்லது LLM வகைப்படுத்திகள் மூலம் எளிதாகச் செயல்படுத்தலாம்.
நிறைவைத் தீர்மானித்தல்: எளிய LLM வகைப்படுத்திகள், பதிலைப் பயனருக்கு வழங்கும் முன் அது முழுமையாக உள்ளதா எனச் சரிபார்க்கலாம்.
ஆனால் “திட்டமிடல்” மற்றும் “வெளியீடுகளை மீள்செயலாக்கி இணைத்தல்” ஆகியவற்றை இறுக்கமான வழித்தேர்வி அமைப்பில் நிறைவேற்றுவது சந்தேகமின்றி மிகவும் கடினம். எனவே ஒரு பணிக்கு இவை தேவைப்படும்போது, அதை LLM வகைப்படுத்தி அல்லது வேறு தர்க்கம் மூலம் தீர்மானித்து, உங்கள் அமைப்பில் குறைவாகக் கட்டுப்படுத்தப்பட்ட ஒருங்கிணைப்பாளர் கிளையை உருவாக்குமாறு பரிந்துரைக்கிறோம்.
வழித்தேர்வி மற்றும் ஒருங்கிணைப்பாளர் கட்டமைப்புகளுக்கு இடையிலான உங்கள் தேர்வு, செயலியின் தெளிவு, சிக்கல்தன்மை, தொடர்பாடல் பாணி ஆகியவற்றைப் பிரதிபலிக்க வேண்டும். தெளிவாக வரையறுக்கப்பட்ட பணிகளுக்கு வழித்தேர்வி அடிப்படையிலான அணுகுமுறைகள் தற்போது நம்பகத்தன்மை, செயல்திறன், எளிதான சோதனை ஆகியவற்றை வழங்குகின்றன. விரிவான உரையாடல் சார்ந்த தொடர்புகளுக்கு ஒருங்கிணைப்பாளர்கள் அதிக நெகிழ்வுத்தன்மையை வழங்குகின்றனர்.
LLM-கள் தொடர்ந்து முன்னேறும்போது, இந்த அணுகுமுறைகளுக்கு இடையிலான சமநிலை மாறக்கூடும். உற்பத்திப் பணிச்சுமைகளுக்கு வழித்தேர்வி அடிப்படையிலான அல்லது கலப்பினக் கட்டமைப்புகளை நாங்கள் விரும்புகிறோம். மாறும் சூழலுக்கேற்ற, மனிதரைப் போன்ற ஈடுபாடு தேவைப்படும் திறந்தநிலைச் சிக்கல்களுக்கு ஒருங்கிணைப்பாளர்களை ஒதுக்குகிறோம்.