ChatGPT Apps SDK સાથે ઉત્પાદન રજૂ કરીને અમે શું શીખ્યા

• જો તમને ChatGPTમાં ટૂંક સમયમાં કાર્યપ્રવાહ જોઈએ અથવા કસ્ટમ એજન્ટ માળખામાં રોકાણ કરતાં પહેલાં ત્યાં તમારા સાધનો અજમાવવા હોય, તો Apps SDK વ્યવહારુ વિકલ્પ છે. જો એજન્ટ કેવી રીતે વર્તે તેના દરેક પગલા પર તમારું નિયંત્રણ જરૂરી હોય, તો સામાન્ય રીતે તે યોગ્ય વિકલ્પ નથી.

• ChatGPT મુખ્ય માધ્યમ હોય અને સંપૂર્ણ ચૅટ ઉત્પાદન બનાવ્યા વિના સાધનો તથા થોડું વપરાશકર્તા ઇન્ટરફેસ ઉમેરવું હોય, ત્યારે Apps SDK પસંદ કરો. પ્રવાહ, મેમરી, પ્રોમ્પ્ટ અને ડેટા લખવાની ક્રિયાઓ પર ચુસ્ત નિયંત્રણ જરૂરી હોય, ત્યારે તમારું પોતાનું એજન્ટ માળખું પસંદ કરો.

• Apps SDK એવા ઉત્પાદનો માટે યોગ્ય છે જે ચૅટ સાથે વપરાશકર્તા ઇન્ટરફેસનાં થોડાં ટૂંકાં પગલાં જોડે છે. તમે ઝડપથી રજૂ કરી શકો છો, પરંતુ થોડું નિયંત્રણ છોડવું પડે છે.

• સ્પષ્ટ સાધનો, વિજેટનું સ્પષ્ટ વર્તન અને આગળનાં સ્પષ્ટ પગલાં અમારા માટે કારગર રહ્યાં. પ્રવાહ નક્કી કરવા માટે અમે LLM પર નહીં, પરંતુ આ બાબતો પર આધાર રાખ્યો. સિસ્ટમે પહેલાંથી પસંદ કરેલાં પરિણામો સમજાવવામાં મોડલ સૌથી વધુ ઉપયોગી હતું.

• આગળ પહેલાં પસંદગી કેવી રીતે કરવી અને પછી શું કારગર રહ્યું તથા શું નહીં તે સમજાવ્યું છે.

મોટાભાગની ટીમો હજુ પણ કૃત્રિમ બુદ્ધિમત્તાના પ્રાયોગિક પ્રોજેક્ટ ચલાવે છે અથવા ઓછાં જોખમ અને લાભ ધરાવતા ગૌણ ઉપયોગો માટે તેનો અમલ કરે છે. બહુ ઓછી ટીમો એવું વ્યવસાય માટે અતિમહત્ત્વનું ઉત્પાદન રજૂ કરે છે જેનો વપરાશકર્તાઓ દર અઠવાડિયે ઉપયોગ કરે. જો તમારો હેતુ આખું સહાયક જાતે બનાવવાને બદલે ChatGPTની અંદર પહોંચવાનો હોય, તો ChatGPT Apps SDK આ અંતર ઘટાડવાની એક રીત છે.

અમારો અનુભવ એક ગ્રાહક પ્રોજેક્ટમાંથી મળ્યો, જેમાં જરૂરિયાતો મુખ્ય માધ્યમ તરીકે ChatGPT અને સંપૂર્ણપણે કસ્ટમ ચૅટ ઉત્પાદન માટે ભંડોળ ન આપવું પડે એવો ઝડપી માર્ગ સૂચવતી હતી.

આ જરૂરિયાતો માટે Apps SDK યોગ્ય હતું, કારણ કે ગ્રાહકને આ બાબતોની જરૂર હતી:

• અલગ ચૅટ ઉત્પાદન બનાવવાની અને હોસ્ટ કરવાની જરૂર નહીં—તેમને બીજા સ્વતંત્ર સહાયકના આવરણને બદલે ChatGPTની અંદર પહોંચ જોઈતી હતી.

• ચૅટ સાથે કાર્ય-વિશિષ્ટ નાનું વપરાશકર્તા ઇન્ટરફેસ—કાર્યપ્રવાહની અંદર બીજું સંપૂર્ણ ઉત્પાદન નહીં, પરંતુ વિજેટનાં થોડાં કેન્દ્રિત પગલાં.

• MCP સાધનો દ્વારા ઉપલબ્ધ કરાવેલું પાર્શ્વતંત્રનું વર્તન—શરૂઆતથી અંત સુધી પોતાના નિયંત્રણ હેઠળનું કસ્ટમ એજન્ટ કાર્યપર્યાવરણ નહીં, પરંતુ પ્રમાણભૂત સાધન-આહ્વાન.

• ChatGPTની અંદર શોધ—વપરાશકર્તાઓ જ્યાં પહેલેથી કામ કરે છે ત્યાં જ તેમને આ કાર્યપ્રવાહ મળવો જોઈએ.

નિર્માણ દરમિયાન અમે ગ્રાહક સાથે મળીને આ પસંદગીઓની ચકાસણી કરી. આ સમાધાન હજુ પણ લાગુ પડે છે: જ્યારે સત્ર ChatGPT હોસ્ટ કરે છે, ત્યારે બાહ્ય કાર્યપર્યાવરણ તમારા નિયંત્રણમાં હોતું નથી. તમે તેને દિશા આપી શકો છો, પરંતુ સંપૂર્ણપણે નિયંત્રિત કરી શકતા નથી.

Apps SDKની એપ્લિકેશન ત્રણ બાબતોને જોડે છે:

1. ChatGPTનું એજન્ટ કાર્યપર્યાવરણ

2. તમારાં MCP સાધનો

3. તમારા વિજેટનું વપરાશકર્તા ઇન્ટરફેસ

વ્યવહારમાં પ્રવાહ:

1. વપરાશકર્તા ChatGPT પાસે કંઈક માગે છે.

2. ChatGPT તમારાં MCP સાધનોમાંથી કોઈ એકને બોલાવી શકે છે.

3. તમારું સર્વર સંરચિત સાધન-પરિણામ પરત કરે છે.

4. ChatGPT એ પરિણામ વાંચીને આગળનું પગલું નક્કી કરે છે: વધુ સાધન-આહ્વાન, વપરાશકર્તાને જવાબ અથવા બંને. જો તમે એ સાધન સાથે વિજેટ જોડ્યું હોય, તો તે આ જ વારમાં દેખાઈ શકે છે.

5. વપરાશકર્તા ચૅટમાં અથવા વિજેટમાં આગળ વધે છે—અનુવર્તી લખાણ, પસંદગી અથવા વિજેટ દ્વારા શરૂ થતું સાધન-આહ્વાન. તેનાથી વાર્તાલાપ-શ્રેણી સુધરે છે; ChatGPT બીજો વાર ચલાવે છે અને કાર્ય પૂરું થાય ત્યાં સુધી પગલાં 2થી 4 પુનરાવર્તિત થાય છે.

ચૅટ, પાર્શ્વતંત્રની ક્રિયાઓ અને વપરાશકર્તા ઇન્ટરફેસનાં ટૂંકાં પગલાંનું આ સંયોજન જ મુખ્ય બાબત છે. તેનો અર્થ એ પણ છે કે ચૅટ, સાધનો અને વપરાશકર્તા ઇન્ટરફેસ વચ્ચેની સોંપણીઓ સૌથી નાજુક ભાગો છે.

તમારે ચૅટનું વપરાશકર્તા ઇન્ટરફેસ, સાધનોનાં જોડાણ, પ્રમાણીકરણની પદ્ધતિઓ કે વિજેટનું આવરણ શરૂઆતથી ફરી બનાવવું પડતું નથી. ઘણાં ઉત્પાદનોમાં તે નિર્માણનો ઘણો સમય બચાવે છે, જેથી તમે વિષય-વિશિષ્ટ તર્ક અને સુરક્ષા-મર્યાદાઓ પર ધ્યાન આપી શકો.

ChatGPTની અંદર બનાવવું અને પોતાનો એજન્ટ ચલાવવો એકસરખું નથી. પ્રોજેક્ટનો મુશ્કેલ ભાગ પ્રોમ્પ્ટની યુક્તિઓ નહોતો. મુશ્કેલી સાધનો, વિજેટ અને આગળનાં પગલાં એટલાં સ્પષ્ટ બનાવવાની હતી કે મોડલ અને વપરાશકર્તા ઇન્ટરફેસ એકબીજા સાથે સુસંગત રહે.

Apps SDK તમારા સામાન્ય અગ્રતંત્ર કરતાં અલગ પ્રકારનું ઉત્પાદન આપે છે, પરંતુ તે કયા સંજોગો માટે આદર્શ છે તે જાણવું અગત્યનું છે.

આ હેતુઓ માટે Apps SDKનો ઉપયોગ કરો

• ChatGPT કાર્યપ્રવાહ ઝડપથી રજૂ કરવો.

• વાર્તાલાપ ChatGPTને હોસ્ટ કરવા દેવો.

• સ્વાભાવિક ભાષા સાથે વપરાશકર્તા ઇન્ટરફેસનાં થોડાં કેન્દ્રિત પગલાં જોડવાં.

• પોતાનું ચૅટ ઇન્ટરફેસ, એજન્ટ આવરણ અને શોધ-વ્યવસ્થા બનાવવાનું ટાળવું.

તમારા વપરાશકર્તાઓ પહેલેથી જ ChatGPTમાં કામ કરતા હોય, ત્યારે છેલ્લો મુદ્દો મહત્ત્વનો બને છે.

આ જરૂરિયાતો હોય ત્યારે પોતાનો એજન્ટ બનાવો

• સંકેતલિપિમાં લાગુ કરી શકાય એવો નિશ્ચિત, ક્રમબદ્ધ પ્રવાહ.

• શરૂઆતથી અંત સુધી તમારા નિયંત્રણમાં હોય એવું કસ્ટમ વપરાશકર્તા ઇન્ટરફેસ અને પુષ્ટિનો માર્ગ.

• તમારી પોતાની મેમરી અને સ્થિતિનું મોડલ.

• દરેક સંચાલનમાં અનુમાન કરી શકાય એવું વર્તન.

• એજન્ટ માટે પ્રવૃત્તિ-શ્રેણીઓ, નોંધો અને માપદંડો.

જો આયોજનકાર, સિસ્ટમ પ્રોમ્પ્ટ અને સંપૂર્ણ કાર્યપ્રવાહ જ તમારું ઉત્પાદન હોય, તો સામાન્ય રીતે કસ્ટમ માળખું વધુ યોગ્ય છે.

અમારા પ્રોજેક્ટમાં એક શબ્દ વારંવાર સામે આવ્યો: નિયંત્રણ. એક તરફ ઝડપ અને પરિચિત યજમાન, તો બીજી તરફ કાર્યપર્યાવરણની આંશિક માલિકી. સમગ્ર માળખાની માલિકી કરતાં ChatGPTમાં વપરાશકર્તાઓ સુધી પહોંચવાને પ્રાથમિકતા આપતાં ગ્રાહકે આ સમાધાન સ્વીકાર્યું હતું.

આદર્શ પ્રવાહ સરળ લાગે છે: વપરાશકર્તા પૂછે, સાધન ચાલે, ડેટા પાછો આવે અને પસંદગી જરૂરી હોય ત્યારે વિજેટ દેખાય.

વ્યવહારમાં સોંપણીઓ મુશ્કેલીનું કારણ બની. વિજેટ માત્ર સજાવટ નથી. તે પડદા પર આવ્યા પછી મોડલ શું જુએ છે અને આગળ શું કરે છે તે બદલાય છે. વિજેટની ક્રિયાઓને અનિયંત્રિત ચૅટ નહીં, પરંતુ નામ આપેલી ઘટનાઓ ગણો.

પ્રોજેક્ટનું તકનીકી માળખું સીધું હતું: FastMCP, Pydantic, React અને TypeScript. તેમનું સંકલન બરાબર થયું. મુખ્ય કામ મોડલ, સાધનો અને વપરાશકર્તા ઇન્ટરફેસને આગળ શું થશે તે અંગે સહમત કરવાનું હતું.

દરેક સોંપણી સ્પષ્ટ બનાવો

અમે સાધનનાં પરિણામોને પાર્શ્વતંત્રમાંથી મળતી કાચી માહિતી ગણવાનું બંધ કર્યું. દરેક પરત આવતું પરિણામ એક સોંપણી બન્યું.

મજબૂત સાધન-પરિણામ:

• વિજેટને પ્રદર્શિત થવા માટે જરૂરી માહિતી આપે છે.

• જવાબનો આધાર બનાવવા ChatGPTને સંરચિત તથ્યો આપે છે.

• પ્રવાહને જરૂર હોય ત્યારે આગળ શું થવું જોઈએ તે જણાવે છે, જેથી મોડલને અનુમાન ન કરવું પડે.

વિજેટની ક્રિયાઓએ વાર્તાલાપ-શ્રેણીમાં અસ્પષ્ટ લખાણ પાછું મોકલવું ન જોઈએ. તેમણે વપરાશકર્તાએ શું કર્યું અને આગળ શું થવું જોઈએ તે જણાવવું જોઈએ.

સોંપણીઓ સ્પષ્ટ થતાં વિશ્વસનીયતા વધી.

સાધનનાં પરિણામ અને વિજેટની ક્રિયાઓમાં આપેલી ટૂંકી, સ્પષ્ટ સૂચનાઓને મોડલ અનુસરે છે.

અમે ઉપયોગ કરેલું નાનું Pydantic માળખું નીચે આપ્યું છે. વિજેટ બતાવતી વખતે તેને જરૂરી સંરચિત ડેટા અને સત્રમાં ChatGPTએ ઉપયોગ કરવાનાં તથ્યો output ક્ષેત્રમાં હોય છે. સહાયકે આગળ શું કરવું જોઈએ તે જણાવતી ટૂંકી પંક્તિ agent_directions ક્ષેત્રમાં હોય છે. Reason વૈકલ્પિક છે.

1from typing import Generic, TypeVar2
3from pydantic import BaseModel4
5T = TypeVar("T")6
7class AgentDirections(BaseModel):8 assistant_instruction: str9 reason: str | None = None10
11class ToolResults(BaseModel, Generic[T]):12 agent_directions: AgentDirections13 output: T

વિજેટ નાનાં રાખો

કારગર વિજેટ એક નિર્ણય સંભાળતાં અને પછી નિયંત્રણ પાછું સોંપતાં હતાં. વિજેટને નાની એપ્લિકેશનમાં ફેરવવા કરતાં ટૂંકી યાદીઓ, પુષ્ટિઓ અથવા કેન્દ્રિત સમીક્ષા-પડદો વધુ કારગર રહ્યાં. પ્રવાહને વધુ નિશ્ચિત બનાવવો હોય ત્યારે સરળ માન્યતા-ચકાસણી કે આગળનું નિશ્ચિત પગલું જેવા વિજેટમાંના થોડા તર્કથી પણ મદદ મળી.

વિજેટ સંદેશામાં ત્રીજો પુરુષ

અમે વિજેટના અનુવર્તી સંદેશા વપરાશકર્તાની ચૅટ જેવા લખવાનું બંધ કર્યું, જેમ કે “મેં પસંદ કર્યું…” અને “મેં પુષ્ટિ કરી…”. અમે તેમને વપરાશકર્તાએ શું કર્યું તેના ટૂંકા અહેવાલ તરીકે લખ્યા, જેમ કે “વપરાશકર્તાએ પસંદ કર્યું…” અને “વપરાશકર્તાએ પુષ્ટિ કરી…”. અમે આ અભિગમ અજમાવ્યો, કારણ કે ChatGPT વિજેટ સંદેશાઓને વપરાશકર્તાના સંદેશાને બદલે સાધનના સંદેશા તરીકે ઉમેરતું હતું.

આગળનું પગલું સ્પષ્ટ હોય ત્યારે સીધી ક્રિયાઓ

જો બટનથી આગળનું સાધન-આહ્વાન સ્પષ્ટ થતું હોય, તો ચૅટના બીજા વારની ફરજ પાડવાને બદલે વિજેટને સીધું આહ્વાન શરૂ કરવા દેવાથી વધુ સારું પરિણામ મળ્યું. આ માત્ર ત્યારે લાગુ પડે છે જ્યારે આગળના સાધન-આહ્વાનને ChatGPT પાસેથી કોઈ માહિતીની જરૂર ન હોય.

તેનાથી નિશ્ચિત પ્રવાહ લાગુ કરવામાં મદદ મળી અને ચૅટનો બીજો વાર ટળતાં વિલંબ પણ ઘટ્યો.

ભૂલનું સંચાલન

સાધન-આહ્વાન નિષ્ફળ જાય ત્યારે અમે સાધનમાંથી યોગ્ય MCP ભૂલ-સંકેતો અને ટૂંકા, સાદા સંદેશા પરત કર્યા. તેથી નિષ્ફળ આહ્વાનો વિશે ChatGPT પાસે વાંચવા માટે વાસ્તવિક માહિતી રહેતી અને તે વપરાશકર્તાને સમસ્યા સમજાવી શકતું, સમજદારીભર્યું આગળનું પગલું પસંદ કરી શકતું અથવા બંને કરી શકતું.

સાધનના સંદર્ભનું સંચાલન

અમે સત્રની સ્થિતિ અમારા સર્વર પર રાખી. ChatGPT સાધન-આહ્વાનો સાથે સત્ર-વિશિષ્ટ સંદર્ભ મોકલે છે; FastMCPમાં અમે દરેક સાધનને Context પરિમાણ આપ્યું, જેથી સંચાલક એ સ્થિતિ વાંચી અને સુધારી શકે.

• દરેક આહ્વાનમાં ChatGPTને સાધનના પરિમાણ તરીકે ફરીથી મોકલવાનું કહેવાને બદલે સ્થિર ઓળખસંકેતો અને અગાઉનાં પરિણામો સત્રમાં રાખ્યાં.

• સાધન-આહ્વાનનાં ચક્ર દેખાય ત્યારે અમે પુનરાવર્તિત આહ્વાનો પકડીને સાધન-પરિણામ દ્વારા સ્પષ્ટ ભૂલ પરત કરી શકતા હતા.

• ભૂલ શોધવા અને સહાય માટે સત્રની નોંધો અમારી પાસે જ રહી.

શરૂઆતમાં અમે વિજેટ બતાવીને માની લીધું કે મોડલ “સમજી ગયું” છે અને યોગ્ય અનુવર્તી સાધન-આહ્વાનની રાહ જોઈ. ક્યારેક તે થતું હતું. પરંતુ ઘણી વાર થતું નહોતું.

સ્પષ્ટ સોંપણી વિના, અમને ક્રિયા જોઈતી હોય ત્યારે ChatGPT સારાંશ આપી શકતું, વપરાશકર્તાને પસંદગી ફરી કહેવા પૂછી શકતું અથવા અટકવું જોઈએ ત્યારે પણ આયોજન ચાલુ રાખી શકતું.

ઉકેલ એ હતો કે મોડલ અનુમાન કરશે એવી આશા રાખવાને બદલે સ્ટ્રક્ચર્ડ આઉટપુટ્સ અને વિજેટની માહિતીમાં આગળનું પગલું સ્પષ્ટપણે લખવું.

Apps SDKના દસ્તાવેજીકરણ મુજબ અમે સાધનનાં પરિણામ, છુપાયેલી અધિમાહિતી અને ચૅટ લખાણ વચ્ચે જવાબોને ચતુરાઈથી વહેંચવાનો પ્રયાસ કર્યો. પરંતુ અમે વિજેટમાં છુપાયેલી અધિમાહિતી વાંચી શક્યા નહીં. તેથી અમે આનો ઉપયોગ કરી શક્યા નહીં.

Apps SDKના દસ્તાવેજો અનુસાર, અમુક સાધનોને એજન્ટની સાધન-યાદીથી દૂર રાખી શકાય છે જેથી તે તેમને પસંદ ન કરે, છતાં વિજેટમાંથી તેમનું આહ્વાન કરી શકાય. અમે દૃશ્યતા app-only પર ગોઠવી ત્યારે એ સાધનો માત્ર એજન્ટ માટે જ નહીં, પરંતુ વિજેટ માટે પણ અનુપલબ્ધ થઈ ગયાં. એજન્ટ સાધન જોઈ ન શકે પરંતુ વિજેટ જોઈ શકે એવી ગોઠવણી અમે ક્યારેય મેળવી શક્યા નહીં.

કંઈ ઉપયોગી ન થયું હોય ત્યારે મૌન અથવા સામાન્ય “સફળતા” સીધી ભૂલ કરતાં વધુ ખરાબ હતાં. તેથી અમે સાધન અને વિજેટની નિષ્ફળતાઓને મુખ્ય પરિણામ ગણ્યાં: કોઈ પગલું આગળ વધી ન શકે તો સાદી ભાષામાં તેમ જણાવ્યું અને સ્પષ્ટ ભૂલ પરત કરી, જેથી વપરાશકર્તા દેખાતા છતાં આગળ ન લઈ જતા વિજેટ સામે નિષ્ક્રિય ન રહે. તેનાથી ઉપયોગક્ષમતા સુધરી અને મોડલનું વર્તન વધુ વિશ્વસનીય બન્યું.

ઓછા કસ્ટમ મંચ-સંબંધિત કાર્ય સાથે ChatGPTમાં કાર્યપ્રવાહ બનાવવો તમારો હેતુ હોય, તો Apps SDK ત્યાં પહોંચવાની વ્યવહારુ રીત છે. ઝડપ મેળવવા અને વપરાશકર્તાઓ જ્યાં પહેલેથી કામ કરે છે ત્યાં પહોંચવા માટે તમે થોડું નિયંત્રણ છોડો છો.

પ્રવાહની દરેક શાખા, વપરાશકર્તા ઇન્ટરફેસ અને દરેક પગલું કોણ નક્કી કરે છે તેના પર નિયંત્રણ જોઈએ, તો શરૂઆતથી જ પોતાના એજન્ટ માળખાની યોજના બનાવો. સંભવ છે કે માત્ર ChatGPTની અંદર નિર્માણ કરવાની મર્યાદા તમે વટાવી જશો.

ચૅટ, પ્રમાણીકરણ અને એજન્ટનાં જોડાણ જાતે બનાવતાં પહેલાં ChatGPTની અંદર તમારું MCP સર્વર ચલાવવા Apps SDKનો ઉપયોગ પણ કરી શકો છો અને ઉત્પાદનને જરૂર પડે ત્યારે પોતાના માળખામાં ખસી શકો છો.

સમાન સ્થિતિમાં રહેલી ટીમો માટે આગળનું પગલું: સ્પષ્ટ પરિણામ ધરાવતો એક કાર્યપ્રવાહ પસંદ કરો, ચૅટ, સાધનો અને વિજેટ વચ્ચેની સોંપણીઓ લખો અને પ્રોમ્પ્ટ સુધારવામાં વધુ સમય આપતાં પહેલાં પુનઃપ્રયાસો તથા ભૂલોની સઘન ચકાસણી કરો.