ChatGPT Apps SDKతో విడుదల చేయడం ద్వారా మేము నేర్చుకున్నవి

• మీకు త్వరగా ChatGPTలో వర్క్‌ఫ్లో అవసరమైనా, కస్టమ్ ఏజెంట్ స్టాక్‌లో పెట్టుబడి పెట్టే ముందు మీ సాధనాలను అక్కడ పరీక్షించాలన్నా Apps SDK ఆచరణాత్మక ఎంపిక. ఏజెంట్ ప్రవర్తించే ప్రతి దశపై మీకే పూర్తి నియంత్రణ అవసరమైతే, సాధారణంగా ఇది సరైన ఎంపిక కాదు.

• ChatGPT ప్రధాన వేదికగా ఉండాలి, పూర్తి చాట్ ఉత్పత్తిని నిర్మించకుండానే సాధనాలతో పాటు కొద్దిపాటి వినియోగదారు అంతర్ముఖం కావాలంటే Apps SDKను ఎంచుకోండి. ప్రవాహం, మెమరీ, ప్రాంప్ట్‌లు, రైట్స్‌పై కచ్చితమైన నియంత్రణ కావాలంటే మీ స్వంత ఏజెంట్ స్టాక్‌ను ఎంచుకోండి.

• చాట్‌తో పాటు కొన్ని చిన్న వినియోగదారు అంతర్ముఖ దశలను కలిపే ఉత్పత్తులకు Apps SDK సరిపోతుంది. మీరు వేగంగా విడుదల చేయగలరు, కానీ కొంత నియంత్రణను వదులుకోవాలి.

• స్పష్టమైన సాధనాలు, స్పష్టమైన విడ్జెట్ ప్రవర్తన, స్పష్టమైన తదుపరి దశలు మాకు బాగా పనిచేశాయి. ప్రవాహాన్ని నిర్ణయించడానికి మేము వాటిపైనే ఆధారపడ్డాం, LLMపై కాదు. వ్యవస్థ ఇప్పటికే ఎంచుకున్న ఫలితాలను వివరించడంలో మోడల్ అత్యంత ఉపయోగకరంగా నిలిచింది.

• కింద: ఎలా ఎంచుకోవాలి, ఆపై ఏవి పనిచేశాయి, ఏవి పనిచేయలేదు.

చాలా బృందాలు ఇప్పటికీ కృత్రిమ మేధ పైలట్‌లనే నడుపుతున్నాయి లేదా తక్కువ నష్టభయ-ప్రతిఫలమున్న అనుబంధ అవసరాలకు దాన్ని వినియోగిస్తున్నాయి. వినియోగదారులు ప్రతి వారం ఉపయోగించే వ్యాపారానికి కీలకమైన ఉత్పత్తిని విడుదల చేసేవారు కొద్దిమందే. మొత్తం సహాయక వ్యవస్థను మీరే నిర్మించకుండా ChatGPTలోనే అందుబాటులోకి రావడం మీ లక్ష్యమైతే, ఆ అంతరాన్ని తగ్గించడానికి ChatGPT Apps SDK ఒక మార్గం.

ChatGPTను ప్రధాన వేదికగా ఉపయోగించాలనీ, పూర్తిగా ప్రత్యేకమైన చాట్ ఉత్పత్తికి నిధులు వెచ్చించాల్సిన అవసరం లేకుండా వేగంగా ముందుకు వెళ్లాలనీ సూచించిన అవసరాలతో కూడిన క్లయింట్ ప్రాజెక్టు నుంచి మేము ఈ పాఠాలు నేర్చుకున్నాం.

ఆ అవసరాలకు Apps SDK సరిపోయింది, ఎందుకంటే క్లయింట్‌కు ఇవి కావాలి:

• నిర్మించి హోస్ట్ చేయాల్సిన ప్రత్యేక చాట్ ఉత్పత్తి వద్దు—మరో స్వతంత్ర సహాయక వ్యవస్థ కాకుండా ChatGPTలోనే వినియోగదారులను చేరుకోవాలని వారు కోరుకున్నారు.

• చాట్‌తో పాటు చిన్న, నిర్దిష్ట పనుల వినియోగదారు అంతర్ముఖం—వర్క్‌ఫ్లోలో మరో పూర్తి ఉత్పత్తి కాకుండా, కొన్ని కేంద్రీకృత విడ్జెట్ దశలు.

• MCP సాధనాల ద్వారా అందుబాటులో ఉండే బ్యాకెండ్ ప్రవర్తన—మొత్తం నిర్వహణ బాధ్యతగల కస్టమ్ ఏజెంట్ రన్‌టైమ్ కాకుండా ప్రామాణిక సాధన కాలింగ్.

• ChatGPTలోనే కనుగొనే అవకాశం—వినియోగదారులు ఇప్పటికే పనిచేస్తున్న చోటే వారికి వర్క్‌ఫ్లో అందాలి.

నిర్మాణం కొనసాగుతుండగానే మేము క్లయింట్‌తో కలిసి ఆ ఎంపికలను ధ్రువీకరించాం. అయినా ఈ రాజీ వర్తిస్తుంది: సెషన్‌ను ChatGPT హోస్ట్ చేసినప్పుడు, వెలుపలి రన్‌టైమ్‌పై మీకు యాజమాన్యం ఉండదు. మీరు దానికి దిశానిర్దేశం చేస్తారు, కానీ పూర్తిగా నియంత్రించలేరు.

Apps SDK యాప్ మూడు అంశాలను అనుసంధానిస్తుంది:

1. ChatGPT ఏజెంట్ రన్‌టైమ్

2. మీ MCP సాధనాలు

3. మీ విడ్జెట్ వినియోగదారు అంతర్ముఖం

ఆచరణలో ప్రవాహం:

1. వినియోగదారు ChatGPTను ఏదో ఒకటి అడుగుతారు.

2. ChatGPT మీ MCP సాధనాల్లో ఒకదాన్ని కాల్ చేయవచ్చు.

3. మీ సర్వర్ నిర్మిత సాధన ఫలితాన్ని తిరిగి పంపుతుంది.

4. ChatGPT ఆ ఫలితాన్ని చదివి తదుపరి దశను నిర్ణయిస్తుంది: మరిన్ని సాధన కాల్స్, వినియోగదారుకు సమాధానం లేదా రెండూ. ఆ సాధనానికి విడ్జెట్‌ను జోడించి ఉంటే, అది ఈ దశలో కనిపించవచ్చు.

5. వినియోగదారు చాట్‌లో లేదా విడ్జెట్‌లో కొనసాగుతారు. తదుపరి వచనం, ఒక ఎంపిక లేదా విడ్జెట్ ప్రారంభించే సాధన కాల్ ద్వారా ఇది జరగవచ్చు. దాంతో సంభాషణ త్రెడ్ నవీకరణ అవుతుంది. ChatGPT మరో దశను నడుపుతుంది, పని పూర్తయ్యే వరకు 2–4 దశలు పునరావృతమవుతాయి.

చాట్, బ్యాకెండ్ చర్యలు, చిన్న వినియోగదారు అంతర్ముఖ దశల కలయికే ఇందులోని ప్రధాన ఉద్దేశం. అలాగే చాట్, సాధనాలు, వినియోగదారు అంతర్ముఖం మధ్య జరిగే బదిలీలే సులభంగా విఫలమయ్యే భాగాలని కూడా దీని అర్థం.

చాట్ వినియోగదారు అంతర్ముఖం, సాధన అనుసంధానం, ప్రమాణీకరణ నమూనాలు లేదా విడ్జెట్ ఆవరణను మీరు మొదటి నుంచి మళ్లీ నిర్మించాల్సిన అవసరం లేదు. అనేక ఉత్పత్తుల్లో ఇది నిర్మాణ సమయాన్ని గణనీయంగా తగ్గిస్తుంది, తద్వారా మీరు రంగానికి సంబంధించిన తర్కం, రక్షణ నియమాలపై దృష్టి పెట్టవచ్చు.

ChatGPTలో నిర్మించడం, మీ స్వంత ఏజెంట్‌ను నడపడం ఒకటే కాదు. ప్రాజెక్టులో కష్టమైన భాగం ప్రాంప్ట్ చిట్కాలు కాదు. మోడల్, వినియోగదారు అంతర్ముఖం ఒకే దిశలో ఉండేలా సాధనాలు, విడ్జెట్‌లు, తదుపరి దశలను తగినంత స్పష్టంగా రూపొందించడమే కష్టమైన పని.

Apps SDK మీ సాధారణ ఫ్రంటెండ్‌కు భిన్నమైన ఉత్పత్తి రూపాన్ని అందిస్తుంది. అయితే అది ఏ సందర్భాలకు అనువైనదో తెలుసుకోవడం ముఖ్యం.

ఈ అవసరాల కోసం Apps SDKను ఉపయోగించండి

• ChatGPT వర్క్‌ఫ్లోను వేగంగా విడుదల చేయడం.

• సంభాషణను ChatGPT హోస్ట్ చేసేలా చేయడం.

• సహజ భాషను కొన్ని కేంద్రీకృత వినియోగదారు అంతర్ముఖ దశలతో కలపడం.

• మీ స్వంత చాట్ అంతర్ముఖం, ఏజెంట్ కంటైనర్, కనుగొనే వ్యవస్థను నిర్మించకుండా ఉండడం.

మీ వినియోగదారులు ఇప్పటికే ChatGPTను విస్తృతంగా వాడుతుంటే, చివరి అంశం చాలా ముఖ్యం.

ఈ అవసరాలుంటే మీ స్వంత ఏజెంట్‌ను నిర్మించండి

• కోడ్ ద్వారా తప్పనిసరిగా అమలు చేయగల స్థిరమైన దశలవారీ ప్రవాహం.

• ప్రారంభం నుంచి ముగింపు వరకు మీ యాజమాన్యంలో ఉండే కస్టమ్ వినియోగదారు అంతర్ముఖం, నిర్ధారణ మార్గం.

• మీ స్వంత మెమరీ, స్థితి మోడల్.

• ప్రతిసారి అమలు చేసినప్పుడు ముందే ఊహించగల ప్రవర్తన.

• ఏజెంట్‌కు సంబంధించిన ట్రేస్‌లు, లాగ్‌లు, కొలమానాలు.

ప్రణాళికకర్త, సిస్టమ్ ప్రాంప్ట్‌లు, పూర్తి వర్క్‌ఫ్లోయే మీ ఉత్పత్తి అయితే, సాధారణంగా కస్టమ్ స్టాక్ ఉత్తమ ఎంపిక.

మా ప్రాజెక్టులో పదే పదే ప్రస్తావనకు వచ్చిన అంశం నియంత్రణ: ఒకవైపు వేగం, సుపరిచితమైన హోస్ట్, మరోవైపు రన్‌టైమ్‌పై పాక్షిక యాజమాన్యం. పూర్తి స్టాక్‌పై యాజమాన్యం కంటే ChatGPTలో వినియోగదారులను చేరుకోవడానికి ప్రాధాన్యం ఇచ్చినప్పుడు క్లయింట్ అంగీకరించిన రాజీ ఇదే.

అన్నీ సవ్యంగా జరిగే మార్గం సులభంగానే అనిపిస్తుంది: వినియోగదారు అడుగుతారు, సాధనం నడుస్తుంది, డేటా వస్తుంది, ఎంపిక అవసరమైనప్పుడు విడ్జెట్ కనిపిస్తుంది.

ఆచరణలో బదిలీలే సమస్యగా మారాయి. విడ్జెట్ అలంకరణ కాదు. అది తెరపై కనిపించిన వెంటనే మోడల్ చూసేదాన్ని, తర్వాత చేసేదాన్ని మారుస్తుంది. విడ్జెట్ చర్యలను అస్పష్టమైన చాట్‌గా కాకుండా పేరున్న ఈవెంట్‌లుగా పరిగణించండి.

ఈ ప్రాజెక్టులోని స్టాక్ సరళమైనదే: FastMCP, Pydantic, React, TypeScript. వాటిని అనుసంధానించడం సులభంగానే సాగింది. తర్వాత ఏం జరగాలో మోడల్, సాధనాలు, వినియోగదారు అంతర్ముఖం మధ్య ఏకాభిప్రాయం కలిగించడమే అసలు పని.

ప్రతి బదిలీని స్పష్టంగా చేయండి

సాధన ఫలితాలను ముడి బ్యాకెండ్ పేలోడ్‌లుగా పరిగణించడం మానేశాం. తిరిగి వచ్చిన ప్రతి ఫలితం ఒక బదిలీగా మారింది.

మెరుగైన సాధన ఫలితం:

• విడ్జెట్‌ను చూపించడానికి అవసరమైన సమాచారాన్ని అందిస్తుంది.

• ChatGPT తన సమాధానానికి ఆధారంగా ఉపయోగించగల నిర్మిత వాస్తవాలను అందిస్తుంది.

• ప్రవాహానికి అవసరమైనప్పుడు, మోడల్ ఊహించాల్సిన అవసరం లేకుండా తర్వాత ఏం జరగాలో చెబుతుంది.

విడ్జెట్ చర్యలు అస్పష్టమైన వచనాన్ని తిరిగి సంభాషణ త్రెడ్‌లోకి పంపకూడదు. వినియోగదారు ఏం చేశారు, తర్వాత ఏం జరగాలి అనేది అవి చెప్పాలి.

బదిలీలు స్పష్టమైన తర్వాత విశ్వసనీయత పెరిగింది.

సాధన అవుట్‌పుట్, విడ్జెట్ చర్యల్లో ఉండే చిన్న, స్పష్టమైన సూచనలను మోడల్ అనుసరిస్తుంది.

మేము ఉపయోగించిన చిన్న Pydantic ఆకృతి కింద ఉంది. విడ్జెట్‌ను చూపించినప్పుడు దానికి అవసరమైన నిర్మిత డేటా, సెషన్‌లో ChatGPT ఉపయోగించాల్సిన వాస్తవాలు output ఫీల్డ్‌లో ఉంటాయి. సహాయక వ్యవస్థ తర్వాత ఏం చేయాలో చెప్పే చిన్న వాక్యం agent_directions ఫీల్డ్‌లో ఉంటుంది. Reason ఐచ్ఛికం.

1from typing import Generic, TypeVar2
3from pydantic import BaseModel4
5T = TypeVar("T")6
7class AgentDirections(BaseModel):8 assistant_instruction: str9 reason: str | None = None10
11class ToolResults(BaseModel, Generic[T]):12 agent_directions: AgentDirections13 output: T

విడ్జెట్‌లను చిన్నగా ఉంచండి

పనిచేసిన విడ్జెట్‌లు ఒక నిర్ణయాన్ని తీసుకున్న తర్వాత తిరిగి నియంత్రణను అప్పగించాయి. విడ్జెట్‌ను చిన్న యాప్‌గా మార్చడం కంటే సంక్షిప్త జాబితాలు, నిర్ధారణలు లేదా కేంద్రీకృత సమీక్ష తెర మెరుగ్గా పనిచేశాయి. ప్రవాహం మరింత నిర్ణీతంగా ఉండాలని కోరుకున్నప్పుడు, సరళమైన ధ్రువీకరణ లేదా స్థిరమైన తదుపరి దశ వంటి కొద్దిపాటి తర్కం విడ్జెట్‌లో ఉండటం ఉపయోగపడింది.

విడ్జెట్ సందేశాల్లో తృతీయ పురుష ప్రయోగం

విడ్జెట్ తదుపరి సందేశాలను వినియోగదారు చాట్‌లా రాయడం మానేశాం. ఉదాహరణకు, “నేను ఎంచుకున్నాను…”, “నేను నిర్ధారించాను…” అని రాయలేదు. వినియోగదారు చేసిన పనిపై చిన్న నివేదికల్లా వాటిని రాశాం. ఉదాహరణకు, “వినియోగదారు ఎంచుకున్నారు…”, “వినియోగదారు నిర్ధారించారు…” అని రాశాం. ChatGPT విడ్జెట్ సందేశాలను వినియోగదారు సందేశాలుగా కాకుండా సాధన సందేశాలుగా జోడిస్తుండటంతో ఈ విధానాన్ని ప్రయత్నించాం.

తదుపరి దశ స్పష్టంగా ఉన్నప్పుడు ప్రత్యక్ష చర్యలు

ఒక బటన్ తదుపరి సాధన కాల్‌ను స్పష్టంగా సూచిస్తే, మరో చాట్ దశను బలవంతంగా చేర్చడం కంటే విడ్జెట్ దాన్ని నేరుగా ప్రారంభించడం మెరుగ్గా పనిచేసింది. తదుపరి సాధన కాల్‌కు ChatGPT నుంచి ఇన్‌పుట్‌లు అవసరం లేనప్పుడు మాత్రమే ఇది వర్తిస్తుంది.

ఇది నిర్ణీత ప్రవాహాలను అమలు చేయడంలో సహాయపడింది. మరో చాట్ దశను నివారించడం వల్ల ఆలస్యం కూడా తగ్గింది.

లోపాల నిర్వహణ

సాధన కాల్ విఫలమైనప్పుడు, సరైన MCP లోప సంకేతాలతో పాటు చిన్న, సరళమైన సందేశాలను సాధనం నుంచి పంపాం. అప్పుడు విఫలమైన కాల్స్‌పై ChatGPTకు చదవడానికి వాస్తవ సమాచారం అందింది. దాంతో అది వినియోగదారుకు సమస్యను వివరించగలిగింది లేదా తగిన తదుపరి దశను ఎంచుకోగలిగింది, లేదా రెండూ చేయగలిగింది.

సాధన సందర్భ నిర్వహణ

సెషన్ స్థితిని మా సర్వర్‌లోనే ఉంచాం. సాధన కాల్స్‌తో పాటు సెషన్ పరిధిలోని సందర్భాన్ని ChatGPT పంపుతుంది. FastMCPలో ప్రతి సాధనానికి Context పరామితిని ఇచ్చాం, తద్వారా హ్యాండ్లర్ ఆ స్థితిని చదివి నవీకరించగలిగింది.

• ప్రతి కాల్‌లో వాటిని మళ్లీ సాధన ఆర్గ్యుమెంట్‌లుగా పంపమని ChatGPTను అడగకుండా, స్థిరమైన IDలు, మునుపటి ఫలితాలను సెషన్‌లో ఉంచాం.

• సాధన కాల్ చక్రాలు ఏర్పడినప్పుడు, నకిలీ కాల్స్‌ను గుర్తించి సాధన ఫలితం ద్వారా స్పష్టమైన లోపాన్ని పంపగలిగాం.

• డీబగ్గింగ్, మద్దతు కోసం సెషన్ లాగ్‌లు మా వైపే ఉండేవి.

ప్రారంభంలో విడ్జెట్‌ను చూపించి, మోడల్ “అర్థం చేసుకుంది” అని భావించి, సరైన తదుపరి సాధన కాల్ కోసం వేచి ఉండేవాళ్లం. కొన్నిసార్లు అది జరిగింది. చాలాసార్లు జరగలేదు.

స్పష్టమైన బదిలీ లేకపోతే, మాకు చర్య కావాల్సినప్పుడు ChatGPT సారాంశం ఇవ్వవచ్చు, వినియోగదారును ఎంపిక మళ్లీ చెప్పమని అడగవచ్చు లేదా ఆగాల్సినప్పుడు కూడా ప్రణాళికను కొనసాగించవచ్చు.

మోడల్ గ్రహిస్తుందని ఆశించకుండా, స్ట్రక్చర్డ్ అవుట్‌పుట్స్, విడ్జెట్ పేలోడ్‌లలో తదుపరి దశను స్పష్టంగా పేర్కొనడమే పరిష్కారం.

Apps SDK పత్రాల్లో చెప్పినట్లుగా, సాధన అవుట్‌పుట్, దాచిన మెటాడేటా, చాట్ వచనం మధ్య సమాధానాలను తెలివిగా విభజించడానికి ప్రయత్నించాం. కానీ విడ్జెట్‌లలో దాచిన మెటాడేటాను చదవలేకపోయాం. అందువల్ల దీన్ని ఉపయోగించలేకపోయాం.

ఏజెంట్ ఎంచుకోకుండా దాని సాధన జాబితాలో కనిపించనివ్వకుండా ఉంచి, అయినా విడ్జెట్ నుంచి కాల్ చేయగల సాధనాల గురించి Apps SDK పత్రాలు వివరిస్తాయి. దృశ్యమానతను app-onlyగా సెట్ చేసినప్పుడు, ఆ సాధనాలు ఏజెంట్‌కే కాకుండా విడ్జెట్‌కు కూడా అందుబాటులో లేకుండా పోయాయి. ఏజెంట్‌కు సాధనం కనిపించకుండా, విడ్జెట్ మాత్రం దాన్ని చూడగలిగే అమరికను మేము సాధించలేకపోయాం.

ఉపయోగకరమైనదేమీ జరగనప్పుడు నిశ్శబ్దంగా ఉండటం లేదా సాధారణ “విజయవంతమైంది” సందేశం ఇవ్వడం నేరుగా లోపాన్ని చూపడం కంటే అధ్వాన్నం. అందుకే సాధన, విడ్జెట్ వైఫల్యాలను ముఖ్యమైన అవుట్‌పుట్‌లుగా పరిగణించాం. ఒక దశ కొనసాగలేకపోతే, ముందుకు తీసుకెళ్లని విడ్జెట్‌ను చూస్తూ వినియోగదారులను వదిలేయకుండా, సరళమైన భాషలో విషయం చెప్పి స్పష్టమైన లోపాన్ని పంపాం. దీంతో వినియోగ సౌలభ్యం మెరుగుపడి, మోడల్ ప్రవర్తన మరింత విశ్వసనీయమైంది.

తక్కువ కస్టమ్ ప్లాట్‌ఫామ్ పనితో ChatGPTలో వర్క్‌ఫ్లోను అందించడం మీ లక్ష్యమైతే, Apps SDK ఆచరణాత్మక మార్గం. వేగం కోసం, వినియోగదారులు ఇప్పటికే పనిచేస్తున్న చోటే వారిని చేరుకోవడం కోసం మీరు కొంత నియంత్రణను వదులుకుంటారు.

ప్రవాహంలోని ప్రతి శాఖ, వినియోగదారు అంతర్ముఖం, ప్రతి దశను నిర్ణయించేవారిపై మీకే యాజమాన్యం కావాలంటే, మొదటి నుంచే మీ స్వంత ఏజెంట్ స్టాక్‌ను ప్రణాళిక చేయండి. ChatGPTలో మాత్రమే నిర్మించే స్థాయిని మీరు దాటిపోయే అవకాశం ఉంది.

చాట్, ప్రమాణీకరణ, ఏజెంట్ అనుసంధాన వ్యవస్థను మీరే నిర్మించే ముందు, ChatGPTలో మీ MCP సర్వర్‌ను నడపడానికి Apps SDKను ఉపయోగించవచ్చు. ఆపై ఉత్పత్తికి అవసరమైనప్పుడు మీ స్వంత స్టాక్‌కు మారవచ్చు.

ఇదే పరిస్థితిలో ఉన్న బృందాలు తర్వాత చేయాల్సింది: స్పష్టమైన ఫలితమున్న ఒక వర్క్‌ఫ్లోను ఎంచుకోండి, చాట్, సాధనాలు, విడ్జెట్‌ల మధ్య బదిలీలను రాసుకోండి, ప్రాంప్ట్‌ను మెరుగుపరచడానికి ఎక్కువ సమయం వెచ్చించే ముందు పునఃప్రయత్నాలు, లోపాలను కఠినంగా పరీక్షించండి.