Navigimi kryesor

Ndërthurja e LLM-ve me zgjidhës formalë për vendime të besueshme të AI-së

Një arkitekturë hibride ndërthur fleksibilitetin e LLM-ve me zgjidhës deterministë për të prodhuar vendime të besueshme dhe të verifikueshme për ndërmarrjet.

Modelet e mëdha gjuhësore (LLM-të) kanë bërë përparim të jashtëzakonshëm në kuptimin e gjuhës natyrore, krijimin e përgjigjeve të rrjedhshme dhe mundësimin e përvojave krejtësisht të reja për klientët dhe punonjësit. Megjithatë, meqë LLM-të janë në thelb stokastike, përdorimi i tyre për arsyetim kompleks numerik ose logjik ofron garanci të kufizuara se rezultatet e tyre do të jenë në përputhje me rregullat ose optimale. Për shembull:

  • Një menaxher i thotë një asistenti planifikimi me AI: “Ship as much as possible next week while keeping costs low,” dhe sistemi harton një plan agresiv që duket efikas, por tejkalon në heshtje kapacitetin e magazinës dhe shkel garancitë e dorëzimit.

  • Një koordinator i thotë një asistenti me AI: “Reassign crews to reduce overnight stays and minimize disruption,” dhe modeli krijon një orar me kosto më të ulët që duket optimal, por shkel kufizimet e detyrueshme për kohën në detyrë ose pushimin.

  • Një asistent me AI për operacionet financiare duhet të miratojë transaksione sipas kufizimeve të rrepta rajonale dhe të rrezikut, por lejon një transaksion të dyshimtë duke sajuar një arsyetim që tingëllon në përputhje me rregullat, ndërkohë që shkel politikën e brendshme.

Në mjedise me kërkesa të rrepta operacionale, ndërthurja e LLM-ve me zgjidhës formalë ndihmon që vendimet e nxitura nga gjuha natyrore të qëndrojnë brenda kufijve të përcaktuar dhe të shmangin rezultate të parealizueshme, jooptimale ose në kundërshtim me rregullat.

Ekipi ynë i kërkimit dhe zhvillimit po shqyrton një qasje hibride që ndërthur krijimtarinë dhe fleksibilitetin e LLM-ve me rigorozitetin, garancitë dhe transparencën e zgjidhësve formalë matematikorë si Z3, Pyomo dhe OR-Tools. Po ndërtojmë gjithashtu një motor formal të ripërdorshëm të AI-së, për ta bërë këtë aftësi pjesë standarde të infrastrukturës teknologjike të ndërmarrjeve. Platforma do t’u mundësojë organizatave të marrin rregullat e biznesit drejtpërdrejt nga sistemet ekzistuese, t’i verifikojnë vazhdimisht vendimet kundrejt tyre dhe të vënë në punë në mënyrë të sigurt agjentë AI brenda kufijve të përcaktuar qartë.

Vizioni ynë është të ulim rrezikun operacional, duke përshpejtuar njëkohësisht vendimmarrjen në shkallë të gjerë. Drejtuesit marrin më shpejt vendime në përputhje me politikat nga të dhënat hyrëse në gjuhë natyrore, ndërsa organizatat mund të automatizojnë ndryshimet sipas nevojës në planifikim, shpërndarjen e burimeve të zinxhirit të furnizimit, operacionet financiare, verifikimin e politikave, madje edhe projektimin e videove ose objekteve 3D. Masat mbrojtëse të integruara parandalojnë që rezultatet e parealizueshme, të papajtueshme me rregullat ose të pasigurta të kalojnë në prodhim.

Në eksperimente të kontrolluara me probleme optimizimi të ngjashme me ato të logjistikës dhe me tre standarde publike krahasimi, qasja jonë hibride tregoi vazhdimisht:

  • Saktësi më të lartë

  • Interpretueshmëri dhe auditueshmëri më të lartë

Arkitektura hibride

Qasja jonë e përmbys paradigmën e zakonshme «LLM-ja bën gjithçka» dhe ndjek këtë model:

Diagram që krahason si modelet e mëdha gjuhësore dhe zgjidhësit deterministë ndërthurin kuptimin e gjuhës natyrore me optimizimin e verifikueshëm.

Kjo qasje i ndan qartë përgjegjësitë: LLM-të nxjerrin rregulla dhe kufizime nga gjuha natyrore, ndërsa zgjidhësit deterministë si OR-Tools, Z3 dhe Pyomo kryejnë optimizimin dhe verifikimin. Rezultati ndërthur pikat e forta të të dyja qasjeve:

LLM-të

Zgjidhësit

Hibrid (LLM + zgjidhës)

Kupton synimin njerëzor në fusha të ndryshme

✅ Shkëlqyeshëm

❌ Aspak

✅ Shkëlqyeshëm

Sjellje deterministe

❌ Jo

✅ E garantuar

✅ Po

Saktësi e provueshme në arsyetimin matematikor dhe optimizimin me shumë kufizime

⚠️ E brishtë

✅ E garantuar

✅ Po

Auditueshmëria dhe interpretueshmëria

⚠️ E brishtë

✅ E qartë

✅ E qartë

Rezistenca ndaj zhurmës dhe injektimit në kërkesë

❌ E cenueshme

✅ Imune

✅ E fortë

Drejtimi eksperimental 1: logjistika dhe caktimi i fuqisë punëtore

Fusha e problemit

E nisëm me një sfidë që hasin disa nga klientët tanë:

Shndërrimi i kërkesave në gjuhë natyrore në vendime optimale për burimet, në kohë reale, duke zbatuar rreptësisht kufizimet operacionale, të politikave dhe të kostos.

Kjo sfidë është në qendër të logjistikës dhe zinxhirëve modernë të furnizimit, përfshirë planifikimin e fuqisë punëtore, shpërndarjen e aseteve, përcaktimin e itinerareve, planifikimin e përmbushjes së porosive dhe menaxhimin e kapacitetit. Kjo është gjithashtu fusha ku LLM-të dhe zgjidhësit formalë duhet të bashkëpunojnë për të krijuar sisteme të besueshme. Për vlerësimin tonë, ndërtuam skenarë testimi, burime të dhënash dhe kufizime të kontrolluara, së bashku me 240 pyetje sintetike. Shembujt përfshijnë:

  • Please revise the existing schedule following a cancellation. The target facility must be fully supplied by 24 December 2025. When possible, source inventory from a nearby warehouse and route it through a specific consolidation point. The earliest allowable start date is 14 December 2025.

  • Last-minute request: a VIP will arrive at location A in three hours. We need the required staff on site within two hours. Please adjust staff allocations while minimizing changes to the existing schedule.

Nga pyetjet shihet se sistemi duhet të nxjerrë dhe zbatojë me besueshmëri kufizime të forta dhe të buta drejtpërdrejt nga kërkesat në gjuhë natyrore:

  • Kufizimet e forta janë të panegociueshme (p.sh. datat më të hershme të fillimit, kushtet kontraktuale dhe kufijtë maksimalë të kapacitetit). Shkelja e cilitdo prej tyre e bën zgjidhjen të pavlefshme.

  • Kufizimet e buta përfaqësojnë parapëlqime, si minimizimi i vonesave, ulja e kostove dhe kufizimi i ndryshimeve. Objektivi është optimizimi pa kapërcyer kufijtë e fortë.

Disa aspekte të këtyre problemeve të optimizimit nuk mund të paracaktohen plotësisht. Ato duhet të ndërtohen në mënyrë dinamike, duke u bazuar jo vetëm në kufizimet dhe objektivat e paracaktuar nga logjika e strukturuar e biznesit, dokumentet e brendshme dhe të dhënat operacionale, por edhe në kërkesën e përdoruesit.

Qasjet që vlerësuam

Për të kuptuar si funksionojnë teknikat e ndryshme në këtë kontekst, zbatuam dhe krahasuam tri qasje.

  1. LLM e pastër: Qasja më e thjeshtë ia kalon të gjitha të dhënat përkatëse dhe kërkesën e përdoruesit në gjuhë natyrore një kërkese të vetme për LLM-në, së cilës i kërkohet të krijojë një plan ose shpërndarje optimale. Edhe pse kjo mund të funksionojë për probleme të vogla ose me pak kufizime, ajo dështon me rritjen e kompleksitetit. Modeli mund të shpërfillë kufizime, t’i japë përparësi objektivit të gabuar ose të krijojë plane që tingëllojnë të arsyeshme, por janë të parealizueshme, pa ndonjë mënyrë të besueshme për të zbuluar ose parandaluar dështimet.

  2. LLM + Code Interpreter: Në këtë qasje, LLM-ja interpreton kërkesën dhe përdor mjete për të hyrë në burimet e të dhënave dhe për të krijuar kod optimizimi të ekzekutueshëm. Kjo shton fleksibilitetin dhe vëzhgueshmërinë, por besueshmëria mbetet problem. LLM-ja ende duhet t’i përkthejë kufizimet në kod të saktë dhe gabime të vogla në arsyetim ose kodim mund të prodhojnë rezultate të pavlefshme ose jooptimale, sidomos me shtimin e kufizimeve.

  3. Hibrid: LLM → kufizime të strukturuara → zgjidhës determinist: Qasja e tretë i ndan përgjegjësitë. LLM-ja nuk e «vendos» kurrë rezultatin; ajo ndihmon në formalizimin e variablave, kufizimeve dhe objektivave. Një zgjidhës i provuar optimizimi zbaton kufizimet, garanton realizueshmërinë dhe prodhon rezultate që mund të verifikohen dhe auditohen. Roli i LLM-së kufizohet në përkthimin e kërkesave në gjuhë natyrore në kufizime të qarta dhe të strukturuara, duke përdorur skema të paracaktuara. Këto kufizime përpilohen automatikisht në kod për zgjidhës, si OR-Tools, i cili llogarit në mënyrë deterministe një zgjidhje të realizueshme dhe optimale.

Rezultatet

I testuam metodat duke përdorur disa LLM, përfshirë GPT-5, GPT-5.1 dhe GPT-5.2. Siç pritej, qasja hibride i tejkaloi alternativat:

Metoda

Saktësia e caktimit

Vonesa mesatare

Tokenë të përdorur për pyetje

LLM e pastër

70–78%

62–190 s

~175 000

LLM + Code Interpreter

82–84%

62–140 s

~9 000

LLM → zgjidhës (hibrid)

95–97%

6–25 s

~2 000

Metoda jonë hibride tregon një rritje të ndjeshme të saktësisë, efikasitet mbi 4 herë më të lartë të tokenëve dhe ulje dhjetëfish të vonesës.

Drejtimi eksperimental 2: optimizim i përgjithshëm nga gjuha natyrore

Hapi ynë i radhës është të ndërtojmë një ndërfaqe të përgjithësueshme dhe të ripërdorshme, që e shndërron gjuhën natyrore në paraqitje semantike të strukturuara, të cilat backend-i ynë mund t’i përkthejë në kod të gatshëm për zgjidhësin. Për këtë eksperiment, u përqendruam te problemet e optimizimit linear dhe e vlerësuam qasjen kundrejt tri grupeve publike të të dhënave (NLP4LP, NL4OPT dhe IndustryOR).

Qasjet që vlerësuam

  1. LLM e pavarur

  2. Metoda hibride (LLM → rregulla të strukturuara → zgjidhës → rezultat i verifikuar)

Diagram që paraqet rrjedhën hibride të punës, nga kërkesat në gjuhë natyrore te kufizimet e strukturuara, zgjidhja deterministe dhe rezultati i verifikuar.

  • Përdorni një LLM për të nxjerrë variablat, kufizimet dhe objektivat nga të dhënat hyrëse dhe për të formuluar një problem të strukturuar optimizimi.

  • Kalojani problemin e strukturuar dhe kërkesën origjinale një LLM-je për vetëverifikim.

  • Përkthejeni problemin e strukturuar në kod OR-Tools për të llogaritur caktimin optimal.

Rezultatet

E vlerësuam këtë qasje duke përdorur modele pronësore avangardë, përfshirë GPT-5.1, GPT-5 mini, GPT-5.1-Codex-Max dhe GPT-5.2, krahas modeleve me burim të hapur si Kimi K2, modelet GPT-OSS dhe MiniMax M2. Diagramet kuti përmbledhin rezultatet për secilën metodë.

Grafik që krahason modelet e mëdha gjuhësore të pavarura me qasjet hibride të bazuara në zgjidhës në standarde krahasimi për optimizimin.

Qasja hibride prodhon vazhdimisht rezultate më të sakta, më të qëndrueshme dhe më të verifikueshme se një bazë krahasimi me LLM të pavarur, pothuajse në të gjitha modelet gjuhësore bazë të vlerësuara. Edhe pse performanca absolute ndryshon sipas modelit, përfitimet relative nga qasja hibride mbeten të qëndrueshme. Kjo tregon se përmirësimet vijnë nga ndarja e kuptimit të gjuhës natyrore prej optimizimit formal, dhe jo nga mbështetja tek aftësia e arsyetimit të një modeli të vetëm.

Saktësia

Në NLP4LP dhe NL4OPT, që përbëhen kryesisht nga probleme programimi linear, metoda hibride arrin saktësi pranë nivelit maksimal dhe tejkalon përdorimin e kërkesave me LLM të pavarur. Në vend që të prodhojë arsyetim «përafërsisht të saktë», sistemi hibrid krijon në mënyrë më të qëndrueshme formulime matematikore të vlefshme dhe të ndërtuara siç duhet. Në grupin më sfidues të të dhënave IndustryOR, saktësia ulet për të dyja metodat, por për arsye të ndryshme. Shumë probleme të IndustryOR përfshijnë struktura kombinatorike, si përcaktimi i itinerareve të automjeteve, renditja e detyrave dhe caktimi i fuqisë punëtore, që tejkalojnë aftësitë e optimizimit linear të mbështetura aktualisht nga backend-i ynë i zgjidhësit.

Analiza e mënyrave të dështimit tregon se LLM-të e pavarura shkelin shpesh kufizimet e kërkuara, siç ilustrohet më poshtë:

Shembulli 1:

Plain Text

"A bodybuilder buys prepared meals: a turkey dinner and a tuna salad sandwich. The turkey dinner contains 20 grams of protein, 30 grams of carbohydrates, and 12 grams of fat. The tuna salad sandwich contains 18 grams of protein, 25 grams of carbohydrates, and 8 grams of fat. The bodybuilder needs at least 150 grams of protein and 200 grams of carbohydrates. Because turkey dinners are expensive, no more than 40% of the meals should be turkey dinners. How many of each meal should the bodybuilder eat to minimize total fat intake?"

LLM-ja e pavarur prodhon një zgjidhje me më pak yndyrë gjithsej, por shkel kërkesën që darkat me mish gjeldeti të përbëjnë jo më shumë se 40% të vakteve. Qasja hibride e zbaton saktë këtë kufizim të fortë dhe jep një përgjigje të vlefshme.

Shembulli 2:

Plain Text

"A hospitalized patient can take two pills: Pill 1 and Pill 2. Each Pill 1 provides 0.2 units of pain medication and 0.3 units of anxiety medication. Each Pill 2 provides 0.6 units of pain medication and 0.2 units of anxiety medication. Pill 1 causes 0.3 units of discharge, while Pill 2 causes 0.1 units. At most 6 units of pain medication may be provided, and at least 3 units of anxiety medication must be provided. How many of each pill should the patient receive to minimize total discharge?"

LLM-ja e pavarur prodhon sërish një zgjidhje me më pak shkarkim, por tejkalon kufirin maksimal të lejuar për ilaçet kundër dhimbjes. Qasja hibride e zbaton saktë atë kufizim të fortë dhe jep një përgjigje të vlefshme.

Vonesa dhe përdorimi i tokenëve

Të dhënat për vonesën dhe përdorimin e tokenëve zbulojnë një dallim të rëndësishëm. Qasja hibride ka vonesë mesatare dhe përdorim tokenësh më të lartë se një kërkesë e vetme për LLM-në, por kjo pasqyron zgjedhjet arkitekturore dhe jo joefikasitetin.

Procesi hibrid përfshin:

  1. Një ose më shumë thirrje të LLM-së për të nxjerrë variabla, kufizime dhe objektiva të strukturuar.

  2. Një hap vetëverifikimi për të kapur mospërputhjet e brendshme.

Edhe pse këta hapa shtojnë kosto krahasuar me një kërkesë të vetme, vonesa mbetet e kufizuar dhe e parashikueshme, ndërsa ekzekutimi i zgjidhësit zakonisht është i shpejtë pasi problemi formulohet siç duhet. Puna shtesë krijon paraqitje të ndërmjetme të qarta, të ripërdorshme dhe të auditueshme. Në të kundërt, qasjet vetëm me LLM e ngjeshin arsyetimin në një gjenerim të vetëm e jotransparent, duke i zhvendosur kostot te riprovimet, kontrollet manuale dhe dështimet në fazat pasuese. Versionet e ardhshme mund ta ulin këtë kosto shtesë përmes:

  • Ruajtjes në memorie të skemave të nxjerra.

  • Përditësimit gradual të kufizimeve.

  • Përmirësimit të orkestrimit të kërkesave dhe thirrjeve.

Transparenca dhe auditueshmëria

Së fundi, edhe kur të dyja metodat dështojnë, vetë mënyra e dështimit është thelbësisht e ndryshme.

  • Me një LLM të pavarur, dështimet shpesh kalojnë pa u vënë re: modeli mund të japë një rezultat me gabime të fshehta.

  • Me qasjen hibride, formulimi i qartë i problemit i bën dështimet transparente dhe i ndihmon ekipet të identifikojnë se cila pjesë e formulimit shkaktoi gabimin.

Versionet e ardhshme mund t’i shfaqin këto formulime në një ndërfaqe, duke u mundësuar përdoruesve t’i auditojnë ose verifikojnë para se të ekzekutohet zgjidhësi. Kjo transparencë përmirëson saktësinë e matur dhe e bën sistemin më të lehtë për t’u diagnostikuar e përmirësuar, çka është thelbësore për përdorimin në botën reale.

Përfundimi kryesor

Në të gjitha standardet e krahasimit dhe në shumicën e modeleve bazë të testuara, rezultatet përforcojnë një përfundim qendror të punës sonë:

LLM-të janë të fuqishme në kuptimin dhe përkthimin e synimit, por zgjidhësit deterministë janë thelbësorë për të garantuar saktësinë.

Qasja hibride e shndërron gjuhën natyrore nga burim paqartësie në një ndërfaqe të besueshme për vendimmarrje të mbështetur mirë matematikisht, duke e afruar AI-në e ndërmarrjeve me sisteme që janë jo vetëm inteligjente, por edhe të besueshme.

Hapi i radhës: një motor formal i ripërdorshëm i AI-së për ndërmarrjet

Kufizimet e ndërmarrjeve rrallë gjenden në skema të rregullta ose në kërkesa të formuluara në mënyrë të përsosur. Ato janë të shpërndara në baza të dhënash, fletëllogaritëse, politika të brendshme dhe kontrata. Kërkesat e përdoruesve mund të jenë të paplota, të paqarta ose në kundërshtim me rregullat e biznesit. Për ta zbatuar këtë qasje në shkallë të gjerë, po ndërtojmë një motor të ripërdorshëm në backend që e shndërron këtë kompleksitet në një aftësi të besueshme për ndërmarrjet.

Diagram që paraqet motorin formal të AI-së për ndërmarrjet, përfshirë rregullat e biznesit, përkthimin për zgjidhësin dhe vendimmarrjen e auditueshme.

Platforma

Në thelb, ky motor shërben si shtyllë formale për sistemet e vendimmarrjes të drejtuara nga AI-ja, duke ofruar:

  • Një bazë simbolike njohurish me përshtatës që marrin rregulla biznesi, kufizime, variabla dhe objektiva.

  • Një shtresë përkthimi që i përpilon skemat në kod për zgjidhësin.

  • Ndërfaqe që u mundësojnë ekipeve të shqyrtojnë, auditojnë dhe ndryshojnë kufizimet.

Ku krijon vlerë kjo qasje

Edhe pse këto eksperimente aktualisht përqendrohen te optimizimi, e njëjta metodë mund të shtrihet te verifikimi logjik. Zbatimet e mundshme në biznes përfshijnë:

  • Kryerjen sipas nevojës të planifikimit dinamik, përcaktimit të itinerareve dhe shpërndarjes së burimeve, duke zbatuar çdo kufizim operacional.

  • Gjenerimin e përgjigjeve dhe rekomandimeve që respektojnë vazhdimisht rregullat e biznesit.

  • Projektimin dhe verifikimin e objekteve komplekse 3D, videove dhe arkitekturave, duke kapur projektet e parealizueshme para prodhimit.

Mendime përmbyllëse

AI-ja e sotme është e fuqishme, por ndërmarrjeve u duhet më shumë se fuqi: u duhen saktësi, qëndrueshmëri dhe kontroll. Sistemi ynë hibrid me LLM dhe zgjidhës është një hap drejt një bote ku:

  • Agjentët nuk sajojnë rregulla ose kufizime.

  • Deduktimi logjik dhe optimizimi janë matematikisht të sakta.

  • Gjuha natyrore shërben si ndërfaqe universale për sistemet deterministe.

Autor

Peng Seng Ang