Основна навигация

Съчетаване на големи езикови модели и формални решатели за надеждни AI решения

Хибридна архитектура съчетава гъвкавостта на големите езикови модели с детерминистични решатели за надеждни и проверими корпоративни решения.

Големите езикови модели (LLM) постигнаха изключителен напредък в разбирането на естествения език и генерирането на гладко звучащи отговори, като създадоха изцяло нови преживявания за клиенти и служители. Но тъй като големите езикови модели по своята същност са стохастични, при използването им за сложно числово или логическо структурирано анализиране има ограничени гаранции, че резултатите им ще отговарят на изискванията или ще бъдат оптимални. Например:

  • Мениджър казва на AI асистент за планиране: “Ship as much as possible next week while keeping costs low,” а системата предлага агресивен план, който изглежда ефективен, но неусетно надхвърля капацитета на склада и нарушава гаранциите за доставка.

  • Координатор казва на AI асистент: “Reassign crews to reduce overnight stays and minimize disruption,” а моделът изготвя график с по-ниски разходи, който изглежда оптимален, но нарушава задължителните ограничения за работно време или почивка.

  • AI асистент за финансови операции трябва да одобрява трансакции при строги регионални ограничения и ограничения за риска, но допуска подозрителна трансакция, като измисля обосновка, която звучи съобразена с изискванията, макар да нарушава вътрешните правила.

В среди със строги оперативни изисквания съчетаването на големи езикови модели с формални решатели помага решенията, основани на естествен език, да остават в определените граници и да не водят до неосъществими, неоптимални или несъответстващи резултати.

Нашият екип за научноизследователска и развойна дейност проучва хибриден подход, който съчетава творческия потенциал и гъвкавостта на големите езикови модели със строгостта, гаранциите и прозрачността на формални математически решатели като Z3, Pyomo и OR-Tools. Разработваме и многократно използваем формален AI механизъм, който да превърне тази възможност в стандартна част от корпоративния технологичен стек. Платформата ще позволява на организациите да приемат бизнес правила директно от съществуващите си системи, непрекъснато да проверяват решенията спрямо тях и безопасно да внедряват AI агенти в ясно определени граници.

Визията ни е да намалим оперативния риск и едновременно да ускорим вземането на решения в голям мащаб. Ръководителите получават по-бързи решения, съобразени с правилата и основани на входни данни на естествен език, а организациите могат да автоматизират извънредни промени в графици, разпределение на ресурси по веригата за доставки, финансови операции, проверка на правила и дори видео или 3D дизайн. Вградените защитни механизми не допускат неосъществими, несъответстващи или опасни резултати в производствена среда.

В контролирани експерименти със задачи за оптимизация от логистичен тип и три публични набора за сравнителен анализ хибридният ни подход последователно показа:

  • По-висока точност

  • По-добра интерпретируемост и възможност за одит

Хибридната архитектура

Подходът ни преобръща обичайната парадигма „големият езиков модел прави всичко“ и следва този дизайн:

Диаграма, сравняваща как големите езикови модели и детерминистичните решатели съчетават разбирането на естествен език с проверима оптимизация.

Този подход ясно разделя отговорностите: големите езикови модели извличат правила и ограничения от естествен език, а детерминистични решатели като OR-Tools, Z3 и Pyomo извършват оптимизацията и проверката. Резултатът съчетава силните страни на двата подхода:

Големи езикови модели

Решатели

Хибриден подход (LLM + решател)

Разбиране на човешките намерения в различни области

✅ Отлично

❌ Липсва

✅ Отлично

Детерминистично поведение

❌ Не

✅ Гарантирано

✅ Да

Доказуема коректност при математическо структурирано анализиране и оптимизация с множество ограничения

⚠️ Ненадеждно

✅ Гарантирано

✅ Да

Възможност за одит и интерпретируемост

⚠️ Ненадеждно

✅ Ясно

✅ Ясно

Устойчивост на шум и инжекции в подканата

❌ Уязвим

✅ Неуязвим

✅ Висока

Експериментално направление 1: логистика и разпределение на персонала

Област на задачата

Започнахме с предизвикателство, пред което са изправени някои наши клиенти:

Преобразуване на заявки на естествен език в оптимални решения за ресурсите в реално време при стриктно спазване на оперативни, регулаторни и финансови ограничения.

Това предизвикателство е в основата на съвременната логистика и веригите за доставки, включително планирането на персонала, разпределението на активи, маршрутизацията, планирането на изпълнението и управлението на капацитета. Именно тук големите езикови модели и формалните решатели трябва да работят заедно, за да създават надеждни системи. За оценката създадохме контролирани тестови сценарии, източници на данни и ограничения, както и 240 синтетични заявки. Примерите включват:

  • Please revise the existing schedule following a cancellation. The target facility must be fully supplied by 24 December 2025. When possible, source inventory from a nearby warehouse and route it through a specific consolidation point. The earliest allowable start date is 14 December 2025.

  • Last-minute request: a VIP will arrive at location A in three hours. We need the required staff on site within two hours. Please adjust staff allocations while minimizing changes to the existing schedule.

От заявките се вижда, че системата трябва надеждно да извлича и налага твърди и меки ограничения директно от заявки на естествен език:

  • Твърдите ограничения не подлежат на договаряне (например най-ранни начални дати, договорни условия и пределни стойности на капацитета). Нарушаването дори на едно от тях прави решението невалидно.

  • Меките ограничения отразяват предпочитания, като свеждане до минимум на закъсненията, разходите и промените. Целта е оптимизация без преминаване на твърдите граници.

Някои аспекти на тези задачи за оптимизация не могат да бъдат напълно предварително зададени. Те трябва да се сглобяват динамично не само от предварително зададени ограничения и цели в структурираната бизнес логика, вътрешните документи и оперативните данни, но и от заявката на потребителя.

Оценяваните подходи

За да разберем как се представят различните техники в тази среда, приложихме и сравнихме три подхода.

  1. Самостоятелен голям езиков модел: Най-простият подход подава всички съответни данни и заявката на потребителя на естествен език в една подкана към голям езиков модел, от който се иска да създаде оптимален план или разпределение. Това може да работи при малки задачи или такива с малко ограничения, но се проваля с нарастването на сложността. Моделът може да пренебрегне ограничения, да даде приоритет на погрешна цел или да създаде планове, които звучат разумно, но са неосъществими, без надежден начин за откриване или предотвратяване на грешките.

  2. Голям езиков модел + Интерпретатор на кодове: При този подход големият езиков модел интерпретира заявката и използва инструменти за достъп до източници на данни и генериране на изпълним код за оптимизация. Това добавя гъвкавост и наблюдаемост, но надеждността остава проблем. Големият езиков модел все още трябва да преобразува ограниченията в правилен код, а малки грешки в структурираното анализиране или програмирането могат да доведат до невалидни или неоптимални резултати, особено при нарастващ брой ограничения.

  3. Хибриден подход: голям езиков модел → структурирани ограничения → детерминистичен решател: Третият подход разделя отговорностите. Големият езиков модел никога не „взема“ решението, а помага за формализирането на променливите, ограниченията и целите. Доказан решател за оптимизация налага ограниченията, гарантира осъществимостта и създава резултати, които могат да бъдат проверени и одитирани. Ролята на големия езиков модел се ограничава до преобразуване на заявките на естествен език в явни, структурирани ограничения чрез предварително зададени схеми. Тези ограничения автоматично се компилират в код за решател, например OR-Tools, който детерминистично изчислява осъществимо и оптимално решение.

Резултати

Тествахме методите с няколко големи езикови модела, включително GPT-5, GPT-5.1 и GPT-5.2. Както очаквахме, хибридният подход се представи по-добре от алтернативите:

Метод

Точност на разпределението

Средна латентност

Използвани токени на заявка

Самостоятелен голям езиков модел

70–78%

62–190 сек.

~175 000

Голям езиков модел + Интерпретатор на кодове

82–84%

62–140 сек.

~9 000

Голям езиков модел → решател (хибриден)

95–97%

6–25 сек.

~2 000

Хибридният ни метод показва значително повишаване на точността, над 4 пъти по-висока ефективност при токените и десетократно намаляване на латентността.

Експериментално направление 2: оптимизация с общо предназначение от естествен език

Следващата ни стъпка е да създадем универсален и многократно използваем интерфейс, който преобразува естествения език в структурирани семантични представяния, а бекендът ни — в готов за решателя код. В този експеримент се съсредоточихме върху задачи за линейна оптимизация и оценихме подхода чрез три публични набора от данни (NLP4LP, NL4OPT и IndustryOR).

Оценяваните подходи

  1. Самостоятелен голям езиков модел

  2. Хибриден метод (голям езиков модел → структурирани правила → решател → проверен резултат)

Диаграма на хибридния работен процес — от заявки на естествен език през структурирани ограничения и детерминистично решаване до проверен резултат.

  • Използване на голям езиков модел за извличане на променливи, ограничения и цели от входните данни и формулиране на структурирана задача за оптимизация.

  • Подаване на структурираната задача и първоначалната заявка към голям езиков модел за самопроверка.

  • Преобразуване на структурираната задача в код за OR-Tools за изчисляване на оптималното разпределение.

Резултати

Оценихме подхода с патентовани авангардни модели, включително GPT-5.1, GPT-5 mini, GPT-5.1-Codex-Max и GPT-5.2, както и с модели с отворен код като Kimi K2, моделите GPT-OSS и MiniMax M2. Диаграмите тип „кутия с мустаци“ обобщават резултатите за всеки метод.

Диаграма, сравняваща самостоятелни големи езикови модели и хибридни подходи с решатели при сравнителни анализи за оптимизация.

При почти всички оценени базови езикови модели хибридният подход последователно дава по-точни, стабилни и проверими резултати от базовия самостоятелен голям езиков модел. Макар абсолютната производителност да се различава между моделите, относителните подобрения от хибридния подход остават постоянни. Това показва, че подобренията идват от разделянето на разбирането на естествен език от формалната оптимизация, а не от разчитането на способността за структурирано анализиране на отделен модел.

Точност

При NLP4LP и NL4OPT, които съдържат главно задачи за линейно програмиране, хибридният метод постига почти максимална точност и превъзхожда подканите към самостоятелен голям езиков модел. Вместо да извежда „приблизително правилно“ структурирано анализиране, хибридната система много по-последователно генерира валидни и правилно оформени математически формулировки. При по-трудния набор от данни IndustryOR точността на двата метода намалява, но по различни причини. Много от задачите в IndustryOR включват комбинаторни структури, като маршрутизация на превозни средства, последователност на задачи и разпределение на персонал, които надхвърлят възможностите за линейна оптимизация, поддържани в момента от бекенда ни за решатели.

Анализът на видовете грешки показва, че самостоятелните големи езикови модели често нарушават задължителни ограничения, както е показано по-долу:

Пример 1:

Plain Text

"A bodybuilder buys prepared meals: a turkey dinner and a tuna salad sandwich. The turkey dinner contains 20 grams of protein, 30 grams of carbohydrates, and 12 grams of fat. The tuna salad sandwich contains 18 grams of protein, 25 grams of carbohydrates, and 8 grams of fat. The bodybuilder needs at least 150 grams of protein and 200 grams of carbohydrates. Because turkey dinners are expensive, no more than 40% of the meals should be turkey dinners. How many of each meal should the bodybuilder eat to minimize total fat intake?"

Самостоятелният голям езиков модел предлага решение с по-ниско общо съдържание на мазнини, но нарушава изискването ястията с пуешко да са не повече от 40% от всички хранения. Хибридният подход правилно налага това твърдо ограничение и връща валиден отговор.

Пример 2:

Plain Text

"A hospitalized patient can take two pills: Pill 1 and Pill 2. Each Pill 1 provides 0.2 units of pain medication and 0.3 units of anxiety medication. Each Pill 2 provides 0.6 units of pain medication and 0.2 units of anxiety medication. Pill 1 causes 0.3 units of discharge, while Pill 2 causes 0.1 units. At most 6 units of pain medication may be provided, and at least 3 units of anxiety medication must be provided. How many of each pill should the patient receive to minimize total discharge?"

Самостоятелният голям езиков модел отново предлага решение с по-ниско ниво на заустване, но надхвърля максимално разрешения лимит за обезболяващи лекарства. Хибридният подход правилно налага това твърдо ограничение и връща валиден отговор.

Латентност и използване на токени

Данните за латентността и използването на токени разкриват важно разграничение. Хибридният подход има по-висока средна латентност и използва повече токени от еднократна подкана към голям езиков модел, но това се дължи на архитектурни решения, а не на неефективност.

Хибридният процес включва:

  1. Едно или повече извиквания на голям езиков модел за извличане на структурирани променливи, ограничения и цели.

  2. Стъпка за самопроверка, която открива вътрешни несъответствия.

Макар тези стъпки да добавят натоварване спрямо единична подкана, латентността остава ограничена и предвидима, а след правилното формулиране на задачата изпълнението от решателя обикновено е бързо. Допълнителната работа създава явни, многократно използваеми и подлежащи на одит междинни представяния. За разлика от това самостоятелните големи езикови модели свиват структуриранoто анализиране в едно непрозрачно генериране и прехвърлят разходите към повторни опити, ръчни проверки и последващи неизправности. Бъдещите версии могат да намалят това натоварване чрез:

  • Кеширане на извлечените схеми.

  • Постепенно актуализиране на ограниченията.

  • Подобряване на координацията на подканите и извикванията.

Прозрачност и възможност за одит

И накрая, дори когато и двата метода се провалят, самият характер на неуспеха е коренно различен.

  • При самостоятелен голям езиков модел грешките често остават скрити: моделът може да върне резултат с трудно забележима неточност.

  • При хибридния подход явната формулировка на задачата прави грешките видими и помага на екипите да установят коя част от формулировката ги е причинила.

Бъдещите версии биха могли да показват тези формулировки в интерфейс, за да могат потребителите да ги одитират или проверяват преди стартирането на решателя. Тази прозрачност повишава измерената точност и улеснява отстраняването на грешки и усъвършенстването на системата — нещо съществено за внедряването ѝ в реална среда.

Основен извод

При всички сравнителни анализи и повечето тествани базови модели резултатите потвърждават основен извод от работата ни:

Големите езикови модели са много ефективни в разбирането и преобразуването на намерения, но детерминистичните решатели са от съществено значение за гарантиране на коректността.

Хибридният подход превръща естествения език от източник на двусмислие в надежден интерфейс за математически обосновано вземане на решения и доближава корпоративния AI до системи, които са не само интелигентни, но и надеждни.

Какво следва: многократно използваем формален AI механизъм за предприятията

Корпоративните ограничения рядко съществуват в подредени схеми или идеално формулирани подкани. Те са разпръснати из бази данни, електронни таблици, вътрешни правила и договори. Заявките на потребителите може да са непълни, двусмислени или несъвместими с бизнес правилата. За да приложим този подход в голям мащаб, разработваме многократно използваем бекенд механизъм, който превръща тази сложност в надеждна корпоративна възможност.

Диаграма на корпоративния формален AI механизъм, включваща бизнес правила, преобразуване за решател и подлежащо на одит вземане на решения.

Платформата

В основата си този механизъм служи като формален гръбнак на системите за вземане на решения с AI и осигурява:

  • Символна база от знания с адаптери, които приемат бизнес правила, ограничения, променливи и цели.

  • Слой за преобразуване, който компилира схемите в код за решател.

  • Интерфейси, чрез които екипите могат да преглеждат, одитират и променят ограниченията.

Къде това създава стойност

Макар в момента експериментите да са насочени към оптимизацията, същият метод може да се приложи и за логическа проверка. Потенциалните бизнес приложения включват:

  • Извънредно динамично планиране на графици, маршрути и ресурси при спазване на всички оперативни ограничения.

  • Генериране на отговори и препоръки, които неизменно спазват бизнес правилата.

  • Проектиране и валидиране на сложни 3D обекти, видеоматериали и архитектури с откриване на неосъществими проекти преди производството.

Заключителни мисли

Днешният AI е мощен, но предприятията се нуждаят от повече: коректност, последователност и контрол. Хибридната ни система от големи езикови модели и решатели е стъпка към свят, в който:

  • Агентите не си измислят правила или ограничения.

  • Логическите изводи и оптимизацията са математически обосновани.

  • Естественият език служи като универсален интерфейс към детерминистични системи.

Автор

Peng Seng Ang