ძირითადი ნავიგაცია

Meta-სარტყელი: საწარმოს AI-ის უსაფრთხო თვითგაუმჯობესებადი სამუშაო პროცესები

მოწესრიგებული მეტა-სარტყელი საწარმოს გუნდებს ეხმარება, ხანგრძლივი კოდირების ამოცანებში აგენტების სამუშაო პროცესები უსაფრთხოდ გააუმჯობესონ.

მოკლე მიმოხილვა ხელმძღვანელობისთვის

  • ავტონომიური გაუმჯობესების არსებულმა სისტემებმა კოდირების ამოცანებში ძლიერი შედეგები აჩვენა, თუმცა ჯერაც გაურკვეველია, შეუძლიათ თუ არა მათ რეალურ საწარმოო დანერგვასთან მიახლოებული რთული, ხანგრძლივი AI სამუშაო პროცესების გაუმჯობესება.

  • ჩვენი Meta-სარტყელის კვლევა ავტონომიურ თვითგაუმჯობესებას იყენებს აგენტურ მოძიებაში, სიღრმისეულ კვლევასა და სიგნალების ანალიზის სამუშაო პროცესებში და ამატებს საწარმოსთვის აუცილებელ მოთხოვნებს: გადადებულ შეფასებას, აუდიტის შესაძლებლობას, ბიუჯეტის კონტროლსა და ადამიანის დამტკიცებას.

  • სამივე ტიპურ დატვირთვაზე Meta-სარტყელმა შედეგები მნიშვნელოვნად გააუმჯობესა, მათ შორის Signal Engine-ის გადადებული ტესტის შედეგი 84%-ით გაზარდა, ხოლო აგენტურ მულტიმოდალურ მოძიებაში უფრო მაღალ სიზუსტეს 16-ჯერ უფრო სწრაფი შესრულებით მიაღწია.

  • წინა მიდგომების უმეტესობისგან განსხვავებით, Meta-სარტყელი, სადაც შესაძლებელია, წარმატებას გადადებულ მონაცემთა ნაკრებებზე ზომავს, რათა შეაფასოს, ვრცელდება თუ არა გაუმჯობესება ოპტიმიზაციისას გამოყენებული მონაცემების მიღმაც.

  • ეს შედეგები მიუთითებს, რომ სამუშაო პროცესების ავტონომიური გაუმჯობესება კოდირების საორიენტაციო ტესტებს გასცდება და რეალურ საწარმოო AI სისტემებზეც გავრცელდება, რაც AI აპლიკაციების მუდმივი გაუმჯობესების პრაქტიკულ გზას ქმნის.

ავტონომიური AI კვლევის ბოლოდროინდელმა ნაშრომებმა, მათ შორის Meta-სარტყელის სტატიამ, CORAL ჩარჩომ და karpathy/autoresearch-მა, აჩვენა, რომ შეფასების მეტრიკის არსებობისას კოდირების აგენტებს გადაწყვეტის იტერაციულად გაუმჯობესება შეუძლიათ. ღიად რჩება საკითხი, რამდენად გამოდგება ეს მეთოდები ხანგრძლივ AI სამუშაო პროცესებში, მაგალითად აგენტურ მულტიმოდალურ მოძიებაში, სადაც პასუხის საპოვნელად აგენტმა მულტიმოდალურ დარგობრივ კორპუსებში იტერაციულად უნდა ეძებოს, ან მონაცემთა დამუშავების რთულ კონვეიერებში, რომლებიც მრავალ ურთიერთდამოკიდებულ ნაბიჯს, ხელსაწყოების გამოძახებასა და გამონაკლისების დამუშავების გადაწყვეტილებებს მოითხოვს. უფრო მნიშვნელოვანი კითხვაა, შენარჩუნდება თუ არა სარგებელი მონაცემებზე, რომლებსაც ოპტიმიზატორი არასდროს ხედავს.

ჩვენი პასუხია Meta-სარტყელის კვლევა და განვითარება. ის ბოლოდროინდელი კვლევების იდეებს საწარმოს საჭიროებებს არგებს: გადადებულ შეფასებას, აუდიტის კვალს, ხარჯის ზედა ზღვარსა და ადამიანის მიერ შემოწმებისთვის გადაცემის მკაფიო ეტაპს, სანამ რამე წარმოებაში გაეშვება.

ის რეალური კლიენტების პროექტებზე დაფუძნებულ სამ ხანგრძლივ ამოცანაზე გამოვცადეთ. Signal Engine რეალურ დროში აკვირდება X-ზე AI ბაზრის შესახებ გამოქვეყნებულ პოსტებს და ქმნის წყაროებით გამყარებულ, სტრუქტურირებულ ანგარიშებს ტენდენციებზე. აგენტური მულტიმოდალური მოძიება ტექსტისა და სურათების შემცველ შერეულ მოთხოვნებს აანალიზებს და ყველაზე რელევანტურ დოკუმენტის გვერდებს აბრუნებს. სიღრმისეული კვლევა რამდენიმე აგენტს კოორდინაციას უწევს, რათა მათ ინტერნეტში მოიძიონ ინფორმაცია, წყაროები გადაამოწმონ და ვრცელი კვლევითი ანგარიშები დაწერონ.

შედეგები მოკლედ

  • Signal Engine: გადადებული ტესტის კომპოზიტური ქულა 0.456 → 0.841 — შედარებითი ზრდა 84%. იმავე ბიუჯეტით CORAL-ისა და karpathy/autoresearch-ის შედეგები 0.50-ზე დაბალი დარჩა.

  • აგენტური მულტიმოდალური მოძიება: გადადებული NDCG@10 0.705 → 0.744, ხოლო თითოეული შეფასების ფაქტობრივი დრო 869 წამიდან 54 წამამდე შემცირდა. ეს უფრო მაღალი სიზუსტით მიღწეული 16-ჯერ აჩქარებაა.

  • სიღრმისეული კვლევა: ანგარიშის ხარისხის კომპოზიტური ქულა 0.449 → 0.802 10 საცნობარო კითხვაზე, საბაზისო მეთოდების დაახლოებით 0.52-თან შედარებით. ამ ამოცანას გადადებული დანაყოფი არ ჰქონდა, ამიტომ ამ მაჩვენებელს მხოლოდ შერჩევის შიგნით მიღებულ შედეგად მივიჩნევთ.

  • ძიების ეფექტიანობა: ჰიპოთეზების პროგნოზული გადალაგებით Signal Engine-მა იმავე შეფასების ბიუჯეტით საცნობარო გაშვების საუკეთესო ქულის 91%-ს 20-ის ნაცვლად 3 იტერაციაში მიაღწია.

ავტონომიური კვლევის სისტემების უმეტესობა ოპტიმიზაციასა და შეფასებას ერთსა და იმავე მონაცემთა ნაკრებზე ახორციელებს, რის გამოც შეუძლებელია დადგინდეს, განზოგადდება თუ არა შედეგი. Signal Engine-ისა და აგენტური მულტიმოდალური მოძიებისთვის მკაცრ დაყოფას ვიყენებთ: სასწავლო ნაკრებს, რომელზეც კანდიდატებს ქულის მიღება შეუძლიათ; შემუშავების ნაკრებს საბაზისო შემოწმებებისთვის; და გადადებულ სატესტო ნაკრებს, რომელსაც ოპტიმიზატორი არასდროს ხედავს. თითოეული გამოქვეყნებული შედეგი კოდის ერთი კონკრეტული ვერსიიდანაა მიღებული, რომელიც ყველა დანაყოფზე შეფასდა. ამიტომ ერთი კანდიდატის საუკეთესო სასწავლო ქულას არასდროს ვურევთ მეორის საუკეთესო სატესტო ქულასთან.

როგორ მუშაობს

თითოეულ რაუნდში სარტყელი კოდის შესაცვლელად სტრუქტურირებული ჰიპოთეზების ჯგუფს ქმნის. თითოეულ ჰიპოთეზაში მითითებულია შესაცვლელი მექანიზმი, წინა ვერსია, რომელსაც ის ეფუძნება, და ხარვეზის ტიპი, რომლის გამოსწორებასაც ისახავს მიზნად. რეიტინგის ეტაპი ჯგუფს ფილტრავს, სანამ ძვირადღირებული შეფასებები დაიწყება. გადარჩენილი ჰიპოთეზები გადაეცემა პარალელურ შემსრულებელ აგენტებს, რომლებსაც საერთო ცოდნის ბაზა აქვთ, თუმცა კოდს სრულად იზოლირებულ სამუშაო სივრცეებში არედაქტირებენ. შედეგად, თითოეული კანდიდატი სამართლიანად და დამოუკიდებლად ფასდება. რაუნდის ბოლოს გამშვები ერთ გამარჯვებულს ირჩევს: უმაღლესი ქულის მქონე კანდიდატს, რომელმაც ხილულ დანაყოფებზე ყველა შემოწმებაც გაიარა. ეს გამარჯვებული ხდება მოწინავე ვერსია, რომელსაც შემდეგი რაუნდი ეფუძნება. ყოველი ცდა მხოლოდ დამატებისთვის განკუთვნილ მტკიცებულებათა საცავში ინახავს ფიქსირებულ პაკეტს: კოდის პატჩს, თითოეული დანაყოფის ქულებს, მოვლენების ჟურნალსა და LLM-ის მიერ დაწერილ ოთხ მოკლე ანალიზს, რომლებიც მოიცავს შესრულების კვალს, შეცდომებს, ხარჯსა და რეფლექსიას. შემდეგი რაუნდის შემთავაზებელი ამ ისტორიას კითხულობს. ასე აგროვებს სარტყელი მიღებულ ცოდნას და აღარ იმეორებს იმავე უპერსპექტივო მცდელობებს.

Meta-სარტყელის სამუშაო პროცესის სქემა, რომელზეც ნაჩვენებია შესატანი მონაცემები, საწყისი შეფასება, ჰიპოთეზების ძიება, აგენტების პარალელური გუნდები, შეფასების სამუშაო სივრცე, შემოწმების შედეგები, მტკიცებულებათა საცავი და უსაფრთხოებისა და ხარჯების კონტროლი.

სამი დამცავი მექანიზმი ციკლის უსაფრთხოდ გაშვებას უზრუნველყოფს. მასშტაბის პოლიტიკა ზღუდავს, რომელი ფაილების შეცვლა შეუძლია კანდიდატს, ხოლო მის ფარგლებს გარეთ შეტანილ ნებისმიერ ცვლილებას აუქმებს. ტოკენებისა და ფაქტობრივი დროის ბიუჯეტები გაშვებას აჩერებს, როდესაც ხარჯი ზღვარს გადააჭარბებს, პარალელურობის ლიმიტები კი სარტყელს მოდელისა და GPU-ის სიხშირის შეზღუდვების ფარგლებში ტოვებს. ამასთან, სარტყელი თავად არაფერს უშვებს წარმოებაში. ის ქმნის რეიტინგში მოქცეულ, სრულად დოკუმენტირებულ კანდიდატს, ხოლო ინჟინერი ამოწმებს განსხვავებებს და წყვეტს, გადავა თუ არა ის წარმოებაში.

შიდა აგებულება

ლოკალურ სტეკში ზემოთ აღწერილი ციკლის თითოეულ რაუნდს ხუთი საინჟინრო საფუძველი უდევს.

  • სამუშაო სივრცის იზოლაცია. თითოეული კანდიდატისთვის ცალკე git worktree. განშტოებები ობიექტების საერთო მონაცემთა ბაზას იყენებს, მაგრამ ერთმანეთის ფაილებზე წვდომა არ აქვს. ეს კანდიდატების პარალელურად გაშვებას დისკის თითქმის უცვლელი დანახარჯით უზრუნველყოფს და მიმდინარე მოწინავე ვერსიასთან განსხვავებების შედარებას ამარტივებს.

  • შესრულების ქვიშის ყუთი. კონფიგურაციით განსაზღვრული ორი რეჟიმი: სწრაფი იტერაციისთვის მშობლიური ქვეპროცესი ან სრულად იზოლირებული გაშვების გარემო. კორპუსები მხოლოდ წაკითხვის რეჟიმში ერთდება, ხოლო თითოეული ცდის დროებითი საქაღალდე შეფასების შემდეგ იშლება. შედეგად, ცდა ვერ შეცვლის მონაცემთა ნაკრებს და ვერც თავის მდგომარეობას გადასცემს მომდევნო ცდას.

  • მასშტაბის პოლიტიკა. ექსპერიმენტის კონფიგურაციაში გამოცხადებული ნებადართული ბილიკების სია. მის ფარგლებს გარეთ შეტანილი ნებისმიერი ცვლილება ცდის შეფასებამდე უქმდება, თავად ცდა კი მოინიშნება. შესაბამისად, შემმოწმებლისთვის ნაჩვენები განსხვავებები გარანტირებულად რჩება განსაზღვრულ ფარგლებში.

  • ბიუჯეტის შეზღუდვების აღსრულება. სამი დონე: თითოეული ცდის ტოკენებისა და ფაქტობრივი დროის ლიმიტები, თითოეული გაშვების ჯამური ზღვარი და პარალელურობის ლიმიტი. ერთობლივად ისინი ხარჯს პროგნოზირებადს ხდის და სარტყელს მოდელისა და ინფრასტრუქტურის სიხშირის შეზღუდვების ფარგლებში ამყოფებს.

  • მტკიცებულებათა საცავი. მხოლოდ დამატებისთვის განკუთვნილი JSONL, რომელიც შეიცავს კოდის პატჩს, თითოეული დანაყოფის ქულებს, მოვლენების ჟურნალსა და LLM-ის მიერ დაწერილ ოთხ ანალიზს. მატერიალიზებული წარმოდგენები (ლიდერთა ცხრილი, მოწინავე ვერსია, ხარვეზების ინდექსი) ყოველი ცდის შემდეგ თავიდან იქმნება. ამიტომ მომდევნო რაუნდები წინა ისტორიას ეფუძნება, თითოეული გაშვება კი ბაიტების დონეზე კვლავწარმოებადი რჩება.

ამ საფუძვლებიდან არცერთი არ არის არასავალდებულო. სარტყლის მიზანია, გაშვების ბოლოს შემმოწმებელს რეალურად დასამტკიცებელი შედეგი დაუტოვოს: გამარჯვებული კანდიდატი, შეზღუდულ ფარგლებში მოქცეული განსხვავებები, ყველა მცდელობის სრული ჩანაწერი და ცნობილი ხარჯი. ხუთიდან რომელიმეს ამოღება ერთ-ერთ ამ გარანტიას გააქრობს.

ჰიპოთეზების პროგნოზული გადალაგება

სამივე ექსპერიმენტი ჰიპოთეზების ერთსა და იმავე სტრატეგიას იყენებს. თითოეულ იტერაციაში შემთავაზებელი იმაზე მეტ ჰიპოთეზას ქმნის, ვიდრე ბიუჯეტი გაშვების საშუალებას იძლევა: M = 8 კანდიდატი K = 4 განაწილების ბიუჯეტისთვის. შემდეგ ცალკე LLM-რანჟირების სისტემა რვავე კანდიდატს ერთი ოცდაათწამიანი გამოძახებით ალაგებს და სრულ სურათს ხედავს: მიმდინარე საუკეთესო ქულასა და მის სუსტ განზომილებებს, ბოლო ცდების ხარვეზების ანალიზსა და რვავე წინადადებას ერთმანეთის გვერდით. საუკეთესო 4 გადაეცემა შემსრულებელს და თითოეულს 15-დან 30 წუთამდე სჭირდება. დანარჩენი 4 გამოირიცხება, სანამ რაიმე რესურსს დახარჯავს.

შეფასებები

საბაზისო მოდელები მთელი პროცესის განმავლობაში უცვლელი იყო; სარტყელი მხოლოდ მათ გარშემო არსებულ კოდს არედაქტირებდა. Signal Engine და სიღრმისეული კვლევა gpt-5.5-ზე მუშაობდა. აგენტური მულტიმოდალური მოძიება მუშაობდა ღია წონების მქონე Qwen3.6-35B-A3B-ზე, რომელიც ლოკალურად vLLM-ის მეშვეობით იყო გაშვებული და დაწყვილებული ჰქონდა ColQwen3-4B სურათების მომძიებელი. ეს კომბინაცია ლოკალურ ინფრასტრუქტურაში პროგნოზირებადი ხარჯის გამო შეირჩა.

ქვემოთ მოცემულ დიაგრამაზე ნაჩვენებია, როგორ იცვლებოდა ჩვენი სამი ძირითადი ამოცანის ქულები. "საწყისი ვერსია" არის ადამიანის მიერ დაწერილი საწყისი კოდი. "Meta-სარტყელი" არის Meta-სარტყელის მიერ ნაპოვნი საუკეთესო ვერსია. გადადებულ სატესტო ნაკრებზე სამივე ამოცანის შედეგები გაუმჯობესდა.

სვეტოვანი დიაგრამა, რომელიც Signal Engine-ში, აგენტურ მულტიმოდალურ მოძიებასა და სიღრმისეულ კვლევაში საწყისი ვერსიისა და Meta-სარტყელის შედეგებს ადარებს; ყველა გადადებულ ტესტში Meta-სარტყელს უკეთესი შედეგი აქვს.

Signal Engine LLM-მსაჯულმა შეაფასა სიახლის, ფაქტობრივი სიზუსტის, დეტალურობისა და ტონის მიხედვით, რისთვისაც გამოყენებული იყო 150 სასწავლო და 150 გადადებული სატესტო ტვიტი. გაშვების განმავლობაში საუკეთესო ვერსიამ სასწავლო კომპოზიტური ქულა 0.431-დან 0.756-მდე, ხოლო გადადებული ქულა 0.456-დან 0.841-მდე გაზარდა. გაუმჯობესება თავად სარტყლის ცვლილებებმა გამოიწვია და არა მხოლოდ მოთხოვნების შესწორებამ: გამარჯვებულმა იტერაციებმა სოციალური მედიის ხმაურის გაფილტვრა ისწავლა, ფაქტების ურთიერთგადამოწმების ეტაპები დაამატა და მოითხოვა, რომ ყველა შედეგი მკაფიო მტკიცებულებებს დაყრდნობოდა. ქვემოთ მოცემულ სქემაზე ნაჩვენებია იტერაციის პროცესი.

Signal Engine-ის სასწავლო ცდების ხაზოვანი დიაგრამა, რომელიც აჩვენებს, როგორ უმჯობესდება მიმდინარე საუკეთესო და გადადებული ქულები საწყისი ნიშნულიდან სამიზნისკენ მკვლევრისა და დამხვეწის იტერაციული მცდელობების განმავლობაში.

ცდების ისტორია გვიჩვენებს, როგორ დაგროვდა ეს გაუმჯობესებები. ადრეულმა სტრუქტურულმა ცვლილებამ მიმდინარე საუკეთესო შედეგი 0.625-მდე გაზარდა; მტკიცებულებების უფრო დეტალურმა დამუშავებამ ის 0.679-მდე აიყვანა; ხოლო დახვეწილმა რეფლექსიისა და შეფასების კრიტერიუმების ციკლმა — 0.819-მდე. კანდიდატების გაშვებების დაახლოებით ნახევარმა უარესი შედეგი აჩვენა ან სრულად ჩავარდა, თუმცა ლიდერთა ცხრილი არ დაუზიანებია: თითოეული განშტოება იზოლირებულად მუშაობდა, წარუმატებელი განსხვავებები იშლებოდა, ხარვეზები კი რეფლექსიის საცავში ინახებოდა, რათა მომდევნო შემთავაზებელს იგივე უპერსპექტივო გზა აღარ გაემეორებინა.

რაც მთავარია, მთელი გაშვების განმავლობაში გადადებული შედეგების მრუდი სასწავლო მრუდთან ერთად იზრდებოდა. ეს მიუთითებს, რომ სარტყელი სასწავლო კორპუსის დამახსოვრების ნაცვლად სამუშაო პროცესს აუმჯობესებდა. გადადებული ქულები სასწავლო ქულებზე ოდნავ მაღალი იყო, რასაც ორ მცირე, ერთმანეთისგან განცალკევებულ დანაყოფს შორის ჩვეულებრივ შერჩევით ხმაურად მივიჩნევთ.

აგენტური მულტიმოდალური მოძიება საჯარო ViDoRe V3 Computer Science დანაყოფზე NDCG@10-ით იზომება. ის დაყოფილია 20 სასწავლო, 10 შემუშავებისა და 20 გადადებულ სატესტო მოთხოვნად. სარტყელმა გადადებული NDCG@10 0.705-დან 0.744-მდე გაზარდა, ხოლო შეფასების მთლიანი ფაქტობრივი დრო 869 წამიდან 54 წამამდე შეამცირა.

სიღრმისეული კვლევა ფასდება LLM-მსაჯულის მიერ შინაარსობრივი და წყაროების ხარისხის კომპოზიტური ქულით, DeepResearch-Eval-ის მეთოდის შესაბამისად, 10 საცნობარო კითხვაზე. გაუმჯობესებულმა კოდმა საშუალო მაჩვენებელი 0.449-დან 0.802-მდე გაზარდა. გამარჯვებული ცვლილებები განსხვავებებიდან მარტივად იკითხებოდა: წინასწარი დაგეგმვის ეტაპი, რომელიც კვლევითი აგენტების განაწილებამდე ადარებს მიდგომებს, და საბოლოო შემოწმების ეტაპი, რომელიც იმ განზომილებებს აუმჯობესებს, რომლებშიც ანგარიშები ისტორიულად დაბალ ქულებს იღებდა. რადგან ეს ნაკრები მცირეა და მისი შეფასება ძვირი ჯდება, ის არ დაგვიყვია და შედეგს შერჩევის შიგნით მიღებულად მივიჩნევთ.

შედარება CORAL-სა და karpathy/autoresearch-თან

სვეტოვანი დიაგრამები, რომლებიც Signal Engine-ის, აგენტური მულტიმოდალური მოძიებისა და სიღრმისეული კვლევის ქულებითა და შეფასების დაყოვნებით ადარებს Meta-სარტყელს, CORAL-სა და karpathy/autoresearch-ს.

სამივე მეთოდი ერთნაირი ბიუჯეტით შევაფასეთ: იგივე მონაცემთა ნაკრებები, იგივე საბაზისო მოდელები, იტერაციების იგივე ლიმიტი და კანდიდატების შეფასებების იგივე საერთო რაოდენობა. Signal Engine-ზე Meta-სარტყელმა გადადებულ ტესტში 0.841 მიიღო, ორივე საბაზისო მეთოდის შედეგი კი 0.50-ზე დაბალი დარჩა. აგენტურ მულტიმოდალურ მოძიებაში ჩვენს გუნდს გადადებული NDCG@10-ის უმაღლესი შედეგი აქვს (0.744, CORAL-ის 0.700-სა და karpathy-ის 0.738-თან შედარებით) და ოფიციალურ შეფასებას 12-14-ჯერ სწრაფად ასრულებს: 54 წამში, 786 და 650 წამის ნაცვლად. სიღრმისეულ კვლევაში ჩვენმა გუნდმა 0.802 მიიღო, ორივე საბაზისო მეთოდის შედეგი კი დაახლოებით 0.52 იყო. გასათვალისწინებელია ერთი გარემოება: CORAL და karpathy/autoresearch მათი გამოქვეყნებული აღწერილობების მიხედვით ხელახლა განვახორციელეთ, ამიტომ სხვაობის ნაწილი შესაძლოა მხოლოდ მეთოდებს კი არა, განხორციელებებს შორის განსხვავებებსაც ასახავდეს.

სხვაობას ოთხი საპროექტო არჩევანი განაპირობებს. პირველი: კოდის რედაქტირებამდე ჩვენი გუნდი ქმნის სტრუქტურირებულ საპროექტო სპეციფიკაციას, რაც მოთხოვნების მცირე შესწორებების ნაცვლად ახალი კონვეიერის ეტაპების მსგავს სტრუქტურულ ცვლილებებს ანიჭებს უპირატესობას. მეორე: ის საერთო მოწინავე კანდიდატზე დაფუძნებულ პარალელურ განშტოებებს უშვებს, ამიტომ გაუმჯობესებები უფრო სწრაფად გროვდება, ვიდრე CORAL-ის დამოუკიდებელი აგენტებით ან karpathy-ის მკაცრად თანმიმდევრული ციკლით. მესამე: ყოველი ცდა ტოვებს სტრუქტურირებულ არტეფაქტებს — ქულებს, მოვლენების ჟურნალებსა და LLM-ის მიერ დაწერილ ოთხ ანალიზს — რომლებსაც მომდევნო შემთავაზებელი კითხულობს; საბაზისო მეთოდები კი მხოლოდ მცდელობების ბრტყელ ჟურნალებს ინახავს. მეოთხე: ადაპტიური კონტროლერი შეფერხების შემდეგ შემთავაზებელს კვლევისკენ, გამარჯვების შემდეგ კი დახვეწისკენ უბიძგებს. ამას ემატება ჰიპოთეზების პროგნოზული გადალაგება, რომელიც სუსტ იდეებს ბიუჯეტის დახარჯვამდე გამორიცხავს.

რა არ გვიჩვენებია

გადადებული მრუდები დომენის შიგნით განზოგადებას აჩვენებს და არა დომენებს შორის გადატანას: AI ბაზრის სიგნალების ამოსაღებად მორგებული სამუშაო პროცესი იურიდიულ ან ბიოსამედიცინო ტექსტზე სარტყლის ხელახლა გაშვების გარეშე კარგ შედეგს სავარაუდოდ ვერ შეინარჩუნებს. სარტყელი მხოლოდ იმ მიზნისკენ მიიწევს, რომელსაც შემფასებელი განსაზღვრავს, ამიტომ ხმაურიან სასწავლო ნაკრებს ან არასწორად დაკალიბრებულ მსაჯულს ზედმიწევნით მოერგება. სერიოზული გაშვების წინ გირჩევთ, გამოიყენოთ სულ მცირე 20 კარგად შერჩეული სასწავლო ელემენტი და შემუშავების ცალკე დანაყოფი. ყველაზე დიდი პრაქტიკული შეზღუდვა ხარჯია. თითოეული შეფასება სრულ კონვეიერს ყველა დანაყოფზე თავიდან უშვებს; მხოლოდ შერჩეულმა მოძიების კანდიდატმა დაახლოებით 2.2 მილიონი შესატანი ტოკენი მოიხმარა, ხოლო gpt-5.5-ის კლასის მოდელზე სერიოზული ოპტიმიზაცია თითოეულ ამოცანაზე რამდენიმე ასეულიდან რამდენიმე ათასამდე დოლარი ღირს. დაბოლოს, ეს მაჩვენებლები განმეორებითი ცდების ნაცვლად ერთეული გაშვებებიდანაა მიღებული. ამიტომ მათ ოფიციალური კვლევის ნაცვლად საინჟინრო ბლოგპოსტში ვაზიარებთ.

დასკვნა

Meta-სარტყელი აჩვენებს, რომ კოდის ავტონომიური გაუმჯობესება შეიძლება საწარმოში გამოსაყენებლად საკმარისად მოწესრიგდეს. ამის საფუძველია სტრუქტურული ჰიპოთეზები, პროგნოზული წინასწარი ფილტრაცია, იზოლირებული შეფასება, მონაცემების შესაძლებლობის შემთხვევაში გადადებული ტესტირება და თითოეული დაწინაურებული ცვლილების სრული აუდიტის კვალი. ერთობლივად ისინი საინჟინრო გუნდს საწყისი მოქმედი კონვეიერიდან გაზომვადად უკეთეს ვერსიამდე მისასვლელ პროგნოზირებად გზას აძლევს, ოპერაციების ხელმძღვანელს კი — მარტივ მოდელს: ავტონომიური კვლევის სარგებელს, რომელიც მოქცეულია მკაცრ, ბიუჯეტის გამთვალისწინებელ ჩარჩოში და წარმოებაში გაშვებამდე ადამიანის ჩართულობას ითვალისწინებს.

ავტორები

David Huang და Bjorn Jee