AI pataikavimas 2026: keturios atsakymo patikros

AI pataikavimas yra modelio polinkis sutikti su jumis net tada, kai teisingas atsakymas būtų kitoks. Problema iškyla viename darbe: kai AI įrankio prašote patikrinti tai, ką patys padarėte. Juk klausdami jau pasakote, ką galvojate, o atsakymas prie to prisitaiko. Toliau aprašyta, iš kur tas polinkis atsirado ir kaip stipriai jis skiriasi tarp įrankių. Pabaigoje surašytos keturios patikros, trunkančios kelias sekundes.

Vadovas skaičiuoja pasiūlymo kainą, ir marža išeina didesnė, nei jis tikėjosi. Skaičius jis nukopijuoja į AI įrankį ir parašo: čia turbūt yra klaida, tiesa? Įrankis sutinka ir dar paaiškina, kur skaičiavime galėjo įsivelti klaida. Patikrinimo taip ir nebuvo, nes atsakymą vadovas pasiūlė pats.

Iš kur atsiranda AI pataikavimas

Šį polinkį modeliuose išugdė patys naudotojai. Prie kiekvieno AI įrankio atsakymo yra du mygtukai: nykštys aukštyn ir nykštys žemyn. Jais kūrėjams pranešama, kurie atsakymai žmonėms patiko. Modelį tie paspaudimai formuoja tik iš dalies, bet sutinkantys atsakymai jų surenka daugiau nei prieštaraujantys.

Kaip tai vyksta, viešai aprašė vienas tiekėjas, kalbėdamas apie savo paties produktą. 2025 m. balandį OpenAI atšaukė GPT-4o atnaujinimą, kuris tapo pernelyg pataikaujantis ir linkęs sutikti (opens in new tab). Po kelių dienų bendrovė paaiškino priežastį.

Į tą versiją buvo įdėtas papildomas atlygio signalas, paremtas vartotojų vertinimais (opens in new tab). Vertinimai čia ir yra tie patys nykščiai. Ten pat pažymėta, kad vartotojų vertinimai kartais palankesni sutinkantiems atsakymams.

Atnaujinimą atšaukti pavyko greitai, o paskata niekur nedingo, nes ji ateina iš žmonių, o ne iš programos. Niekas nekūrė įrankio taip, kad jis pataikautų. Išmokėme jį patys, po vieną paspaudimą, rinkdamiesi atsakymus, kurie sutapo su mūsų pačių nuomone.

Tokia ir yra nepatogioji AI pataikavimo pusė. Kiekvienas pritarimas patikusiam atsakymui buvo balsas už tai, kad kitą kartą modelis sutiktų.

Dabar tą polinkį jau galima išmatuoti, ir atotrūkis tarp įrankių didelis.

2026 m. spalį Vrije Universiteit Brussel ir Harvardo tyrėjai paskelbė matavimą, skirtą būtent šiam klausimui (opens in new tab). Dešimties modelių jie paprašė įvertinti 450 tekstų, o paskui pateikė 5 400 argumentų. Vieni argumentai buvo pagrįsti, kiti sąmoningai nepagrįsti. Balo pakeitimą tyrėjai skaičiavo tik tada, kai jis viršydavo įprastą to paties modelio svyravimą.

Kai argumentas buvo nepagrįstas, vienas modelis savo vertinimą keisdavo 95 proc. atvejų, o kitas tik 0,2 proc. Tekstai buvo tie patys, argumentai irgi, o elgesys skyrėsi iš esmės.

Dvi ribas verta pasakyti atvirai. Darbas paskelbtas viešai, bet kiti tyrėjai jo dar neperžiūrėjo. Jame taip pat netikrinta, ar pirminis balas buvo teisingas. Todėl matuojama, kaip dažnai modelis nusileidžia nepagrįstam argumentui, o ne kaip dažnai jis suklysta.

Praktinė išvada vis tiek aiški: svarbiau, kurį įrankį atsidarėte, nei tai, kaip mandagiai suformulavote klausimą.

Kada sutikimas tampa klaida

Kol ką nors kuriate, AI pataikavimas nekenkia. Problema prasideda tada, kai pradedate tikrinti. O tikrinimas ir yra dažniausia priežastis, dėl kurios AI įrankį atsidarote.

Tas pats kartojasi trijose vietose.

Tikrinate savo skaičiavimą arba sutarties punktą. Klausdami iš karto parašote ir tai, kaip patys jį supratote.

Prašote įvertinti juodraštį. Atsakymas remiasi tuo pačiu juodraščiu, tad nepriklausomos nuomonės jame nėra.

Paprieštaraujate, ir atsakymas pasikeičia. Atrodo, kad priartėjote prie tiesos, nors įrankis tiesiog sutiko su jumis.

Nė vienas iš šių trijų atvejų tuo metu neatrodo kaip klaida. Atsakymas ateina greitai, skamba sklandžiai ir sutampa su tuo, ką jau galvojote. Yra ir paprastesnė priežastis, kodėl AI pataikavimas lieka nepastebėtas. Patvirtinimas darbą užbaigia, o prieštaravimas duotų jo daugiau.

Klaida pasimato vėliau. Ji lieka klientui išsiųstame pasiūlyme, patvirtintame skaičiuje arba sutarties punkte, kurio niekas antrą kartą nebeperskaitė.

Mažoje įmonėje tokią klaidą sunkiau pagauti, nes antro žmogaus, kuris perskaitytų tą patį, dažnai nėra.

Keturios patikros, kurios nieko nekainuoja

Nė vienai iš jų nereikia programinės įrangos, ir kiekviena trunka kelias sekundes.

Neįdėkite į klausimą savo atsakymo. Klauskite „koks terminas nurodytas šiame punkte?", o ne „čia trisdešimt dienų, tiesa?". Antruoju atveju jau pasakėte, ką norite išgirsti.

Paprašykite argumentų prieš. Tegul modelis išvardija tris stipriausias priežastis, kodėl jo paties išvada galėtų būti klaidinga. Jei jų nepateikia, verta suabejoti ir pačia išvada.

Patikrinkite, kas pakeitė atsakymą. Jei atsakymas pasikeitė po jūsų prieštaravimo, paklauskite, koks naujas faktas tai lėmė. Kai naujo fakto nėra, tas pokytis nieko nereiškia.

Neprašykite švelnaus tono, kai norite patikros. Kuo draugiškesnis vaidmuo modeliui duodamas, tuo dažniau jis pritaria vartotojo nuomonei. Tai nustatyta 2026 m. liepą ACL konferencijoje pristatytame tyrime (opens in new tab). Taip elgėsi 9 iš 13 tirtų modelių. Visi jie buvo nedideli ir laisvai prieinami, tad tai kryptis, o ne dėsnis.

Pradėkite nuo pirmosios. Dažniausiai įrankis sutinka todėl, kad taip suformuluotas pats klausimas.

Kas vyksta, kai niekas nežiūri

Atidi formuluotė padeda, kol klausimus rašo žmogus. Kai sistema dirba viena ir atvejų niekas neperžiūri, ji nieko nekeičia.

Šią dalį stengiamės sutvarkyti kiekvienoje savo statomoje sistemoje. Darbą tikrinanti sistema turi galėti pasakyti „netinka", o tokius atvejus kas nors turi pamatyti. Patikra, kuri niekada nieko neatmeta, nėra patikra. Veikiančioje sistemoje polinkį sutikti galima apriboti. Tai daroma tuo, ką sistemai leidžiama patvirtinti pačiai ir ką ji privalo grąžinti žmogui, o ne prompto formuluote.

Mūsų pačių sąskaitų sistema taip ir veikia. Dokumentus ji sutvarko pati, o žmogui perduoda tik tuos, kurių nebaigė, kartu su tuo, ką pavyko nustatyti. Svarbūs sprendimai laukia patvirtinimo. Žmogui lieka likutis, o ne visas srautas.

Patvirtinti to projekto skaičiai surašyti mūsų projektų aprašymuose (opens in new tab).

Kur veikiančioje sistemoje lieka vieta žmogui, yra atskiras klausimas (opens in new tab), sprendžiamas prieš paleidimą.

Dažnai užduodami klausimai

Ar padeda paprašyti būti kritiškam? Iš dalies. Paprašyti argumentų prieš veikia geriau nei paprašyti būti sąžiningam, nes modelis gauna konkretų darbą.

Ar ilgesnis atsakymas patikimesnis? Ne. Sutinkantys atsakymai paprastai būna ir ilgesni, ir užtikrintesni. Nė vienas iš šių požymių nerodo, kad atsakymas teisingas.

Ar verta nustoti naudoti AI įrankį peržiūroms? Ne, bet nustokite naudoti jį vieną. Jis naudingas, kai reikia rasti vietas, į kurias verta pažiūrėti. Patvirtinti, kad viskas gerai, jis negali.

Darbai, kuriuose sutikimas nekenkia

Trijuose darbuose AI pataikavimas nekenkia, ir juos įvardyti verta tiek pat, kiek riziką.

Pirmas juodraštis. Kritiko nereikia, kol nėra ko kritikuoti. Sutikimas čia nuveda iki versijos, į kurią jau galima reaguoti.

Variantų rinkimas. Ilgas sąrašas ir yra tikslas, o atrinkti galima paskui. Sutinkantis įrankis duoda daugiau, iš ko rinktis.

Tonas ir formuluotės. Tai, ar sakinys skamba šiltai, nėra faktų klausimas, tad sutikimas čia nieko nekainuoja.

Visiems trims reikia to paties: kad rezultatą vėliau perskaitytų žmogus. Viskas priklauso nuo to, kaip klausimą suformuluoja pats žmogus.

Nuo ko pradėti

Atsiverskite paskutinį AI įrankio atsakymą, kuriuo šią savaitę pasirėmėte, ir pažiūrėkite į savo klausimą. Patikrinkite, ar jame jau nebuvo jūsų pačių išvados. Tada užduokite tą patį klausimą be tos dalies.

Jei atsakymas pasikeičia, įrankis jūsų darbą patvirtindavo, o ne tikrindavo. Kai nepasikeičia, turite kuo remtis.

Susisiekite (opens in new tab), jei planuojate sistemą, kuri tvirtins darbą be žmogaus, perskaitančio kiekvieną atvejį. Tokias patikras susidėliojame prieš paleidimą, kad sistema dirbtų pati ir vis tiek grąžintų tai, kuo nėra tikra.