RAG bez ilúzií: prečo firemný chatbot klame a ako to opraviť

Skoro každá firma, ktorá nás osloví s témou znalostnej bázy, má za sebou ten istý pokus: nahrali do chatbota pár PDF-iek, opýtali sa dvoch otázok, boli nadšení — a pri tretej otázke im systém s absolútnou istotou vymyslel číslo, ktoré v dokumentoch nikdy nebolo.

To nie je chyba modelu. To je chýbajúca architektúra. Poďme sa pozrieť, čo presne chýba.

Ako RAG funguje (a kde sa to láme)

RAG je skratka pre retrieval-augmented generation. Princíp je jednoduchý:

1. Dokumenty sa rozdelia na kúsky a prevedú na vektory.
2. Otázka sa prevedie na vektor rovnakým spôsobom.
3. Vyhľadajú sa najpodobnejšie kúsky.
4. Model dostane otázku spolu s nájdenými kúskami a napíše odpoveď.

Krok 4 je tam, kde sa to láme. Model dostane pokyn „odpovedz na základe kontextu" — ale ak v kontexte odpoveď nie je, väčšina modelov ju aj tak napíše. Nie zo zlomyseľnosti: generovanie textu je ich úloha a mlčanie nie je predvolené správanie.

Prvá vec, ktorá odlišuje demo od systému: schopnosť povedať „toto v podkladoch nemám".

Nie je to nastavenie promptu, ktoré by sa dalo vypnúť a zapnúť. Je to kombinácia prahovania na skóre vyhľadávania, explicitnej inštrukcie a — hlavne — testovacej sady, ktorá obsahuje aj otázky bez odpovede. Ak v testovacej sade nemáte otázky, na ktoré má systém povedať „neviem", nikdy nezistíte, že to nevie.

Druhá vec: citácie nie sú kozmetika

Odpoveď bez zdroja je vo firme nepoužiteľná. Nie preto, že by bola nutne zlá, ale preto, že sa nedá overiť. Keď sa vás niekto opýta „a podľa čoho?", odpoveď „povedala to AI" nie je odpoveď.

Praktický dopad je väčší, než to znie. Keď systém cituje dokument a stranu:

• používateľ si vie odpoveď overiť za desať sekúnd,
• nesprávne odpovede sa nahlásia namiesto toho, aby sa ticho šírili,
• a vy máte spätnú väzbu, ktorá sa dá použiť na zlepšenie.

Citácia zároveň mení správanie modelu. Keď má systém povinnosť uviesť konkrétny zdroj, výrazne klesá ochota vymýšľať — jednoducho preto, že nemá čo citovať.

Tretia vec: práva, alebo compliance projekt zastaví

Toto je bod, na ktorom sa najčastejšie zasekne inak dobre rozbehnutý projekt. Vyzerá to nevinne: nahráme všetko do jedného indexu a nech si ľudia hľadajú.

Problém: v tom „všetkom" sú mzdové podklady, disciplinárne záznamy a zmluvy s obchodnými podmienkami, ktoré nemá vidieť každý. Bez rešpektovania prístupových práv postavíte systém, ktorý ochotne prezradí čokoľvek komukoľvek.

Riešenie nie je zložité, ale musí sa naplánovať dopredu: každý kúsok dokumentu si nesie informáciu o tom, kto ho smie vidieť, a filtrovanie prebieha pri vyhľadávaní, nie až pri zobrazení. Filtrovanie na konci je bezpečnostná diera — model už ten obsah videl a môže ho parafrázovať.

K tomu patrí audit log: kto sa na čo pýtal a čo dostal. Nie preto, že by ste chceli sledovať zamestnancov, ale preto, že bez toho neviete preukázať nič.

Kde sa kvalita reálne získava

Prekvapivo nie na modeli. Poradie vplyvu na výsledok, ako ho vidíme v praxi:

1. Stav dokumentov. Ak máte tri verzie tej istej smernice a dve si protirečia, žiadny model to nevyrieši. Prvá fáza každého projektu je inventúra a býva nepríjemná — bežne sa zistí, že tretina obsahu je neaktuálna.

2. Delenie na kúsky. Kúsok musí byť dosť veľký, aby dával zmysel sám o sebe, a dosť malý, aby sa ich do kontextu zmestilo viac. Tabuľka rozdelená v polovici je horšia než žiadna tabuľka.

3. Kombinované vyhľadávanie. Samotné vektorové vyhľadávanie zlyháva na presných výrazoch — číslach zmlúv, kódoch produktov, menách. Kombinácia s klasickým fulltextom je jedno z najlacnejších zlepšení, aké sa dá spraviť.

4. Prehodnotenie poradia. Nájsť dvadsať kandidátov a nechať menší model vybrať päť najrelevantnejších býva výrazne lepšie než vziať prvých päť.

5. A až potom model. Áno, väčší model dá o niečo lepšie formulácie. Ale ak vyhľadávanie prinieslo zlé podklady, ani ten najlepší model z nich pravdu nevytiahne.

Ako zistíte, či to funguje

Zoberte 50 až 150 reálnych otázok od vašich ľudí. Ku každej napíšte správnu odpoveď a dokument, v ktorom je. Pridajte aspoň desať otázok, na ktoré odpoveď neexistuje.

Potom merajte tri veci:

• Vecná správnosť — koľko odpovedí je pravdivých.
• Správne „neviem" — koľkokrát systém priznal, že odpoveď nemá.
• Správnosť citácie — koľkokrát ukázal na skutočne relevantný zdroj.

Bez týchto čísel je akékoľvek tvrdenie o kvalite iba dojem. S nimi viete povedať, či zmena pomohla — a to je celý rozdiel medzi inžinierstvom a hádaním.

Zhrnutie

Rozdiel medzi demom a použiteľnou znalostnou bázou nie je v modeli. Je v tom, že systém vie povedať „neviem", vie ukázať zdroj a rešpektuje, kto čo smie vidieť. Prvé dve veci si vyžadujú testovaciu sadu. Tretia si vyžaduje, aby sa na to myslelo pred prvým riadkom kódu.

Ak vás toto čaká, firemná AI znalostná báza je presne tá služba, kde tieto tri veci riešime ako prvé.