Vlastný AI asistent nad firemnými dátami: ako to funguje a čomu sa vyhnúť

Predstavte si nového kolegu, ktorý číta rýchlejšie než ktokoľvek vo firme a odpovie na akúkoľvek otázku do sekundy. Problém je, že sa nikdy nepozrel do vašich interných dokumentov. Presne takto sa správa veľký jazykový model „z krabice“: odpovede skladá z toho, čo sa naučil pri tréningu na verejných dátach, nie z vašich zmlúv, procesov či cenníkov. Pre bežný chat to stačí. Pre firemného asistenta, ktorý má radiť obchodníkom, podpore alebo právnikom, je to nepoužiteľné a často aj nebezpečné.

V tomto článku vysvetlíme technológiu, ktorá tento rozdiel rieši — retrieval-augmented generation (RAG). Ukážeme, prečo model nemá odpovedať „z hlavy“, ako sa firemné dáta pripravia, prečo je kľúčové zdrojovanie odpovedí a riadenie prístupových práv, a na akých chybách firmy najčastejšie stroskotajú.

Prečo model nemá odpovedať „z hlavy“

Jazykový model je pravdepodobnostný stroj na text. Keď nepozná presnú odpoveď, nezastaví sa — vygeneruje najpravdepodobnejšie znejúcu vetu. Tomuto javu sa hovorí halucinácia: model si vymyslí číslo, paragraf alebo klauzulu, ktorá znie dôveryhodne, ale neexistuje. Vo firemnom kontexte je to fatálne, pretože odpoveď o storno podmienkach či o výške provízie musí sedieť na konkrétny dokument, nie na „priemer internetu“.

Druhý problém je aktuálnosť. Model má vedomosti zamrznuté k dátumu tréningu a o vašej firme nevie nič — nepozná včerajší cenník ani nový interný predpis. Práve tu nastupuje RAG. Pôvodná práca Patricka Lewisa a kolektívu z roku 2020 to formulovala jasne: samotné parametrické modely síce ukladajú fakty do svojich váh, ale ich schopnosť presne pristupovať k znalostiam a manipulovať s nimi je obmedzená. Riešením je pripojiť model na externú pamäť — index dokumentov, z ktorých čerpá pri každej odpovedi.

Čo je RAG a ako funguje

RAG znamená, že model pred generovaním odpovede najprv vyhľadá relevantné pasáže vo vašich dokumentoch a až potom odpovie — na základe nájdeného textu, nie z pamäti. Zjednodušene prebehnú tri kroky. Najprv sa otázka používateľa preloží do vyhľadávacieho dopytu. Systém potom v databáze nájde niekoľko najrelevantnejších úryvkov z firemných dát. Nakoniec model dostane otázku aj tieto úryvky a napíše odpoveď opretú o dodaný kontext.

Výhoda je dvojaká. Odpovede vychádzajú z vašich skutočných dokumentov, takže sú overiteľné a aktuálne. A keď zmeníte dokument, stačí zaindexovať novú verziu — model netreba pretrénovať. Práve preto sa RAG stal štandardom pre firemných asistentov: dáva modelu prístup k pravde firmy bez nákladného a pomalého trénovania.

Ako sa firemné dáta pripravia

Aby model vedel v dokumentoch vyhľadávať, treba ich najprv spracovať. Tento proces má niekoľko fáz a jeho kvalita rozhoduje o kvalite celého asistenta:

• Chunking (delenie na úryvky): dlhé dokumenty sa rozdelia na menšie časti. Úryvok musí byť dosť malý, aby vyhľadávanie bolo presné, ale dosť veľký, aby dával zmysel sám o sebe. Príliš veľké úryvky miešajú viacero tém a zahmlievajú vyhľadávanie; príliš malé strácajú kontext. Bežný odporúčaný základ je približne 500 tokenov s miernym prekryvom medzi úryvkami.
• Embeddingy (číselné odtlačky významu): každý úryvok sa premení na vektor — dlhé pole čísel, ktoré zachytáva jeho význam. Vďaka tomu systém hľadá podľa zmyslu, nie len podľa zhody slov, takže nájde relevantný text aj vtedy, keď používateľ použil iné výrazy.
• Vektorová databáza: všetky vektory sa uložia do špecializovanej databázy. Keď príde otázka, aj tá sa premení na vektor a databáza vráti úryvky s najbližším významom — teda najpodobnejšie obsahom.
• Metadáta: ku každému úryvku sa pripoja údaje ako zdrojový dokument, verzia, dátum a — čo je zásadné — prístupové práva. Tie sa v ďalších krokoch stanú poistkou proti únikom.

Znie to priamočiaro, no práve tu vzniká väčšina problémov. Ako ukazujú praktické materiály o firemnom RAG, stratégia delenia dokumentov má obrovský vplyv na presnosť: zle nakrájané dáta vytvárajú nejednoznačné vektory, ktoré minú relevantnú informáciu. Príprava dát nie je jednorazová „nahrávka“ — je to inžinierska disciplína, ktorú treba ladiť a merať.

Zdrojovanie odpovedí: prečo je citácia nutná

Firemný asistent, ktorý povie „provízia je 12 %“ bez zdroja, je len rýchlejší spôsob, ako sa pomýliť. Preto by každá odpoveď mala niesť odkaz na konkrétny dokument a pasáž, z ktorej vychádza. Zdrojovanie plní tri úlohy naraz: umožňuje človeku overiť tvrdenie, buduje dôveru v systém a zároveň drží model „na uzde“ — keď musí odpoveď oprieť o citáciu, má oveľa menší priestor halucinovať. Ak systém k tvrdeniu nevie priložiť zdroj, je to samo o sebe varovný signál, že odpoveď netreba brať vážne.

Riadenie prístupových práv: najväčšie skryté riziko

Toto je bod, ktorý CTO podceňujú najčastejšie, a pritom je najnebezpečnejší. Keď sa dokumenty premenia na vektory, pôvodné oprávnenia zo SharePointu, Google Drive či Confluence s nimi automaticky neputujú. Vektorová databáza vidí len plochú kopu úryvkov bez informácie, kto k nim smie pristúpiť. Ak sa práva neriešia zvlášť, asistent sa stane skratkou okolo vašich prístupových kontrol: bežný zamestnanec sa cez chat dostane k mzdám, HR vyšetrovaniu alebo obchodu, na ktorom nerobí.

Riziko nie je len teoretické. Výskum ConfusedPilot z Texaskej univerzity (2024) opísal triedu zraniteľností, kde sa RAG asistent správa ako „zmätený zástupca“ (confused deputy): menej privilegovaný útočník podstrčí do zdieľaných dokumentov text, ktorý pri otázke privilegovanejšieho kolegu skreslí odpoveď alebo cez mechanizmus vyrovnávacej pamäte vytiahne citlivé dáta. Inými slovami — zle nastavené práva a nedôveryhodný obsah v indexe dokážu z asistenta spraviť nástroj na únik informácií a šírenie dezinformácií vnútri firmy.

Správne riešenie stojí na niekoľkých vrstvách:

• Synchronizácia oprávnení zo zdrojových systémov priamo do metadát každého úryvku, aby databáza vedela, kto smie čo vidieť.
• Filtrovanie pred vyhľadávaním aj po ňom: prístup sa musí vynútiť skôr, než sa dáta dostanú do kontextu modelu — nikdy až potom.
• Kontrola aktuálnosti práv: keď je oprávnenie staršie než stanovený limit, systém ho overí proti zdrojovému systému, aby odvolaný prístup neostal v indexe.

Časté problémy a čomu sa vyhnúť

Väčšina neúspešných nasadení zlyhá na tých istých veciach:

• Zlá kvalita dát: nekonzistentné, duplicitné alebo zle štruktúrované dokumenty vedú k nepresným odpovediam. Platí „garbage in, garbage out“ — asistent je len taký dobrý ako dáta, ktoré dostane.
• Zastarané dokumenty: ak v indexe zostane stará verzia smernice popri novej, model bude s istotou citovať neplatné pravidlo. Nutný je proces verzovania a mazania.
• Úniky cez zle nastavené práva: opísané vyššie — najzávažnejšie riziko, ktoré treba riešiť od prvého dňa, nie dodatočne.
• Chýbajúce zdrojovanie: bez citácií nikto neodhalí halucináciu skôr, než napácha škodu.
• Žiadne meranie: bez sledovania presnosti vyhľadávania neviete, či sa asistent zlepšuje alebo zhoršuje.

Odporúčanie je jednoznačné: začnite úzko, na jednej dobre udržiavanej znalostnej oblasti, so zapnutým zdrojovaním a prísnymi právami — a rozširujte až vtedy, keď máte dôveru v kvalitu.

Ako k tomu pristupuje Nabu

Nabu Technologies stavia vlastných AI asistentov napojených priamo na interné dáta firmy s tým, že spomenuté riziká rieši ako súčasť architektúry, nie ako dodatočnú záplatu. Odpovede sa opierajú o firemné dokumenty a nesú zdroj, aby boli overiteľné. Prístupové práva sa dedia zo zdrojových systémov a vynucujú sa pri vyhľadávaní, takže používateľ vidí len to, na čo má oprávnenie. A príprava dát — delenie, embeddingy, verzovanie — sa chápe ako priebežne ladený proces, nie ako jednorazové nahranie súborov. Cieľom je asistent, ktorý odpovedá z pravdy firmy, nie „z hlavy“.

Kľúčové ponaučenia

• RAG dáva modelu prístup k vašim dokumentom, aby odpovedal z faktov, nie z pamäti.
• Kvalita prípravy dát (chunking, embeddingy, metadáta) priamo určuje kvalitu odpovedí.
• Zdrojovanie je nutnosť — bez citácií sa halucinácie neodhalia.
• Prístupové práva riešte od prvého dňa: bez nich sa asistent stáva skratkou okolo bezpečnosti.
• Najčastejšie zlyhania sú zlé dáta, zastarané dokumenty a chýbajúce práva — všetkým sa dá predísť procesom a meraním.