Prečo AI na vašich dátach porazí aj ten najlepší prompt

Vedieť napísať dobrý prompt je zručnosť. Viete AI presne povedať, v akej role má odpovedať, aký formát chcete, čo má a nemá zahrnúť, ako má postupovať krok za krokom. Pri všeobecných úlohách – návrh e-mailu, zhrnutie dokumentu, prvý draft prezentácie – to funguje spoľahlivo. Preto je lákavé myslieť si, že rovnaký princíp platí aj pre firemné otázky: stačí napísať dostatočne presný, dostatočne prepracovaný prompt – a AI odpovie tak, ako keby vašu firmu poznala.

Prompt určuje, ako má AI odpovedať. Neurčuje, čo AI vie.

Toto je strop, na ktorý narazí každý, kto sa v prompt engineeringu naozaj zlepšuje. Nie preto, že by bola táto zručnosť zbytočná – zostáva užitočná aj naďalej. Ale rieši iný problém, než si väčšina ľudí myslí. Prompt určuje, ako má AI odpovedať. Neurčuje, čo AI vie. A pri otázkach o vašej firme je to práve to druhé, na čom všetko stojí.

Prompt nie je pamäť

Nech je prompt akokoľvek dobre napísaný, model za ním nemá prístup k ničomu, čo mu do okna nenapíšete. Nepozná váš aktuálny cenník, ak ho tam nevložíte. Nevie, čo bolo dohodnuté s klientom minulý týždeň, ak mu to niekto neopíše. Najlepšie sformulovaná inštrukcia z tohto obmedzenia nevytiahne nič navyše – model odpovie presne v medziach toho, čo dostal, a zvyšok si domyslí z toho, čo sa naučil pri trénovaní na verejnom internete. Pri firemných špecifikách to je vždy odhad, aj keď znie sebavedomo.

Riešenie, ktoré väčšina pokročilých používateľov skúsi ako prvé, je logické: vložiť do promptu aj samotné dokumenty. Skopírovať cenník, prilepiť interný postup, priložiť poznámky zo stretnutia. Na jednu otázku to funguje. Na firmu s desiatkami dokumentov, ktoré sa priebežne menia, to neškáluje – a tu je dôvod prečo.

Prečo kopírovanie dokumentov nefunguje ako systém

Prvý problém je objem. Firemná znalosť nie sú tri strany – sú to desiatky až stovky dokumentov, ktoré sa menia každý týždeň. Kopírovať ich pri každej otázke nie je reálne a ani to nie je to, čo chcete robiť. A aj keby ste to robili, čím viac textu do jedného promptu vložíte, tým ťažšie sa modelu drží presne to podstatné – veľký blok textu sa zamieša s tým, čo sa naučil pri trénovaní, a presnosť odpovede klesá práve tam, kde ju najviac potrebujete.

Firemná znalosť nie sú tri strany, ale desiatky až stovky dokumentov, ktoré sa menia každý týždeň.

Druhý problém sú práva. Keď niekto skopíruje interný dokument do chatového okna, v tej chvíli neexistuje rozdiel medzi tým, čo smie vidieť obchodník, a tým, čo smie vidieť len vedenie. Všetko je v jednom okne, bez kontroly, kto k čomu má prístup.

Tretí problém je história. Čo dnes niekto vloží do svojho chatu, zostáva v jeho chate. Kolega vedľa neho, ktorý sa pýta na to isté, začína odznova – musí to isté dokopírovať sám, lebo predchádzajúca konverzácia sa nezdieľa. Znalosť sa tak nekumuluje, len sa opakovane prepisuje.

Prompt engineering všetky tri problémy necháva nedotknuté. Rieši, ako sa má AI opýtať – nie odkiaľ má brať odpovede.

Čo robí AI, ktorá si odpoveď najprv nájde

Systém, ktorý tento strop posúva, funguje inak než chat s dobrým promptom. Namiesto toho, aby ste AI museli pri každej otázke sami dodať relevantné podklady, AI si ich nájde sama – v okamihu, keď sa jej niekto niečo opýta. Prehľadá vašu znalostnú bázu, vyberie pasáže, ktoré sa k otázke skutočne vzťahujú, a až na základe nich zloží odpoveď. Tomuto princípu sa hovorí grounding (odborne aj RAG, retrieval-augmented generation) – doslova „ukotvenie“ odpovede v konkrétnom, dohľadateľnom zdroji namiesto všeobecného odhadu.

V praxi to vyzerá takto: opýtate sa, aké sú aktuálne platobné podmienky pre konkrétny typ klienta. AI nehľadá odpoveď v tom, čo sa naučila pri trénovaní pred časom – nájde príslušný dokument vo vašej znalostnej báze, prečíta si z neho relevantnú pasáž, odpovie na jej základe a povie, z ktorého dokumentu to má. Ak sa podmienky zmenili minulý týždeň, odpoveď to odrazí, pretože nečerpá zo starej pamäte modelu, ale z aktuálneho stavu vašich dokumentov.

Rozdiel oproti kopírovaniu textu do promptu je v tom, že sa to deje automaticky a pri každej otázke nanovo – nemusíte vy ani nikto z tímu vopred vedieť, ktorý dokument bude potrebný. A deje sa to s právami: AI dohľadáva len v tom, na čo má konkrétny človek prístup, nie vo všetkom naraz.

AI si dohľadá len to, na čo má konkrétny človek prístup – nie všetko naraz.

Prečo je to presnejšie, nie len pohodlnejšie

Toto nie je len otázka pohodlia. Odpoveď postavená na konkrétnej, dodanej pasáži textu je overiteľná – viete si dokument otvoriť a skontrolovať, či AI citovala správne. Odpoveď postavená na tom, čo si model „pamätá“ z trénovania, overiteľná nie je – neexistuje zdroj, ku ktorému by ste sa vrátili. Grounding neznamená, že AI už nikdy nič nepovie nepresne. Znamená to, že keď odpovedá, má sa o čo oprieť – a to podstatne znižuje priestor na to, aby si časť odpovede jednoducho domyslela tam, kde jej chýbajú fakty. Rozdiel je medzi „pravdepodobne to bude takto“ a „toto je to, čo hovorí váš vlastný dokument“.

MCP: prepojenie, nie uzamknutie

Spôsob, akým sa AI k vašej znalostnej báze pripája, stojí za krátke vysvetlenie, pretože v ňom je dôležitá poistka. Používa sa na to otvorený štandard s názvom MCP (Model Context Protocol) – nie proprietárne prepojenie jedného výrobcu. Prakticky to znamená, že rovnakú znalostnú bázu vie cez MCP čítať Claude, ChatGPT alebo iný asistent, ktorý tento štandard podporuje. Nie ste teda naviazaní na jednu konkrétnu AI natrvalo – ak sa o rok rozhodnete pre iný nástroj, znalostná báza a jej prepojenie zostávajú, mení sa len to, čím sa do nej pýtate.

Kedy stačí obyčajný chat a kedy už nie

Poctivo treba povedať aj toto: obyčajný chat s dobrým promptom je pre veľa úloh úplne dostatočný. Písanie textov, preklad, brainstorming, zhrnutie verejne dostupného materiálu, pomoc s kódom, všeobecné vysvetlenie nejakého konceptu – tam AI nepotrebuje vaše firemné dáta, potrebuje len dobre sformulovanú otázku, a prompt engineering tam odvedie väčšinu práce.

Hranica sa objaví vo chvíli, keď je súčasťou správnej odpovede aj fakt, ktorý pozná len vaša firma – aktuálna cena, konkrétny klient, interný postup, rozhodnutie z minulého stretnutia, presné znenie zmluvnej podmienky. Tam už nejde o to, ako sa opýtať lepšie. Ide o to, či má AI vôbec k čomu siahnuť. A to prompt, akokoľvek dobrý, nevyrieši.

Ak vo vašej firme AI zatiaľ používate najmä cez chat a dobré prompty, no na firemné otázky stále odpovedá všeobecne, pozrite si, ako funguje firemný druhý mozog – znalostná báza, na ktorú sa AI napája cez MCP a odpovedá z vašich aktuálnych dokumentov, nie z odhadu.

Na tému nadväzujú aj ďalšie články: prečo firemný druhý mozog vaša firma potrebuje, firma, ktorá si pamätá a prečo si ChatGPT každé ráno zabudne, kto ste.