ChatGPT tietää paljon. Se tietää miten maailma yleisesti ottaen toimii, miten kirjoitetaan kohteliaan sähköpostin ja mitä tapahtui Ranskan vallankumouksessa. Se ei tiedä mitä sinun yrityksesi toimitusehdoissa lukee, miten teidän poissaolokäytäntö toimii tai mitä tuotteen XL-2 asennusohjeessa sanotaan ruuvien momenttiarvosta.
RAG ratkaisee tämän ongelman.
Mitä RAG tarkoittaa
RAG tulee sanoista Retrieval-Augmented Generation. Nyt mennäänkin sitten tekniikan ja termistön puolesta melko syvään päähän – mutta idea on yksinkertainen.
Tavallinen AI-malli vastaa sen perusteella mitä se on oppinut koulutuksen aikana. RAG-pohjainen järjestelmä tekee saman, mutta hakee ensin relevantin tiedon omasta dokumenttikannastasi ja käyttää sitä vastauksensa pohjana.
Asiakas kysyy: "Onko tuotteellanne EU:n vaatimukset täyttävä CE-merkintä?"
Tavallinen AI arvaa tai sanoo ettei tiedä. RAG-pohjainen järjestelmä hakee tuotedokumentistasi kohdan jossa CE-merkinnästä puhutaan ja vastaa sen perusteella. Oikeasti, ei arvauksena.
Miten se toimii käytännössä
Järjestelmä rakentuu kahdessa vaiheessa.
Ensin indeksointi. Dokumenttisi – tuoteoppaat, sopimukset, HR-politiikat, onboarding-materiaalit, FAQ-sivut – muunnetaan vektoreiksi ja tallennetaan tietokantaan. Vektori on lyhyesti sanottuna matemaattinen esitys tekstin merkityksestä. Tämä tehdään kerran, ja sen jälkeen tietokanta pidetään ajan tasalla kun dokumentteja päivitetään.
Sitten käyttö. Kun käyttäjä kysyy jotain, järjestelmä hakee ensin dokumenttikannasta ne kohdat jotka liittyvät kysymykseen. Sitten AI muodostaa vastauksen näiden kohtien pohjalta. Ei muistin varassa, ei arvauksena – oikeasta lähteestä.
Käyttäjä ei näe tätä prosessia. Hän kysyy, saa vastauksen.
Neljä paikkaa missä tätä käytetään
Sisäinen tiedonhaku
HR-politiikat, työsopimuspohjamallit, matkustussäännöt, IT-ohjeet. Jokainen yritys on tuottanut näitä vuosia ja ne ovat hajallaan SharePointissa, Confluencessa tai sähköpostiviestiketjuissa.
Kun uusi työntekijä kysyy "kuinka kauan pitää ilmoittaa etukäteen ennen lomaa", hänen ei enää tarvitse etsiä oikeaa dokumenttia tai vaivata HR:ää. Hän kysyy ja saa vastauksen sekunnissa – oikeasta lähteestä.
Asiakaspalveluchatbot
Tuotetiedot, hinnat, toimitusajat, takuuehdot. Nämä muuttuvat, ja niitä on paljon.
RAG-pohjainen chatbot vastaa tuoreimmalla tiedolla koska sen lähde on se sama dokumenttikanta jonka pidät ajan tasalla. Ei hardkoodattuja vastauksia jotka vanhenevat. Ei hallusinointia joka keksii väärät takuuehdot.
Sopimusten analyysi
Asianajotoimistoille, hankintatoimille ja kaikille jotka käsittelevät paljon sopimusdokumentteja tämä on käytännöllinen käyttötapaus. "Missä sopimuksissa on yli 90 päivän maksuaika?" tai "Onko meillä toimittajia joiden force majeure -ehto kattaa pandemia-tilanteet?" – kysymyksiä joiden etsiminen manuaalisesti vie tunteja.
Onboarding
Uusi ihminen talossa haluaa ymmärtää miten asiat tehdään. Hyvällä RAG-pohjaisella järjestelmällä hänellä on käytännössä kokeneen kollegan tietopankki käytettävissään – ilman että kukaan joutuu vastailla samoihin kysymyksiin viidettä kertaa.
RAG vai fine-tuning?
Fine-tuning tarkoittaa sitä, että AI-mallia koulutetaan uudelleen yrityksesi datalla. Siitä tulee osa mallin "muistia".
Se kuulostaa hienolta mutta on harvoin oikea valinta pk-yritykselle. Kolme syytä:
Ensimmäinen: se on kallis. Uudelleenkoulutus maksaa ja vie aikaa.
Toinen: se vanhenee. Kun dokumenttisi päivittyvät, malli ei tiedä siitä. Sinun pitää kouluttaa uudelleen.
Kolmas: se on lasilaatikko. On vaikea sanoa mistä malli vastauksen ammensi – oliko se oikeasta dokumentistasi vai koulutusdata-arvauksesta.
RAG on käytännöllisempi: dokumenttikanta on aina ajan tasalla, lähteet voidaan näyttää käyttäjälle ja kustannus pysyy kohtuullisena. Suurille kielimalleille fine-tuning on järkevä investointi. Pk-yritykselle RAG tekee saman työn murto-osalla vaivasta.
Kymen.ai rakentaa RAG-pohjaisia järjestelmiä. Jos sinulla on dokumenttimassa jonka pitäisi olla helpommin haettavissa – tai asiakaspalvelukysymyksiä joihin pitäisi saada vastaukset nopeammin – jutellaan.