AI asistent v programski opremi, ki jo imajo vaši uporabniki že odprto.
Klepet in kopiloti, omejeni na resnična dejanja v vaših sistemih, ne splošen chatbot, prilepljen ob rob izdelka.
Za kaj gre
AI chatbot za podjetja je pri nas klepetalni vmesnik ali kopilot, vgrajen v programsko opremo, ki jo že uporabljate: v vaš izdelek SaaS, interno orodje ali portal za stranke. Ni samostojen klepetalni robot na svoji strani. Klepetalno okno pri tem ni tisto, kar je inženirsko zanimivo. Zanimivo je natančno določiti, kaj sme asistent narediti, in mu za to dati prava orodja: da poišče zapis, pripravi osnutek odgovora ali odpre zahtevek. Pri tem kliče vaše obstoječe API-je, namesto da bi odgovor ugibal.
Model svojih omejitev ne uveljavlja sam. Če ima prek API-ja možnost preklicati naročnino, bo to prej ali slej storil že takrat, ko bo uporabnik le nejasno namignil, da bi jo morda želel preklicati. Sistemski poziv, ki ga prosi, naj bo previden, je namreč priporočilo, ne meja. Omejevanje pravic in potrditveni korak za vse, česar ni mogoče razveljaviti, morata biti v kodi okoli modela. Prav to gre narobe pri rešitvah, ki so morale preživeti samo demo.
Poziv, ki danes deluje, lahko potihem neha delovati po posodobitvi modela ali potem, ko nekdo spremeni povsem nepovezan del sistemskega poziva. Asistent, ki gre v produkcijo, potrebuje evalvacijski nabor resničnih pogovorov, ki jih mora še naprej obravnavati pravilno. To je ista disciplina kot avtomatizirani testi pri običajni kodi: nabor poženemo ob vsaki spremembi, da regresijo ujamemo, preden jo najde stranka.
Če potrebujete odgovore na vprašanja iz dokumentov podjetja, brez izvajanja dejanj, je to praviloma samo iskanje po lastnih dokumentih, ki ga je ceneje zgraditi in ceneje poganjati. Če morate tok prihajajočih dokumentov pretvarjati v strukturirane zapise, je to obdelava dokumentov in e-pošte. Ta storitev je za primer, ko je pogovorni vmesnik, ki je vgrajen v vaš izdelek in kliče vaše sisteme, res prava izbira.
Kaj dobite
Omejen nabor orodij
Določen seznam dejanj, ki jih asistent lahko sproži prek vaših API-jev. Vse, česar ni mogoče razveljaviti, zahteva izrecno potrditev v koraku zunaj modela.
Pogovorni vmesnik, vgrajen v vaš izdelek
Sam klepetalni vmesnik, prilagojen temu, kako vaši uporabniki že delajo, ne naknadno prilepljen gradnik.
Upravljanje sej in identitete
Asistent ve, kdo sprašuje, in deluje samo v okviru pravic tega uporabnika, nikoli prek skupnega servisnega računa z dostopom do vsega.
Iskalni sloj, kjer asistent potrebuje znanje podjetja
Pogosto ga zgradimo kot samostojno komponento, ki jo lahko uporabite tudi ločeno, če potreba po iskanju preraste asistenta.
Varovala in ravnanje ob zavrnitvah
Kaj asistent zavrne in kaj ob tem reče, določimo premišljeno in ne prepustimo privzetemu vedenju modela.
Evalvacijski nabor resničnih pogovorov
Stalen nabor, ki ga mora asistent še naprej obravnavati pravilno. Poženemo ga ob vsaki spremembi, da popravek poziva ali nadgradnja modela ne pokvari potihem nečesa, kar je prej delovalo.
Beleženje in predaja človeku
Zapis pogovora, ki ga lahko pregleda človek, in način, da pogovor prevzame človek, ko je to potrebno.
Kdaj je AI asistent prava izbira in kdaj ne
Prava izbira
- Imate programsko opremo, ki jo vaši uporabniki že odpirajo vsak dan, klepet ali kopilot v njej pa bi jim prihranil pot čez pet zaslonov do nečesa, po čemer bi lahko preprosto vprašali.
- Poleg odgovorov na vprašanja so potrebna resnična dejanja: nekaj poiskati, pripraviti osnutek, posodobiti zapis. Želite, da so ta dejanja povezana z vašimi dejanskimi sistemi.
- Znate našteti, česa asistent ne sme nikoli narediti: vrniti denar brez odobritve, izbrisati zapis, pisati stranki na lastno pobudo. Prav ta seznam je pravo načrtovalsko delo.
- Nekdo je že preizkusil hiter poziv prek API-ja in v demu je delovalo. Zdaj je vprašanje, kako doseči, da zdrži tudi zunaj dema.
Ni prava izbira
- Uporabniki potrebujejo odgovore iz vaših dokumentov, dejanj v vaših sistemih pa ne. Zgradite samo iskanje po lastnih dokumentih: preprostejše je, ceneje ga je poganjati in vam ni treba reševati vprašanja pravic orodij.
- Želite, da asistent povsem brez nadzora izvaja dejanja s finančnimi ali pravnimi posledicami. Potek dela bomo zgradili, vendar vse, česar ni mogoče razveljaviti, dobi potrditveni korak. Asistenta, ki lahko sam vrača denar brez človeškega preverjanja, ne bomo izdali.
- Uporabniki so trije ljudje v vašem podjetju, ki bi jim hitreje pomagala skripta ali boljši filter v obstoječem orodju. Klepetalni vmesnik je tu dražja pot, ne lažja.
- Niste se še odločili, kaj sme asistent dejansko narediti. To je načrtovalsko delo, ki ga je vredno opraviti najprej. Pogosto je pošteno začeti s študijo izvedljivosti AI in ne z razvojem brez določenega obsega.
Kako poteka
- 01
Določimo nabor orodij
Kaj točno sme asistent poklicati, kaj potrebuje potrditev in kaj mora zavrniti, zapišemo, preden nastane kakršenkoli vmesnik.
- 02
Povežemo ga z resničnimi API-ji
Na vaših dejanskih podatkih, ne v simuliranem demo okolju, ker se robni primeri pri pravicah pokažejo šele na resničnem sistemu.
- 03
Zgradimo pogovorni vmesnik
V vašem izdelku, z upravljanjem sej, ki vsak pogovor veže na resničnega uporabnika in njegove pravice.
- 04
Sestavimo evalvacijski nabor
Iz resničnih pogovorov. Asistenta poganjamo na njem, dokler ne zdrži tudi zunaj idealnega scenarija, ki ga je nekdo pokazal v demu.
- 05
Zaženemo z beleženjem in predajo človeku
Izročimo vam tudi pozive in izvorno kodo, da za spremembe ne potrebujete nas.
Vprašanja, ki jih slišimo
Kaj se zgodi, ko ponudnik posodobi model, na katerem asistent teče?
Evalvacijski nabor ujame regresije, preden jih opazijo vaši uporabniki. Ob posodobitvah ga poženemo znova in označimo, kaj se je spremenilo, namesto da bi predpostavili, da se ni nič.
Lahko asistent kot AI agent tudi izvaja dejanja ali samo odgovarja na vprašanja?
Oboje, v okviru orodij, ki jih dobi. Če v vašem primeru zadoščajo odgovori, je samo iskanje po lastnih dokumentih praviloma preprostejša in cenejša rešitev.
Kako preprečite, da bi asistent naredil nekaj, česar uporabnik v resnici ni zahteval?
Meje pravic in potrditveni koraki so v kodi, ki obdaja model, ne v pozivu. Omejitev nikoli ne uveljavljamo v samem modelu.
Na katerem modelu gradite?
Na tistem, ki ustreza omejitvam naloge glede stroškov, odzivnosti in ravnanja s podatki. O tej izbiri in o tem, ali mora model teči na vaši lastni infrastrukturi, se praviloma odločimo med določanjem obsega, ne vnaprej.
Newsletter
Novice iz delavnice
Zapisi o tem, kako načrtujemo, gradimo in dostavljamo programsko opremo. Brez kampanj, brez avtomatiziranih nizov sporočil, odjavite pa se lahko z enim klikom.
Imate izdelek, ki bi mu AI asistent prišel prav?
Opišite, kaj vaši uporabniki zdaj delajo ročno ali prek zahtevkov. Opis prebere inženir in vam naravnost pove, ali je asistent za to prava izbira.