Človek v zanki (human-in-the-loop) pri AI pomeni, da agent opravi pripravo, odločitev pa sprejme človek. V vsakem poteku dela, ki ga zgradimo, AI agent svoj izdelek zapiše v čakalno vrsto za pregled, ta se sprazni šele, ko človek element potrdi, in pred tem nič ne pride do stranke ali v zapis v CRM-ju. Posamezne korake z nizkim tveganjem lahko pozneje pustite teči brez nadzora, a le premišljeno, korak za korakom in pisno.
Tako AI v marketinških in prodajnih operacijah uporabljamo za stranke in zase. V nadaljevanju je opisano, kaj sodi v čakalno vrsto, kako delujejo potrditev, urejanje in zavrnitev, kako potrditve z n8n povežete v Slack ali Microsoft Teams in kako ta vzorec odpove, če niste previdni.
Zakaj postaviti človeka med agenta in vaše sisteme?
Ker so AI modeli prepričani vase tudi takrat, ko se motijo. Napačna ocena leada, izmišljena podrobnost v e-pošti stranki ali prepisano polje v CRM-ju stanejo več, kot je avtomatizacija prihranila časa. Napake so redko dramatične; so verjetne, kar je še huje, saj jih nihče ne opazi, dokler jih ne opazi stranka.
Čakalna vrsta za pregled prestavi ulov napake pred trenutek, ko se ta zgodi, in pusti zapis o tem, kaj je AI predlagal in kdo se je s tem strinjal.
Agent še vedno noč in dan bere, raziskuje, razvršča in piše osnutke. Presoja ostane ljudem, dobra čakalna vrsta pa poskrbi, da vsaka odločitev vzame le nekaj sekund.
Kako deluje vzorec s čakalno vrsto za pregled?
Vsak potek dela sledi istim štirim korakom, ki jih opisujemo na strani AI avtomatizacija:
- Sprožilec. Potek zažene oddan obrazec, e-pošta, sprememba v CRM-ju ali urnik.
- Obdelava z AI. Model prebere vhod, ga dopolni z iskanjem po vaših lastnih dokumentih in pripravi odločitev ali izdelek.
- Čakalna vrsta za pregled. Rezultat pristane v čakalni vrsti. Agent sam ne more pisati v CRM ali stopiti v stik s stranko.
- Dejanje in zapis. Potrjeni elementi se sinhronizirajo v CRM ali bazo, sporočila gredo ven, pravi ljudje dobijo obvestilo.
V drugem koraku se odloči kakovost osnutka. Da osnutki ne izmišljujejo dejstev, poskrbi to, da model temelji na vaših dokumentih in ne na splošnem znanju; kako, pojasnjujemo v članku Trust but verify: how we use RAG to stop AI hallucinations (v angleščini). Tretji korak pa poskrbi, da preostale napake nimajo posledic.
Kaj naj vsebuje element v čakalni vrsti?
Vsak element naj nosi vse, kar pregledovalec potrebuje za odločitev, ne da bi odprl drugo orodje:
- Predlagano dejanje, v eni vrstici: “Posodobi oceno leada na Vroč”, “Pošlji ta odgovor stranki”, “Objavi to objavo na LinkedInu”.
- Cilj: kateri zapis, katera stranka, kateri kanal.
- Sam osnutek, pri posodobitvah zapisov pa prikaz polj, ki bi se spremenila, pred in po spremembi.
- Dokazi: vhodni podatki in izvorni dokumenti, ki jih je agent uporabil, da lahko pregledovalec trditev preveri z enim klikom.
- Zakaj se je agent tako odločil: kratka utemeljitev, ki jo napiše agent in s katero se človek lahko ne strinja.
- Kaj ga je sprožilo in kdaj ter kdaj element poteče.
Če mora pregledovalec redno kaj poiskati drugje, elementu manjka polje. Popravite element, ne pregledovalca.
Kaj v resnici naredijo potrditev, urejanje in zavrnitev?
Trije gumbi, vsak z jasno določeno posledico:
- Potrdi izvede natanko to, kar je bilo prikazano, in zabeleži, kdo je potrdil in kdaj.
- Uredi pregledovalcu omogoči, da osnutek spremeni, nato izvede urejeno različico. Sprememba se shrani ob izvirniku, ker je razlika najkoristnejši odziv na prompt, ki ga boste dobili.
- Zavrni ne izvede ničesar in zahteva razlog v eni vrstici, najbolje s kratkega seznama, kot so “napačna dejstva”, “napačen ton”, “napačen zapis” ali “se sploh ne bi smelo zgoditi”.
Okoli njih veljata dve pravili. Elementi, o katerih nihče ne odloči, potečejo; nikoli se ne pošljejo samodejno. In zavrnjen element se ne poskusi znova sam od sebe. Če naj agent poskusi znova, ga nazaj pošlje človek.
Katera opravila potrebujejo potrditev in katera lahko pozneje tečejo sama?
Začnite tako, da je vse za vrati, nato sprostite korake, ki so si to prislužili. Tako razvrščamo opravila, ki jih avtomatiziramo najpogosteje:
| Opravilo | Tveganje ob napaki | Pravilo potrditve |
|---|---|---|
| Raziskava pred prodajnim klicem | Nizko: interno, prebere jo prodajnik | Potrjujte, dokler ga uglašujete; kandidat za samostojno delovanje |
| Ponedeljkovo poročilo o učinkovitosti | Nizko: interno, številke je mogoče preveriti | Potrjujte prve tedne; kandidat za samostojno delovanje |
| Opozorilo o anomaliji v učinkovitosti | Nizko: le obvestilo | Lahko teče samo od začetka; ničesar ne spremeni |
| Ocenjevanje in dopolnjevanje leadov | Srednje: usmerja prodajni napor | Potrdite vsak zapis v CRM; pozneje sprostite le polja z dopolnitvami |
| Objava za družbena omrežja ali osnutek bloga iz prepisa | Srednje: javno, v slogu blagovne znamke | Pred objavo vedno potrdite |
| Odgovor stranki iz baze znanja | Visoko: stik s stranko | Potrdite vsak odgovor; ob vnaprej določenih sprožilcih predajte človeku |
| Združevanja, brisanja ali spremembe faz v CRM-ju | Visoko: težko razveljaviti | Vedno potrdite |
| Spremembe oglaševalskega proračuna ali ponudb | Visoko: porablja denar | Vedno potrdite, z zgornjo mejo, ki je agent ne more preseči |
Pravilo za sprostitev koraka: je interen ali ga je enostavno razveljaviti, pregledovalci ga že dovolj dolgo ne urejajo več, da vzorcu zaupate, in nekdo je zanj odgovoren. Odločitev zapišite: kaj zdaj teče brez nadzora, od kdaj, kdo se je strinjal in kako to vrnete nazaj. Tudi potem naj manjši naključni vzorec še naprej gre v pregled, da se odstopanje pokaže v čakalni vrsti in ne v pritožbi.
Kako delujejo potrditve v Slacku in Teamsu v n8n?
Večino teh potekov zgradimo v n8n, jezikovno delo pa opravljajo OpenAI, Claude ali Gemini, odvisno od naloge, cene posameznega zagona in tega, kam smejo podatki. n8n lahko gostite sami, zato poteki in podatki lahko ostanejo na infrastrukturi pod vašim nadzorom.
Sama potrditev je premor. Potek objavi element čakalne vrste v Slacku ali Microsoft Teams z gumbi Potrdi, Uredi in Zavrni, nato čaka. V n8n je to vozlišče Wait, ki se nadaljuje ob webhooku, ali operacije send-and-wait, vgrajene v njegovi vozlišči za Slack in Teams. Ko pregledovalec klikne, se potek nadaljuje po ustrezni veji in s seboj nese identiteto pregledovalca ter morebitne spremembe.
Nekaj stvari, ki smo se jih naučili narediti vsakič:
- Usmerjajte po pravilu, ne v množico. Vsak element pošljite osebi, ki je odgovorna za to odločitev: po vrsti opravila, po skrbniku računa ali po znesku, kadar gre za denar. Zahteva, objavljena v obljudenem kanalu, je zahteva, za katero ni odgovoren nihče.
- Klepet naj ostane za hitre odločitve. Pri čakalni vrsti z velikim obsegom elemente postavite v tabelo ali preprost zaslon za pregled, podprt z bazo, Slack ali Teams pa uporabite le za obvestila. Pregledovanje štiridesetih elementov, enega za drugim v klepetu, je začetek utrujenosti.
- Izogibajte se povezavam za potrditev v e-pošti. Varnostni pregledovalniki v nekaterih poštnih sistemih povezave odprejo samodejno, kar je lahko videti kot klik. Uporabite gumbe v klepetu ali zaslon za pregled, ki ve, kdo je prijavljen.
- Agentu dajte poverilnice samo za branje. Poverilnice, ki lahko pišejo v CRM ali pošiljajo e-pošto, ima le veja po potrditvi. Tako “agent ne more ukrepati sam” zagotavljajo pravice dostopa, ne zaupanje.
Najbolj to potrebujejo agenti z več koraki; glejte the agentic workflow (v angleščini) in LangChain ali n8n za AI agente.
Kaj naj beleži sled odločitev?
Dovolj, da lahko čez mesece odgovorite na vprašanje: “Kaj je AI predlagal, kdo se je strinjal in kaj se je v resnici zgodilo?” Za vsak element: vhod, model in različico prompta, osnutek, pregledovalca, odločitev, morebitno spremembo, časovne žige in izid dejanja. Shranite jo v bazo ali preglednico, ki je vaša, ne le v zgodovino klepeta, ki se krajša, ureja in izgubi, ko ljudje odidejo.
Isti dnevnik je tudi vaša zanka za izboljšave. Naraščajoč delež urejanj pri enem opravilu pove, da je treba izboljšati prompt ali izvorne dokumente; kopica zavrnitev “napačen zapis” pa, da je treba izboljšati logiko ujemanja.
Kdaj naj AI asistent preneha in pogovor preda človeku?
Asistenti, ki so v stiku s strankami, potrebujejo še drugo vrsto zanke: predajo sredi pogovora. Sprožilce določite vnaprej:
- stranka prosi za človeka, v kakršni koli obliki;
- pogovor se vrti v krogu in isto vprašanje se pojavi dvakrat;
- ton postane negativen ali se tema obrne k pritožbi, vračilu denarja, pogodbi ali čemur koli pravnemu;
- zahteva presega tisto, kar pokrivajo dokumenti asistenta.
Ob predaji naj asistent preda celoten prepis, zapis o stranki in povzetek v dveh vrsticah o tem, kaj je bilo že poskušeno, da človek prevzame sredi pogovora, stranki pa ni treba ničesar ponavljati. Pri telefonski liniji velja enako: klic prevežite skupaj s prepisom, ne le klicatelja.
Kako ta vzorec odpove?
Na predvidljive načine, kar je dobra novica, saj ima vsak svojo rešitev:
- Potrjevanje na slepo. Pregledovalci, ki vidijo na stotine skoraj enakih elementov, nehajo brati. Čakalne vrste naj bodo majhne, prikazujte le, kar se je spremenilo, podobne elemente združujte in pregledovalce menjajte.
- Zaostanek. Nepregledana čakalna vrsta je pokvarjen potek. Vsaka čakalna vrsta naj ima odgovorno osebo in odzivni čas, zastareli elementi pa naj potečejo, namesto da bi se poslali.
- Zastarele potrditve. Zapis se je med osnutkom in potrditvijo spremenil. Zapis preberite znova tik pred pisanjem in element vrnite, če se ne ujema več.
- Tihe napake. Dejanje po potrditvi spodleti in tega nihče ne opazi. Poteki naj odpovejo glasno, v kanal z odgovorno osebo.
- Podvojitve. Dvojni klik izvede dejanje dvakrat. Vsakemu elementu dajte ID in ga izvedite enkrat.
- Odstopanje. Posodobitev modela čez noč spremeni vedenje. Kjer lahko, zaklenite različice modelov in pred zamenjavo znova testirajte.
Ali to pravilo uporabljamo v lastnih produktih?
Da. Na njem temelji eKmet, naša glasovna aplikacija za slovenske kmete. Kmet pove, kaj je opravil na njivi, AI pripravi evidenco s parcelo, sredstvom, preverbo odmerka in vremenom, kmet pa jo preveri in potrdi. AI pripravi, človek potrdi. Kako deluje, si lahko ogledate na strani eKmet.
Pri strankah isti vzorec teče nad njihovim CRM-jem in poročanjem. Za iSoftpull, ameriško podjetje s programsko opremo za kreditne podatke, v celoti vodimo CRM skupaj z API integracijami okoli njega (primer iSoftpull); na strani CRM in procesi pojasnjujemo, kako prenovimo CRM-je, da ima avtomatizacija čisto mesto, kamor pristane.
Pogosta vprašanja
Ali korak s človekovo potrditvijo ne izniči smisla avtomatizacije?
Ne. Agent še vedno opravi počasni del: branje, raziskovanje, ujemanje in pisanje osnutkov. Človek porabi nekaj sekund za odločitev, ki bi sicer zahtevala veliko minut priprave, in pred stranko ne gre nič narobe.
Katera orodja potrebujemo?
Orodje za poteke dela, kot je n8n, AI model, prostor za čakalno vrsto (Slack, Teams ali tabelo z zaslonom za pregled) in bazo za sled odločitev. Večina ekip ima večino tega že na voljo.
Ali lahko korak s potrditvijo pozneje odstranimo?
Pri posameznih korakih z nizkim tveganjem da, premišljeno in pisno, z odgovorno osebo in vzorcem, ki še naprej gre v pregled. Sporočila strankam in nepovratne spremembe v CRM-ju v tem, kar gradimo mi, ostanejo za vrati.
Koliko stane izdelava?
Cena je odvisna predvsem od števila vpletenih sistemov. Ponudbo pripravimo po obsegu, po brezplačnem pregledu procesov, ki jih vaša ekipa ponavlja vsak teden. Oglejte si AI avtomatizacijo ali nam pišite.
Želite potek z AI agentom, ki ne naredi ničesar brez vaše potrditve? Rezervirajte brezplačen pregled.
