Not by the Headlines: What Building AI Agents Really Looks Like
AI агентите все по-често попадат в заглавията, но какво е необходимо, за да създадем агент, който работи надеждно не само на демо, а и в реална бизнес среда?

Book a demo
Вижте какво може да направи един AI агент за вашия финансов екип.
30-minute call with an AI agent expert.
See Your AI Agent in ActionNo commitment · Clutch-verified reviews
В семинар, организиран от SoftUni, нашият Head of Development, Любомир Димитров, надниква зад кулисите на разработването и внедряването на AI агенти в реални бизнес процеси. Стъпвайки на над 10 години опит в софтуерното инженерство и повече от 100 реализирани проекта с AI агенти и автоматизации, Любо споделя предизвикателствата, които рядко попадат в заглавията - от точността, сигурността и съответствието с регулациите до ежедневните проблеми, които възникват, когато един агент започне да работи в реална среда.
Вместо поредна суха теория или ръководство стъпка по стъпка, това е откровен поглед към процеса. Какво работи, какво се обърква, защо се случва и какво научаваме от опита (включително от грешките).
Ако ви е интересно как изглежда разработването на AI агенти отвъд шума и големите обещания, сте на правилното място. Вижте пълния транскрипт по-долу или, ако предпочитате да гледате семинара на български, последвайте този линк: https://www.youtube.com/watch?v=eOF-h6DcfxA
Пълният транскрипт е извлечен с помощта на AI инструменти. Моля, извинете ни за евентуални дребни неточности.
01 Въведение, лектор и програма (00:00–05:02)
Здравейте на всички, които сте дошли да гледате семинара тази вечер. Казвам се Любомир Димитров и съм Lead Developer в Capto. Днес ще поговорим за AI агентите, но не по начина, по който пишат за тях в заглавията и в теорията, а какво реално се случва в практиката, кои са най-честите проблеми и как можете да ги решите. Както казва и заглавието на слайда: Not by the headlines - what building agents really looks like. Ще ви покажем какво се случва зад кулисите при нас.
Това са седемте основни глави, през които ще минем тази вечер, а накрая ще има възможност да зададете въпроси и да кажете какво ви е направило най-голямо впечатление. Започваме с това кои сме и какво правим. След това, какво е AI агент, защото няма как да прескочим тази малка теоретична част. После ще стигнем до най-актуалния въпрос: да купим, да наемем или да изградим собствен AI агент. Ще ви покажа с какво се занимаваме в Capto, ще разгледаме „двигателя и колата“ и ще стигнем до същинската глава - теорията срещу реалността. Накрая ще споделя какво научих през последните години от реализирането на над 100 агента и автоматизации.
Светът на AI агентите е пълен с безупречни demo-та, пилоти и заглавия за революционни резултати. Да изградиш AI агент безопасно и да го задържиш в продукция, там, където точността, сигурността и съответствието с изискванията имат значение, изглежда съвсем различно от заглавията и постовете в социалните мрежи.
Няколко думи за мен. Аз съм Любомир Димитров, Lead Developer в Capto, с над 10 години опит в софтуерното инженерство. С екипа ми сме реализирали над 100 AI агента и проекта за автоматизация, повечето за финансови отдели. Ръководя техническото направление и екипите за разработка. Голяма част от времето си прекарвам директно с клиенти, като превеждам бизнес нуждите им в нещо, което работи надеждно в техните системи. Фокусът ни е да изведем AI агентите отвъд демото и перфектните use cases и да покажем какво реално се случва в ежедневната употреба.
И няколко думи за Capto. Правим custom AI агенти и автоматизации за финансови екипи и ги изграждаме върху системите и процесите на клиента. Тоест не продаваме готов инструмент, а се адаптираме към спецификата и нуждите на конкретния клиент и работим в три прости стъпки: анализ; изграждане и пускане в продукция; поддръжка и развитие.
Нека изясним какво е и какво не е този семинар. Тук няма да видите урок как да си направите AI агент - интернет е пълен с такива материали. Няма да ви презентирам и демо на поредния магически инструмент. За съжаление не сме открили топлата вода и няма да ви давам обещания за повишаване на продуктивността. Целта ни днес е да ви покажем зад кулисите на реални проекти. Какво се случва и как, какво работи, какво се чупи и защо, как да го поправите и подобрите и какво научихме от множеството проекти, които сме реализирали.
Целта ми е да разкажа нещата от практическа, а не от теоретична гледна точка. Но първо трябва да разберем какво всъщност е AI агент, за да вникнем в същността на проблемите.
02 Какво е AI агент (05:02–10:47)
Най-простото определение: AI агентът е LLM, който може да разсъждава, да използва инструменти и да предприема действия към дадена цел, често в цикъл. Тук наблягаме на думата „действия“.
Агентът има нужда от мозък, тоест от езиков модел, и те са два основни вида. Първият са големите езикови модели (LLM), за които всички говорят. Най-вероятно сте чували за OpenAI, Claude, Gemini и останалите. Това са огромни модели с милиарди параметри, които се отличават със сложно разсъждение и широки знания. Обикновено са в облака и ги достъпваме през API, като плащаме под формата на токени - таксуват се и входните (input), и изходните (output) токени. Ще се върна към това по-късно. Минусът е, че данните ви излизат извън вашата инфраструктура и е възможно да бъдат използвани за обучение на следващи модели.
От друга страна са малките езикови модели (SLM). От няколкостотин милиона до около 20 милиарда параметъра, без строга граница. Те могат да работят локално при клиента. Изискват първоначална инвестиция в физическа инфраструктура, но в дългосрочен план са по-евтини и по-бързи. Работят с ясно дефинирани задачи и често се справят наравно с големите. Слабото им място е, че не са за широк кръг от задачи и най-вероятно ще се наложи да ги дообучавате.
В реалността двата вида модели не са конкуренция. Те не се заместват, а се допълват. В реалните проекти често се комбинират: малък модел за рутинната работа и голям за по-трудните решения.
Има три неща, които често се бъркат:
- LLM заявка - просто чат без памет. Задавате въпрос, получавате отговор и това е.
- Чатбот - помни контекста на разговора и отговаря, но не предприема действия.
- AI агент - освен да води разговор и да помни контекста, се свързва със системите ви и изпълнява задачи, тоест предприема действия.
В основата на всеки агент е един цикъл. Агентът възприема, планира, действа и наблюдава. Пример от агентите, които сме реализирали за финансови отдели - агентът получава фактура (възприема). Решава, че трябва да я сравни с поръчка (планира). Търси поръчката в ERP системата (действа). Вижда, че сумите не съвпадат или че се е случило нещо друго (наблюдава) и на базата на всичко това решава какво да прави нататък.
Агентите не са магия. Зад тях има архитектура, която комбинира три способности:
- Retrieval - връзката с вашите системи.
- Tools / skills - уменията за изпълнение на различни задачи като генериране на фактури и отчети, изпращане на имейли, създаване на срещи и т.н.
- Memory - помага на агента да се учи и да се подобрява с времето от корекциите.
Пробивът е, че агентът оркестрира всичко това като разбира контекста, взима решения и комуникира напълно естествено. Това ни позволява да минем от AI, който предлага, към AI, който действа, или както обичаме да казваме, даваме на мозъка ръце.
03 Да купим, наемем или изградим AI агент (10:47–20:13)
И тук идва въпросът: да купим, да наемем или да изградим такъв AI агент? Всеки е свободен да избере. Вариантите са много, но се свеждат до три основни категории.
Първа категория: наемане (абонамент). Мнозина от вас плащат абонаменти за AI инструменти и знаят колко лесно се започва. Минусът е, че инструментът е еднакъв за всички — не е пригоден за вашите нужди, вие трябва да се пригодите към него. Друг основен минус: имате достъп само докато плащате месечния лиценз. Щом се откажете, губите достъп.
Втора категория: направи си сам с Gen AI платформи — Copilot, ChatGPT, Claude, Grok, Cursor и подобни. Предимството е, че са много гъвкави и достъпни: изключително лесно е да направите приложение и дори да го пуснете. Но пак плащате, за да го изградите, не го притежавате напълно и зависите от платформата и от токените. А когато нещо се счупи, идва въпросът: кой го поддържа, кой отговаря за него, кой ще го одитира и кой ще следи за правилната му работа.
Трета категория: изградете нещо, което наистина притежавате. Предимствата са, че пасва на вашите процеси и системи, а интелектуалната собственост остава при вас. Минусът е, че изисква експертиза и време — но, честно казано, затова съществуваме и ние. Няма универсален отговор, но е важно да знаете, че винаги има избор.
Промптът е най-важното. Ако решите да си направите собствен AI агент, трябва да знаете, че от промпта зависи какво точно ще направи AI-ът, как ще го направи и какви проблеми ще срещнете в бъдеще. Днес всички имаме достъп до едни и същи AI инструменти — всеки може да отвори чата, да напише първия си промпт и да генерира платформа.
Преди това обаче трябва да обмислите какво точно искате да създадете и как. Тук се залагат архитектурата на процеса, бизнес правилата и изключенията, сигурността и достъпът, одитът и архивите (backups). AI не може да създаде нещо, което не сте му казали. Може по случайност да го направи, ако му кажете да следва най-добрите практики, но в повечето случаи прави точно това, което сте му казали.
Какво ни отличава от всеки друг, който има достъп до същия AI, и от така наречените vibe coders? Архитектурата на целия процес; бизнес правилата и това, което клиентът наистина иска; сигурността и потокът на данните; guardrails и backups; изискванията на одиторите; фирмените данни. И последната стъпка, която за мен е най-важна и определя дали ще направите адекватно приложение, уебсайт или платформа: prompt engineering.
С правилен prompt engineering можете да извлечете максимума от инструментите, до които имате достъп и за които плащате. Няма как да напишете „не прави грешки“ и да очаквате перфектен резултат. И аз съм програмист и ми се иска нещата да са толкова лесни, но реалността не е такава — промптовете трябва да се обмислят много добре.
Петте стъпки на правилно изграден агент. Ако изградите AI агент правилно — както го правим ние в практиката (това е опростен пример) — той се разделя на пет основни стъпки:
- Бизнес данни — фактури, договори, данни от ERP, банкови извлечения, имейли, съобщения, лични документи — всякаква чувствителна информация, която искате да автоматизирате.
- Филтриране — голяма част от информацията не е нужна на AI. Като премахнете чувствителните данни, се защитавате: не може напълно да се вярва, че външните AI доставчици не използват данните за обучение, дори ако сте сложили тикче. Най-сигурно е просто да не им изпращате такава информация.
- AI моделът — получава само нужните данни, обработва ги и взима решение.
- Валидация — проверяваме резултата, защото не можем да му вярваме наслепо: всички знаем, че моделите халюцинират и грешат.
- Резултат — записва се в ERP, база данни или друг софтуер.
Така данните остават в компанията, а към AI се изпраща само това, което сте решили — нищо не стига до него по случайност.
Видове агенти. Списъкът е дълъг, тук са най-основните:
- Single-task — най-елементарните, с една ясно дефинирана задача.
- Tool-using — работят със системи и API-та.
- Multi-agent — няколко агента, които си сътрудничат.
- Semi-autonomous — действат с малко или без човешки надзор.
За изграждането им има готови рамки (frameworks), но може и собствена архитектура.
04 Нашият подход: прагматизъм и цена (20:13–28:49)
Въпросът вече не е дали да използвате изкуствен интелект, а кой. Нека ви покажа какво избрахме ние в Capto и защо.
Вярваме в решения, изградени по мярка (custom) — не готов инструмент и не платформа за всички. Клиентът притежава решението и трупа собствено IP, вместо да плаща месечни лицензи. Решението е вградено в работата — например клиентът комуникира с агента по имейл, както би комуникирал с колега. Процесите се обхващат end-to-end и се свързват всички уникални системи. Имате одит и сигурност в рамките на стандартите на компанията, а при нужда ние го поддържаме.
Прагматизъм. Това е подходът, който според нас липсва на пазара. Обикновено хората — дали професионално, за проект вкъщи, за клиент или приятел — започват да мечтаят и да измислят всичко, което AI би могъл да прави вместо тях. Това силно усложнява нещата и не винаги си заслужава, както ще видите по-нататък.
Затова съветваме:
- Първо автоматизирайте малка задача с ясно дефинирана логика.
- Постепенно я надграждайте и добавяйте AI само там, където правилата не стигат и трябват по-сложни решения.
- Чак тогава стигнете до автономно изпълнение на задачи, а понякога и на цели процеси end-to-end.
Искам да подчертая нещо много важно: ние не използваме AI на всяка цена и съветваме и вас да не го правите. Опростете процеса, който искате да автоматизирате. Автоматизирайте го и чак тогава помислете къде AI ще даде най-голяма възвръщаемост и ще има най-много смисъл. Така рискът е изчислен — знаем какво може да се обърка и какво да направим тогава, — а цената е предвидима.
Цената на токените. Както споменах в началото, когато използвате AI през API, се таксувате за input и output токени. Когато използвате AI само там, където е необходимо, намалявате и входа, и изхода, следователно и консумацията на токени — и приложението става по-евтино.
Лично смятам, че AI ще поскъпва. Днес плащаме субсидирана цена — големите AI доставчици все още не печелят. Например се очаква OpenAI да загуби около 14 милиарда само тази година. Забелязахме също, че Mistral, френска компания за езикови модели, премахна безплатния API достъп от безплатния си план. Това ни кара да мислим, че компаниите постепенно ще вдигат цените, защото е време и те да започнат да печелят.
Затова е важно колко токена изисква един процес и колко ви струва дневно и месечно. Колкото по-малко сте зависими от AI, толкова по-предвидима е цената. Точно това видяхм в един реален проект — KYC процес, за който ще разкажа по-късно: какво се счупи, как и как го оправихме.
Как изглежда един агент. AI агентът има умения. Независимо дали е вграден в Claude или OpenAI, или го изграждате сами, принципът е един. Имате LLM, който чете имейли (ако процесът ви е такъв), разбира свободен текст и прикачени файлове и връща резултат. Може да използвате SLM за класифициране на документи или отново LLM за решения, когато има изключения и трябва да се предприемат определени действия.
Агентът има още много умения, но те са автоматизирани — там няма изкуствен интелект и съответно няма консумация на токени. Тоест може да имате сложен AI агент, чиито умения не са всичките AI. Така намалявате цената за поддръжка и използване.
Най-често сме реализирали подобни решения за месечни и годишни отчети, сверяване на фактури, потвърждаване на плащания и данъци.
Колко време ще спестим? Често ни питат колко време ще спестят с AI, колко ще им струва и дали си заслужава. Отговорът е: зависи. Няма как да кажем колко време ще спести даден агент, защото нуждите на всеки са различни, системите са различни и нещата са много динамични — няма стандартни числа. Истината обаче е, че продуктивността и ефективността растат, а човешките грешки намаляват, защото рутинните задачи се изпълняват всеки път по един и същ начин.
И нещо, с което се гордеем: нито един наш клиент не е съкратил служител заради наш агент. Твърдения от рода „AI агентите ще заместят хората“ не се потвърдиха в нашата практика. Екипите не намаляват — напротив, поемат много повече работа, включително такава, за която преди просто не са имали капацитет.
05 Двигателят и колата (28:49–33:22)
Нека поговорим за двигателя и колата. Ето как изглежда един наш агент на високо ниво. Забележете, че това не е чатбот, а процес:
- Тригер — тук влизат входните данни.
- Оркестрация — взима се решение кой AI към коя система да се свърже.
- Модели — извличат, класифицират и разсъждават.
- Интеграции — връзката с различните инструменти.
- Проверка — всичко минава през валидация, а изключенията стигат до човек.
През цялото време имаме памет, състояние, одитна следа и мониторинг, за да можем във всеки момент да проследим какво се е случило и защо, ако има грешка.
Зад тази архитектура стоят няколко съзнателни решения. За всяко от тях има по-лесна алтернатива, но ние я отхвърлихме:
- Работен поток с AI стъпки вместо напълно автономен агент. Така процесът е предвидим, може да се одитира, а цената е под контрол.
- Филтриране преди AI вместо всички данни директно към модела. Както помните от схемата с червените точки, чувствителното остава в компанията. Като бонус плащаме и много по-малко токени.
- Числата се смятат с код, за да избегнем халюцинации.
- Малък модел, където е достатъчен, вместо голям модел за всичко.
- Директно в системите на клиента, а не в допълнителни платформи. Така данните и решенията остават в инфраструктурата на клиента.
Какво се случва, когато нещо се обърка? Имаме състояние (state) — всяка стъпка се записва. Имаме контекст — моделът получава само нужното, а не цялата история. Грешките се записват, правят се повторни опити и резервни варианти, а при необходимост агентът ескалира към човек.
Моделът е двигателят. Той не е колата — колата е цялото решение около него: архитектура, правила, проверки. Колата я кара човекът. Той решава накъде да отиде, кога да натисне спирачката и кога — газта.
И както при колите, избираме двигател според нуждите си: по-бърз, по-бавен, по-надежден, по-икономичен. За всяка цел има различни модели — или, в метафората, различни двигатели. Най-големият двигател не винаги е най-подходящият. Както виждате, в момента цените на горивата скочиха — най-големият двигател струва много повече за използване от по-малкия и надежден. Същото е и при AI доставчиците: цените на малките модели са изключително достъпни, докато най-големите модели струват доста пари. Там трябва да се помисли дали наистина имате нужда от целия този капацитет.
06 Теория срещу реалност и KYC казусът (33:22–41:58)
Сега стигаме до частта, заради която съм тук днес: какво се случва, когато колата излезе на истинския път. Това е ядрото на днешния разговор — нещата, които могат да се объркат и ще се объркат, и как решихме някои от тях. Нещата, които не виждате в демо, клип в YouTube, статия или пост в LinkedIn.
Предизвикателствата в реалността:
- Непредвидимост — задавате един и същ въпрос два пъти и получавате два различни отговора. Как се тества нещо такова?
- Оценка — как се измерва дали агентът е добър? Добре ли е 95% точност, или търсим 100%?
- Инструменти и цикли — грешни извиквания, агенти, които зациклят и остават блокирани, или са свръхуверени и пускат невярна информация.
- Скорост и цена — всеки токен струва време и пари.
- Контекст и памет — контекстният прозорец е ограничен, а документите не са. Ще ви покажа как се справихме с това на практика.
- Промени отвън — ъпдейти на системи, нови процеси, нови хора в екипа.
- Очаквания — какво хората мислят, че агентът може, срещу това, което реално може.
- Доверие — една видима грешка може да спре цялото внедряване.
KYC казусът
Това е проблемът, който лично на мен ми направи най-голямо впечатление. Още в началото беше добро предизвикателство да проверим къде е лимитът на AI и да разберем навреме, преди да е станало твърде късно. Затова избрах да ви покажа KYC процеса.
KYC означава know your customer („познавай клиента си“). Обикновено се използва в банките: когато поискате кредит, банката събира вашите документи — лична карта и други. Извлича данните и ви проверява в система: дали и на кого дължите пари, какви са доходите ви, можете ли да си позволите заем и какъв е рискът — и на тази база решава как да процедира.
Задачата. В нашия случай клиентът ни предостави Google Drive, в който за всяка компания имаше папка с личните данни на всички съдружници (процесът беше по-сложен, защото беше свързан с фирми). Работихме, разбира се, с тяхно разрешение. Те бяха съгласни с тази структура, имаха договореност с AI доставчик и бяха организирали нещата така, че да няма риск от изтичане на данни. Идеята беше всички документи да се подават към AI през API, а AI да направи OCR, да извлече ключовите данни и да ги запише в хранилище.
Проблемът. Реалността се оказа съвсем друга. Тестовите примери бяха малко и дадоха перфектни резултати. Реалните снимки от крайните потребители обаче бяха направени с телефон: с ниско качество, отрязани, снимани на тъмно, размазани. Когато хората трябва да снимат много документи вкъщи, често пренебрегват тази стъпка, а без интерфейс, който да ги насочва и коригира, изпращаха проблемни снимки.
- Халюцинации. Тези снимки объркваха AI: за една и съща снимка връщаше различни данни, халюцинираше и дори започна да си измисля данни, които ги няма на снимките на личните карти.
- Дълги сканирани договори. Имаше договори от 30 и повече страници в PDF, сканирани — тоест снимки. Те консумират много повече токени и на AI му трябват много повече време и ресурси. А за повечето от тези документи нужните на клиента данни бяха в първите две до четири страници. За нулево време токените, които бяхме заложили, свършиха.
Решението. Спряхме AI и се върнахме една стъпка назад. Имплементирахме собствена OCR библиотека, плюс custom правила и guardrails, зададени от клиента. AI използвахме само върху точно определен, филтриран текст, от който той да върне точно определена информация за запис в хранилището.
Резултатът. Спестено време, спестени токени и ресурси — и успяхме да достигнем и дори леко да подобрим точността, която ни даваше AI. Поуката е, че понякога трябва да направим стъпка назад, да премахнем AI и да помислим как да го използваме само там, където наистина носи стойност — а не там, където е най-лесно да го сложим.
07 Четирите стълба на надеждността (41:58–45:40)
Използваме четири основни стълба на надеждността. Нито един от тях не е модерен или излязъл вчера — всички са основи на софтуерното инженерство и всички са задължителни: итеративен подход, предпазни механизми, човешки надзор и непрекъсната поддръжка. Те гарантират надеждността и сигурността.
1. Итеративен подход. Започвате с малко. След това агентът работи като сянка, паралелно с човек, без реални последствия. Измервате и сравнявате данните на агента с тези на човека. Чак когато всичко е вярно на 100% и сте сигурни, преминавате към разширяване и автономност.
2. Предпазни механизми. Те са напълно задължителни — не можете да вярвате на модела. Винаги проверявайте всяко число, което връща. Бизнес правилата работят като втори ключ. При ниска увереност задачата отива при човек. Агентът има достъп само до това, което му е необходимо. Не му давайте пълен достъп до компанията, личните ви данни или компютъра ви — както вие можете да го използвате, така и някой друг може да го използва срещу вас, ако не се защитите правилно.
3. Human in the loop (човешки надзор). Това е едно от най-важните неща за точността. Автономността се заслужава с времето, като постепенно се изгражда доверие към агента. Ако се даде наслепо още от старта, резултатите стават непредвидими и започват да се появяват множество проблеми.
4. Поддръжка. Без нея не може. Уменията и инструментите, към които се свързва агентът, се променят и ъпдейтват. Някой решава да добави ново поле в логина, да премести бутон или да промени нещо друго. Няма как да направите нещо, което да работи за цял живот. Винаги излизат и нови регулации, които могат да ограничат вашия AI и които трябва да спазвате.
Агентът не е проект — агентът е продукт. И агентите не се чупят шумно, чупят се уверено. Затова всичко, което казах досега, не е по избор — ние сме го преживели.
08 Пет научени урока (45:40–48:31)
Нека преминем към последната глава: какво научихм аз и екипът ми при справянето с такива проблеми и кои са най-честите казуси. Ако запомните само пет неща:
- Започнете просто — по-просто, отколкото мислите. Не е нужно да се изхвърляте отначало. Помислете и изградете основата, а когато е здрава, от нея изграждайте всичко останало.
- Не всичко трябва да е агент. Понякога стандартните автоматизации и правила са напълно достатъчни.
- Видимост и мониторинг от първия ден — за да следите и сравнявате данните и да можете да тествате, особено когато агентът започне да халюцинира.
- Проектирайте за изключенията, не за щастливите сценарии.
- Планирайте поддръжката още преди старта. С други думи: планирайте цялата архитектура, как ще се използва агентът и какво ще се случва занапред, за да си спестите главоболия.
Как да започнете. Дали ще започнете с абонамент, със vibe coding на собствена платформа или агент, или ще се обърнете към нас, съветът ми е: не започвайте с нещо голямо. Вървете стъпка по стъпка:
- Идентифицирайте проблема.
- Помислете как да го решите по възможно най-простия начин.
- Намерете малките, повтарящи се задачи и ги автоматизирайте.
- Свържете останалите системи.
- Чак тогава помислете къде AI ще добави стойност — а не да добавяте AI просто за да го има.
Агентите реално стъпват върху автоматизацията. Без нея AI няма как да действа — няма до какво да се докосне. И още нещо: AI не е ново. Терминът „изкуствен интелект“ съществува от 1956 година. Новото е, че днес е достъпен за всеки. Затова не бързайте — основата е по-важна от модата.
09 Заключение и въпроси и отговори (48:31–край)
Благодаря ви за вниманието. Ако искате да продължим разговора или се сетите за въпрос утре, вдругиден или някога в бъдеще, QR кодовете водят към нашия уебсайт, нашата LinkedIn страница и моя личен профил. Отворени сме да съдействаме с каквото можем. Често публикуваме постове какво и как се случва зад кулисите. Ако искате да се свържете с нас и да организираме среща — няма проблем, отворени сме да помогнем на всеки, който има нужда.
Сега преминаваме към въпросите и отговорите в Slido. Можете да сканирате QR кода вляво или да влезете в slido.com с код #seminar.
Въпроси и отговори
Въпрос: От над 100-те агента и автоматизации, които сте доставили, каква част реално работят ежедневно? Коя е най-честата причина един агент да заседне на етап демо?
Отговор: Нямам точните числа под ръка, но със сигурност над 75% от агентите и автоматизациите, които сме реализирали, се използват ежедневно. Най-честата причина да останат на етап демо е несигурността на клиентите. Те не са достатъчно информирани и уверени, не знаят как да се защитят от AI и са на границата между страха и желанието да добавят нещо ново просто защото е ново.
Въпрос: Къде точно поставяте човека в процеса, кои решения агентът взима сам и кои винаги изискват одобрение? И как предотвратявате човекът с времето да започне да одобрява всичко механично?
Отговор: В началото човекът стои в края на процеса като бариера между крайния потребител и данните, които ще стигнат до него. Агентът обработва данните и ги изпраща на служител, който ги проверява ръчно, за да е сигурен на 100%, че са верни — и чак тогава ги пуска нататък. Когато мине тестовият период, през агента е минал голям обем данни и хората му вярват, те спират да одобряват и агентът изпраща всичко до крайния потребител напълно автономно. Предотвратяването идва главно от самите служители, за които агентът работи: в даден момент те дотолкова му вярват и са сигурни в данните, че не виждат смисъл да продължават да одобряват. Те сами казват, че са готови да спрат и агентът да бъде пуснат напълно в продукция.
Въпрос: Какво се чупи най-често, след като агентът вече е в употреба — промени в модела, нов формат на данните, промени в процесите на клиента? Колко усилия отнема поддръжката спрямо първоначалната разработка?
Отговор: Промените в модела не са най-честият проблем — моделите, излезли през последните 6–12 месеца, са доста стабилни, а промени идват при най-новите версии. По-често се променят външните фактори: форматът на данните, които извличаме от дадена система, защото системата е ъпдейтната; промени в процесите на клиента; нови изисквания и регулации. От гледна точка на усилия поддръжката не отнема много време, ако разработката е направена правилно, със солидна основа и добре обмислена — тогава е много лесна.
Въпрос: Как измервате дали агентът е достатъчно точен за задачи като сверяване на данни или данъци, преди да му се доверите? Какъв процент грешки е приемлив и кой решава — вие или клиентът?
Отговор: Започвам от последния въпрос. (Микрофонът се изключва за кратко, 54:45–55:05.) Обикновено клиентът ни казва какъв процент грешки толерира, и ние се адаптираме. Ако търси 100% точност, гоним 100% — и то преди пускането в продукция. Има и клиенти, за които е приемливо до 10% грешки да стигат до крайния потребител, защото лесно се коригират и не нанасят особена вреда. Точността се измерва в периода shadow mode: от едната страна агентът работи всеки ден, а от другата служител продължава да изпълнява същия процес. Всеки ден данните се сверяват. Когато се достигне нужната точност и се изгради доверие, че нищо няма да се обърка, се преминава към следващата стъпка.
Въпрос: Когато агентът работи директно в системите на клиента с чувствителни финансови данни, какви предпазни механизми, ограничения на достъпа и одитни следи използвате? Как подхождате към изисквания като GDPR и „LAC“ (неясно в записа)?
Отговор: Първият предпазен механизъм е, че не даваме на AI достъп до тези системи — не подаваме на агента API-тата, паролите и ключовете за достъп. Правим автоматизация, която се свързва към системите и извлича нужните данни. От тях филтрираме и премахваме чувствителните данни, за които клиентът изрично е казал, че не иска да стигат до AI. Така се ограничава достъпът и няма изтичане на чувствителни данни (data leaks). Одитните следи (audit trails) се правят според изискванията на клиента — записват се логовете и необходимата документация така, както те са ги задали, и това е различно за всеки клиент. Когато клиентът има изисквания за GDPR, ги спазваме по регламент — там е строго определено какво, как и защо може и не може да се прави. Когато се свързваме към трети системи, които спазват тези протоколи, ние също ги спазваме.
Ако няма повече въпроси, можем да приключим семинара — ще изчакам още минутка. Чудесен въпрос за край, благодаря.
Това беше от мен. Надявам се, че не съм ви отегчил. Благодаря, че отделихте един час от вечерта си. Ако имате въпроси, аз и екипът на Capto сме на разположение да помогнем с всичко, свързано с агентите.



