Human-in-the-loop AI: AI agentni xavfsiz va aniq qilish

Telegram orqali buyurtma qabul qiladigan, mijozlarga javob yozadigan yoki qaytarish (refund) so’rovlarini ko’rib chiquvchi AI agent faqat bitta shartda foydali: unga ishonish mumkin bo’lganda. Agar u noto’g’ri narxni so’mda yuborsa, mavjud bo’lmagan yetkazib berish vaqtini va’da qilsa yoki berilmasligi kerak bo’lgan refundni tasdiqlasa — ishonch yo’qoladi, unga ortidan esa kutilgan foyda ham. Human-in-the-loop AI aynan shu muammoni hal qiladi: AI ishning 80 foizini avtomatik bajaradi, xavfli qarorlarni esa odam tekshiradi yoki tasdiqlaydi.

Ushbu maqolada qayerda odam nazoratini qo’yish kerakligini, qayerda agentga to’liq erkinlik berish mumkinligini va Toshkent hamda Samarqanddagi bizneslar buni bugun qanday tashkil qilayotganini ko’rib chiqamiz — bunda “avtomatlashtirish” yana bir to’liq stavka ishga aylanib qolmasligi kerak.

---

”Human-in-the-loop” aslida nimani anglatadi

Human-in-the-loop (HITL) — “har bir xabarni odam o’qiydi” degani emas. Bu ongli dizayn qarori: AI agent butun jarayonni — so’rovni tushunish, ma’lumotlarni tekshirish, javob yoki harakatni tayyorlashni — bajaradi, ammo tanlangan nuqtalarda to’xtab, yakuniy amaldan oldin odamdan tasdiq so’raydi.

To’g’ri qurilganda, bu mijoz uchun sezilmaydi — bot darhol javob beradi, menejer esa kuniga bir-ikki marta muhim holatlar navbatini ko’zdan kechiradi. Noto’g’ri qurilganda, har bir xabar tasdiqlashni talab qiladi va siz avtomatlashtirish o’rniga qimmat “yozuv yordamchisi” yaratgan bo’lasiz.

Nega bu O’zbekistonda ayniqsa muhim

AI Strategiya 2030 va IT Park imtiyozlari tufayli ko’plab bizneslar AI agentlarni tezkor joriy qilmoqda — ko’pincha to’g’ridan-to’g’ri amoCRM, Payme yoki 1C bilan bog’lab. Aynan shu yerda xatolar qimmatga tushadi: noto’g’ri so’m summasi hisob-fakturaga sinxronlansa yoki moliya bo’limi tasdiqlamagan refundni bot va’da qilsa. HITL qatlami esa bunday xatolarga qarshi arzon sug’urta vazifasini bajaradi.

Odam nazoratini qayerga qo’yish kerak

Har bir harakat tekshiruvni talab qilmaydi. To’g’ri yondashuv — xavf darajasiga asoslangan:

• To’liq avtomatlashtiring: ko’p so’raladigan savollarga javob, buyurtma holatini tekshirish, Telegram orqali eslatmalar, lead yig’ish, o’zbek/rus tilida oddiy javoblar.
• Avtomatlashtiring, lekin loglang va haftalik tekshiring: uchrashuvni bron qilish, oddiy mahsulot tavsiyalari, lead skoring.
• Bajarishdan oldin odam tasdig’ini talab qiling: refund va to’lovni qaytarish, belgilangan chegaradan yuqori chegirmalar, mijoz shikoyati bilan bog’liq har qanday harakat, shartnoma yoki narx o’zgarishlari, qaytarib bo’lmaydigan har qanday amal.
• Agentga hech qachon yolg’iz topshirmang: huquqiy majburiyatlar, moliyaviy yoki tibbiy maslahat, keyinchalik nazorat organi so’rashi mumkin bo’lgan har qanday narsa.

Oddiy freymvork: ishonch + oqibat

Har bir agent harakatini ikki o’lchov bo’yicha baholang: model o’z javobiga qanchalik ishonadi va xato qanchalik qimmatga tushadi. Past ishonch yoki yuqori oqibat — odam avval tekshiradi. Yuqori ishonch va past oqibat — agentga ishlashga ruxsat bering.

Harakat turi	Xato bo’lsa oqibat	Tavsiya etilgan nazorat
Yetkazib berish vaqtiga javob	Past	To’liq avtomatik
Buyurtma summasini tasdiqlash	O’rta	Avtomatik, lekin log + tasodifiy audit
Refundni tasdiqlash	Yuqori	Odam tasdig’i shart
Imzolangan shartnoma shartini o’zgartirish	Juda yuqori	Hech qachon avtomatik emas

Tekshiruv jarayonini qurish

Telegram-botlar yoki CRM bilan integratsiya qilingan agentlar uchun amaliy HITL tizimi odatda uch qismdan iborat:

1. Ishonch/xavf filtri — agent mantiqida xavfsiz chegaradan chiqqan har qanday harakatni belgilaydi.
2. Ko’rib chiqish navbati — ko’pincha oddiy shaxsiy Telegram kanali yoki amoCRM/Bitrix24 vazifalar ro’yxati, unda barcha kerakli kontekst (mijoz xabari, taklif qilingan harakat, nega belgilangani) bilan birga tushadi.
3. Bir bosishda tasdiqlash/tahrirlash/rad etish — menejer uchun tekshiruv daqiqalar emas, soniyalarni oladi.

• Biznesingiz uchun qaysi harakatlar “yuqori oqibatli” ekanini aniqlang
• Agent to’xtashi kerak bo’lgan ishonch chegarasini belgilang
• Belgilangan holatlarni bitta navbatga yo’naltiring, beshta pochta qutisiga emas
• Haftalik nechta holat belgilanganini kuzating — pasayish tendensiyasi agent biznesingizni o’rganayotganini bildiradi
• Promptlar yoki qoidalarni qayta sozlash uchun belgilangan qarorlarni oylik ko’rib chiqing

Loop ishlayotganini qanday o’lchash kerak

Ikki ko’rsatkichni kuzating: belgilash darajasi (odam tekshiruvini talab qiladigan muloqotlar foizi) va bekor qilish darajasi (belgilangan holatlardan odam haqiqatan ham o’zgartirganlari foizi). Sog’lom tizim odatda o’rtacha belgilash darajasidan boshlanadi va sozlashning dastlabki haftalarida pasayib boradi, bekor qilish darajasi esa erta ogohlantirish signali bo’lib xizmat qiladi — uning o’sishi agent taxminlari sizning siyosatlaringizdan chetlashayotganini va promptlarni qayta ko’rib chiqish kerakligini bildiradi.

Bu xuddi O’zbekistonda biznes uchun AI agentlar bo’yicha to’liq qo’llanmada ko’rilgan naqsh bilan bir xil: tekshiruv loop bilan ishga tushirilgan agentlar to’liq ishonchni tezroq qozonadi va ko’proq erkinlik oladi — birinchi kundan boshlab to’liq nazoratsiz ishlashga qaraganda.

Human-in-the-loop yoki to’liq avtonom: sizga qaysi biri kerak?

Agar hali skriptlangan bot bilan to’liqroq AI agent o’rtasida tanlov qilayotgan bo’lsangiz, avval AI agent aslida nima ekanini oddiy tilda tushunib olish, so’ngra buni oddiyroq chatbot bilan AI agent vs chatbot: O’zbek biznesga aslida nima kerak maqolasida solishtirish foydali bo’ladi. HITL ikkalasiga ham tegishli, lekin agent haqiqiy harakatlar — to’lovlar, CRM yangilanishlari, refundlar — bajara boshlagach, ayniqsa muhim bo’ladi.

Buni noto’g’ri qilishning narxi

Bitta nazoratsiz refund xatosi yoki noto’g’ri va’da qilingan chegirma bir hafta ichida tekshiruv jarayonini qurish narxidan ko’proq zarar keltirishi mumkin. Ko’pgina human-in-the-loop qatlamlari loyihaning umumiy hajmiga nisbatan katta emas — odatda tipik AI agent qurish byudjetiga nisbatan kichik qo’shimcha — chunki tekshiruv navbati jamoangizda allaqachon mavjud vositalardan, masalan Telegram yoki amoCRM’dan foydalanadi.

Tez-tez so’raladigan savollar

Human-in-the-loop mijoz tajribasini sekinlashtiradimi? To’g’ri loyihalanganda — yo’q. Past xavfli 80–90% muloqotlarga javob darhol beriladi; faqat belgilangan, yuqori xavfli harakatlar ish vaqtida odatda bir necha daqiqa ichida hal bo’ladigan tezkor odam nazoratini kutadi.

Tekshiruv yukini vaqt o’tishi bilan kamaytirish mumkinmi? Ha. Bekor qilish darajasini kuzatib, promptlar va qoidalarni takomillashtirgan sari, yaxshi sozlangan agentning birinchi bir-ikki oyida belgilash darajasi sezilarli darajada pasayadi, bu esa xodimlar vaqtini bo’shatadi.

Tekshiruv navbatini qurish uchun dasturchi kerakmi? Har doim ham katta jamoa shart emas — Telegram kanali yoki aniq yo’naltirish qoidalariga ega amoCRM vazifalar ro’yxati ko’pincha birinchi versiya uchun yetarli. Murakkabroq tasdiqlash zanjirlari to’g’ri muhandislikni talab qiladi.

Human-in-the-loop faqat katta kompaniyalar uchunmi? Yo’q — bu kichik miqyosda ham yaxshi ishlaydi. Telegram orqali buyurtma qabul qiladigan ikki kishilik Toshkent do’koni ham “200 000 so’mdan yuqori har qanday refund tasdiqlanishdan oldin men tomonimdan ko’rib chiqilishi kerak” kabi oddiy qoidadan foyda ko’radi.

---

Nazorat nuqtalarini to’g’ri joylashtirish — jamoangiz ishonadigan AI agent bilan doim kuzatib turishga to’g’ri keladigan agent o’rtasidagi farqdir. Agentingizga qayerda odam tekshiruvi kerakligi bo’yicha ikkinchi fikr kerak bo’lsa, Fera Tech’ning AI va avtomatlashtirish xizmatlari yoki bizning ishlarimiz bilan tanishing — so’ngra o’z jarayoningizni muhokama qilish uchun biz bilan bog’laning.