Skip to main content
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM brauzerga xos AI inferensiyasini WordPress multisite tarmog‘ingizga olib keladi. U WebLLM va MLC engine yordamida katta til modellarini to‘liq brauzerda ishga tushiradi — API kalitlari yo‘q, tashqi chaqiruvlar yo‘q, ma’lumotlar foydalanuvchi qurilmasidan tashqariga chiqmaydi.

Asosiy imkoniyatlar​

  • Brauzer tomonidagi inferensiya: LLM WebLLM/MLC orqali tashrif buyuruvchining brauzerida lokal ishlaydi — server GPU talab qilinmaydi
  • Suzuvchi chat vidjeti: Tizimga kirgan foydalanuvchilar brauzer tomonidagi LLM’ga bevosita old tomondan prompt yuborishi mumkin
  • Admin-panel holat indikatori: WebLLM engine’ning real vaqt holati WordPress admin panelida ko‘rinadi
  • SharedWorker runtime: Bir nechta brauzer tablari GPU resurslari uchun raqobatlashish o‘rniga bitta GPU sessiyasini ulashadi
  • apiFetch middleware: AI Client SDK andozasiga mos WordPress REST so‘rovlari lokal WebLLM broker’ga shaffof tarzda yo‘naltiriladi — loopback HTTP aylanma so‘rovi yo‘q
  • Vidjet sozlamalari UI: Chat vidjetini yoqish-o‘chirish va auto-prompt xatti-harakatini sozlash uchun Connector panel sozlamalari
  • IndexedDB kesh: Model weight yuklab olishlari standart Cache API yo‘lini buzadigan CDN qayta yo‘naltirishlaridan keyin ham saqlanadi
  • wpai filter integratsiyasi: wpai_preferred_text_models filtriga ulanadi, shunda AI Experiments funksiyasi sozlanganda brauzer engine’ga yo‘naltiriladi

Talablar​

  • WordPress 5.3 yoki undan yuqori
  • PHP 7.4 yoki undan yuqori
  • Ultimate Multisite plugin (faol)
  • WebGPU qo‘llab-quvvatlanadigan brauzer (Chrome 113+, Edge 113+ yoki WebGPU yoqilgan Firefox Nightly)

O‘rnatish​

  1. Addon fayllarini /wp-content/plugins/ direktoriyangizga yuklang
  2. WordPress’dagi 'Plugins' menyusi orqali plugin’ni faollashtiring
  3. Addon’ni sozlash uchun Ultimate Multisite → AI Connector bo‘limiga o‘ting

Suzuvchi chat vidjeti​

Suzuvchi chat vidjeti tizimga kirgan har qanday foydalanuvchiga o‘zi turgan sahifani tark etmasdan, old tomondan brauzer tomonidagi LLM bilan bevosita muloqot qilish imkonini beradi.

U nima qiladi​

Yoqilganda, tizimga kirgan foydalanuvchilar uchun har bir old tomon sahifasining burchagida chat belgisi paydo bo‘ladi. Belgini bosish chat panelini ochadi, u yerda foydalanuvchi promptlar yozishi va lokal ishlayotgan WebLLM modelidan javoblar olishi mumkin. Model to‘liq brauzerda ishlagani uchun javoblar maxfiy bo‘ladi va hech qanday server tomonidagi qayta ishlashni o‘z ichiga olmaydi.

Admin-panel holat indikatori​

WordPress admin paneli WebLLM engine’ning joriy holatini ko‘rsatadigan holat indikatorini o‘z ichiga oladi:

HolatMa’nosi
YuklanmoqdaMLC engine ishga tushirilmoqda yoki model weight’larni yuklab olmoqda
TayyorModel yuklangan va inferensiya uchun mavjud
Bo‘shEngine yuklangan, lekin SharedWorker tabi faol emas
XatoEngine ishga tushirilmadi — tafsilotlar uchun brauzer konsolini tekshiring

Indikator sahifani qayta yuklashni talab qilmasdan real vaqtda yangilanadi.

Vidjetni qanday yoqish yoki o‘chirish​

  1. Tarmoq adminida Ultimate Multisite → AI Connector bo‘limiga o‘ting
  2. Connector panelini toping
  3. Suzuvchi chat vidjetini yoqish ni yoqing yoki o‘chiring
  4. Sozlamalarni saqlang

Agar tarmoq administratori bu imkoniyatni bergan bo‘lsa, vidjet saytning o‘z adminidan ham har bir sayt bo‘yicha yoqilishi yoki o‘chirilishi mumkin.

Vidjet sozlamalari​

Ultimate Multisite → AI Connector ichidagi Connector paneli suzuvchi chat vidjeti uchun quyidagi sozlamalarni o‘z ichiga oladi:

Suzuvchi chat vidjetini yoqish​

Butun tarmoq uchun chat vidjetini yoqadi yoki o‘chiradi. O‘chirilganda, foydalanuvchi rolidan qat’i nazar, vidjet hech qanday old tomon sahifasida ko‘rinmaydi.

Standart: O‘chiq

Auto-Prompt xatti-harakati​

Foydalanuvchi chat vidjetini ochganda, u avtomatik ravishda prompt yuborish-yubormasligini boshqaradi.

VariantXatti-harakat
O‘chirilganVidjet bo‘sh chat bilan ochiladi — foydalanuvchi o‘z promptini yozadi
Sahifa kontekstiVidjet joriy sahifa sarlavhasi va kontenti asosida oldindan to‘ldirilgan prompt bilan ochiladi
Maxsus promptVidjet quyidagi maydonda belgilagan maxsus promptingiz bilan ochiladi

Maxsus prompt qilib o‘rnatilganda, standart prompt matnini kiritishingiz mumkin bo‘lgan qo‘shimcha matn maydoni paydo bo‘ladi. Asosiy shablon o‘zgaruvchilarini qo‘llab-quvvatlaydi:

  • {site_name} — joriy sayt nomi
  • {page_title} — joriy sahifa sarlavhasi
  • {user_display_name} — tizimga kirgan foydalanuvchining ko‘rsatiladigan nomi

Standart: O‘chirilgan

SharedWorker Runtime​

1.1.0 versiyasi MLC engine uchun SharedWorker runtime’ni taqdim etadi. Avval WebLLM’dan foydalangan har bir brauzer tabi modelning o‘z nusxasini yuklar, GPU xotirasi uchun raqobatlashar va VRAM cheklangan qurilmalarda unumdorlik muammolariga sabab bo‘lardi.

SharedWorker runtime bilan bitta tab engine host sifatida ishlaydi. Boshqa barcha tablar worker’ning xabar kanali orqali shu yagona nusxa bilan aloqa qiladi. Natija:

  • Barcha ochiq tablar bo‘ylab bitta GPU sessiyasi ulashiladi
  • Model yuklangach, javoblar tezroq bo‘ladi (takroriy ishga tushirish yo‘q)
  • Qurilmada cho‘qqi xotira sarfi pastroq bo‘ladi

SharedWorker foydalanuvchilar uchun shaffofdir. Admin-panel holat indikatori alohida tab holatini emas, doimo umumiy engine holatini aks ettiradi.

apiFetch Middleware​

Addon AI Client SDK andozasiga mos WordPress REST API so‘rovlarini ushlab qoladigan apiFetch middleware’ni o‘rnatadi. Serverga loopback HTTP so‘rovi yuborish o‘rniga, bu so‘rovlar bevosita SharedWorker’da ishlayotgan lokal WebLLM broker’ga yo‘naltiriladi.

Bu shuni anglatadiki, AI endpoint’larni chaqirish uchun standart WordPress apiFetch API’dan foydalanadigan pluginlar va temalar brauzer tomonidagi model mavjud bo‘lganda, hech qanday kod o‘zgarishlarisiz avtomatik ravishda undan foyda oladi.

Hooklar va filtrlar​

Filtrlar​

  • wpai_preferred_text_models — WebLLM brauzer dvigatelini afzal matn modeli sifatida ro‘yxatdan o‘tkazing. Addon dvigatel sozlangan va mavjud bo‘lganda avtomatik ravishda ushbu filterga ulanadi.
  • ultimate_webllm_widget_enabled — Muayyan foydalanuvchi yoki kontekst uchun widget yoqilgan holatini bekor qilib belgilang. true yoki false qaytaring.
  • ultimate_webllm_auto_prompt — Auto-prompt matnini widgetga yuborilishidan oldin o‘zgartiring. Prompt satrini va joriy WP_Post obyektini qabul qiladi.

Nosozliklarni bartaraf etish​

Chat widget ko‘rinmayapti​

  • Foydalanuvchi tizimga kirganini tasdiqlang — widget faqat autentifikatsiyadan o‘tgan foydalanuvchilarga ko‘rsatiladi
  • Connector panelida Enable floating chat widget yoqilganini tekshiring
  • Foydalanuvchining brauzeri WebGPU ni qo‘llab-quvvatlashini tekshiring (yuqoridagi Talablar bo‘limiga qarang)

Admin-bar indikatori "Error" ko‘rsatmoqda​

Brauzer developer console (F12) ni oching va WebLLM bilan bog‘liq xatolarni qidiring. Keng tarqalgan sabablar:

  • Brauzer WebGPU ni qo‘llab-quvvatlamaydi
  • Model vaznlari yuklab olinmadi — tarmoq ulanishini tekshiring va brauzer developer tools ichida IndexedDB keshini tozalab ko‘ring (Application → IndexedDB)
  • Brauzer extension SharedWorker ni bloklamoqda

Model vaznlari har safar yuklab olinadi​

Addon model vaznlari CDN yo‘naltirishlaridan keyin ham saqlanib qolishini ta’minlash uchun IndexedDB ni cache backend sifatida ishlatadi. Agar vaznlar har tashrifda qayta yuklab olinayotgan bo‘lsa, IndexedDB brauzer maxfiylik sozlamasi yoki extension tomonidan tozalanmayotganini tekshiring.

O‘zgarishlar jurnali​

To‘liq versiya tarixi uchun O‘zgarishlar jurnali ga qarang.