Skip to main content
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM сезнең WordPress multisite челтәрегезгә браузерда турыдан-туры AI нәтиҗә чыгару мөмкинлеген китерә. Ул WebLLM һәм MLC engine кулланып, зур тел модельләрен тулысынча браузерда эшләтә — API ачкычлары юк, тышкы чакырулар юк, мәгълүмат кулланучының җайланмасыннан чыкмый.

Төп мөмкинлекләр​

  • Браузер ягында нәтиҗә чыгару: LLM WebLLM/MLC аша килүченең браузерында локаль эшли — сервер GPU таләп ителми
  • Йөзүче чат виджеты: Системага кергән кулланучылар браузер ягындагы LLM белән сайтның алгы ягыннан турыдан-туры эшли ала
  • Admin-bar халәт күрсәткече: WebLLM engine-ының реаль вакыттагы халәте WordPress admin bar-ында күренә
  • SharedWorker эш мохите: Берничә браузер табы GPU ресурслары өчен көрәшү урынына бер GPU сессиясен уртак куллана
  • apiFetch арадаш катламы: AI Client SDK үрнәгенә туры килгән WordPress REST сораулары локаль WebLLM брокерына үтә күренмәле итеп юнәлтелә — loopback HTTP әйләнеп кайтуы юк
  • Виджет көйләүләре UI: Чат виджетын кабызу/сүндерү һәм auto-prompt тотышын көйләү өчен Connector панеле көйләүләре
  • IndexedDB кэшы: Модель авырлыкларын йөкләү default Cache API юлын боза торган CDN юнәлтүләреннән соң да саклана
  • wpai filter интеграциясе: wpai_preferred_text_models фильтрына тоташа, шуңа күрә AI Experiments мөмкинлеге көйләнгәндә браузер engine-ына юнәлтелә

Таләпләр​

  • WordPress 5.3 яки югарырак
  • PHP 7.4 яки югарырак
  • Ultimate Multisite плагины (актив)
  • WebGPU ярдәме булган браузер (Chrome 113+, Edge 113+ яки WebGPU кабызылган Firefox Nightly)

Урнаштыру​

  1. Өстәмә файлларын /wp-content/plugins/ директориясенә йөкләгез
  2. Плагинны WordPress эчендәге 'Plugins' менюсы аша активлаштырыгыз
  3. Өстәмәне көйләү өчен Ultimate Multisite → AI Connector бүлегенә күчегез

Йөзүче чат виджеты​

Йөзүче чат виджеты системага кергән теләсә кайсы кулланучыга, булган битеннән чыкмыйча, сайтның алгы ягыннан браузер ягындагы LLM белән турыдан-туры эшләргә мөмкинлек бирә.

Ул нәрсә эшли​

Кабызылганда, системага кергән кулланучылар өчен һәр алгы як битенең почмагында чат иконкасы күренә. Иконкага басу чат панелен ача, анда кулланучы prompt яза һәм локаль эшләүче WebLLM моделеннән җаваплар ала ала. Модель тулысынча браузерда эшләгәнгә күрә, җаваплар шәхси кала һәм сервер ягында эшкәртүне үз эченә алмый.

Admin-Bar халәт күрсәткече​

WordPress admin bar WebLLM engine-ының хәзерге халәтен күрсәтә торган халәт күрсәткечен үз эченә ала:

ХаләтМәгънә
ЙөкләнәMLC engine инициализацияләнә яки модель авырлыкларын йөкли
ӘзерМодель йөкләнгән һәм нәтиҗә чыгару өчен мөмкин
БушEngine йөкләнгән, ләкин SharedWorker табы актив түгел
ХатаEngine инициализацияләнә алмады — тулырак мәгълүмат өчен браузер консолен тикшерегез

Күрсәткеч битне яңадан йөкләүне таләп итмичә реаль вакытта яңартыла.

Виджетны ничек кабызырга яки сүндерергә​

  1. Челтәр админында Ultimate Multisite → AI Connector бүлегенә керегез
  2. Connector панелен табыгыз
  3. Йөзүче чат виджетын кабызу параметрын кабызыгыз яки сүндерегез
  4. Көйләүләрне саклагыз

Челтәр администраторы бу мөмкинлекне биргән булса, виджетны сайтның үз админыннан һәр сайт өчен аерым да кабызып яки сүндереп була.

Виджет көйләүләре​

Ultimate Multisite → AI Connector эчендәге Connector панеле йөзүче чат виджеты өчен түбәндәге көйләүләрне үз эченә ала:

Йөзүче чат виджетын кабызу​

Бөтен челтәр өчен чат виджетын кабыза яки сүндерә. Сүндерелгәндә, кулланучы роленә карамастан, виджет бернинди алгы як битендә дә күренми.

Default: Сүндерелгән

Auto-Prompt тотышы​

Кулланучы чат виджетын ачканда, виджет prompt-ны автоматик җибәрәме-юкмы икәнен идарә итә.

ВариантТотыш
СүндерелгәнВиджет буш чат булып ачыла — кулланучы үз prompt-ын яза
Бит контекстыВиджет хәзерге битнең исеменә һәм эчтәлегенә нигезләнеп алдан тутырылган prompt белән ачыла
Custom promptВиджет түбәндәге кырда сез билгеләгән custom prompt белән ачыла

Custom prompt итеп куелганда, өстәмә текст кыры күренә, анда default prompt текстын кертә аласыз. Төп template үзгәрүчәннәрен хуплый:

  • {site_name} — хәзерге сайтның исеме
  • {page_title} — хәзерге битнең исеме
  • {user_display_name} — системага кергән кулланучының күрсәтелә торган исеме

Default: Сүндерелгән

SharedWorker эш мохите​

1.1.0 версиясе MLC engine өчен SharedWorker эш мохитен кертә. Элек WebLLM кулланган һәр браузер табы модельнең үз экземплярын йөкли иде, GPU хәтере өчен ярыша һәм VRAM чикләнгән җайланмаларда җитештерүчәнлек проблемалары тудыра иде.

SharedWorker эш мохите белән бер таб engine хуҗасы булып эшли. Калган барлык таблар шул бер экземпляр белән worker хәбәр каналы аша аралаша. Нәтиҗә:

  • Барлык ачык таблар арасында уртак кулланылган бер GPU сессиясе
  • Модель йөкләнгәннән соң тизрәк җаваплар (кабат инициализацияләү юк)
  • Җайланмада түбәнрәк иң югары хәтер куллану

SharedWorker кулланучылар өчен үтә күренмәле. Admin-bar халәт күрсәткече һәрвакыт аерым таб халәтен түгел, ә уртак engine халәтен чагылдыра.

apiFetch арадаш катламы​

Өстәмә AI Client SDK үрнәгенә туры килгән WordPress REST API сорауларын тотып ала торган apiFetch арадаш катламын урнаштыра. Серверга loopback HTTP соравы ясау урынына, бу сораулар SharedWorker эчендә эшләүче локаль WebLLM брокерына турыдан-туры юнәлтелә.

Бу стандарт WordPress apiFetch API кулланып AI endpoint-ларына мөрәҗәгать итүче плагиннар һәм темалар, ул мөмкин булганда, код үзгәртүләрен таләп итмичә браузер ягындагы модельдән автоматик файда алачак дигәнне аңлата.

Hooks һәм Filters​

Filters​

  • wpai_preferred_text_models — WebLLM браузер механизмын өстенлекле текст моделе буларак теркәгез. Өстәмә, механизм көйләнгән һәм мөмкин булганда, бу фильтрга автоматик рәвештә тоташа.
  • ultimate_webllm_widget_enabled — Билгеле бер кулланучы яки контекст өчен виджетның кушылган халәтен үзгәртеп билгеләгез. true яки false кайтарыгыз.
  • ultimate_webllm_auto_prompt — Авто-prompt текстын виджетка җибәрелгәнче үзгәртегез. Prompt юлын һәм хәзерге WP_Post объектын кабул итә.

Төзексезлекләрне чишү​

Чат виджеты күренми​

  • Кулланучының системага кергәнен раслагыз — виджет бары тик расланган кулланучыларга гына күрсәтелә
  • Connector панелендә Йөзеп йөрүче чат виджетын кушу күчергеченең кабызылганын тикшерегез
  • Кулланучының браузеры WebGPU-ны хуплавын тикшерегез (өстәге Таләпләрне карагыз)

Admin-bar күрсәткече "Хата" дип күрсәтә​

Браузерның эшләүче консолен (F12) ачыгыз һәм WebLLM белән бәйле хаталарны эзләгез. Еш очрый торган сәбәпләр:

  • Браузер WebGPU-ны хупламый
  • Модель авырлыкларын йөкләү уңышсыз булды — челтәр тоташуын тикшерегез һәм браузер эшләүче коралларында IndexedDB кэшын чистартып карагыз (Application → IndexedDB)
  • Браузер киңәйтелмәсе SharedWorker-ны блоклый

Модель авырлыклары һәрвакыт йөкләнә​

Өстәмә, модель авырлыклары CDN юнәлтүләреннән соң да саклансын өчен, кэш бэкэнды буларак IndexedDB куллана. Әгәр авырлыклар һәр кергән саен яңадан йөкләнсә, IndexedDB браузерның хосусыйлык көйләнеше яки киңәйтелмәсе тарафыннан чистартылмавын тикшерегез.

Үзгәрешләр журналы​

Тулы версия тарихы өчен Үзгәрешләр журналын карагыз.