Esasy mazmuna geç
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM, WordPress multisite toruňyza brauzer-ýerli AI netijelemesini getirýär. Ol uly dil modellerini WebLLM we MLC engine arkaly dolulygyna brauzerde işledýär — API açarlary ýok, daşarky çagyryşlar ýok, maglumat ulanyjynyň enjamyndan çykmaýar.

Esasy aýratynlyklar​

  • Brauzer tarapyndaky netijeleme: LLM WebLLM/MLC arkaly myhmanyň brauzerinde ýerli işleýär — serwer GPU talap edilmeýär
  • Ýüzýän chat widget: Ulgama giren ulanyjylar front end-den göni brauzer tarapyndaky LLM-e prompt iberip bilýärler
  • Admin-bar ýagdaý görkezijisi: WebLLM engine-iň hakyky wagt ýagdaýy WordPress admin bar-da görünýär
  • SharedWorker iş wagty: Birnäçe brauzer tab-y GPU serişdeleri ugrunda göreşmegiň ýerine bir GPU sessiýasyny paýlaşýar
  • apiFetch middleware: AI Client SDK nusgasyna gabat gelýän WordPress REST haýyşlary ýerli WebLLM broker-e aç-açan ugrukdyrylýar — loopback HTTP aýlaw sapary ýok
  • Widget sazlamalary UI: Chat widget-i açyp-ýapmak we auto-prompt özüni alyp barşyny sazlamak üçin Connector panel sazlamalary
  • IndexedDB cache: Model agramlarynyň ýüklemeleri deslapky Cache API ýoluny bozýan CDN ugrukdyrmalaryndan soň hem saklanýar
  • wpai filter integrasiýasy: wpai_preferred_text_models filter-ine birikýär, şonuň üçin AI Experiments aýratynlygy sazlananda brauzer engine-ine ugrukdyrylýar

Talaplar​

  • WordPress 5.3 ýa-da has ýokary
  • PHP 7.4 ýa-da has ýokary
  • Ultimate Multisite plugin (işjeň)
  • WebGPU goldawly brauzer (Chrome 113+, Edge 113+, ýa-da WebGPU açyk bolan Firefox Nightly)

Gurnama​

  1. Addon faýllaryny /wp-content/plugins/ katalogyňyza ýükläň
  2. WordPress-de 'Plugins' menýusy arkaly plugin-i işjeňleşdiriň
  3. Addon-y sazlamak üçin Ultimate Multisite → AI Connector sahypasyna geçiň

Ýüzýän Chat Widget​

Ýüzýän chat widget ulgama giren islendik ulanyja, duran sahypasyndan çykmazdan, front end-den göni brauzer tarapyndaky LLM bilen aragatnaşyk saklamaga mümkinçilik berýär.

Näme Edýär​

Işledilende, ulgama giren ulanyjylar üçin her front-end sahypanyň burçunda chat nyşany peýda bolýar. Nyşana basylanda, ulanyjynyň prompt ýazyp we ýerli işleýän WebLLM modelinden jogap alyp bilýän chat paneli açylýar. Model dolulygyna brauzerde işleýändigi sebäpli, jogaplar şahsy bolup, hiç hili serwer tarapyndaky işleme gatnaşmaýar.

Admin-Bar Ýagdaý Görkezijisi​

WordPress admin bar WebLLM engine-iň häzirki ýagdaýyny görkezýän ýagdaý görkezijisini öz içine alýar:

ÝagdaýManysy
ÝüklenýärMLC engine işe girizilýär ýa-da model agramlaryny ýükleýär
TaýýarModel ýüklenildi we netijeleme üçin elýeterli
BoşEngine ýüklenildi, emma SharedWorker tab işjeň däl
ÝalňyşlykEngine işe girizilip bilmedi — jikme-jiklikler üçin brauzer konsolyny barlaň

Görkeziji sahypany täzeden ýüklemegi talap etmezden hakyky wagtda täzelenýär.

Widget-i Nädip Işletmeli ýa-da Öçürmeli​

  1. Network admin-de Ultimate Multisite → AI Connector sahypasyna gidiň
  2. Connector panelini tapyň
  3. Ýüzýän chat widget-i işlet sazlamasyny açyň ýa-da ýapyň
  4. Sazlamalary saklaň

Eger network administratory şol mümkinçiligi beren bolsa, widget her site-iň öz admin-inden hem site boýunça işledilip ýa-da öçürilip bilner.

Widget Sazlamalary​

Ultimate Multisite → AI Connector içindäki Connector paneli ýüzýän chat widget üçin aşakdaky sazlamalary öz içine alýar:

Ýüzýän Chat Widget-i Işlet​

Chat widget-i tutuş network üçin açýar ýa-da ýapýar. Öçürilende, ulanyjy roluna garamazdan widget hiç bir front-end sahypada görünmeýär.

Deslapky: Öçük

Auto-Prompt Özüni Alşynyň Görnüşi​

Chat widget ulanyjy ony açanda awtomatik prompt iberip-ibermejekdigini dolandyrýar.

SaýlawÖzüni alyp barşy
ÖçürilenWidget boş chat bilen açylýar — ulanyjy öz prompt-yny ýazýar
Sahypa kontekstiWidget häzirki sahypanyň adyna we mazmunyna esaslanyp öňünden doldurylan prompt bilen açylýar
Custom promptWidget aşakdaky meýdanda kesgitleýän custom prompt-yňyz bilen açylýar

Custom prompt edilip sazlananda, deslapky prompt tekstini girizip bolýan goşmaça tekst meýdany peýda bolýar. Esasy template üýtgeýänlerini goldaýar:

  • {site_name} — häzirki site-iň ady
  • {page_title} — häzirki sahypanyň ady
  • {user_display_name} — ulgama giren ulanyjynyň görkezilýän ady

Deslapky: Öçürilen

SharedWorker Iş Wagty​

1.1.0 wersiýasy MLC engine üçin SharedWorker iş wagtyny girizýär. Ozal WebLLM ulanýan her brauzer tab-y modeliň öz aýratyn nusgasyny ýükleýärdi, GPU ýady üçin bäsleşýärdi we VRAM çäkli enjamlarda öndürijilik meselelerine sebäp bolýardy.

SharedWorker iş wagty bilen, bir tab engine host hökmünde hereket edýär. Beýleki ähli tab-lar worker-iň habar kanaly arkaly şol ýeke-täk nusga bilen aragatnaşyk saklaýar. Netije:

  • Ähli açyk tab-lar boýunça paýlaşylýan bir GPU sessiýasy
  • Model ýüklenenden soň has çalt jogaplar (gaýtalanýan işe girizme ýok)
  • Enjamda iň ýokary ýat ulanylyşynyň peselmegi

SharedWorker ulanyjylar üçin aç-açandyr. Admin-bar ýagdaý görkezijisi aýratyn tab-yň däl-de, hemişe paýlaşylan engine-iň ýagdaýyny görkezýär.

apiFetch Middleware​

Addon AI Client SDK nusgasyna gabat gelýän WordPress REST API haýyşlaryny tutup alýan apiFetch middleware gurnaýar. Serwere loopback HTTP haýyşyny etmekmegiň ýerine, bu haýyşlar göni SharedWorker-de işleýän ýerli WebLLM broker-e ugrukdyrylýar.

Bu, standart WordPress apiFetch API-ni ulanyp AI endpoint-lerine jaň edýän plugin-ler we theme-ler model elýeterli bolanda, hiç hili code üýtgetmeleri talap edilmezden, awtomatik ýagdaýda brauzer tarapyndaky modelden peýdalanjakdygyny aňladýar.

Hooks we Filters​

Filters​

  • wpai_preferred_text_models — WebLLM brauzer hereketlendirijisini ileri tutulýan tekst modeli hökmünde bellige alyň. Addon hereketlendiriji sazlanan we elýeterli bolanda bu filtre awtomatik birikýär.
  • ultimate_webllm_widget_enabled — Belli bir ulanyjy ýa-da kontekst üçin widgetiň işledilen ýagdaýyny üýtgediň. true ýa-da false gaýtaryň.
  • ultimate_webllm_auto_prompt — Widgete iberilmezden öň auto-prompt tekstini üýtgediň. Prompt setirini we häzirki WP_Post obýektini kabul edýär.

Näsazlyklary düzetmek​

Çat widgeti görünmeýär​

  • Ulanyjynyň ulgama girendigini tassyklaň — widget diňe tassyklanan ulanyjylara görkezilýär
  • Connector panelinde Enable floating chat widget açarynyň açykdygyny barlaň
  • Ulanyjynyň brauzeriniň WebGPU-ny goldaýandygyny barlaň (ýokardaky Talaplara serediň)

Admin-bar görkezijisi "Error" görkezýär​

Brauzeriň developer konsolyny açyň (F12) we WebLLM bilen bagly ýalňyşlyklary gözläň. Köp duş gelýän sebäpler:

  • Brauzer WebGPU-ny goldamaýar
  • Model weight göçürip almak başa barmady — tor baglanyşygyny barlaň we brauzer developer gurallarynda IndexedDB keşini arassalap görüň (Application → IndexedDB)
  • Brauzer giňeltmesi SharedWorker-i bloklaýar

Model weights her gezek göçürip alynýar​

Addon model weights-iň CDN ugrukdyrmalaryndan soň hem saklanmagyny üpjün etmek üçin keş backend hökmünde IndexedDB ulanýar. Eger weights her sapar sahypa girilende täzeden göçürilip alynýan bolsa, IndexedDB-iň brauzer gizlinlik sazlamasy ýa-da giňeltme tarapyndan arassalanmaýandygyny barlaň.

Üýtgeşmeler žurnaly​

Doly wersiýa taryhy üçin Üýtgeşmeler žurnaly serediň.