Skip to main content
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM иҷрои AI-ро мустақиман дар браузер ба шабакаи WordPress multisite-и шумо меорад. Он моделҳои бузурги забониро пурра дар браузер бо истифода аз WebLLM ва муҳаррики MLC иҷро мекунад — бе API key, бе дархостҳои беруна, бе берун шудани маълумот аз дастгоҳи корбар.

Хусусиятҳои асосӣ​

  • Иҷро дар тарафи браузер: LLM тавассути WebLLM/MLC ба таври маҳаллӣ дар браузери меҳмон иҷро мешавад — GPU-и сервер лозим нест
  • Виджети шинокунандаи чат: Корбарони воридшуда метавонанд ба LLM-и тарафи браузер мустақиман аз front end дархост фиристанд
  • Нишондиҳандаи ҳолат дар admin bar: Ҳолати вақти воқеии муҳаррики WebLLM дар WordPress admin bar намоён аст
  • Муҳити иҷрои SharedWorker: Якчанд ҷадвали браузер ба ҷойи рақобат барои захираҳои GPU як session-и GPU-ро муштарак истифода мебаранд
  • Миёнарави apiFetch: Дархостҳои WordPress REST, ки ба намунаи AI Client SDK мувофиқат мекунанд, ба таври шаффоф ба broker-и маҳаллии WebLLM равона мешаванд — бе гардиши HTTP loopback
  • UI-и танзимоти виджет: Танзимоти панели Connector барои фаъол ё хомӯш кардани виджети чат ва танзими рафтори auto-prompt
  • Кэши IndexedDB: Боргириҳои вазнҳои модел аз CDN redirect-ҳое, ки масири пешфарзи Cache API-ро мешикананд, нигоҳ дошта мешаванд
  • Ҳамгироии филтри wpai: Ба филтри wpai_preferred_text_models пайваст мешавад, то хусусияти AI Experiments ҳангоми танзим шудан ба муҳаррики браузер равона шавад

Талабот​

  • WordPress 5.3 ё болотар
  • PHP 7.4 ё болотар
  • Ultimate Multisite plugin (фаъол)
  • Браузер бо дастгирии WebGPU (Chrome 113+, Edge 113+, ё Firefox Nightly бо WebGPU фаъол)

Насбкунӣ​

  1. Файлҳои addon-ро ба директорияи /wp-content/plugins/-и худ боргузорӣ кунед
  2. Plugin-ро тавассути менюи 'Plugins' дар WordPress фаъол кунед
  3. Барои танзими addon ба Ultimate Multisite → AI Connector гузаред

Виджети шинокунандаи чат​

Виджети шинокунандаи чат ба ҳар корбари воридшуда имкон медиҳад, ки мустақиман аз front end-и шумо бо LLM-и тарафи браузер ҳамкорӣ кунад, бе тарк кардани саҳифае, ки дар он қарор дорад.

Он чӣ кор мекунад​

Ҳангоми фаъол будан, барои корбарони воридшуда дар кунҷи ҳар саҳифаи front-end нишонаи чат пайдо мешавад. Бо пахш кардани нишона панели чат кушода мешавад, ки дар он корбар метавонад prompt нависад ва аз модели WebLLM, ки ба таври маҳаллӣ иҷро мешавад, ҷавоб гирад. Азбаски модел пурра дар браузер иҷро мешавад, ҷавобҳо хусусӣ мебошанд ва ҳеҷ гуна коркарди тарафи серверро дар бар намегиранд.

Нишондиҳандаи ҳолат дар Admin-Bar​

WordPress admin bar нишондиҳандаи ҳолатро дар бар мегирад, ки вазъи ҷории муҳаррики WebLLM-ро нишон медиҳад:

ҲолатМаъно
Бор шуда истодаастМуҳаррики MLC оғоз меёбад ё вазнҳои моделро боргирӣ мекунад
ОмодаМодел бор шудааст ва барои inference дастрас аст
БекорМуҳаррик бор шудааст, аммо ҷадвали SharedWorker фаъол нест
ХатоМуҳаррик оғоз шуда натавонист — барои ҷузъиёт console-и браузерро санҷед

Нишондиҳанда дар вақти воқеӣ бе ниёз ба азнавборкунии саҳифа навсозӣ мешавад.

Чӣ тавр виджетро фаъол ё хомӯш кардан мумкин аст​

  1. Дар network admin ба Ultimate Multisite → AI Connector гузаред
  2. Панели Connector-ро пайдо кунед
  3. Enable floating chat widget-ро фаъол ё хомӯш кунед
  4. Танзимотро захира кунед

Виджет инчунин метавонад барои ҳар сайт аз admin-и худи сайт фаъол ё хомӯш карда шавад, агар маъмури шабака ин қобилиятро дода бошад.

Танзимоти виджет​

Панели Connector дар Ultimate Multisite → AI Connector танзимоти зеринро барои виджети шинокунандаи чат дар бар мегирад:

Фаъол кардани виджети шинокунандаи чат​

Виджети чатро барои тамоми шабака фаъол ё хомӯш мекунад. Ҳангоми хомӯш будан, виджет дар ҳеҷ саҳифаи front-end, новобаста аз нақши корбар, пайдо намешавад.

Пешфарз: Хомӯш

Рафтори Auto-Prompt​

Назорат мекунад, ки оё виджети чат ҳангоми кушодани он аз ҷониби корбар prompt-ро ба таври худкор мефиристад ё не.

ИмконотРафтор
ХомӯшВиджет бо чати холӣ кушода мешавад — корбар prompt-и худро менависад
Контексти саҳифаВиджет бо prompt-и пешакӣ пуршуда дар асоси сарлавҳа ва мундариҷаи саҳифаи ҷорӣ кушода мешавад
Prompt-и фармоишӣВиджет бо prompt-и фармоишие, ки шумо дар майдони поён муайян мекунед, кушода мешавад

Ҳангоми гузоштан ба Prompt-и фармоишӣ, майдони матни иловагӣ пайдо мешавад, ки дар он шумо метавонед матни prompt-и пешфарзро ворид кунед. Тағйирёбандаҳои асосии қолабро дастгирӣ мекунад:

  • {site_name} — номи сайти ҷорӣ
  • {page_title} — сарлавҳаи саҳифаи ҷорӣ
  • {user_display_name} — номи намоишии корбари воридшуда

Пешфарз: Хомӯш

Муҳити иҷрои SharedWorker​

Версияи 1.1.0 муҳити иҷрои SharedWorker-ро барои муҳаррики MLC муаррифӣ мекунад. Пештар, ҳар ҷадвали браузер, ки WebLLM-ро истифода мебурд, instance-и худро аз модел бор мекард, барои хотираи GPU рақобат мекард ва дар дастгоҳҳои дорои VRAM-и маҳдуд мушкилоти иҷроиш ба вуҷуд меовард.

Бо муҳити иҷрои SharedWorker, як ҷадвал ҳамчун host-и муҳаррик амал мекунад. Ҳама ҷадвалҳои дигар бо ҳамон instance-и ягона тавассути канали паёмҳои worker иртибот мекунанд. Натиҷа:

  • Як session-и GPU, ки байни ҳамаи ҷадвалҳои кушода муштарак аст
  • Ҷавобҳои тезтар пас аз бор шудани модел (бе оғозкунии такрорӣ)
  • Истифодаи камтари хотираи қуллавӣ дар дастгоҳ

SharedWorker барои корбарон шаффоф аст. Нишондиҳандаи ҳолат дар admin bar ҳамеша ҳолати муҳаррики муштаракро инъикос мекунад, на ҷадвали алоҳидаро.

Миёнарави apiFetch​

Addon миёнарави apiFetch-ро насб мекунад, ки дархостҳои WordPress REST API-ро, ки ба намунаи AI Client SDK мувофиқат мекунанд, бозмедорад. Ба ҷойи иҷрои дархости HTTP loopback ба сервер, ин дархостҳо мустақиман ба broker-и маҳаллии WebLLM, ки дар SharedWorker иҷро мешавад, равона карда мешаванд.

Ин маънои онро дорад, ки plugin-ҳо ва theme-ҳое, ки WordPress apiFetch API-и стандартиро барои даъват кардани endpoint-ҳои AI истифода мебаранд, ҳангоми дастрас будани модели тарафи браузер ба таври худкор аз он баҳра мебаранд, бе ниёз ба тағйири code.

Hook-ҳо ва филтрҳо​

Филтрҳо​

  • wpai_preferred_text_models — WebLLM browser engine-ро ҳамчун модели матнии афзалиятнок сабт мекунад. Addon вақте ки engine танзим ва дастрас аст, ба ин filter ба таври худкор пайваст мешавад.
  • ultimate_webllm_widget_enabled — Ҳолати фаъол будани widget-ро барои корбар ё контексти мушаххас бознависӣ мекунад. true ё false баргардонед.
  • ultimate_webllm_auto_prompt — Матни auto-prompt-ро пеш аз фиристода шудан ба widget тағйир медиҳад. Сатри prompt ва объекти ҷории WP_Post-ро қабул мекунад.

Бартарафсозии мушкилот​

Widget-и chat пайдо намешавад​

  • Тасдиқ кунед, ки корбар ворид шудааст — widget танҳо ба корбарони тасдиқшуда нишон дода мешавад
  • Санҷед, ки Фаъол кардани widget-и chat-и шинокунанда дар панели Connector фаъол карда шудааст
  • Боварӣ ҳосил кунед, ки браузери корбар WebGPU-ро дастгирӣ мекунад (нигаред ба Талабот дар боло)

Нишондиҳандаи admin-bar "Error" нишон медиҳад​

Консоли таҳиягари браузерро кушоед (F12) ва хатогиҳои марбут ба WebLLM-ро ҷустуҷӯ кунед. Сабабҳои маъмул:

  • Браузер WebGPU-ро дастгирӣ намекунад
  • Боргирии model weights ноком шуд — пайвастшавии шабакаро санҷед ва кӯшиш кунед cache-и IndexedDB-ро дар абзорҳои таҳиягари браузер тоза кунед (Application → IndexedDB)
  • Browser extension SharedWorker-ро масдуд мекунад

Model weights ҳар дафъа боргирӣ мешаванд​

Addon IndexedDB-ро ҳамчун cache backend истифода мебарад, то model weights пас аз CDN redirects низ нигоҳ дошта шаванд. Агар weights дар ҳар боздид аз нав боргирӣ шаванд, санҷед, ки IndexedDB аз ҷониби танзими махфияти браузер ё extension тоза карда намешавад.

Таърихи тағйирот​

Барои таърихи пурраи version ба Таърихи тағйирот нигаред.