Skip to main content
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM нь хөтөчид суурилсан AI дүгнэлт боловсруулалтыг таны WordPress олон сайтын сүлжээнд авчирна. Энэ нь WebLLM болон MLC хөдөлгүүрийг ашиглан том хэлний загваруудыг бүхэлд нь хөтөч дотор ажиллуулдаг — API түлхүүргүй, гаднын дуудлагагүй, хэрэглэгчийн төхөөрөмжөөс өгөгдөл гарахгүй.

Гол боломжууд​

  • Хөтөч талын дүгнэлт боловсруулалт: LLM нь WebLLM/MLC-ээр дамжин зочны хөтөчид локалаар ажиллана — серверийн GPU шаардлагагүй
  • Хөвөгч чат виджет: Нэвтэрсэн хэрэглэгчид урд талаас хөтөч талын LLM-д шууд prompt илгээж болно
  • Admin-bar төлөвийн заагч: WebLLM хөдөлгүүрийн бодит цагийн төлөв WordPress admin bar дээр харагдана
  • SharedWorker ажиллах орчин: Олон хөтөчийн таб GPU нөөцийн төлөө өрсөлдөхийн оронд нэг GPU session хуваалцана
  • apiFetch middleware: AI Client SDK хэв загварт тохирох WordPress REST хүсэлтүүдийг локал WebLLM broker руу ил тод чиглүүлнэ — loopback HTTP буцах аялалгүй
  • Виджетийн тохиргооны UI: Чат виджетийг асааж/унтраах болон auto-prompt үйлдлийг тохируулах Connector самбарын тохиргоо
  • IndexedDB кэш: Загварын жингийн таталтууд анхдагч Cache API замыг эвддэг CDN чиглүүлэлтийг даван хадгалагдана
  • wpai filter нэгтгэл: wpai_preferred_text_models filter-тэй холбогдож, тохируулсан үед AI Experiments боломжийг хөтөчийн хөдөлгүүр рүү чиглүүлнэ

Шаардлагууд​

  • WordPress 5.3 эсвэл түүнээс дээш
  • PHP 7.4 эсвэл түүнээс дээш
  • Ultimate Multisite plugin (идэвхтэй)
  • WebGPU дэмждэг хөтөч (Chrome 113+, Edge 113+, эсвэл WebGPU идэвхжүүлсэн Firefox Nightly)

Суулгалт​

  1. Addon файлуудыг /wp-content/plugins/ директортоо байршуулна
  2. WordPress доторх 'Плагинууд' цэсээр plugin-ийг идэвхжүүлнэ
  3. Addon-ийг тохируулахын тулд Ultimate Multisite → AI Connector руу очно

Хөвөгч чат виджет​

Хөвөгч чат виджет нь нэвтэрсэн аливаа хэрэглэгчид өөрийн байгаа хуудсаас гаралгүйгээр урд талаас хөтөч талын LLM-тэй шууд харилцах боломж олгоно.

Энэ юу хийдэг вэ​

Идэвхжүүлсэн үед нэвтэрсэн хэрэглэгчдэд зориулан урд талын хуудас бүрийн буланд чат дүрс гарч ирнэ. Дүрс дээр дарахад хэрэглэгч prompt бичиж, локалаар ажиллаж буй WebLLM загвараас хариу авах боломжтой чат самбар нээгдэнэ. Загвар бүхэлдээ хөтөч дотор ажилладаг тул хариунууд хувийн хэвээр байх бөгөөд сервер талын боловсруулалт огт оролцохгүй.

Admin-Bar төлөвийн заагч​

WordPress admin bar нь WebLLM хөдөлгүүрийн одоогийн төлөвийг харуулдаг төлөвийн заагч агуулна:

ТөлөвУтга
Ачаалж байнаMLC хөдөлгүүр эхэлж байна эсвэл загварын жингүүдийг татаж байна
БэлэнЗагвар ачаалагдсан бөгөөд дүгнэлт боловсруулалтад ашиглах боломжтой
Сул зогсолтХөдөлгүүр ачаалагдсан боловч SharedWorker таб идэвхтэй биш байна
АлдааХөдөлгүүр эхэлж чадсангүй — дэлгэрэнгүйг хөтөчийн console-оос шалгана уу

Заагч нь хуудсыг дахин ачаалах шаардлагагүйгээр бодит цагт шинэчлэгдэнэ.

Виджетийг хэрхэн идэвхжүүлэх эсвэл идэвхгүй болгох вэ​

  1. Сүлжээний админ хэсэгт Ultimate Multisite → AI Connector руу очно
  2. Connector самбарыг олно
  3. Хөвөгч чат виджетийг идэвхжүүлэх-ийг асаах эсвэл унтраана
  4. Тохиргоог хадгална

Хэрэв сүлжээний администратор тухайн эрхийг олгосон бол виджетийг сайт бүрийн өөрийн админ хэсгээс мөн идэвхжүүлж эсвэл идэвхгүй болгож болно.

Виджетийн тохиргоо​

Ultimate Multisite → AI Connector доторх Connector самбар нь хөвөгч чат виджетэд зориулсан дараах тохиргоонуудыг агуулна:

Хөвөгч чат виджетийг идэвхжүүлэх​

Чат виджетийг бүх сүлжээнд асааж эсвэл унтраана. Идэвхгүй үед хэрэглэгчийн үүргээс үл хамааран виджет ямар ч урд талын хуудсан дээр харагдахгүй.

Анхдагч: Унтраалттай

Auto-Prompt үйлдэл​

Хэрэглэгч чат виджетийг нээх үед виджет prompt-ийг автоматаар илгээх эсэхийг удирдана.

СонголтҮйлдэл
ИдэвхгүйВиджет хоосон чатаар нээгдэнэ — хэрэглэгч өөрийн prompt-ийг бичнэ
Хуудасны контекстВиджет одоогийн хуудасны гарчиг болон агуулгад үндэслэн урьдчилан бөглөсөн prompt-той нээгдэнэ
Захиалгат promptВиджет доорх талбарт таны тодорхойлсон захиалгат prompt-той нээгдэнэ

Захиалгат prompt гэж тохируулсан үед анхдагч prompt текстийг оруулах боломжтой нэмэлт текст талбар гарч ирнэ. Суурь загварын хувьсагчдыг дэмжинэ:

  • {site_name} — одоогийн сайтын нэр
  • {page_title} — одоогийн хуудасны гарчиг
  • {user_display_name} — нэвтэрсэн хэрэглэгчийн харагдах нэр

Анхдагч: Идэвхгүй

SharedWorker ажиллах орчин​

1.1.0 хувилбар нь MLC хөдөлгүүрт зориулсан SharedWorker ажиллах орчныг танилцуулж байна. Өмнө нь WebLLM ашигласан хөтөчийн таб бүр загварын өөрийн хувилбарыг ачаалж, GPU санах ойн төлөө өрсөлдөн, VRAM хязгаарлагдмал төхөөрөмжүүд дээр гүйцэтгэлийн асуудал үүсгэдэг байсан.

SharedWorker ажиллах орчны тусламжтайгаар нэг таб хөдөлгүүрийн host болж ажиллана. Бусад бүх таб worker-ийн мессежийн сувгаар тэр ганц хувилбартай харилцана. Үр дүн нь:

  • Нээлттэй бүх табын хооронд нэг GPU session хуваалцана
  • Загвар ачаалагдсаны дараа илүү хурдан хариу өгнө (давтан эхлүүлэхгүй)
  • Төхөөрөмж дээрх оргил санах ойн хэрэглээ багасна

SharedWorker нь хэрэглэгчдэд ил тод ажиллана. Admin-bar төлөвийн заагч нь тусдаа табын бус, үргэлж хуваалцсан хөдөлгүүрийн төлөвийг тусгана.

apiFetch Middleware​

Addon нь AI Client SDK хэв загварт тохирох WordPress REST API хүсэлтүүдийг таслан авах apiFetch middleware суулгана. Сервер рүү loopback HTTP хүсэлт хийхийн оронд эдгээр хүсэлтүүдийг SharedWorker дотор ажиллаж буй локал WebLLM broker руу шууд чиглүүлнэ.

Энэ нь стандарт WordPress apiFetch API-г ашиглан AI endpoint-уудыг дууддаг plugin-ууд болон theme-үүд боломжтой үед хөтөч талын загвараас автоматаар ашиг хүртэнэ гэсэн үг бөгөөд кодын өөрчлөлт шаардлагагүй.

Hook-ууд ба Filter-үүд​

Filter-үүд​

  • wpai_preferred_text_models — WebLLM browser engine-ийг илүүд үзэх текст загвар болгон бүртгэнэ. Энэ addon нь engine тохируулагдаж, ашиглах боломжтой үед энэ filter-д автоматаар холбогдоно.
  • ultimate_webllm_widget_enabled — Тодорхой хэрэглэгч эсвэл нөхцөлд widget идэвхжсэн төлөвийг дарж өөрчилнө. true эсвэл false буцаана.
  • ultimate_webllm_auto_prompt — auto-prompt текстийг widget рүү илгээхээс өмнө өөрчилнө. Prompt мөр болон одоогийн WP_Post объектыг хүлээн авна.

Алдаа засварлах​

Чат widget харагдахгүй байна​

  • Хэрэглэгч нэвтэрсэн эсэхийг баталгаажуулна уу — widget зөвхөн баталгаажсан хэрэглэгчдэд харагдана
  • Connector самбарт Enable floating chat widget асаалттай эсэхийг шалгана уу
  • Хэрэглэгчийн browser WebGPU-г дэмждэг эсэхийг баталгаажуулна уу (дээрх Шаардлагуудыг үзнэ үү)

admin-bar заагч "Error" гэж харуулж байна​

Browser developer console (F12)-ийг нээгээд WebLLM-тэй холбоотой алдаануудыг хайна уу. Түгээмэл шалтгаанууд:

  • Browser WebGPU-г дэмждэггүй
  • Загварын жинг татаж чадсангүй — сүлжээний холболтыг шалгаад browser developer tools дотор IndexedDB кэшийг цэвэрлэж үзнэ үү (Application → IndexedDB)
  • Browser extension нь SharedWorker-г хориглож байна

Загварын жин бүр удаа татагдаж байна​

Энэ addon нь CDN чиглүүлэлтүүдийн дараа загварын жин хадгалагдаж үлдэхийг хангахын тулд IndexedDB-г кэш backend болгон ашигладаг. Хэрэв жин нь зочлох бүрд дахин татагдаж байвал IndexedDB-г browser privacy тохиргоо эсвэл extension цэвэрлэж байгаа эсэхийг шалгана уу.

Өөрчлөлтийн бүртгэл​

Бүрэн хувилбарын түүхийг Өөрчлөлтийн бүртгэл-ээс үзнэ үү.