Ultimate AI Connector for WebLLM
Mae Ultimate AI Connector for WebLLM yn dod â chasgliad AI brodorol i’r porwr i’ch rhwydwaith WordPress aml-safle. Mae’n rhedeg modelau iaith mawr yn gyfan gwbl yn y porwr gan ddefnyddio WebLLM a’r injan MLC — dim API keys, dim galwadau allanol, dim data’n gadael dyfais y defnyddiwr.
Nodweddion Allweddol
- Casgliad ar ochr y porwr: Mae LLM yn rhedeg yn lleol ym mhorwr yr ymwelydd drwy WebLLM/MLC — dim angen GPU gweinydd
- Teclyn sgwrsio arnofiol: Gall defnyddwyr sydd wedi mewngofnodi anfon prompt at yr LLM ar ochr y porwr yn uniongyrchol o’r pen blaen
- Dangosydd statws yn y bar gweinyddu: Statws amser real yr injan WebLLM yn weladwy yn y bar gweinyddu WordPress
- Amser rhedeg SharedWorker: Mae tabiau porwr lluosog yn rhannu un sesiwn GPU yn lle cystadlu am adnoddau GPU
- Meddalwedd ganol apiFetch: Mae ceisiadau WordPress REST sy’n cyfateb i batrwm AI Client SDK yn cael eu llwybro’n dryloyw i’r brocer WebLLM lleol — dim taith HTTP loopback
- UI gosodiadau teclyn: Gosodiadau panel cysylltydd i droi’r teclyn sgwrsio ymlaen neu i ffwrdd a ffurfweddu ymddygiad auto-prompt
- Storfa IndexedDB: Mae lawrlwythiadau pwysau model yn goroesi ailgyfeiriadau CDN sy’n torri llwybr diofyn Cache API
- Integreiddiad hidlydd wpai: Yn cysylltu â’r hidlydd
wpai_preferred_text_modelsfel bod y nodwedd AI Experiments yn llwybro i injan y porwr pan gaiff ei ffurfweddu
Gofynion
- WordPress 5.3 neu uwch
- PHP 7.4 neu uwch
- plugin Ultimate Multisite (gweithredol)
- Porwr â chefnogaeth WebGPU (Chrome 113+, Edge 113+, neu Firefox Nightly gyda WebGPU wedi’i alluogi)
Gosod
- Llwythwch ffeiliau’r addon i’ch cyfeiriadur
/wp-content/plugins/ - Actifadu’r plugin drwy’r ddewislen 'Plugins' yn WordPress
- Ewch i Ultimate Multisite → AI Connector i ffurfweddu’r addon
Teclyn Sgwrsio Arnofiol
Mae’r teclyn sgwrsio arnofiol yn caniatáu i unrhyw ddefnyddiwr sydd wedi mewngofnodi ryngweithio â’r LLM ar ochr y porwr yn uniongyrchol o’ch pen blaen, heb adael y dudalen y maent arni.
Beth Mae’n Ei Wneud
Pan fydd wedi’i alluogi, mae eicon sgwrsio yn ymddangos yng nghornel pob tudalen pen blaen ar gyfer defnyddwyr sydd wedi mewngofnodi. Mae clicio’r eicon yn agor panel sgwrsio lle gall y defnyddiwr deipio prompts a derbyn ymatebion gan y model WebLLM sy’n rhedeg yn lleol. Gan fod y model yn rhedeg yn gyfan gwbl yn y porwr, mae ymatebion yn breifat ac nid ydynt yn cynnwys unrhyw brosesu ar ochr y gweinydd.
Dangosydd Statws yn y Bar Gweinyddu
Mae bar gweinyddu WordPress yn cynnwys dangosydd statws sy’n dangos cyflwr presennol yr injan WebLLM:
| Statws | Ystyr |
|---|---|
| Yn llwytho | Mae’r injan MLC yn ymgychwyn neu’n lawrlwytho pwysau model |
| Yn barod | Mae’r model wedi’i lwytho ac ar gael ar gyfer casgliad |
| Segur | Mae’r injan wedi’i llwytho ond nid yw’r tab SharedWorker yn weithredol |
| Gwall | Methodd yr injan ag ymgychwyn — gwiriwch gonsol y porwr am fanylion |
Mae’r dangosydd yn diweddaru mewn amser real heb fod angen ail-lwytho’r dudalen.
Sut i Alluogi neu Analluogi’r Teclyn
- Ewch i Ultimate Multisite → AI Connector yn y gweinyddwr rhwydwaith
- Dewch o hyd i’r panel Connector
- Trowch Galluogi teclyn sgwrsio arnofiol ymlaen neu i ffwrdd
- Cadwch y gosodiadau
Gellir hefyd alluogi neu analluogi’r teclyn fesul safle o weinyddwr y safle ei hun os yw gweinyddwr y rhwydwaith wedi rhoi’r gallu hwnnw.
Gosodiadau Teclyn
Mae’r panel Connector yn Ultimate Multisite → AI Connector yn cynnwys y gosodiadau canlynol ar gyfer y teclyn sgwrsio arnofiol:
Galluogi Teclyn Sgwrsio Arnofiol
Yn troi’r teclyn sgwrsio ymlaen neu i ffwrdd ar gyfer y rhwydwaith cyfan. Pan fydd wedi’i analluogi, nid yw’r teclyn yn ymddangos ar unrhyw dudalen pen blaen, waeth beth fo rôl y defnyddiwr.
Diofyn: I ffwrdd
Ymddygiad Auto-Prompt
Yn rheoli a yw’r teclyn sgwrsio yn anfon prompt yn awtomatig pan fydd defnyddiwr yn ei agor.
| Opsiwn | Ymddygiad |
|---|---|
| Analluogwyd | Mae’r teclyn yn agor i sgwrs wag — mae’r defnyddiwr yn teipio ei prompt ei hun |
| Cyd-destun tudalen | Mae’r teclyn yn agor gyda prompt wedi’i raglenwi yn seiliedig ar deitl a chynnwys y dudalen bresennol |
| Prompt personol | Mae’r teclyn yn agor gyda prompt personol rydych yn ei ddiffinio yn y maes isod |
Pan gaiff ei osod i Prompt personol, mae maes testun ychwanegol yn ymddangos lle gallwch nodi testun diofyn y prompt. Yn cefnogi newidynnau templed sylfaenol:
{site_name}— enw’r safle presennol{page_title}— teitl y dudalen bresennol{user_display_name}— enw arddangos y defnyddiwr sydd wedi mewngofnodi
Diofyn: Analluogwyd
Amser Rhedeg SharedWorker
Mae fersiwn 1.1.0 yn cyflwyno amser rhedeg SharedWorker ar gyfer yr injan MLC. Yn flaenorol, roedd pob tab porwr a ddefnyddiodd WebLLM yn llwytho ei enghraifft ei hun o’r model, gan gystadlu am gof GPU ac achosi problemau perfformiad ar ddyfeisiau â VRAM cyfyngedig.
Gyda’r amser rhedeg SharedWorker, mae un tab yn gweithredu fel gwesteiwr yr injan. Mae’r holl dabiau eraill yn cyfathrebu â’r enghraifft sengl honno drwy sianel neges y gweithiwr. Y canlyniad:
- Un sesiwn GPU wedi’i rhannu ar draws pob tab agored
- Ymatebion cyflymach unwaith y bydd y model wedi’i lwytho (dim ymgychwyn ailadroddus)
- Defnydd cof brig is ar y ddyfais
Mae’r SharedWorker yn dryloyw i ddefnyddwyr. Mae’r dangosydd statws yn y bar gweinyddu bob amser yn adlewyrchu cyflwr yr injan a rennir, nid y tab unigol.
Meddalwedd Ganol apiFetch
Mae’r addon yn gosod meddalwedd ganol apiFetch sy’n rhyng-gipio ceisiadau WordPress REST API sy’n cyfateb i batrwm AI Client SDK. Yn lle gwneud cais HTTP loopback i’r gweinydd, caiff y ceisiadau hyn eu llwybro’n uniongyrchol i’r brocer WebLLM lleol sy’n rhedeg yn y SharedWorker.
Mae hyn yn golygu y bydd plugins a themâu sy’n defnyddio API safonol WordPress apiFetch i alw endpoints AI yn elwa’n awtomatig ar y model ar ochr y porwr pan fydd ar gael, heb fod angen unrhyw newidiadau cod.
Bachau a Hidlyddion
Hidlyddion
wpai_preferred_text_models— Cofrestru injan porwr WebLLM fel model testun a ffefrir. Mae'r ategyn yn bachu i mewn i'r hidlydd hwn yn awtomatig pan fo'r injan wedi'i ffurfweddu ac ar gael.ultimate_webllm_widget_enabled— Gwrthwneud cyflwr galluogi'r teclyn ar gyfer defnyddiwr neu gyd-destun penodol. Dychwelwchtrueneufalse.ultimate_webllm_auto_prompt— Addasu testun yr awto-brompt cyn iddo gael ei anfon i'r teclyn. Mae'n derbyn llinyn y prompt a'r gwrthrychWP_Postcyfredol.
Datrys problemau
Nid yw'r teclyn sgwrsio yn ymddangos
- Cadarnhewch fod y defnyddiwr wedi mewngofnodi — dim ond i ddefnyddwyr wedi'u dilysu y dangosir y teclyn
- Gwiriwch fod Galluogi teclyn sgwrsio arnofiol wedi'i droi ymlaen yn y panel Connector
- Gwiriwch fod porwr y defnyddiwr yn cefnogi WebGPU (gweler y Gofynion uchod)
Mae dangosydd y bar gweinyddu yn dangos "Gwall"
Agorwch gonsol datblygwr y porwr (F12) a chwiliwch am wallau sy'n gysylltiedig â WebLLM. Achosion cyffredin:
- Nid yw'r porwr yn cefnogi WebGPU
- Methodd lawrlwytho pwysau'r model — gwiriwch gysylltedd rhwydwaith a cheisiwch glirio'r storfa IndexedDB yn offer datblygwr y porwr (Application → IndexedDB)
- Mae estyniad porwr yn blocio'r SharedWorker
Mae pwysau'r model yn lawrlwytho bob tro
Mae'r ategyn yn defnyddio IndexedDB fel backend y storfa i sicrhau bod pwysau'r model yn goroesi ailgyfeiriadau CDN. Os yw pwysau'n cael eu hail-lawrlwytho ar bob ymweliad, gwiriwch nad yw IndexedDB yn cael ei glirio gan osodiad preifatrwydd porwr neu estyniad.
Cofnod newidiadau
Gweler Cofnod newidiadau am hanes llawn y fersiynau.