Skip to main content
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM e tlisa ho etsa dikakanyo tsa AI ka kotloloho sebatling marangrang a hao a WordPress multisite. E tsamaisa mehlala e meholo ya puo ka botlalo sebatling e sebedisa WebLLM le enjine ya MLC — ha ho dinotlolo tsa API, ha ho mehala ya kantle, ha ho data e tswang sesebedisweng sa mosebedisi.

Dikarolo tsa Bohlokwa

  • Ho etsa dikakanyo ka lehlakoreng la sebatli: LLM e sebetsa sebakeng sa lehae sebatling sa moeti ka WebLLM/MLC — ha ho hlokahale GPU ya seva
  • Sesebediswa sa puisano se phaphametseng: Basebedisi ba keneng ba ka botsa LLM ya lehlakore la sebatli ka kotloloho ho tswa karolong e ka pele
  • Sesupo sa boemo bareng ya taolo: Boemo ba nako ya nnete ba enjine ya WebLLM bo bonahala bareng ya taolo ya WordPress
  • Nako ya tshebetso ya SharedWorker: Dithapo tse ngata tsa sebatli di arolelana seboka se le seng sa GPU ho ena le ho qothisana lehlokoa ka mehlodi ya GPU
  • Middleware ya apiFetch: Dikopo tsa WordPress REST tse tshwantshang paterone ya AI Client SDK di tsamaiswa ka ho hlaka ho broker ya lehae ya WebLLM — ha ho leeto la HTTP la loopback
  • UI ya disetting tsa sesebediswa: Disetting tsa phanele ya sehokedi ho bulela kapa ho tima sesebediswa sa puisano le ho lokisa boitshwaro ba auto-prompt
  • Cache ya IndexedDB: Dithollo tsa boima ba mohlala di pholoha diphetiso tsa CDN tse senyang tsela ya kamehla ya Cache API
  • Kopanyo ya sefe sa wpai: E hokahana le sefe sa wpai_preferred_text_models hore karolo ya AI Experiments e ise dikopo enjining ya sebatli ha e hlophisitswe

Ditlhoko

  • WordPress 5.3 kapa ho feta
  • PHP 7.4 kapa ho feta
  • Ultimate Multisite plugin (e sebetsa)
  • Sebatli se tshehetsang WebGPU (Chrome 113+, Edge 113+, kapa Firefox Nightly e nang le WebGPU e buletsweng)

Ho Kenya

  1. Kenya difaele tsa tlatsetso foldareng ya hao ya /wp-content/plugins/
  2. Kenya plugin tshebetsong ka lenane la 'Ditlatsetso' ho WordPress
  3. Eya ho Ultimate Multisite → AI Connector ho hlophisa tlatsetso

Sesebediswa sa Puisano se Phaphametseng

Sesebediswa sa puisano se phaphametseng se dumella mosebedisi ofe kapa ofe ya keneng ho buisana le LLM ya lehlakore la sebatli ka kotloloho ho tswa karolong ya hao e ka pele, ntle le ho tloha leqepheng leo a leng ho lona.

Seo se se Etsang

Ha se buletswe, letshwao la puisano le hlaha hukung ya leqephe le leng le le leng la karolo e ka pele bakeng sa basebedisi ba keneng. Ho tobetsa letshwao ho bula phanele ya puisano moo mosebedisi a ka ngolang dipotso mme a fumane dikarabo ho tswa mohlaleng wa WebLLM o sebetsang sebakeng sa lehae. Hobane mohlala o sebetsa ka botlalo sebatling, dikarabo ke tsa lekunutu mme ha di kenyeletse tshebetso efe kapa efe ya lehlakore la seva.

Sesupo sa Boemo Bareng ya Taolo

Bare ya taolo ya WordPress e kenyelletsa sesupo sa boemo se bontshang boemo ba hona jwale ba enjine ya WebLLM:

BoemoMoelelo
E a laelaEnjine ya MLC e a qalwa kapa e jarolla boima ba mohlala
E lokileMohlala o laetswe mme o fumaneha bakeng sa ho etsa dikakanyo
E emeEnjine e laetswe empa thebo ya SharedWorker ha e sebetse
PhosoEnjine e hlolehile ho qala — sheba console ya sebatli bakeng sa dintlha

Sesupo se ntjhafala ka nako ya nnete ntle le ho hloka hore leqephe le laelwe hape.

Mokgwa wa ho Bulela kapa ho Tima Sesebediswa

  1. Eya ho Ultimate Multisite → AI Connector taolong ya marangrang
  2. Fumana phanele ya Sehokedi
  3. Bulela kapa tima Bulela sesebediswa sa puisano se phaphametseng
  4. Boloka disetting

Sesebediswa se ka boela sa bulelwa kapa sa timelwa ka sebaka ka seng ho tswa taolong ya sebaka seo haeba motsamaisi wa marangrang a fane ka bokgoni boo.

Disetting tsa Sesebediswa

Phanele ya Sehokedi ho Ultimate Multisite → AI Connector e na le disetting tse latelang bakeng sa sesebediswa sa puisano se phaphametseng:

Bulela Sesebediswa sa Puisano se Phaphametseng

E bulela kapa e tima sesebediswa sa puisano bakeng sa marangrang ohle. Ha se timilwe, sesebediswa ha se hlahe leqepheng lefe kapa lefe la karolo e ka pele, ho sa tsotellehe karolo ya mosebedisi.

Ya kamehla: E timilwe

Boitshwaro ba Auto-Prompt

E laola hore na sesebediswa sa puisano se romela prompt ka boiketsetso ha mosebedisi a se bula.

KgethoBoitshwaro
E timilweSesebediswa se bula puisano e se nang letho — mosebedisi o ngola prompt ya hae
Moelelo wa leqepheSesebediswa se bula ka prompt e tlatsitsweng esale pele ho latela sehlooho le dikahare tsa leqephe la hona jwale
Prompt e ikgethilengSesebediswa se bula ka prompt e ikgethileng eo o e hlalosang lebaleng le ka tlase

Ha e setilwe ho Prompt e ikgethileng, lebala le eketsehileng la mongolo le a hlaha moo o ka kenyang mongolo wa prompt ya kamehla. E tshehetsa diphetoho tsa thempleite tsa motheo:

  • {site_name} — lebitso la sebaka sa hona jwale
  • {page_title} — sehlooho sa leqephe la hona jwale
  • {user_display_name} — lebitso la pontsho la mosebedisi ya keneng

Ya kamehla: E timilwe

Nako ya Tshebetso ya SharedWorker

Mofuta wa 1.1.0 o hlahisa nako ya tshebetso ya SharedWorker bakeng sa enjine ya MLC. Pejana, thebo ka nngwe ya sebatli e neng e sebedisa WebLLM e ne e kenya mohlala wa yona, e qothisana lehlokoa bakeng sa memori ya GPU mme e baka mathata a tshebetso disebedisweng tse nang le VRAM e lekanyeditsweng.

Ka nako ya tshebetso ya SharedWorker, thebo e le nngwe e sebetsa e le moamohedi wa enjine. Dithapo tse ding tsohle di buisana le mohlala oo o le mong ka kanale ya melaetsa ya worker. Sephetho:

  • Seboka se le seng sa GPU se arolelwang dithapong tsohle tse bulehileng
  • Dikarabo tse potlakileng hang ha mohlala o se o laetswe (ha ho qalo e pheta-phetilweng)
  • Tshebediso e tlase ya memori e phahameng sesebedisweng

SharedWorker e hlakile ho basebedisi. Sesupo sa boemo bareng ya taolo kamehla se bontsha boemo ba enjine e arolelwang, eseng thebo ka nngwe.

Middleware ya apiFetch

Tlatsetso e kenya middleware ya apiFetch e thibelang dikopo tsa WordPress REST API tse tshwantshang paterone ya AI Client SDK. Ho ena le ho etsa kopo ya HTTP ya loopback ho seva, dikopo tsena di iswa ka kotloloho ho broker ya lehae ya WebLLM e sebetsang ho SharedWorker.

Sena se bolela hore ditlatsetso le meralo e sebedisang API e tlwaelehileng ya WordPress apiFetch ho bitsa di-endpoint tsa AI di tla rua molemo ka boiketsetso ho mohlaleng wa lehlakore la sebatli ha o fumaneha, ntle le hore ho hlokehe diphetoho tsa khoutu.

Dihoko le Disefe

Disefe

  • wpai_preferred_text_models — Ngodisa enjene ya sebatli ya WebLLM e le mmotlolo wa mongolo o ratwang. Katoloso e hokela ho filter ena ka bo yona ha enjene e hlophisitswe mme e fumaneha.
  • ultimate_webllm_widget_enabled — Fetola boemo ba ho nolofatswa ha widget bakeng sa mosebedisi kapa tikoloho e itseng. Kgutlisa true kapa false.
  • ultimate_webllm_auto_prompt — Fetola mongolo wa auto-prompt pele o romelwa ho widget. E amohela kgwele ya prompt le ntho ya hajwale ya WP_Post.

Ho rarolla mathata

Widget ya puisano ha e hlahe

  • Netefatsa hore mosebedisi o kene — widget e bontshwa feela ho basebedisi ba netefaditsweng
  • Hlahloba hore Nolofatsa widget ya puisano e phaphametseng e buletswe phaneleng ya Connector
  • Netefatsa hore sebatli sa mosebedisi se tshehetsa WebGPU (sheba Ditlhoko ka hodimo)

Sesupo sa admin-bar se bontsha "Phoso"

Bula console ya moqapi ya sebatli (F12) mme o batle diphoso tse amanang le WebLLM. Mabaka a tlwaelehileng:

  • Sebatli ha se tshehetse WebGPU
  • Ho jarolla boima ba mmotlolo ho hlolehile — hlahloba kgokahano ya marangrang mme o leke ho hlakola cache ya IndexedDB dithulusing tsa moqapi tsa sebatli (Application → IndexedDB)
  • Katoloso ya sebatli e thibela SharedWorker

Boima ba mmotlolo bo jarollwa nako le nako

Katoloso e sebedisa IndexedDB e le backend ya cache ho netefatsa hore boima ba mmotlolo bo pholoha diphetisetso tsa CDN. Haeba boima bo jarollwa hape ketelong e nngwe le e nngwe, hlahloba hore IndexedDB ha e hlakolwe ke tlhophiso ya lekunutu ya sebatli kapa katoloso.

Lenane la diphetoho

Sheba Lenane la diphetoho bakeng sa histori e felletseng ya mefuta.