Ultimate AI Connector for WebLLM
Ny Ultimate AI Connector for WebLLM dia mitondra inference AI teratany ao amin’ny navigateur ho an’ny tambajotra WordPress multisite anao. Mampandeha large language models manontolo ao amin’ny navigateur izy amin’ny alalan’ny WebLLM sy ny MLC engine — tsy mila API keys, tsy misy antso ivelany, tsy misy angona miala amin’ny fitaovan’ny mpampiasa.
Endri-javatra Fototra
- Inference eo amin’ny lafin’ny navigateur: LLM mandeha eo an-toerana ao amin’ny navigateur an’ny mpitsidika amin’ny alalan’ny WebLLM/MLC — tsy mila GPU an’ny server
- Widget resaka mitsingevana: Afaka mandefa prompt mivantana amin’ny LLM eo amin’ny lafin’ny navigateur avy eny amin’ny front end ireo mpampiasa tafiditra
- Famantarana satan’ny admin-bar: Sata amin’ny fotoana tena izy an’ny WebLLM engine hita ao amin’ny WordPress admin bar
- SharedWorker runtime: Kiheba navigateur maromaro mizara session GPU iray fa tsy mifaninana amin’ny loharanon-karena GPU
- apiFetch middleware: Ny fangatahana WordPress REST mifanaraka amin’ny lamina AI Client SDK dia alefa mangarahara mankany amin’ny broker WebLLM eo an-toerana — tsy misy fihodinana HTTP loopback
- UI firafitry ny widget: Firafitry ny tontonana Connector hampandeha na hamono ny widget resaka sy handrindra ny fitondran-tena auto-prompt
- Cache IndexedDB: Ny fisintonana lanjan’ny modely dia tafavoaka amin’ny CDN redirects izay manapaka ny lalan’ny Cache API mahazatra
- Fampidirana wpai filter: Mifandray amin’ny filter
wpai_preferred_text_modelsmba handefasan’ny endri-javatra AI Experiments mankany amin’ny engine ao amin’ny navigateur rehefa voarindra
Fepetra takiana
- WordPress 5.3 na ambony
- PHP 7.4 na ambony
- Ultimate Multisite plugin (mavitrika)
- Navigateur manana fanohanana WebGPU (Chrome 113+, Edge 113+, na Firefox Nightly miaraka amin’ny WebGPU navela)
Fametrahana
- Ampidiro ao amin’ny lahatahiry
/wp-content/plugins/anao ny rakitra addon - Alefaso amin ’ny alalan’ny sakafo 'Plugins' ao amin’ny WordPress ny plugin
- Mankanesa any amin’ny Ultimate Multisite → AI Connector handrindrana ny addon
Widget Resaka Mitsingevana
Ny widget resaka mitsingevana dia mamela izay mpampiasa tafiditra hifandray amin’ny LLM eo amin’ny lafin’ny navigateur mivantana avy amin’ny front end anao, tsy mila miala amin’ilay pejy misy azy.
Inona no Ataony
Rehefa alefa, miseho eo amin’ny zoron’ny pejy front-end tsirairay ny kisary resaka ho an’ireo mpampiasa tafiditra. Rehefa tsindriana ilay kisary dia misokatra ny tontonana resaka ahafahan’ny mpampiasa manoratra prompt sy mandray valiny avy amin’ny modely WebLLM mandeha eo an-toerana. Satria mandeha manontolo ao amin’ny navigateur ilay modely, manokana ny valiny ary tsy misy fanodinana eo amin’ny lafin’ny server.
Famantarana Satan’ny Admin-Bar
Ny WordPress admin bar dia ahitana famantarana sata izay mampiseho ny toetry ny WebLLM engine amin’izao fotoana izao:
| Sata | Heviny |
|---|---|
| Loading | Eo am-panombohana na misintona lanjan’ny modely ny MLC engine |
| Ready | Voampiditra ny modely ary azo ampiasaina amin’ny inference |
| Idle | Voampiditra ny engine fa tsy mavitrika ny kiheba SharedWorker |
| Error | Tsy nahavita nanomboka ny engine — jereo ny console an’ny navigateur raha mila antsipiriany |
Mihavao amin’ny fotoana tena izy ilay famantarana nefa tsy mitaky famerenana mamaky pejy.
Ahoana no Hampandehanana na Hamonoana ny Widget
- Mandehana any amin’ny Ultimate Multisite → AI Connector ao amin’ny network admin
- Tadiavo ny tontonana Connector
- Alefaso na vonoy ny Enable floating chat widget
- Tehirizo ny firafitra
Azo alefa na vonoina isaky ny site ihany koa ny widget avy amin’ny admin an’ilay site raha nanome izany fahafahana izany ny mpandrindra tambajotra.
Firafitry ny Widget
Ny tontonana Connector ao amin’ny Ultimate Multisite → AI Connector dia ahitana ireto firafitra manaraka ireto ho an’ny widget resaka mitsingevana:
Alefaso ny Widget Resaka Mitsingevana
Mampandeha na mamono ny widget resaka ho an’ny tambajotra manontolo. Rehefa vonoina, tsy miseho amin’ny pejy front-end rehetra ny widget, na inona na inona andraikitry ny mpampiasa.
Default: Off
Fitondran-tena Auto-Prompt
Mifehy raha mandefa prompt ho azy ny widget resaka rehefa sokafan’ny mpampiasa.
| Safidy | Fitondran-tena |
|---|---|
| Disabled | Misokatra amin’ny resaka foana ny widget — manoratra ny prompt-ny manokana ny mpampiasa |
| Page context | Misokatra miaraka amin’ny prompt efa feno mialoha mifototra amin’ny lohateny sy votoatin’ny pejy ankehitriny ny widget |
| Custom prompt | Misokatra miaraka amin’ny prompt namboarinao izay faritanao ao amin’ny saha etsy ambany ny widget |
Rehefa apetraka ho Custom prompt, miseho ny saha lahatsoratra fanampiny ahafahanao mampiditra ny lahatsoratra prompt default. Manohana template variables fototra:
{site_name}— ny anaran’ny site ankehitriny{page_title}— ny lohatenin’ny pejy ankehitriny{user_display_name}— ny anarana asehon’ny mpampiasa tafiditra
Default: Disabled
SharedWorker Runtime
Ny version 1.1.0 dia mampiditra SharedWorker runtime ho an’ny MLC engine. Talohan’izay, ny kiheba navigateur tsirairay nampiasa WebLLM dia nampiditra instance-ny manokana an’ilay modely, nifaninana tamin’ny fahatsiarovana GPU ary niteraka olana amin’ny fahombiazana amin’ny fitaovana manana VRAM voafetra.
Amin’ny SharedWorker runtime, kiheba iray no miasa ho mpampiantrano engine. Ny kiheba hafa rehetra dia mifandray amin’io instance tokana io amin’ny alalan’ny message channel an’ilay worker. Ny vokany:
- Session GPU iray zaraina amin’ny kiheba misokatra rehetra
- Valiny haingana kokoa rehefa voampiditra ny modely (tsy misy fanombohana miverimberina)
- Fampiasana fahatsiarovana ambony indrindra ambany kokoa amin’ny fitaovana
Mangarahara amin’ny mpampiasa ny SharedWorker. Ny famantarana satan’ny admin-bar dia maneho foana ny toetry ny engine zaraina, fa tsy ny kiheba tsirairay.
apiFetch Middleware
Mametraka middleware apiFetch ny addon izay misambotra fangatahana WordPress REST API mifanaraka amin’ny lamina AI Client SDK. Raha tokony hanao fangatahana HTTP loopback mankany amin’ny server, ireo fangatahana ireo dia alefa mivantana mankany amin’ny broker WebLLM eo an-toerana mandeha ao amin’ny SharedWorker.
Midika izany fa ny plugins sy themes mampiasa ny WordPress apiFetch API mahazatra hiantsoana AI endpoints dia hahazo tombontsoa avy hatrany amin’ny modely eo amin’ny lafin’ny navigateur rehefa misy izy, tsy mila fanovana code.
Hooks sy Filters
Filters
wpai_preferred_text_models— Manoratra ny engine navigateur WebLLM ho modely lahatsoratra tiana ampiasaina. Ny fanampiny dia mifandray amin’ity sivana ity ho azy rehefa voafetra sy misy ilay engine.ultimate_webllm_widget_enabled— Manova ny toetry ny widget hoe mandeha ho an’ny mpampiasa na toe-javatra manokana. Averenotruenafalse.ultimate_webllm_auto_prompt— Manova ny lahatsoratra auto-prompt alohan’ny handefasana azy any amin’ny widget. Mandray ny prompt string sy ny objectWP_Postankehitriny.
Famahana olana
Tsy miseho ny widget chat
- Hamarino fa tafiditra ny mpampiasa — ny widget dia aseho amin’ireo mpampiasa voamarina ihany
- Zahao fa Enable floating chat widget dia navadika ho mandeha ao amin’ny tontonana Connector
- Hamarino fa manohana WebGPU ny navigateur an’ilay mpampiasa (jereo ny Fepetra takiana etsy ambony)
Mampiseho "Error" ny famantarana admin-bar
Sokafy ny console developer an’ny navigateur (F12) ary tadiavo ireo hadisoana mifandraika amin’ny WebLLM. Antony mahazatra:
- Tsy manohana WebGPU ny navigateur
- Tsy nahomby ny fampidinana ny lanjan’ny modely — zahao ny fifandraisana tambajotra ary andramo fafana ny cache IndexedDB ao amin’ny browser developer tools (Application → IndexedDB)
- Misy browser extension manakana ny SharedWorker
Misintona ny lanjan’ny modely isaky ny mandeha
Ny fanampiny dia mampiasa IndexedDB ho cache backend mba hahazoana antoka fa maharitra ny lanjan’ny modely na dia misy redirect CDN aza. Raha misintona indray ny lanja isaky ny fitsidihana, zahao fa tsy fafan’ny browser privacy setting na extension ny IndexedDB.
Changelog
Jereo ny Changelog ho an’ny tantaran’ny version feno.