Skip to main content
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM នាំការប៉ាន់ស្មាន AI ដើមពីកម្មវិធីរុករក មកកាន់បណ្តាញ WordPress multisite របស់អ្នក។ វាដំណើរការម៉ូដែលភាសាធំទាំងស្រុងក្នុងកម្មវិធីរុករក ដោយប្រើ WebLLM និង MLC engine — មិនត្រូវការ API keys មិនមានការហៅទៅខាងក្រៅ និងគ្មានទិន្នន័យចាកចេញពីឧបករណ៍របស់អ្នកប្រើ។

លក្ខណៈសំខាន់ៗ

  • ការប៉ាន់ស្មាននៅខាងកម្មវិធីរុករក: LLM ដំណើរការក្នុងកម្មវិធីរុករករបស់អ្នកទស្សនាតាមរយៈ WebLLM/MLC — មិនត្រូវការ GPU ម៉ាស៊ីនមេ
  • ធាតុជជែកអណ្តែត: អ្នកប្រើដែលបានចូលប្រើ អាចបញ្ចូល prompt ទៅ LLM ខាងកម្មវិធីរុករកដោយផ្ទាល់ពីផ្នែកខាងមុខ
  • សូចនាករស្ថានភាពលើ admin-bar: ស្ថានភាពពេលវេលាពិតរបស់ WebLLM engine បង្ហាញក្នុង WordPress admin bar
  • SharedWorker runtime: ផ្ទាំងកម្មវិធីរុករកច្រើនចែករំលែក GPU session តែមួយ ជំនួសឱ្យការប្រជែងប្រើធនធាន GPU
  • apiFetch middleware: សំណើ WordPress REST ដែលត្រូវនឹងលំនាំ AI Client SDK ត្រូវបានបញ្ជូនទៅ WebLLM broker មូលដ្ឋានដោយស្វ័យប្រវត្តិ — មិនចាំបាច់ធ្វើ HTTP loopback ទៅវិញទៅមក
  • ចំណុចប្រទាក់ការកំណត់ធាតុ: ការកំណត់ផ្ទាំង Connector សម្រាប់បើក ឬបិទធាតុជជែក និងកំណត់ឥរិយាបថ auto-prompt
  • IndexedDB cache: ការទាញយក model weight អាចបន្តនៅសល់ បើទោះជា CDN redirects ធ្វើឱ្យផ្លូវ Cache API លំនាំដើមខូច
  • ការរួមបញ្ចូល wpai filter: ភ្ជាប់ទៅ filter wpai_preferred_text_models ដើម្បីឱ្យមុខងារ AI Experiments បញ្ជូនទៅ browser engine នៅពេលបានកំណត់

តម្រូវការ

  • WordPress 5.3 ឬខ្ពស់ជាងនេះ
  • PHP 7.4 ឬខ្ពស់ជាងនេះ
  • Ultimate Multisite plugin (សកម្ម)
  • កម្មវិធីរុករកដែលគាំទ្រ WebGPU (Chrome 113+, Edge 113+, ឬ Firefox Nightly ដែលបានបើក WebGPU)

ការដំឡើង

  1. ផ្ទុកឡើងឯកសារ addon ទៅថត /wp-content/plugins/ របស់អ្នក
  2. ធ្វើឱ្យ plugin សកម្មតាមម៉ឺនុយ 'Plugins' ក្នុង WordPress
  3. ចូលទៅ Ultimate Multisite → AI Connector ដើម្បីកំណត់រចនាសម្ព័ន្ធ addon

ធាតុជជែកអណ្តែត

ធាតុជជែកអណ្តែតអនុញ្ញាតឱ្យអ្នកប្រើណាដែលបានចូលប្រើ អាចប្រាស្រ័យទាក់ទងជាមួយ LLM ខាងកម្មវិធីរុករកដោយផ្ទាល់ពីផ្នែកខាងមុខរបស់អ្នក ដោយមិនចាំបាច់ចាកចេញពីទំព័រដែលពួកគេកំពុងនៅ។

វាធ្វើអ្វីខ្លះ

នៅពេលបើកប្រើ រូបតំណាងជជែកនឹងបង្ហាញនៅជ្រុងនៃគ្រប់ទំព័រផ្នែកខាងមុខ សម្រាប់អ្នកប្រើដែលបានចូលប្រើ។ ការចុចរូបតំណាងនឹងបើកផ្ទាំងជជែក ដែលអ្នកប្រើអាចវាយ prompt និងទទួលចម្លើយពីម៉ូដែល WebLLM ដែលកំពុងដំណើរការក្នុងមូលដ្ឋាន។ ព្រោះម៉ូដែលដំណើរការទាំងស្រុងក្នុងកម្មវិធីរុករក ចម្លើយមានភាពឯកជន ហើយមិនពាក់ព័ន្ធនឹងការដំណើរការខាងម៉ាស៊ីនមេណាមួយទេ។

សូចនាករស្ថានភាពលើ Admin-Bar

WordPress admin bar រួមបញ្ចូលសូចនាករស្ថានភាព ដែលបង្ហាញស្ថានភាពបច្ចុប្បន្នរបស់ WebLLM engine៖

ស្ថានភាពអត្ថន័យ
កំពុងផ្ទុកMLC engine កំពុងចាប់ផ្តើម ឬកំពុងទាញយក model weights
រួចរាល់ម៉ូដែលបានផ្ទុក ហើយអាចប្រើសម្រាប់ inference
ទំនេរengine បានផ្ទុក ប៉ុន្តែផ្ទាំង SharedWorker មិនសកម្ម
កំហុសengine មិនអាចចាប់ផ្តើមបាន — សូមពិនិត្យ browser console សម្រាប់ព័ត៌មានលម្អិត

សូចនាករនេះធ្វើបច្ចុប្បន្នភាពពេលវេលាពិត ដោយមិនចាំបាច់ផ្ទុកទំព័រឡើងវិញ។

របៀបបើក ឬបិទធាតុនេះ

  1. ទៅកាន់ Ultimate Multisite → AI Connector ក្នុង network admin
  2. រកផ្ទាំង Connector
  3. បើក ឬបិទ បើកធាតុជជែកអណ្តែត
  4. រក្សាទុកការកំណត់

ធាតុនេះក៏អាចបើក ឬបិទតាម site នីមួយៗពី admin ផ្ទាល់របស់ site បានផងដែរ ប្រសិនបើអ្នកគ្រប់គ្រងបណ្តាញបានផ្តល់សមត្ថភាពនោះ។

ការកំណត់ធាតុ

ផ្ទាំង Connector ក្នុង Ultimate Multisite → AI Connector មានការកំណត់ខាងក្រោមសម្រាប់ធាតុជជែកអណ្តែត៖

បើកធាតុជជែកអណ្តែត

បើក ឬបិទធាតុជជែកសម្រាប់បណ្តាញទាំងមូល។ នៅពេលបិទ ធាតុនេះមិនបង្ហាញលើទំព័រផ្នែកខាងមុខណាមួយទេ ទោះជាតួនាទីអ្នកប្រើជាអ្វីក៏ដោយ។

លំនាំដើម: បិទ

ឥរិយាបថ Auto-Prompt

គ្រប់គ្រងថាតើធាតុជជែកផ្ញើ prompt ដោយស្វ័យប្រវត្តិ នៅពេលអ្នកប្រើបើកវាឬអត់។

ជម្រើសឥរិយាបថ
បានបិទធាតុនេះបើកជាការជជែកទទេ — អ្នកប្រើវាយ prompt ផ្ទាល់ខ្លួន
បរិបទទំព័រធាតុនេះបើកជាមួយ prompt ដែលបានបំពេញជាមុន ផ្អែកលើចំណងជើង និងមាតិកានៃទំព័របច្ចុប្បន្ន
Prompt ផ្ទាល់ខ្លួនធាតុនេះបើកជាមួយ prompt ផ្ទាល់ខ្លួនដែលអ្នកកំណត់ក្នុងវាលខាងក្រោម

នៅពេលកំណត់ជា Prompt ផ្ទាល់ខ្លួន វាលអត្ថបទបន្ថែមនឹងបង្ហាញ ដែលអ្នកអាចបញ្ចូលអត្ថបទ prompt លំនាំដើម។ គាំទ្រអថេរ template មូលដ្ឋាន៖

  • {site_name} — ឈ្មោះរបស់ site បច្ចុប្បន្ន
  • {page_title} — ចំណងជើងរបស់ទំព័របច្ចុប្បន្ន
  • {user_display_name} — ឈ្មោះបង្ហាញរបស់អ្នកប្រើដែលបានចូលប្រើ

លំនាំដើម: បានបិទ

SharedWorker Runtime

កំណែ 1.1.0 ណែនាំ SharedWorker runtime សម្រាប់ MLC engine។ ពីមុន ផ្ទាំងកម្មវិធីរុករកនីមួយៗដែលប្រើ WebLLM ផ្ទុក instance ផ្ទាល់ខ្លួននៃម៉ូដែល ដោយប្រជែងយកអង្គចងចាំ GPU និងបង្កបញ្ហាដំណើរការលើឧបករណ៍ដែលមាន VRAM កំណត់។

ជាមួយ SharedWorker runtime ផ្ទាំងមួយដើរតួជា engine host។ ផ្ទាំងផ្សេងទៀតទាំងអស់ទាក់ទងជាមួយ instance តែមួយនោះ តាមរយៈ message channel របស់ worker។ លទ្ធផលគឺ៖

  • GPU session តែមួយត្រូវបានចែករំលែកនៅទូទាំងផ្ទាំងដែលបើកទាំងអស់
  • ចម្លើយលឿនជាងមុន បន្ទាប់ពីម៉ូដែលបានផ្ទុក (មិនមានការចាប់ផ្តើមដដែលៗ)
  • ការប្រើអង្គចងចាំកំពូលទាបជាងមុនលើឧបករណ៍

SharedWorker មានភាពថ្លាសម្រាប់អ្នកប្រើ។ សូចនាករស្ថានភាពលើ admin-bar តែងតែបង្ហាញស្ថានភាពរបស់ shared engine មិនមែនផ្ទាំងនីមួយៗទេ។

apiFetch Middleware

addon ដំឡើង apiFetch middleware ដែលស្ទាក់ចាប់សំណើ WordPress REST API ដែលត្រូវនឹងលំនាំ AI Client SDK។ ជំនួសឱ្យការធ្វើសំណើ HTTP loopback ទៅកាន់ម៉ាស៊ីនមេ សំណើទាំងនេះត្រូវបានបញ្ជូនដោយផ្ទាល់ទៅ WebLLM broker មូលដ្ឋានដែលកំពុងដំណើរការក្នុង SharedWorker។

នេះមានន័យថា plugins និង themes ដែលប្រើ WordPress apiFetch API ស្តង់ដារ ដើម្បីហៅ AI endpoints នឹងទទួលបានអត្ថប្រយោជន៍ពីម៉ូដែលខាងកម្មវិធីរុករកដោយស្វ័យប្រវត្តិ នៅពេលវាអាចប្រើបាន ដោយមិនត្រូវការកែប្រែ code។

Hooks និង Filters

Filters

  • wpai_preferred_text_models — ចុះឈ្មោះម៉ាស៊ីន WebLLM ក្នុងកម្មវិធីរុករកជា​ម៉ូដែលអត្ថបទដែលពេញចិត្ត។ កម្មវិធីបន្ថែមនឹងភ្ជាប់ទៅ filter នេះដោយស្វ័យប្រវត្តិ នៅពេលម៉ាស៊ីនត្រូវបានកំណត់រចនាសម្ព័ន្ធ និងអាចប្រើបាន។
  • ultimate_webllm_widget_enabled — ប្តូរជាន់លើស្ថានភាពបើករបស់ធាតុក្រាហ្វិក សម្រាប់អ្នកប្រើ ឬបរិបទជាក់លាក់មួយ។ ត្រឡប់ truefalse
  • ultimate_webllm_auto_prompt — កែប្រែអត្ថបទ auto-prompt មុនពេលផ្ញើទៅធាតុក្រាហ្វិក។ ទទួលខ្សែអក្សរ prompt និងវត្ថុ WP_Post បច្ចុប្បន្ន។

ការដោះស្រាយបញ្ហា

ធាតុក្រាហ្វិកជជែកមិនបង្ហាញ

  • បញ្ជាក់ថាអ្នកប្រើបានចូលគណនីហើយ — ធាតុក្រាហ្វិកបង្ហាញតែសម្រាប់អ្នកប្រើដែលបានផ្ទៀងផ្ទាត់ប៉ុណ្ណោះ
  • ពិនិត្យថា បើកធាតុក្រាហ្វិកជជែកអណ្តែត ត្រូវបានបើកនៅក្នុងផ្ទាំងតភ្ជាប់
  • ផ្ទៀងផ្ទាត់ថាកម្មវិធីរុករករបស់អ្នកប្រើគាំទ្រ WebGPU (មើលលក្ខខណ្ឌតម្រូវខាងលើ)

សូចនាករ admin-bar បង្ហាញ "កំហុស"

បើកកុងសូលអ្នកអភិវឌ្ឍន៍ក្នុងកម្មវិធីរុករក (F12) ហើយរកមើលកំហុសដែលពាក់ព័ន្ធនឹង WebLLM។ មូលហេតុទូទៅ៖

  • កម្មវិធីរុករកមិនគាំទ្រ WebGPU
  • ការទាញយកទម្ងន់ម៉ូដែលបានបរាជ័យ — ពិនិត្យការតភ្ជាប់បណ្តាញ ហើយសាកល្បងសម្អាតឃ្លាំងសម្ងាត់ IndexedDB ក្នុងឧបករណ៍អ្នកអភិវឌ្ឍន៍របស់កម្មវិធីរុករក (Application → IndexedDB)
  • ផ្នែកបន្ថែមកម្មវិធីរុករកកំពុងរារាំង SharedWorker

ទម្ងន់ម៉ូដែលត្រូវបានទាញយករាល់ពេល

កម្មវិធីបន្ថែមប្រើ IndexedDB ជាផ្នែកខាងក្រោយសម្រាប់ឃ្លាំងសម្ងាត់ ដើម្បីធានាថាទម្ងន់ម៉ូដែលនៅតែមាន បើទោះជាមានការបញ្ជូនបន្ត CDN ក៏ដោយ។ ប្រសិនបើទម្ងន់ត្រូវបានទាញយកឡើងវិញរាល់ពេលចូលមើល សូមពិនិត្យថា IndexedDB មិនត្រូវបានសម្អាតដោយការកំណត់ឯកជនភាពរបស់កម្មវិធីរុករក ឬផ្នែកបន្ថែមទេ។

កំណត់ហេតុការផ្លាស់ប្តូរ

មើល កំណត់ហេតុការផ្លាស់ប្តូរ សម្រាប់ប្រវត្តិកំណែពេញលេញ។