Ultimate AI Connector for WebLLM
Ultimate AI Connector for WebLLM នាំការប៉ាន់ស្មាន AI ដើមពីកម្មវិធីរុករក មកកាន់បណ្តាញ WordPress multisite របស់អ្នក។ វាដំណើរការម៉ូដែលភាសាធំទាំងស្រុងក្នុងកម្មវិធីរុករក ដោយប្រើ WebLLM និង MLC engine — មិនត្រូវការ API keys មិនមានការហៅទៅខាងក្រៅ និងគ្មានទិន្នន័យចាកចេញពីឧបករណ៍របស់អ្នកប្រើ។
លក្ខណៈសំខាន់ៗ
- ការប៉ាន់ស្មាននៅខាងកម្មវិធីរុករក: LLM ដំណើរការក្នុងកម្មវិធីរុករករបស់អ្នកទស្សនាតាមរយៈ WebLLM/MLC — មិនត្រូវការ GPU ម៉ាស៊ីនមេ
- ធាតុជជែកអណ្តែត: អ្នកប្រើដែលបានចូលប្រើ អាចបញ្ចូល prompt ទៅ LLM ខាងកម្មវិធីរុករកដោយផ្ទាល់ពីផ្នែកខាងមុខ
- សូចនាករស្ថានភាពលើ admin-bar: ស្ថានភាពពេលវេលាពិតរបស់ WebLLM engine បង្ហាញក្នុង WordPress admin bar
- SharedWorker runtime: ផ្ទាំងកម្មវិធីរុករកច្រើនចែករំលែក GPU session តែមួយ ជំនួសឱ្យការប្រជែងប្រើធនធាន GPU
- apiFetch middleware: សំណើ WordPress REST ដែលត្រូវនឹងលំនាំ AI Client SDK ត្រូវបានបញ្ជូនទៅ WebLLM broker មូលដ្ឋានដោយស្វ័យប្រវត្តិ — មិនចាំបាច់ធ្វើ HTTP loopback ទៅវិញទៅមក
- ចំណុចប្រទាក់ការកំណត់ធាតុ: ការកំណត់ផ្ទាំង Connector សម្រាប់បើក ឬបិទធាតុជជែក និងកំណត់ ឥរិយាបថ auto-prompt
- IndexedDB cache: ការទាញយក model weight អាចបន្តនៅសល់ បើទោះជា CDN redirects ធ្វើឱ្យផ្លូវ Cache API លំនាំដើមខូច
- ការរួមបញ្ចូល wpai filter: ភ្ជាប់ទៅ filter
wpai_preferred_text_modelsដើម្បីឱ្យមុខងារ AI Experiments បញ្ជូនទៅ browser engine នៅពេលបានកំណត់
តម្រូវការ
- WordPress 5.3 ឬខ្ពស់ជាងនេះ
- PHP 7.4 ឬខ្ពស់ជាងនេះ
- Ultimate Multisite plugin (សកម្ម)
- កម្មវិធីរុករកដែលគាំទ្រ WebGPU (Chrome 113+, Edge 113+, ឬ Firefox Nightly ដែលបានបើក WebGPU)
ការដំឡើង
- ផ្ទុកឡើងឯកសារ addon ទៅថត
/wp-content/plugins/របស់អ្នក - ធ្វើឱ្យ plugin សកម្មតាមម៉ឺនុយ 'Plugins' ក្នុង WordPress
- ចូលទៅ Ultimate Multisite → AI Connector ដើម្បីកំណត់រចនាសម្ព័ន្ធ addon
ធាតុជជែកអ ណ្តែត
ធាតុជជែកអណ្តែតអនុញ្ញាតឱ្យអ្នកប្រើណាដែលបានចូលប្រើ អាចប្រាស្រ័យទាក់ទងជាមួយ LLM ខាងកម្មវិធីរុករកដោយផ្ទាល់ពីផ្នែកខាងមុខរបស់អ្នក ដោយមិនចាំបាច់ចាកចេញពីទំព័រដែលពួកគេកំពុងនៅ។
វាធ្វើអ្វីខ្លះ
នៅពេលបើកប្រើ រូបតំណាងជជែកនឹងបង្ហាញនៅជ្រុងនៃគ្រប់ទំព័រផ្នែកខាងមុខ សម្រាប់អ្នកប្រើដែលបានចូលប្រើ។ ការចុចរូបតំណាងនឹងបើកផ្ទាំងជជែក ដែលអ្នកប្រើអាចវាយ prompt និងទទួលចម្លើយពីម៉ូដែល WebLLM ដែលកំពុងដំណើរការក្នុងមូលដ្ឋាន។ ព្រោះម៉ូដែលដំណើរការទាំងស្រុងក្នុងកម្មវិធីរុករក ចម្លើយមានភាពឯកជន ហើយមិនពាក់ព័ន្ធនឹងការដំណើរការខាងម៉ាស៊ីនមេណាមួយទេ។
សូចនាករស្ថានភាពលើ Admin-Bar
WordPress admin bar រួមបញ្ចូលសូចនាករស្ថានភាព ដែលបង្ហាញស្ថានភាពបច្ចុប្បន្នរបស់ WebLLM engine៖
| ស្ថានភាព | អត្ថន័យ |
|---|---|
| កំពុងផ្ទុក | MLC engine កំពុងចាប់ផ្តើម ឬកំពុងទាញយក model weights |
| រួចរាល់ | ម៉ូដែលបានផ្ទុក ហើយអាចប្រើសម្រាប់ inference |
| ទំនេរ | engine បានផ្ទុក ប៉ុន្តែផ្ទាំង SharedWorker មិនសកម្ម |
| កំហុស | engine មិនអាចចាប់ផ្តើមបាន — សូមពិនិត្យ browser console សម្រាប់ព័ត៌មានលម្អិត |
សូចនាករនេះធ្វើបច្ចុប្បន្នភាពពេលវេលាពិត ដោយមិនចាំបាច់ផ្ទុកទំព័រឡើងវិញ។
របៀបបើក ឬបិទធាតុនេះ
- ទៅកាន់ Ultimate Multisite → AI Connector ក្នុង network admin
- រកផ្ទាំង Connector
- បើក ឬបិទ បើកធាតុជជែកអណ្តែត
- រក្សាទុកការកំណត់
ធាតុនេះក៏អាចបើក ឬបិទតាម site នីមួយៗពី admin ផ្ទាល់របស់ site បានផងដែរ ប្រសិនបើអ្នកគ្រប់គ្រងបណ្តាញបានផ្តល់សមត្ថភាពនោះ។
ការកំណត់ធាតុ
ផ្ទាំង Connector ក្នុង Ultimate Multisite → AI Connector មានការកំណត់ខាងក្រោមសម្រាប់ធាតុជជែកអណ្តែត៖
បើកធាតុជជែកអណ្តែត
បើក ឬបិទធាតុជជែកសម្រាប់បណ្តាញទាំងមូល។ នៅពេលបិទ ធាតុនេះមិនបង្ហាញលើទំព័រផ្នែកខាងមុខណាមួយទេ ទោះជាតួនាទីអ្នកប្រើជាអ្វីក៏ដោយ។
លំនាំដើម: បិទ
ឥរិយាបថ Auto-Prompt
គ្រប់គ្រងថាតើធាតុជជែកផ្ញើ prompt ដោយស្វ័យប្រវត្តិ នៅពេលអ្នកប្រើបើកវាឬអត់។
| ជម្រើស | ឥរិយាបថ |
|---|---|
| បានបិទ | ធាតុនេះបើកជាការជជែកទទេ — អ្នកប្រើវាយ prompt ផ្ទាល់ខ្លួន |
| បរិបទទំព័រ | ធាតុនេះបើកជាមួយ prompt ដែលបានបំពេញជាមុន ផ្អែកលើចំណងជើង និងមាតិកានៃទំព័របច្ចុប្បន្ន |
| Prompt ផ្ទាល់ខ្លួន | ធាតុនេះបើកជាមួយ prompt ផ្ទាល់ខ្លួនដែលអ្នកកំណត់ក្នុងវាលខាងក្រោម |
នៅពេលកំណត់ជា Prompt ផ្ទាល់ខ្លួន វាលអត្ថបទបន្ថែមនឹងបង្ហាញ ដែលអ្នកអាចបញ្ចូលអត្ថបទ prompt លំនាំដើម។ គាំទ្រអថេរ template មូលដ្ឋាន៖
{site_name}— ឈ្មោះរបស់ site បច្ចុប្បន្ន{page_title}— ចំណងជើងរបស់ទំព័របច្ចុប្បន្ន{user_display_name}— ឈ្មោះបង្ហាញរបស់អ្នកប្រើដែលបានចូលប្រើ
លំនាំដើម: បានបិទ
SharedWorker Runtime
កំណែ 1.1.0 ណែនាំ SharedWorker runtime សម្រាប់ MLC engine។ ពីមុន ផ្ទាំងកម្មវិធីរុករកនីមួយៗដែលប្រើ WebLLM ផ្ទុក instance ផ្ទាល់ខ្លួននៃម៉ូដែល ដោយប្រជែងយកអង្គចងចាំ GPU និងបង្កបញ្ហាដំណើរការលើឧបករណ៍ដែលមាន VRAM កំណត់។
ជាមួយ SharedWorker runtime ផ្ទាំងមួយដើរតួជា engine host។ ផ្ទាំងផ្សេងទៀតទាំងអស់ទាក់ទងជាមួយ instance តែមួយនោះ តាមរយៈ message channel របស់ worker។ លទ្ធផលគឺ៖
- GPU session តែមួយត្រូវបានចែករំលែកនៅទូទាំងផ្ទាំងដែលបើកទាំងអស់
- ចម្លើយលឿនជាងមុន បន្ទាប់ពីម៉ូដែលបានផ្ទុក (មិនមានការចាប់ផ្តើមដដែលៗ)
- ការប្រើអង្គចងចាំកំពូលទាបជាងមុនលើឧបករណ៍
SharedWorker មានភាពថ្លាសម្រាប់អ្នកប្រើ។ សូចនាករស្ថានភាពលើ admin-bar តែងតែបង្ហាញស្ថានភាពរបស់ shared engine មិនមែនផ្ទាំងនីមួយៗទេ។
apiFetch Middleware
addon ដំឡើង apiFetch middleware ដែលស្ទាក់ចាប់សំណើ WordPress REST API ដែលត្រូវនឹងលំនាំ AI Client SDK។ ជំនួសឱ្យការធ្វើសំណើ HTTP loopback ទៅកាន់ម៉ាស៊ីនមេ សំណើទាំងនេះត្រូវបានបញ្ជូនដោយផ្ទាល់ទៅ WebLLM broker មូលដ្ឋានដែលកំពុងដំណើរការក្នុង SharedWorker។
នេះមានន័យថា plugins និង themes ដែលប្រើ WordPress apiFetch API ស្តង់ដារ ដើម្បីហៅ AI endpoints នឹងទទួលបានអត្ថប្រយោជន៍ពីម៉ូដែលខាងកម្មវិធីរុករកដោយស្វ័យប្រវត្តិ នៅពេលវាអាចប្រើបាន ដោយមិនត្រូវការកែប្រែ code។
Hooks និង Filters
Filters
wpai_preferred_text_models— ចុះឈ្មោះម៉ាស៊ីន WebLLM ក្នុងកម្មវិធីរុករកជាម៉ូដែលអត្ថបទដែលពេញចិត្ត។ កម្មវិធីបន្ថែមនឹងភ្ជាប់ទៅ filter នេះដោយស្វ័យប្រវត្តិ នៅពេលម៉ាស៊ីនត្រូវបានកំណត់រចនាសម្ព័ន្ធ និងអាចប្រើបាន។ultimate_webllm_widget_enabled— ប្តូរជាន់លើស្ថានភាពបើករបស់ធាតុក្រាហ្វិក សម្រាប់អ្នកប្រើ ឬបរិបទជាក់លាក់មួយ។ ត្រឡប់trueឬfalse។ultimate_webllm_auto_prompt— កែប្រែអត្ថបទ auto-prompt មុនពេលផ្ញើទៅធាតុក្រាហ្វិក។ ទទួលខ្សែអក្សរ prompt និងវត្ថុWP_Postបច្ចុប្បន្ន។
ការដោះស្រាយបញ្ហា
ធាតុក្រាហ្វិកជជែកមិនបង្ហាញ
- បញ្ជាក់ថាអ្នកប្រើបានចូលគណនីហើយ — ធាតុក្រាហ្វិកបង្ហាញតែសម្រាប់អ្នកប្រើដែលបានផ្ទៀងផ្ទាត់ប៉ុណ្ណោះ
- ពិនិត្យថា បើកធាតុក្រាហ្វិកជជែកអណ្តែត ត្រូវបានបើកនៅក្នុងផ្ទាំងតភ្ជាប់
- ផ្ទៀងផ្ទាត់ថាកម្មវិធីរុករករបស់អ្នកប្រើគាំទ្រ WebGPU (មើលលក្ខខណ្ឌតម្រូវខាងលើ)
សូចនាករ admin-bar បង្ហាញ "កំហុស"
បើកកុងសូលអ្នកអភិវឌ្ឍន៍ក្នុងកម្មវិធីរុករក (F12) ហើយរកមើលកំហុសដែលពាក់ព័ន្ធនឹង WebLLM។ មូលហេតុទូទៅ៖
- កម្មវិធីរុករកមិនគាំទ្រ WebGPU
- ការទាញយកទម្ងន់ម៉ូដែលបានបរាជ័យ — ពិនិត្យការតភ្ជាប់បណ្តាញ ហើយសាកល្បងសម្អាតឃ្លាំងសម្ងាត់ IndexedDB ក្នុងឧបករណ៍អ្នកអភិវឌ្ឍន៍របស់កម្មវិធីរុករក (Application → IndexedDB)
- ផ្នែកបន្ថែមកម្មវិធីរុករកកំពុងរារាំង SharedWorker
ទម្ងន់ម៉ូដែលត្រូវបានទាញយករាល់ពេល
កម្មវិធីបន្ថែមប្រើ IndexedDB ជាផ្នែកខាងក្រោយសម្រាប់ឃ្លាំងសម្ងាត់ ដើម្បីធានាថាទម្ងន់ម៉ូដែលនៅតែមាន បើទោះជាមានការបញ្ជូនបន្ត CDN ក៏ដោយ។ ប្រសិនបើទម្ងន់ត្រូវបានទាញយកឡើងវិញរាល់ពេលចូលមើល សូមពិនិត្យថា IndexedDB មិនត្រូវបានសម្អាតដោយការកំណត់ឯកជនភាពរបស់កម្មវិធីរុករក ឬផ្នែកបន្ថែមទេ។
កំណត់ហេតុការផ្លាស់ប្តូរ
មើល កំណត់ហេតុការផ្លាស់ប្តូរ សម្រាប់ប្រវត្តិកំណែពេញលេញ។