Ultimate AI Connector for WebLLM
Ultimate AI Connector for WebLLM ນຳການປະມວນຜົນ AI ແບບດັ້ງເດີມໃນເບຣາວເຊີມາສູ່ເຄືອຂ່າຍ WordPress ຫຼາຍເວັບໄຊຂອງທ່ານ. ມັນເຮັດວຽກໂມເດວພາສາຂະໜາດໃຫຍ່ທັງໝົດໃນເບຣາວເຊີໂດຍໃຊ້ WebLLM ແລະ MLC engine — ບໍ່ຕ້ອງມີ API keys, ບໍ່ມີການເອີ້ນພາຍນອກ, ບໍ່ມີຂໍ້ມູນອອກຈາກອຸປະກອນຂອງຜູ້ໃຊ້.
ຄຸນສົມບັດຫຼັກ
- ການປະມວນຜົນຝັ່ງເບຣາວເຊີ: LLM ເຮັດວຽກພາຍໃນເບຣາວເຊີຂອງຜູ້ເຂົ້າຊົມຜ່ານ WebLLM/MLC — ບໍ່ຈຳເປັນຕ້ອງມີ GPU ຂອງເຊີບເວີ
- ວິດເຈັດແຊັດແບບລອຍ: ຜູ້ໃຊ້ທີ່ເຂົ້າລະບົບແລ້ວສາມາດສົ່ງ prompt ໄປຫາ LLM ຝັ່ງເບຣາວເຊີໄດ້ໂດຍກົງຈາກດ້ານໜ້າເວັບໄຊ
- ຕົວຊີ້ສະຖານະໃນແຖບຜູ້ດູແລ: ສະຖານະແບບເວລາຈິງຂອງ WebLLM engine ສະແດງໃນແຖບຜູ້ດູແລ WordPress
- ຣັນທາມ SharedWorker: ແຖບເບຣາວເຊີຫຼາຍແຖບແບ່ງປັນເຊດຊັນ GPU ດຽວກັນ ແທນທີ່ຈະແຍ່ງຊັບພະຍາກອນ GPU ກັນ
- apiFetch middleware: ຄຳຂໍ WordPress REST ທີ່ກົງກັບຮູບແບບ AI Client SDK ຈະຖືກສົ່ງໄປຫາ WebLLM broker ພາຍໃນໂດຍໂປ່ງໃສ — ບໍ່ຕ້ອງໄປກັບ HTTP loopback
- ສ່ວນຕັ້ງຄ່າ UI ຂອງວິດເຈັດ: ການຕັ້ງຄ່າແຜງຕົວເຊື່ອມຕໍ່ເພື່ອເປີດປິດວິດເຈັດແຊັດ ແລະກຳນົດພຶດຕິກຳ auto-prompt
- IndexedDB cache: ການດາວໂຫຼດນ້ຳໜັກໂມເດວຍັງຢູ່ລອດຫຼັງການປ່ຽນທາງ CDN ທີ່ເຮັດໃຫ້ເສັ້ນທາງ Cache API ເລີ່ມຕົ້ນເສຍ
- ການຜະສານກັບ wpai filter: ເຊື່ອມເຂົ້າກັບ filter
wpai_preferred_text_modelsເພື່ອໃຫ້ຄຸນສົມບັດ AI Experiments ສົ່ງເສັ້ນທາງໄປຫາເຄື່ອງຈັກເບຣາວເຊີເມື່ອຖືກກຳນົດຄ່າ
ຂໍ້ກຳນົດ
- WordPress 5.3 ຫຼືສູງກວ່າ
- PHP 7.4 ຫຼືສູງກວ່າ
- Ultimate Multisite plugin (ເປີດໃຊ້ງານຢູ່)
- ເບຣາວເຊີທີ່ຮອງຮັບ WebGPU (Chrome 113+, Edge 113+, ຫຼື Firefox Nightly ທີ່ເປີດໃຊ້ WebGPU)
ການຕິດຕັ້ງ
- ອັບໂຫຼດໄຟລ໌ addon ໄປທີ່ໄດເຣັກທໍຣີ
/wp-content/plugins/ຂອງທ່ານ - ເປີດໃຊ້ plugin ຜ່ານເມນູ 'Plugins' ໃນ WordPress
- ໄປທີ່ Ultimate Multisite → AI Connector ເພື່ອກຳນົດຄ່າ addon
ວິດເຈັດແຊັດແບບລອຍ
ວິດເຈັດແຊັດແບບລອຍອະນຸຍາດໃຫ້ຜູ້ໃຊ້ທີ່ເຂົ້າລະບົບແລ້ວຄົນໃດກໍໄດ້ໂຕ້ຕອບກັບ LLM ຝັ່ງເບຣາວເຊີໄດ້ໂດຍກົງຈາກດ້ານໜ້າເວັບໄຊຂອງທ່ານ ໂດຍບໍ່ອອກຈາກໜ້າທີ່ພວກເຂົາກຳລັງຢູ່.
ມັນເຮັດຫຍັງ
ເມື່ອເປີດໃຊ້ງານ, ໄອຄອນແຊັດຈະປາກົດຢູ່ມຸມຂອງທຸກໜ້າດ້ານໜ້າສຳລັບຜູ້ໃຊ້ທີ່ເຂົ້າລະບົບແລ້ວ. ການຄລິກໄອຄອນຈະເປີດແຜງແຊັດທີ່ຜູ້ໃຊ້ສາມາດພິມ prompt ແລະຮັບຄຳຕອບຈາກໂມເດວ WebLLM ທີ່ກຳລັງເຮັດວຽກພາຍໃນ. ເນື່ອງຈາກໂມເດວເຮັດວຽກທັງໝົດໃນເບຣາວເຊີ, ຄຳຕອບຈຶ່ງເປັນສ່ວນຕົວ ແລະບໍ່ມີການປະມວນຜົນຝັ່ງເຊີບເວີໃດໆ.
ຕົວຊີ້ສະຖານະໃນແຖບຜູ້ດູແລ
ແຖບຜູ້ດູແລ WordPress ມີຕົວຊີ້ສະຖານະທີ່ສະແດງສະພາບປັດຈຸບັນຂອງ WebLLM engine:
| ສະຖານະ | ຄວາມໝາຍ |
|---|---|
| ກຳລັງໂຫຼດ | MLC engine ກຳລັງເລີ່ມຕົ້ນ ຫຼືກຳລັງດາວໂຫຼດນ້ຳໜັກໂມເດວ |
| ພ້ອມໃຊ້ | ໂມເດວຖືກໂຫຼດແລ້ວ ແລະພ້ອມສຳລັບການປະມວນຜົນ |
| ວ່າງ | engine ຖືກໂຫຼດແລ້ວ ແຕ່ແຖບ SharedWorker ບໍ່ໄດ້ເປີດໃຊ້ງານ |
| ຂໍ້ຜິດພາດ | engine ເລີ່ມຕົ້ນບໍ່ສຳເລັດ — ກວດເບິ່ງ console ຂອງເບຣາວເຊີເພື່ອລາຍລະອຽດ |
ຕົວຊີ້ຈະອັບເດດແບບເວລາຈິງໂດຍບໍ່ຕ້ອງໂຫຼດໜ້າໃໝ່.
ວິທີເປີດ ຫຼືປິດໃຊ້ງານວິດເຈັດ
- ໄປທີ່ Ultimate Multisite → AI Connector ໃນຜູ້ດູແລເ ຄືອຂ່າຍ
- ຊອກຫາແຜງ Connector
- ເປີດ ຫຼືປິດ ເປີດໃຊ້ວິດເຈັດແຊັດແບບລອຍ
- ບັນທຶກການຕັ້ງຄ່າ
ວິດເຈັດຍັງສາມາດເປີດ ຫຼືປິດໃຊ້ງານແຍກຕາມເວັບໄຊໄດ້ຈາກຜູ້ດູແລຂອງເວັບໄຊນັ້ນເອງ ຖ້າຜູ້ບໍລິຫານເຄືອຂ່າຍໄດ້ມອບຄວາມສາມາດນັ້ນໃຫ້.
ການຕັ້ງຄ່າວິດເຈັດ
ແຜງ Connector ໃນ Ultimate Multisite → AI Connector ມີການຕັ້ງຄ່າຕໍ່ໄປນີ້ສຳລັບວິດເຈັດແຊັດແບບລອຍ:
ເປີດໃຊ້ວິດເຈັດແຊັດແບບລອຍ
ເປີດ ຫຼືປິດວິດເຈັດແຊັດສຳລັບເຄືອຂ່າຍທັງໝົດ. ເມື່ອປິດໃຊ້ງານ, ວິດເຈັດຈະບໍ່ປາກົດໃນໜ້າດ້ານໜ້າໃດໆ ບໍ່ວ່າບົດບາດຜູ້ໃຊ້ຈະເປັນຫຍັງ.
ຄ່າເ ລີ່ມຕົ້ນ: ປິດ
ພຶດຕິກຳ Auto-Prompt
ຄວບຄຸມວ່າວິດເຈັດແຊັດຈະສົ່ງ prompt ອັດຕະໂນມັດເມື່ອຜູ້ໃຊ້ເປີດມັນຫຼືບໍ່.
| ຕົວເລືອກ | ພຶດຕິກຳ |
|---|---|
| ປິດໃຊ້ງານ | ວິດເຈັດເປີດຂຶ້ນເປັນແຊັດຫວ່າງ — ຜູ້ໃຊ້ພິມ prompt ຂອງຕົນເອງ |
| ບໍລິບົດໜ້າ | ວິດເຈັດເປີດຂຶ້ນພ້ອມ prompt ທີ່ຕື່ມໄວ້ລ່ວງໜ້າຕາມຊື່ໜ້າ ແລະເນື້ອຫາຂອງໜ້າປັດຈຸບັນ |
| prompt ກຳນົດເອງ | ວິດເຈັດເປີດຂຶ້ນພ້ອມ prompt ກຳນົດເອງທີ່ທ່ານກຳນົດໃນຊ່ອງດ້ານລຸ່ມ |
ເມື່ອຕັ້ງເປັນ prompt ກຳນົດເອງ, ຊ່ອງຂໍ້ຄວາມເພີ່ມເຕີມຈະປາກົດ ເຊິ່ງທ່ານສາມາດປ້ອນຂໍ້ຄວາມ prompt ເລີ່ມຕົ້ນໄດ້. ຮອງຮັບຕົວແປແມ່ແບບພື້ນຖານ:
{site_name}— ຊື່ຂອງເວັບໄຊປັດຈຸບັນ{page_title}— ຊື່ຂອງໜ້າປັດຈຸບັນ{user_display_name}— ຊື່ສະແດງຂອງຜູ້ໃຊ້ທີ່ເຂົ້າລະບົບແລ້ວ
ຄ່າເລີ່ມຕົ້ນ: ປິດໃຊ້ງານ
ຣັນທາມ SharedWorker
ເວີຊັນ 1.1.0 ແນະນຳຣັນທາມ SharedWorker ສຳລັບ MLC engine. ກ່ອນໜ້ານີ້, ແຖບເບຣາວເຊີແຕ່ລະແຖບທີ່ໃຊ້ WebLLM ຈະໂຫຼດອິນສະແຕນຂອງໂມເດວຂອງຕົນເອງ, ແຂ່ງຂັນກັນເພື່ອໜ່ວຍຄວາມຈຳ GPU ແລະກໍ່ໃຫ້ເກີດບັນຫາປະສິດທິພາບໃນອຸປະກອນທີ່ມີ VRAM ຈຳກັດ.
ດ້ວຍຣັນທາມ SharedWorker, ແຖບໜຶ່ງຈະເຮັດໜ້າທີ່ເປັນໂຮສຂອງ engine. ແຖບອື່ນທັງໝົດສື່ສານກັບອິນສະແຕນດຽວນັ້ນຜ່ານຊ່ອງຂໍ້ຄວາມຂອງ worker. ຜົນທີ່ໄດ້:
- ເຊດຊັນ GPU ດຽວຖືກແບ່ງປັນໃນທຸກແຖບທີ່ເປີດຢູ່
- ຄຳຕອບໄວຂຶ້ນເມື່ອໂມເດວຖືກໂຫຼດແລ້ວ (ບໍ່ມີການເລີ່ມຕົ້ນຊ້ຳ)
- ການໃຊ້ໜ່ວຍຄວາມຈຳສູງສຸດໃນອຸປະກອນຕ່ຳລົງ
SharedWorker ໂປ່ງໃສຕໍ່ຜູ້ໃຊ້. ຕົວຊີ້ສະຖານະໃນແຖບຜູ້ດູແລຈະສະທ້ອນສະພາບຂອງ engine ທີ່ແບ່ງປັນຢູ່ສະເໝີ, ບໍ່ແມ່ນແຖບສ່ວນບຸກຄົນ.
apiFetch Middleware
addon ຕິດຕັ້ງ apiFetch middleware ທີ່ດັກຈັບຄຳຂໍ WordPress REST API ທີ່ກົງກັບຮູບແບບ AI Client SDK. ແທນທີ່ຈະເຮັດຄຳຂໍ HTTP loopback ໄປຫາເຊີບເວີ, ຄຳຂໍເຫຼົ່ານີ້ຈະຖືກສົ່ງໂດຍກົງໄປຫາ WebLLM broker ພາຍໃນທີ່ກຳລັງເຮັດວຽກໃນ SharedWorker.
ນີ້ໝາຍຄວາມວ່າ plugins ແລະ themes ທີ່ໃຊ້ WordPress apiFetch API ມາດຕະຖານເພື່ອເອີ້ນ AI endpoints ຈະໄດ້ຮັບປະໂຫຍດຈາກໂມເດວຝັ່ງເບຣາວເຊີໂດຍອັດຕະໂນມັດເມື່ອມັນພ້ອມໃຊ້ງານ, ໂດຍບໍ່ຕ້ອງປ່ຽນ code.
Hooks ແລະ Filters
Filters
wpai_preferred_text_models— ລົງທະບຽນເຄື່ອງຈັກເບຣົາເຊີ WebLLM ເປັນໂມເດວຂໍ້ຄວາມທີ່ຕ້ອງການ. ສ່ວນເສີມຈະ hook ເ ຂົ້າກັບ filter ນີ້ໂດຍອັດຕະໂນມັດເມື່ອເຄື່ອງຈັກຖືກຕັ້ງຄ່າ ແລະພ້ອມໃຊ້ງານ.ultimate_webllm_widget_enabled— ຂຽນທັບສະຖານະການເປີດໃຊ້ວິດເຈັດສຳລັບຜູ້ໃຊ້ ຫຼືບໍລິບົດສະເພາະ. ສົ່ງຄືນtrueຫຼືfalse.ultimate_webllm_auto_prompt— ປັບແກ້ຂໍ້ຄວາມ auto-prompt ກ່ອນທີ່ຈະສົ່ງໄປຫາວິດເຈັດ. ຮັບສະຕຣິງ prompt ແລະອອບເຈັກWP_Postປັດຈຸບັນ.
ການແກ້ໄຂບັນຫາ
ວິດເຈັດແຊັດບໍ່ປາກົດ
- ຢືນຢັນວ່າຜູ້ໃຊ້ໄດ້ເຂົ້າລະບົບແລ້ວ — ວິດເຈັດຈະສະແດງໃຫ້ເຫັນສະເພາະຜູ້ໃຊ້ທີ່ຜ່ານການຢືນຢັນແລ້ວເທົ່ານັ້ນ
- ກວດເບິ່ງວ່າ ເປີດໃຊ້ວິດເຈັດແຊັດແບບລອຍ ໄດ້ຖືກເປີດຢູ່ໃນແຜງ Connector
- ກວດຢືນຢັນວ່າເບຣົາເຊີຂອງຜູ້ໃຊ້ຮອງຮັບ WebGPU (ເບິ່ງຂໍ້ກຳນົດຂ້າງເທິງ)
ຕົວຊີ້ບອກໃນແຖບຜູ້ບໍລິຫານສະແດງ "ຂໍ້ຜິດພາດ"
ເປີດ console ນັກພັດທະນາຂອງເບຣົາເຊີ (F12) ແລະຊອກຫາຂໍ້ຜິດພາດທີ່ກ່ຽວກັບ WebLLM. ສາເຫດທົ່ວໄປ:
- ເບຣົາເຊີບໍ່ຮອງຮັບ WebGPU
- ການດາວໂຫຼດນ້ຳໜັກໂມເດວລົ້ມເຫຼວ — ກວດເບິ່ງການເຊື່ອມຕໍ່ເຄືອຂ່າຍ ແລະລອງລ້າງ cache IndexedDB ໃນເຄື່ອງມືນັກພັດທະນາຂອງເບຣົາເຊີ (ແອັບພລິເຄຊັນ → IndexedDB)
- ສ່ວນຂະຫຍາຍເບຣົາເຊີກຳລັງບລັອກ SharedWorker