Skip to main content
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM ນຳການປະມວນຜົນ AI ແບບດັ້ງເດີມໃນເບຣາວເຊີມາສູ່ເຄືອຂ່າຍ WordPress ຫຼາຍເວັບໄຊຂອງທ່ານ. ມັນເຮັດວຽກໂມເດວພາສາຂະໜາດໃຫຍ່ທັງໝົດໃນເບຣາວເຊີໂດຍໃຊ້ WebLLM ແລະ MLC engine — ບໍ່ຕ້ອງມີ API keys, ບໍ່ມີການເອີ້ນພາຍນອກ, ບໍ່ມີຂໍ້ມູນອອກຈາກອຸປະກອນຂອງຜູ້ໃຊ້.

ຄຸນສົມບັດຫຼັກ

  • ການປະມວນຜົນຝັ່ງເບຣາວເຊີ: LLM ເຮັດວຽກພາຍໃນເບຣາວເຊີຂອງຜູ້ເຂົ້າຊົມຜ່ານ WebLLM/MLC — ບໍ່ຈຳເປັນຕ້ອງມີ GPU ຂອງເຊີບເວີ
  • ວິດເຈັດແຊັດແບບລອຍ: ຜູ້ໃຊ້ທີ່ເຂົ້າລະບົບແລ້ວສາມາດສົ່ງ prompt ໄປຫາ LLM ຝັ່ງເບຣາວເຊີໄດ້ໂດຍກົງຈາກດ້ານໜ້າເວັບໄຊ
  • ຕົວຊີ້ສະຖານະໃນແຖບຜູ້ດູແລ: ສະຖານະແບບເວລາຈິງຂອງ WebLLM engine ສະແດງໃນແຖບຜູ້ດູແລ WordPress
  • ຣັນທາມ SharedWorker: ແຖບເບຣາວເຊີຫຼາຍແຖບແບ່ງປັນເຊດຊັນ GPU ດຽວກັນ ແທນທີ່ຈະແຍ່ງຊັບພະຍາກອນ GPU ກັນ
  • apiFetch middleware: ຄຳຂໍ WordPress REST ທີ່ກົງກັບຮູບແບບ AI Client SDK ຈະຖືກສົ່ງໄປຫາ WebLLM broker ພາຍໃນໂດຍໂປ່ງໃສ — ບໍ່ຕ້ອງໄປກັບ HTTP loopback
  • ສ່ວນຕັ້ງຄ່າ UI ຂອງວິດເຈັດ: ການຕັ້ງຄ່າແຜງຕົວເຊື່ອມຕໍ່ເພື່ອເປີດປິດວິດເຈັດແຊັດ ແລະກຳນົດພຶດຕິກຳ auto-prompt
  • IndexedDB cache: ການດາວໂຫຼດນ້ຳໜັກໂມເດວຍັງຢູ່ລອດຫຼັງການປ່ຽນທາງ CDN ທີ່ເຮັດໃຫ້ເສັ້ນທາງ Cache API ເລີ່ມຕົ້ນເສຍ
  • ການຜະສານກັບ wpai filter: ເຊື່ອມເຂົ້າກັບ filter wpai_preferred_text_models ເພື່ອໃຫ້ຄຸນສົມບັດ AI Experiments ສົ່ງເສັ້ນທາງໄປຫາເຄື່ອງຈັກເບຣາວເຊີເມື່ອຖືກກຳນົດຄ່າ

ຂໍ້ກຳນົດ

  • WordPress 5.3 ຫຼືສູງກວ່າ
  • PHP 7.4 ຫຼືສູງກວ່າ
  • Ultimate Multisite plugin (ເປີດໃຊ້ງານຢູ່)
  • ເບຣາວເຊີທີ່ຮອງຮັບ WebGPU (Chrome 113+, Edge 113+, ຫຼື Firefox Nightly ທີ່ເປີດໃຊ້ WebGPU)

ການຕິດຕັ້ງ

  1. ອັບໂຫຼດໄຟລ໌ addon ໄປທີ່ໄດເຣັກທໍຣີ /wp-content/plugins/ ຂອງທ່ານ
  2. ເປີດໃຊ້ plugin ຜ່ານເມນູ 'Plugins' ໃນ WordPress
  3. ໄປທີ່ Ultimate Multisite → AI Connector ເພື່ອກຳນົດຄ່າ addon

ວິດເຈັດແຊັດແບບລອຍ

ວິດເຈັດແຊັດແບບລອຍອະນຸຍາດໃຫ້ຜູ້ໃຊ້ທີ່ເຂົ້າລະບົບແລ້ວຄົນໃດກໍໄດ້ໂຕ້ຕອບກັບ LLM ຝັ່ງເບຣາວເຊີໄດ້ໂດຍກົງຈາກດ້ານໜ້າເວັບໄຊຂອງທ່ານ ໂດຍບໍ່ອອກຈາກໜ້າທີ່ພວກເຂົາກຳລັງຢູ່.

ມັນເຮັດຫຍັງ

ເມື່ອເປີດໃຊ້ງານ, ໄອຄອນແຊັດຈະປາກົດຢູ່ມຸມຂອງທຸກໜ້າດ້ານໜ້າສຳລັບຜູ້ໃຊ້ທີ່ເຂົ້າລະບົບແລ້ວ. ການຄລິກໄອຄອນຈະເປີດແຜງແຊັດທີ່ຜູ້ໃຊ້ສາມາດພິມ prompt ແລະຮັບຄຳຕອບຈາກໂມເດວ WebLLM ທີ່ກຳລັງເຮັດວຽກພາຍໃນ. ເນື່ອງຈາກໂມເດວເຮັດວຽກທັງໝົດໃນເບຣາວເຊີ, ຄຳຕອບຈຶ່ງເປັນສ່ວນຕົວ ແລະບໍ່ມີການປະມວນຜົນຝັ່ງເຊີບເວີໃດໆ.

ຕົວຊີ້ສະຖານະໃນແຖບຜູ້ດູແລ

ແຖບຜູ້ດູແລ WordPress ມີຕົວຊີ້ສະຖານະທີ່ສະແດງສະພາບປັດຈຸບັນຂອງ WebLLM engine:

ສະຖານະຄວາມໝາຍ
ກຳລັງໂຫຼດMLC engine ກຳລັງເລີ່ມຕົ້ນ ຫຼືກຳລັງດາວໂຫຼດນ້ຳໜັກໂມເດວ
ພ້ອມໃຊ້ໂມເດວຖືກໂຫຼດແລ້ວ ແລະພ້ອມສຳລັບການປະມວນຜົນ
ວ່າງengine ຖືກໂຫຼດແລ້ວ ແຕ່ແຖບ SharedWorker ບໍ່ໄດ້ເປີດໃຊ້ງານ
ຂໍ້ຜິດພາດengine ເລີ່ມຕົ້ນບໍ່ສຳເລັດ — ກວດເບິ່ງ console ຂອງເບຣາວເຊີເພື່ອລາຍລະອຽດ

ຕົວຊີ້ຈະອັບເດດແບບເວລາຈິງໂດຍບໍ່ຕ້ອງໂຫຼດໜ້າໃໝ່.

ວິທີເປີດ ຫຼືປິດໃຊ້ງານວິດເຈັດ

  1. ໄປທີ່ Ultimate Multisite → AI Connector ໃນຜູ້ດູແລເຄືອຂ່າຍ
  2. ຊອກຫາແຜງ Connector
  3. ເປີດ ຫຼືປິດ ເປີດໃຊ້ວິດເຈັດແຊັດແບບລອຍ
  4. ບັນທຶກການຕັ້ງຄ່າ

ວິດເຈັດຍັງສາມາດເປີດ ຫຼືປິດໃຊ້ງານແຍກຕາມເວັບໄຊໄດ້ຈາກຜູ້ດູແລຂອງເວັບໄຊນັ້ນເອງ ຖ້າຜູ້ບໍລິຫານເຄືອຂ່າຍໄດ້ມອບຄວາມສາມາດນັ້ນໃຫ້.

ການຕັ້ງຄ່າວິດເຈັດ

ແຜງ Connector ໃນ Ultimate Multisite → AI Connector ມີການຕັ້ງຄ່າຕໍ່ໄປນີ້ສຳລັບວິດເຈັດແຊັດແບບລອຍ:

ເປີດໃຊ້ວິດເຈັດແຊັດແບບລອຍ

ເປີດ ຫຼືປິດວິດເຈັດແຊັດສຳລັບເຄືອຂ່າຍທັງໝົດ. ເມື່ອປິດໃຊ້ງານ, ວິດເຈັດຈະບໍ່ປາກົດໃນໜ້າດ້ານໜ້າໃດໆ ບໍ່ວ່າບົດບາດຜູ້ໃຊ້ຈະເປັນຫຍັງ.

ຄ່າເລີ່ມຕົ້ນ: ປິດ

ພຶດຕິກຳ Auto-Prompt

ຄວບຄຸມວ່າວິດເຈັດແຊັດຈະສົ່ງ prompt ອັດຕະໂນມັດເມື່ອຜູ້ໃຊ້ເປີດມັນຫຼືບໍ່.

ຕົວເລືອກພຶດຕິກຳ
ປິດໃຊ້ງານວິດເຈັດເປີດຂຶ້ນເປັນແຊັດຫວ່າງ — ຜູ້ໃຊ້ພິມ prompt ຂອງຕົນເອງ
ບໍລິບົດໜ້າວິດເຈັດເປີດຂຶ້ນພ້ອມ prompt ທີ່ຕື່ມໄວ້ລ່ວງໜ້າຕາມຊື່ໜ້າ ແລະເນື້ອຫາຂອງໜ້າປັດຈຸບັນ
prompt ກຳນົດເອງວິດເຈັດເປີດຂຶ້ນພ້ອມ prompt ກຳນົດເອງທີ່ທ່ານກຳນົດໃນຊ່ອງດ້ານລຸ່ມ

ເມື່ອຕັ້ງເປັນ prompt ກຳນົດເອງ, ຊ່ອງຂໍ້ຄວາມເພີ່ມເຕີມຈະປາກົດ ເຊິ່ງທ່ານສາມາດປ້ອນຂໍ້ຄວາມ prompt ເລີ່ມຕົ້ນໄດ້. ຮອງຮັບຕົວແປແມ່ແບບພື້ນຖານ:

  • {site_name} — ຊື່ຂອງເວັບໄຊປັດຈຸບັນ
  • {page_title} — ຊື່ຂອງໜ້າປັດຈຸບັນ
  • {user_display_name} — ຊື່ສະແດງຂອງຜູ້ໃຊ້ທີ່ເຂົ້າລະບົບແລ້ວ

ຄ່າເລີ່ມຕົ້ນ: ປິດໃຊ້ງານ

ຣັນທາມ SharedWorker

ເວີຊັນ 1.1.0 ແນະນຳຣັນທາມ SharedWorker ສຳລັບ MLC engine. ກ່ອນໜ້ານີ້, ແຖບເບຣາວເຊີແຕ່ລະແຖບທີ່ໃຊ້ WebLLM ຈະໂຫຼດອິນສະແຕນຂອງໂມເດວຂອງຕົນເອງ, ແຂ່ງຂັນກັນເພື່ອໜ່ວຍຄວາມຈຳ GPU ແລະກໍ່ໃຫ້ເກີດບັນຫາປະສິດທິພາບໃນອຸປະກອນທີ່ມີ VRAM ຈຳກັດ.

ດ້ວຍຣັນທາມ SharedWorker, ແຖບໜຶ່ງຈະເຮັດໜ້າທີ່ເປັນໂຮສຂອງ engine. ແຖບອື່ນທັງໝົດສື່ສານກັບອິນສະແຕນດຽວນັ້ນຜ່ານຊ່ອງຂໍ້ຄວາມຂອງ worker. ຜົນທີ່ໄດ້:

  • ເຊດຊັນ GPU ດຽວຖືກແບ່ງປັນໃນທຸກແຖບທີ່ເປີດຢູ່
  • ຄຳຕອບໄວຂຶ້ນເມື່ອໂມເດວຖືກໂຫຼດແລ້ວ (ບໍ່ມີການເລີ່ມຕົ້ນຊ້ຳ)
  • ການໃຊ້ໜ່ວຍຄວາມຈຳສູງສຸດໃນອຸປະກອນຕ່ຳລົງ

SharedWorker ໂປ່ງໃສຕໍ່ຜູ້ໃຊ້. ຕົວຊີ້ສະຖານະໃນແຖບຜູ້ດູແລຈະສະທ້ອນສະພາບຂອງ engine ທີ່ແບ່ງປັນຢູ່ສະເໝີ, ບໍ່ແມ່ນແຖບສ່ວນບຸກຄົນ.

apiFetch Middleware

addon ຕິດຕັ້ງ apiFetch middleware ທີ່ດັກຈັບຄຳຂໍ WordPress REST API ທີ່ກົງກັບຮູບແບບ AI Client SDK. ແທນທີ່ຈະເຮັດຄຳຂໍ HTTP loopback ໄປຫາເຊີບເວີ, ຄຳຂໍເຫຼົ່ານີ້ຈະຖືກສົ່ງໂດຍກົງໄປຫາ WebLLM broker ພາຍໃນທີ່ກຳລັງເຮັດວຽກໃນ SharedWorker.

ນີ້ໝາຍຄວາມວ່າ plugins ແລະ themes ທີ່ໃຊ້ WordPress apiFetch API ມາດຕະຖານເພື່ອເອີ້ນ AI endpoints ຈະໄດ້ຮັບປະໂຫຍດຈາກໂມເດວຝັ່ງເບຣາວເຊີໂດຍອັດຕະໂນມັດເມື່ອມັນພ້ອມໃຊ້ງານ, ໂດຍບໍ່ຕ້ອງປ່ຽນ code.

Hooks ແລະ Filters

Filters

  • wpai_preferred_text_models — ລົງທະບຽນເຄື່ອງຈັກເບຣົາເຊີ WebLLM ເປັນໂມເດວຂໍ້ຄວາມທີ່ຕ້ອງການ. ສ່ວນເສີມຈະ hook ເຂົ້າກັບ filter ນີ້ໂດຍອັດຕະໂນມັດເມື່ອເຄື່ອງຈັກຖືກຕັ້ງຄ່າ ແລະພ້ອມໃຊ້ງານ.
  • ultimate_webllm_widget_enabled — ຂຽນທັບສະຖານະການເປີດໃຊ້ວິດເຈັດສຳລັບຜູ້ໃຊ້ ຫຼືບໍລິບົດສະເພາະ. ສົ່ງຄືນ true ຫຼື false.
  • ultimate_webllm_auto_prompt — ປັບແກ້ຂໍ້ຄວາມ auto-prompt ກ່ອນທີ່ຈະສົ່ງໄປຫາວິດເຈັດ. ຮັບສະຕຣິງ prompt ແລະອອບເຈັກ WP_Post ປັດຈຸບັນ.

ການແກ້ໄຂບັນຫາ

ວິດເຈັດແຊັດບໍ່ປາກົດ

  • ຢືນຢັນວ່າຜູ້ໃຊ້ໄດ້ເຂົ້າລະບົບແລ້ວ — ວິດເຈັດຈະສະແດງໃຫ້ເຫັນສະເພາະຜູ້ໃຊ້ທີ່ຜ່ານການຢືນຢັນແລ້ວເທົ່ານັ້ນ
  • ກວດເບິ່ງວ່າ ເປີດໃຊ້ວິດເຈັດແຊັດແບບລອຍ ໄດ້ຖືກເປີດຢູ່ໃນແຜງ Connector
  • ກວດຢືນຢັນວ່າເບຣົາເຊີຂອງຜູ້ໃຊ້ຮອງຮັບ WebGPU (ເບິ່ງຂໍ້ກຳນົດຂ້າງເທິງ)

ຕົວຊີ້ບອກໃນແຖບຜູ້ບໍລິຫານສະແດງ "ຂໍ້ຜິດພາດ"

ເປີດ console ນັກພັດທະນາຂອງເບຣົາເຊີ (F12) ແລະຊອກຫາຂໍ້ຜິດພາດທີ່ກ່ຽວກັບ WebLLM. ສາເຫດທົ່ວໄປ:

  • ເບຣົາເຊີບໍ່ຮອງຮັບ WebGPU
  • ການດາວໂຫຼດນ້ຳໜັກໂມເດວລົ້ມເຫຼວ — ກວດເບິ່ງການເຊື່ອມຕໍ່ເຄືອຂ່າຍ ແລະລອງລ້າງ cache IndexedDB ໃນເຄື່ອງມືນັກພັດທະນາຂອງເບຣົາເຊີ (ແອັບພລິເຄຊັນ → IndexedDB)
  • ສ່ວນຂະຫຍາຍເບຣົາເຊີກຳລັງບລັອກ SharedWorker

ນ້ຳໜັກໂມເດວຖືກດາວໂຫຼດທຸກຄັ້ງ

ສ່ວນເສີມໃຊ້ IndexedDB ເປັນ backend cache ເພື່ອໃຫ້ແນ່ໃຈວ່ານ້ຳໜັກໂມເດວຍັງຄົງຢູ່ໄດ້ຫຼັງຈາກ CDN ປ່ຽນເສັ້ນທາງ. ຖ້ານ້ຳໜັກຖືກດາວໂຫຼດໃໝ່ທຸກຄັ້ງທີ່ເຂົ້າເບິ່ງ, ໃຫ້ກວດເບິ່ງວ່າ IndexedDB ບໍ່ໄດ້ຖືກລ້າງໂດຍການຕັ້ງຄ່າຄວາມເປັນສ່ວນຕົວຂອງເບຣົາເຊີ ຫຼືສ່ວນຂະຫຍາຍ.

ບັນທຶກການປ່ຽນແປງ

ເບິ່ງ ບັນທຶກການປ່ຽນແປງ ສຳລັບປະຫວັດເວີຊັນທັງໝົດ.