Skip to main content
Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM توركۆرگۈچ-ئانا AI inference نى WordPress multisite تورىڭىزغا ئېلىپ كېلىدۇ. ئۇ WebLLM ۋە MLC ماتورىنى ئىشلىتىپ چوڭ تىل مودېللىرىنى پۈتۈنلەي توركۆرگۈچ ئىچىدە ئىجرا قىلىدۇ — API ئاچقۇچلىرى يوق، سىرتقى چاقىرىشلار يوق، ئىشلەتكۈچىنىڭ ئۈسكۈنىسىدىن سانلىق مەلۇمات چىقىپ كەتمەيدۇ.

ئاساسلىق ئىقتىدارلار​

  • توركۆرگۈچ تەرەپ inference: LLM زىيارەتچىنىڭ توركۆرگۈچىدە WebLLM/MLC ئارقىلىق يەرلىك ئىجرا بولىدۇ — مۇلازىمېتىر GPU تەلەپ قىلىنمايدۇ
  • لەيلەپ تۇرىدىغان پاراڭ widget: كىرگەن ئىشلەتكۈچىلەر ئالدى تەرەپتىن بىۋاسىتە توركۆرگۈچ تەرەپ LLM غا ئەسكەرتمە يوللىيالايدۇ
  • باشقۇرغۇچى-بالدىقى ھالەت كۆرسەتكۈچى: WebLLM ماتورىنىڭ ھەقىقىي ۋاقىتتىكى ھالىتى WordPress باشقۇرغۇچى بالدىقىدا كۆرۈنىدۇ
  • SharedWorker runtime: كۆپلىگەن توركۆرگۈچ بەتكۈچلىرى GPU مەنبەلىرى ئۈچۈن تالاشماستىن بىر GPU session نى ئورتاق ئىشلىتىدۇ
  • apiFetch middleware: AI Client SDK ئەندىزىسىگە ماس كېلىدىغان WordPress REST تەلەپلىرى يەرلىك WebLLM broker غا ئاشكارا ھالدا يوللىنىدۇ — loopback HTTP قايتما-سەپىرى يوق
  • Widget تەڭشەك UI: پاراڭ widget نى قوزغىتىش/توختىتىش ۋە ئاپتوماتىك ئەسكەرتمە ھەرىكىتىنى سەپلەش ئۈچۈن Connector تاختا تەڭشەكلىرى
  • IndexedDB cache: مودېل ئېغىرلىقى چۈشۈرۈشلىرى default Cache API يولىنى بۇزىدىغان CDN قايتا يوللاشلىرىدىن كېيىنمۇ ساقلىنىپ قالىدۇ
  • wpai filter بىرلەشتۈرۈش: wpai_preferred_text_models filter غا باغلىنىپ، AI Experiments ئىقتىدارى سەپلەنگەندە توركۆرگۈچ ماتورىغا يوللايدۇ

تەلەپلەر​

  • WordPress 5.3 ياكى ئۇنىڭدىن يۇقىرى
  • PHP 7.4 ياكى ئۇنىڭدىن يۇقىرى
  • Ultimate Multisite plugin (ئاكتىپ)
  • WebGPU قوللايدىغان توركۆرگۈچ (Chrome 113+، Edge 113+، ياكى WebGPU قوزغىتىلغان Firefox Nightly)

ئورنىتىش​

  1. addon ھۆججەتلىرىنى /wp-content/plugins/ مۇندەرىجىڭىزگە يۈكلەڭ
  2. WordPress ئىچىدىكى 'Plugins' تىزىملىكى ئارقىلىق plugin نى ئاكتىپلاڭ
  3. addon نى سەپلەش ئۈچۈن Ultimate Multisite → AI Connector غا يۆتكىلىڭ

لەيلەپ تۇرىدىغان پاراڭ Widget​

لەيلەپ تۇرىدىغان پاراڭ widget ھەرقانداق كىرگەن ئىشلەتكۈچىگە ئۆزى تۇرغان بەتتىن ئايرىلماي، ئالدى تەرەپتىن بىۋاسىتە توركۆرگۈچ تەرەپ LLM بىلەن ئالاقە قىلىش ئىمكانى بېرىدۇ.

ئۇ نېمە قىلىدۇ​

قوزغىتىلغاندا، كىرگەن ئىشلەتكۈچىلەر ئۈچۈن ھەر بىر ئالدى تەرەپ بېتىنىڭ بۇلۇڭىدا پاراڭ سىنبەلگىسى كۆرۈنىدۇ. سىنبەلگىنى چېكىش پاراڭ تاختىسىنى ئاچىدۇ؛ بۇ يەردە ئىشلەتكۈچى ئەسكەرتمىلەرنى يېزىپ، يەرلىك ئىجرا بولۇۋاتقان WebLLM مودېلىدىن جاۋابلارنى ئالالايدۇ. مودېل پۈتۈنلەي توركۆرگۈچ ئىچىدە ئىجرا بولغاچقا، جاۋابلار شەخسىي بولۇپ، ھېچقانداق مۇلازىمېتىر تەرەپ بىر تەرەپ قىلىشىغا چېتىلمايدۇ.

باشقۇرغۇچى-بالدىقى ھالەت كۆرسەتكۈچى​

WordPress باشقۇرغۇچى بالدىقى WebLLM ماتورىنىڭ نۆۋەتتىكى ھالىتىنى كۆرسىتىدىغان ھالەت كۆرسەتكۈچىنى ئۆز ئىچىگە ئالىدۇ:

ھالەتمەنىسى
يۈكلىنىۋاتىدۇMLC ماتورى باشلىنىۋاتىدۇ ياكى مودېل ئېغىرلىقلىرىنى چۈشۈرۈۋاتىدۇ
تەييارمودېل يۈكلەنگەن ۋە inference ئۈچۈن ئىشلىتىشكە بولىدۇ
بوشماتور يۈكلەنگەن، ئەمما SharedWorker بەتكۈچى ئاكتىپ ئەمەس
خاتالىقماتورنى باشلاش مەغلۇپ بولدى — تەپسىلاتلار ئۈچۈن توركۆرگۈچ console نى تەكشۈرۈڭ

كۆرسەتكۈچ بەتنى قايتا يۈكلەشنى تەلەپ قىلماستىن ھەقىقىي ۋاقىتتا يېڭىلىنىدۇ.

Widget نى قانداق قوزغىتىش ياكى توختىتىش​

  1. تور باشقۇرغۇچىسىدا Ultimate Multisite → AI Connector غا بېرىڭ
  2. Connector تاختىسىنى تېپىڭ
  3. لەيلەپ تۇرىدىغان پاراڭ widget نى قوزغىتىش نى ئېچىڭ ياكى تاقاڭ
  4. تەڭشەكلەرنى ساقلاڭ

ئەگەر تور باشقۇرغۇچىسى شۇ ئىقتىدارنى بەرگەن بولسا، widget نى تور بېكەتنىڭ ئۆز باشقۇرغۇچىسىدىن ھەر بىر تور بېكەت بويىچە قوزغىتىش ياكى توختىتىشمۇ بولىدۇ.

Widget تەڭشەكلىرى​

Ultimate Multisite → AI Connector ئىچىدىكى Connector تاختىسى لەيلەپ تۇرىدىغان پاراڭ widget ئۈچۈن تۆۋەندىكى تەڭشەكلەرنى ئۆز ئىچىگە ئالىدۇ:

لەيلەپ تۇرىدىغان پاراڭ Widget نى قوزغىتىش​

پۈتكۈل تور ئۈچۈن پاراڭ widget نى قوزغىتىدۇ ياكى توختىتىدۇ. توختىتىلغاندا، ئىشلەتكۈچى رولىدىن قەتئىينەزەر، widget ھېچقانداق ئالدى تەرەپ بېتىدە كۆرۈنمەيدۇ.

Default: تاقاق

ئاپتوماتىك ئەسكەرتمە ھەرىكىتى​

ئىشلەتكۈچى پاراڭ widget نى ئاچقاندا ئۇنىڭ ئاپتوماتىك ئەسكەرتمە يوللايدىغان-يوللىمايدىغانلىقىنى كونترول قىلىدۇ.

تاللاشھەرىكەت
توختىتىلغانwidget بوش پاراڭغا ئېچىلىدۇ — ئىشلەتكۈچى ئۆزىنىڭ ئەسكەرتمىسىنى يازىدۇ
بەت مەزمۇنىwidget نۆۋەتتىكى بەتنىڭ ماۋزۇسى ۋە مەزمۇنىغا ئاساسەن ئالدىن تولدۇرۇلغان ئەسكەرتمە بىلەن ئېچىلىدۇ
ئىختىيارى ئەسكەرتمەwidget تۆۋەندىكى ساھەدە بەلگىلىگەن ئىختىيارى ئەسكەرتمە بىلەن ئېچىلىدۇ

ئىختىيارى ئەسكەرتمە قىلىپ تەڭشەلگەندە، default ئەسكەرتمە تېكىستىنى كىرگۈزەلەيدىغان قوشۇمچە تېكىست ساھەسى كۆرۈنىدۇ. ئاساسىي قېلىپ ئۆزگەرگۈچىلەرنى قوللايدۇ:

  • {site_name} — نۆۋەتتىكى تور بېكەتنىڭ ئىسمى
  • {page_title} — نۆۋەتتىكى بەتنىڭ ماۋزۇسى
  • {user_display_name} — كىرگەن ئىشلەتكۈچىنىڭ كۆرسىتىلىدىغان ئىسمى

Default: توختىتىلغان

SharedWorker Runtime​

1.1.0 نەشرى MLC ماتورى ئۈچۈن SharedWorker runtime نى كىرگۈزىدۇ. ئىلگىرى، WebLLM ئىشلەتكەن ھەر بىر توركۆرگۈچ بەتكۈچى مودېلنىڭ ئۆز نۇسخىسىنى يۈكلەپ، GPU خاتىرىسى ئۈچۈن رىقابەتلىشىپ، VRAM چەكلىك ئۈسكۈنىلەردە ئىقتىدار مەسىلىلىرىنى پەيدا قىلاتتى.

SharedWorker runtime ئارقىلىق، بىر بەتكۈچ ماتور ساھىبى سۈپىتىدە ئىشلەيدۇ. باشقا بارلىق بەتكۈچلەر worker نىڭ ئۇچۇر قانىلى ئارقىلىق شۇ يەككە نۇسخا بىلەن ئالاقىلىشىدۇ. نەتىجە:

  • بارلىق ئېچىلغان بەتكۈچلەر ئارىسىدا بىر GPU session ئورتاق ئىشلىتىلىدۇ
  • مودېل يۈكلەنگەندىن كېيىن تېزرەك جاۋابلار (قايتا-قايتا باشلاش يوق)
  • ئۈسكۈنىدە ئەڭ يۇقىرى خاتىرە ئىشلىتىلىشى تۆۋەنرەك

SharedWorker ئىشلەتكۈچىلەرگە ئاشكارا ئەمەس. باشقۇرغۇچى-بالدىقى ھالەت كۆرسەتكۈچى ھەمىشە ئايرىم بەتكۈچنىڭ ئەمەس، ئورتاق ماتورنىڭ ھالىتىنى ئەكس ئەتتۈرىدۇ.

apiFetch Middleware​

addon، AI Client SDK ئەندىزىسىگە ماس كېلىدىغان WordPress REST API تەلەپلىرىنى تۇتۇۋالىدىغان apiFetch middleware نى ئورنىتىدۇ. بۇ تەلەپلەر مۇلازىمېتىرغا loopback HTTP تەلىپى قىلىشنىڭ ئورنىغا، SharedWorker دا ئىجرا بولۇۋاتقان يەرلىك WebLLM broker غا بىۋاسىتە يوللىنىدۇ.

بۇ، ئۆلچەملىك WordPress apiFetch API نى ئىشلىتىپ AI endpoint لارنى چاقىرىدىغان plugin ۋە theme لارنىڭ، ئۇ بار بولغاندا، ھېچقانداق كود ئۆزگەرتىشى تەلەپ قىلىنمايلا توركۆرگۈچ تەرەپ مودېلىدىن ئاپتوماتىك پايدىلىنىدىغانلىقىنى بىلدۈرىدۇ.

Hooks ۋە Filters​

Filters​

  • wpai_preferred_text_models — WebLLM توركۆرگۈ ماتورىنى ئالدىن تاللانغان تېكىست مودېلى سۈپىتىدە تىزىملاڭ. ماتور سەپلەنگەن ۋە ئىشلىتىشكە بولىدىغان بولغاندا، بۇ addon بۇ filter غا ئاپتوماتىك ئۇلىنىدۇ.
  • ultimate_webllm_widget_enabled — مەلۇم بىر ئىشلەتكۈچى ياكى كونتېكىست ئۈچۈن widget قوزغىتىلغان ھالىتىنى قاپلاپ بەلگىلەڭ. true ياكى false قايتۇرۇڭ.
  • ultimate_webllm_auto_prompt — widget غا ئەۋەتىلىشتىن بۇرۇن ئاپتوماتىك prompt تېكىستىنى ئۆزگەرتىڭ. prompt تىزىقى ۋە نۆۋەتتىكى WP_Post ئوبيېكتىنى قوبۇل قىلىدۇ.

مەسىلە ھەل قىلىش​

چات widget كۆرۈنمەيدۇ​

  • ئىشلەتكۈچىنىڭ كىرگەنلىكىنى جەزملەشتۈرۈڭ — widget پەقەت دەلىللەنگەن ئىشلەتكۈچىلەرگىلا كۆرسىتىلىدۇ
  • Connector تاختىسىدا لەيلىمە چات widget نى قوزغىتىش ئېچىلغانلىقىنى تەكشۈرۈڭ
  • ئىشلەتكۈچىنىڭ توركۆرگۈسى WebGPU نى قوللايدىغانلىقىنى دەلىللەڭ (يۇقىرىدىكى تەلەپلەرگە قاراڭ)

باشقۇرغۇچى-بالداق كۆرسەتكۈچى "Error" نى كۆرسىتىدۇ​

توركۆرگۈ developer console نى ئېچىڭ (F12) ھەمدە WebLLM غا مۇناسىۋەتلىك خاتالىقلارنى ئىزدەڭ. كۆپ ئۇچرايدىغان سەۋەبلەر:

  • توركۆرگۈ WebGPU نى قوللىمايدۇ
  • مودېل ئېغىرلىقلىرىنى چۈشۈرۈش مەغلۇپ بولدى — تور ئۇلىنىشىنى تەكشۈرۈڭ ۋە توركۆرگۈ developer tools دا IndexedDB cache نى تازىلاپ بېقىڭ (Application → IndexedDB)
  • بىر توركۆرگۈ كېڭەيتمىسى SharedWorker نى توسۇۋاتىدۇ

مودېل ئېغىرلىقلىرى ھەر قېتىم چۈشۈرۈلىدۇ​

بۇ addon مودېل ئېغىرلىقلىرىنىڭ CDN قايتا نىشانلاشلىرىدىن كېيىنمۇ ساقلىنىشىغا كاپالەتلىك قىلىش ئۈچۈن IndexedDB نى cache ئارقا ئۇچى سۈپىتىدە ئىشلىتىدۇ. ئەگەر ئېغىرلىقلار ھەر قېتىملىق زىيارەتتە قايتا چۈشۈرۈلسە، IndexedDB نىڭ توركۆرگۈ مەخپىيەتلىك تەڭشىكى ياكى كېڭەيتمىسى تەرىپىدىن تازىلىنىۋاتمىغانلىقىنى تەكشۈرۈڭ.

ئۆزگىرىش خاتىرىسى​

تولۇق نەشر تارىخى ئۈچۈن ئۆزگىرىش خاتىرىسى نى كۆرۈڭ.