Paid AddonPurchase Ultimate AI Connector for WebLLM | Install via your site's addon page or download from your account

Ultimate AI Connector for WebLLM

Ultimate AI Connector for WebLLM ඔබගේ WordPress බහු-අඩවි ජාලයට බ්‍රවුසරය තුළම ක්‍රියා කරන AI inference ගෙන එයි. එය WebLLM සහ MLC එන්ජිම භාවිතයෙන් විශාල භාෂා ආකෘති සම්පූර්ණයෙන්ම බ්‍රවුසරය තුළ ධාවනය කරයි — API keys නැත, බාහිර ඇමතුම් නැත, පරිශීලකයාගේ උපාංගයෙන් දත්ත පිටතට නොයයි.

ප්‍රධාන විශේෂාංග

• බ්‍රවුසර-පාර්ශ්ව inference: LLM WebLLM/MLC හරහා අමුත්තන්ගේ බ්‍රවුසරය තුළ දේශීයව ධාවනය වේ — සේවාදායක GPU අවශ්‍ය නැත
• පාවෙන කතාබස් විජට්ටුව: පිවිසී සිටින පරිශීලකයින්ට ඉදිරි අතුරුමුහුණතෙන්ම බ්‍රවුසර-පාර්ශ්ව LLM වෙත prompt යැවිය හැක
• පරිපාලක තීරු තත්ත්ව දර්ශකය: WebLLM එන්ජිමේ සජීවී තත්ත්වය WordPress පරිපාලක තීරුවේ පෙනේ
• SharedWorker ධාවන පරිසරය: GPU සම්පත් සඳහා තරග කිරීම වෙනුවට බ්‍රවුසර ටැබ් කිහිපයක් එක් GPU සැසියක් බෙදා ගනී
• apiFetch middleware: AI Client SDK රටාවට ගැළපෙන WordPress REST ඉල්ලීම් දේශීය WebLLM broker වෙත පැහැදිලිවම යොමු කෙරේ — loopback HTTP round-trip අවශ්‍ය නැත
• විජට් සැකසුම් අතුරුමුහුණත: කතාබස් විජට්ටුව සක්‍රිය/අක්‍රිය කිරීමට සහ ස්වයං-prompt හැසිරීම සකස් කිරීමට Connector පැනල සැකසුම්
• IndexedDB cache: පෙරනිමි Cache API මාර්ගය බිඳ දමන CDN යළි-යොමු කිරීම් තිබුණත් ආකෘති weight බාගැනීම් පවතී
• wpai filter ඒකාබද්ධ කිරීම: සකසා ඇති විට AI Experiments විශේෂාංගය බ්‍රවුසර එන්ජිම වෙත යොමු වන පරිදි wpai_preferred_text_models filter වෙත සම්බන්ධ වේ

අවශ්‍යතා

• WordPress 5.3 හෝ ඉහළ
• PHP 7.4 හෝ ඉහළ
• Ultimate Multisite plugin (සක්‍රිය)
• WebGPU සහාය ඇති බ්‍රවුසරයක් (Chrome 113+, Edge 113+, හෝ WebGPU සක්‍රිය කළ Firefox Nightly)

ස්ථාපනය

1. addon ගොනු ඔබගේ /wp-content/plugins/ ඩිරෙක්ටරියට උඩුගත කරන්න
2. WordPress තුළ 'ප්ලගින' මෙනුව හරහා plugin සක්‍රිය කරන්න
3. addon සැකසීමට Ultimate Multisite → AI Connector වෙත යන්න

පාවෙන කතාබස් විජට්ටුව

පාවෙන කතාබස් විජට්ටුව මඟින් පිවිසී සිටින ඕනෑම පරිශීලකයෙකුට තමන් සිටින පිටුව හැර නොයා ඔබගේ ඉදිරි අතුරුමුහුණතෙන්ම බ්‍රවුසර-පාර්ශ්ව LLM සමඟ සෘජුව සම්බන්ධ විය හැක.

එය කරන දේ

සක්‍රිය කළ විට, පිවිසී සිටින පරිශීලකයින් සඳහා සෑම ඉදිරි-අතුරුමුහුණත් පිටුවකම කෙළවරක කතාබස් අයිකනයක් පෙනේ. අයිකනය ක්ලික් කළ විට පරිශීලකයාට prompts ටයිප් කර දේශීයව ධාවනය වන WebLLM ආකෘතියෙන් ප්‍රතිචාර ලබා ගත හැකි කතාබස් පැනලයක් විවෘත වේ. ආකෘතිය සම්පූර්ණයෙන්ම බ්‍රවුසරය තුළ ධාවනය වන බැවින්, ප්‍රතිචාර පුද්ගලික වන අතර කිසිදු සේවාදායක-පාර්ශ්ව සැකසීමකට සම්බන්ධ නොවේ.

පරිපාලක තීරු තත්ත්ව දර්ශකය

WordPress පරිපාලක තීරුවේ WebLLM එන්ජිමේ වත්මන් තත්ත්වය පෙන්වන තත්ත්ව දර්ශකයක් ඇතුළත් වේ:

තත්ත්වය	අර්ථය
පූරණය වෙමින්	MLC එන්ජිම ආරම්භ වෙමින් හෝ ආකෘති weights බාගනිමින් සිටී
සූදානම්	ආකෘතිය පූරණය වී ඇති අතර inference සඳහා ලබාගත හැක
නිෂ්ක්‍රීය	එන්ජිම පූරණය වී ඇත, නමුත් SharedWorker ටැබය සක්‍රිය නැත
දෝෂය	එන්ජිම ආරම්භ කිරීමට අසමත් විය — විස්තර සඳහා බ්‍රවුසර console පරීක්ෂා කරන්න

පිටුව නැවත පූරණය කිරීම අවශ්‍ය නොවී දර්ශකය සජීවීව යාවත්කාලීන වේ.

විජට්ටුව සක්‍රිය හෝ අක්‍රිය කරන ආකාරය

1. ජාල පරිපාලනයේ Ultimate Multisite → AI Connector වෙත යන්න
2. Connector පැනලය සොයන්න
3. පාවෙන කතාබස් විජට්ටුව සක්‍රිය කරන්න සක්‍රිය හෝ අක්‍රිය කරන්න
4. සැකසුම් සුරකින්න

ජාල පරිපාලකයා එම හැකියාව ලබා දී ඇත්නම්, අඩවියේම පරිපාලනයෙන්ද එක් එක් අඩවිය සඳහා විජට්ටුව සක්‍රිය හෝ අක්‍රිය කළ හැක.

විජට් සැකසුම්

Ultimate Multisite → AI Connector තුළ ඇති Connector පැනලයේ පාවෙන කතාබස් විජට්ටුව සඳහා පහත සැකසුම් ඇත:

පාවෙන කතාබස් විජට්ටුව සක්‍රිය කරන්න

සම්පූර්ණ ජාලය සඳහා කතාබස් විජට්ටුව සක්‍රිය හෝ අක්‍රිය කරයි. අක්‍රිය කළ විට, පරිශීලක භූමිකාව කුමක් වුවත් කිසිදු ඉදිරි-අතුරුමුහුණත් පිටුවක විජට්ටුව නොපෙනේ.

පෙරනිමිය: අක්‍රිය

ස්වයං-Prompt හැසිරීම

පරිශීලකයෙකු කතාබස් විජට්ටුව විවෘත කරන විට එය ස්වයංක්‍රීයව prompt එකක් යවන්නේද යන්න පාලනය කරයි.

විකල්පය	හැසිරීම
අක්‍රිය	විජට්ටුව හිස් කතාබසක් ලෙස විවෘත වේ — පරිශීලකයා තමන්ගේම prompt ටයිප් කරයි
පිටු සන්දර්භය	වත්මන් පිටුවේ මාතෘකාව සහ අන්තර්ගතය මත පදනම්ව පෙර පුරවන ලද prompt එකක් සමඟ විජට්ටුව විවෘත වේ
අභිරුචි prompt	පහත ක්ෂේත්‍රයේ ඔබ නිර්වචනය කරන අභිරුචි prompt එකක් සමඟ විජට්ටුව විවෘත වේ

අභිරුචි prompt ලෙස සැකසූ විට, පෙරනිමි prompt පෙළ ඇතුළත් කළ හැකි අමතර පෙළ ක්ෂේත්‍රයක් පෙනේ. මූලික template variables සඳහා සහාය දක්වයි:

• {site_name} — වත්මන් අඩවියේ නම
• {page_title} — වත්මන් පිටුවේ මාතෘකාව
• {user_display_name} — පිවිසී සිටින පරිශීලකයාගේ ප්‍රදර්ශන නම

පෙරනිමිය: අක්‍රිය

SharedWorker ධාවන පරිසරය

1.1.0 අනුවාදය MLC එන්ජිම සඳහා SharedWorker ධාවන පරිසරයක් හඳුන්වා දෙයි. පෙරදී, WebLLM භාවිත කළ සෑම බ්‍රවුසර ටැබයකම ආකෘතියේ තමන්ගේම instance එකක් පූරණය වූ අතර, එය GPU මතකය සඳහා තරග කර සීමිත VRAM ඇති උපාංගවල කාර්යසාධන ගැටලු ඇති කළේය.

SharedWorker ධාවන පරිසරය සමඟ එක් ටැබයක් එන්ජින් සත්කාරකය ලෙස ක්‍රියා කරයි. අනෙක් සියලු ටැබ් workerගේ පණිවිඩ නාලිකාව හරහා එම තනි instance එක සමඟ සන්නිවේදනය කරයි. ප්‍රතිඵලය:

• විවෘත සියලු ටැබ් අතර බෙදාගත් එක් GPU සැසියක්
• ආකෘතිය පූරණය වූ පසු වේගවත් ප්‍රතිචාර (නැවත නැවත ආරම්භ කිරීමක් නැත)
• උපාංගයේ උපරිම මතක භාවිතය අඩු වීම

SharedWorker පරිශීලකයින්ට පැහැදිලිව නොපෙනේ. පරිපාලක තීරු තත්ත්ව දර්ශකය සැමවිටම තනි ටැබයේ නොව බෙදාගත් එන්ජිමේ තත්ත්වය පෙන්වයි.

apiFetch Middleware

addon එක AI Client SDK රටාවට ගැළපෙන WordPress REST API ඉල්ලීම් අල්ලා ගන්නා apiFetch middleware එකක් ස්ථාපනය කරයි. සේවාදායකයට loopback HTTP ඉල්ලීමක් කිරීම වෙනුවට, මෙම ඉල්ලීම් SharedWorker තුළ ධාවනය වන දේශීය WebLLM broker වෙත සෘජුව යොමු කෙරේ.

මෙයින් අදහස් වන්නේ AI endpoints අමතීමට සම්මත WordPress apiFetch API භාවිත කරන plugins සහ themes, එය ලබාගත හැකි විට, කේත වෙනස්කම් අවශ්‍ය නොවී බ්‍රවුසර-පාර්ශ්ව ආකෘතියෙන් ස්වයංක්‍රීයව ප්‍රයෝජන ලබන බවයි.

Hooks සහ Filters

Filters

• wpai_preferred_text_models — WebLLM browser engine කැමති text model එකක් ලෙස ලියාපදිංචි කරන්න. engine වින්‍යාස කර ලබාගත හැකි විට addon එක මෙම filter එකට ස්වයංක්‍රීයව සම්බන්ධ වේ.
• ultimate_webllm_widget_enabled — නිශ්චිත පරිශීලකයෙකුට හෝ සන්දර්භයකට widget සක්‍රීය තත්ත්වය අභිබවා සකසන්න. true හෝ false ආපසු දෙන්න.
• ultimate_webllm_auto_prompt — widget වෙත යැවීමට පෙර auto-prompt පෙළ වෙනස් කරන්න. prompt string එක සහ වත්මන් WP_Post object එක ලබා ගනී.

දෝෂ නිරාකරණය

chat widget එක නොපෙනේ

• පරිශීලකයා පිවිසී ඇති බව තහවුරු කරන්න — widget එක පෙන්වන්නේ සත්‍යාපිත පරිශීලකයන්ට පමණි
• Connector panel තුළ පාවෙන chat widget සක්‍රීය කරන්න සක්‍රීය කර ඇති බව පරීක්ෂා කරන්න
• පරිශීලකයාගේ browser එක WebGPU සඳහා සහය දක්වන බව තහවුරු කරන්න (ඉහත අවශ්‍යතා බලන්න)

admin-bar දර්ශකය "දෝෂය" පෙන්වයි

browser developer console (F12) විවෘත කර WebLLM සම්බන්ධ දෝෂ සොයන්න. සාමාන්‍ය හේතු:

• browser එක WebGPU සඳහා සහය නොදක්වයි
• model weight බාගැනීම අසාර්ථක විය — network සම්බන්ධතාව පරීක්ෂා කර browser developer tools තුළ IndexedDB cache එක හිස් කිරීමට උත්සාහ කරන්න (යෙදුම → IndexedDB)
• browser extension එකක් SharedWorker අවහිර කරයි

model weights සෑම වරම බාගනී

CDN redirects පසුත් model weights පවතින බව සහතික කිරීමට addon එක cache backend ලෙස IndexedDB භාවිතා කරයි. සෑම පැමිණීමකදීම weights නැවත බාගන්නේ නම්, browser privacy setting එකක් හෝ extension එකක් IndexedDB හිස් නොකරන බව පරීක්ෂා කරන්න.

වෙනස්කම් සටහන

සම්පූර්ණ version ඉතිහාසය සඳහා වෙනස්කම් සටහන බලන්න.