Ultimate AI Connector for WebLLM
דער Ultimate AI Connector for WebLLM ברענגט בלעטערער־געבוירענע AI־אינפֿערענץ צו אייער WordPress מולטיסייט־נעץ. ער לויפֿט גרויסע שפּראַך־מאָדעלן גאַנצלעך אין בלעטערער מיט WebLLM און דעם MLC מאָטאָר — קיין API שליסלען, קיין אויסערלעכע רופֿן, קיין דאַטן וואָס פֿאַרלאָזן דעם באַניצערס מיטל.
הויפּט־אייגנשאַפֿטן
- בלעטערער־זײַטיקע אינפֿערענץ: LLM לויפֿט לאָקאַל אין דע ם באַזוכערס בלעטערער דורך WebLLM/MLC — קיין סערווער GPU איז נישט נייטיק
- שוועבנדיקער שמועס־ווידזשעט: אײַנגעקלאָגטע באַניצער קענען שיקן אָנפֿרעגן צום בלעטערער־זײַטיקן LLM גלײַך פֿון דער פֿראָנט־זײַט
- Admin-bar סטאַטוס־אנווײַזער: רעאַל־צײַטיקער סטאַטוס פֿון דעם WebLLM מאָטאָר זעט מען אין דער WordPress admin bar
- SharedWorker לויף־צײַט: עטלעכע בלעטערער־קוויטלעך טיילן זיך מיט איין GPU סעסיע אַנשטאָט זיך צו שלאָגן איבער GPU רעסורסן
- apiFetch מיטלוואַרג: WordPress REST בקשות וואָס פּאַסן צום AI Client SDK מוסטער ווערן דורכזיכטיק רוטירט צום לאָקאַלן WebLLM פֿאַרמיטלער — אָן קיין loopback HTTP צוריק־און־פֿאָר
- ווידזשעט־אײַנשטעלונגען UI: Connector פּאַנעל־אײַנשטעלונגען צו אָן־ אָדער אויסמאַכן דעם שמועס־ווידזשעט און קאָנפֿיגורירן אויטאָ־אָנפֿרעג־נאַטור
- IndexedDB קאַש: מאָדעל־וואָג־אַראָפּלאָדונגען בלײַבן איבער CDN ווײַטערפֿירונגען וואָס צעברעכן דעם פעליק־Cache API וועג
- wpai פֿילטער־אינטעגראַציע: האַקט זיך אַרײַן אין דעם
wpai_preferred_text_modelsפֿילטער אַזוי אַז די AI Experiments אייגנשאַפֿט רוטירט צום בלעטערער־מאָטאָר ווען קאָנפֿיגורירט
פֿאָדערונגען
- WordPress 5.3 אָדער העכער
- PHP 7.4 אָדער העכער
- Ultimate Multisite plugin (אַקטיוו)
- אַ בלעטערער מיט WebGPU שטיצע (Chrome 113+, Edge 113+, אָדער Firefox Nightly מיט WebGPU ענייבלט)
אינסטאַלאַציע
- לאָדט אַרויף די צוגאָב־טעקעס אין אייער
/wp-content/plugins/Directory - אַקטיווירט דעם plugin דורך דעם 'Plugins' מעניו אין WordPress
- גייט צו Ultimate Multisite → AI Connector כּדי צו קאָנפֿיגורירן די צוגאָב
שוועבנדיקער שמועס־ווידזשעט
דער שוועבנדיקער שמועס־ווידזשעט לאָזט יעדן אײַנגעקלאָגטן באַניצער זיך פֿאַרבינדן מיטן בלעטערער־זײַטיקן LLM גלײַך פֿון אייער פֿראָנט־זײַט, אָן צו פֿאַרלאָזן די זײַט אויף וועלכער זיי געפֿינען זיך.
וואָס עס טוט
ווען ענייבלט, באַווײַזט זיך אַ שמועס־בילדל אין ווינקל פֿון יעדער פֿראָנט־זײַט פֿאַר אײַנגעקלאָגטע באַניצער. קליקן אויפֿן בילדל עפֿנט אַ שמועס־פּאַנעל וווּ דער באַניצער קען אַרײַנשרײַבן אָנפֿרעגן און באַקומען ענטפֿערס פֿון דעם לאָקאַל לויפֿנדיקן WebLLM מאָדעל. ווײַל דער מאָדעל לויפֿט גאַנצלעך אין בלעטערער, זײַנען די ענטפֿערס פּריוואַט און אַרײַננעמען נישט קיין סערווער־זײַטיקע פֿאַראַרבעטונג.
Admin-Bar סטאַטוס־אנווײַזער
די WordPress admin bar נעמט אַרײַן אַ סטאַטוס־אנווײַזער וואָס ווײַזט דעם איצטיקן צושטאַנד פֿון דעם WebLLM מאָטאָר:
| סטאַטוס | באַדײַטונג |
|---|---|
| לאָדט | דער MLC מאָטאָר איניציאַליזירט זיך אָדער לאָדט אַראָפּ מאָדעל־וואָגן |
| גרייט | דער מאָדעל איז געלאָדן און בנימצא פֿאַר אינפֿערענץ |
| ליידיק | דער מאָטאָר איז געלאָדן אָבער דאָס SharedWorker קוויטל איז נישט אַקטיוו |
| פֿעלער | דער מאָטאָר האָט נישט געקענט איניציאַליזירט ווערן — קאָנטראָלירט דעם בלעטערער־קאָנסאָל פֿאַר פּרטים |
דער אנווײַזער דערהײַנטיקט זיך אין רעאַלער צײַט אָן דאַרפֿן איבערלאָדן די זײַט.
ווי צו ענייבלן אָדער דיסייבלן דעם ווידזשעט
- גייט צו Ultimate Multisite → AI Connector אין דעם נעץ־אַדמין
- געפֿינט דעם Connector פּאַנעל
- מאַכט Enable floating chat widget אָן אָדער אויס
- היט די אײַנשטעלונגען
דער ווידזשעט קען אויך ווערן ענייבלט אָדער דיסייבלט פּער־פּלאַץ פֿון דעם פּלאַץ׳ס אייגענעם אַדמין אויב דער נעץ־אַדמיניסטראַטאָר האָט געגעבן יענע מעגלעכקייט.
ווידזשעט־אײַנשטעלונגען
דער Connector פּאַנעל אין Ultimate Multisite → AI Connector אַנטהאַלט די ווײַטערדיקע אײַנשטעלונגען פֿאַר דעם שוועבנדיקן שמועס־ווידזשעט:
ענייבלן שוועבנדיקן שמועס־ווידזשעט
מאַכט דעם שמועס־ווידזשעט אָן אָדער אויס פֿאַר דער גאַנצער נעץ. ווען דיסייבלט, באַווײַזט זיך דער ווידזשעט נישט אויף קיין שום פֿראָנט־זײַט, נישט געקוקט אויף באַניצער־ראָלע.
פעליק: אויס
אויטאָ־אָנפֿרעג־נאַטור
קאָנטראָלירט צי דער שמועס־ווידזשעט שיקט אויטאָמאַטיש אַן אָנפֿרעג ווען אַ באַניצער עפֿנט אים.
| אָפּציע | נאַטור |
|---|---|
| דיסייבלט | דער ווידזשעט עפֿנט זיך צו אַ ליידיקן שמועס — דער באַניצער שרײַבט זײַן אייגענע אָנפֿרעג |
| זײַט־קאָנטעקסט | דער ווידזשעט עפֿנט זיך מיט אַן אָנפֿרעג פֿאָרויס־אויסגעפֿילט לויטן טיטל און אינהאַלט פֿון דער איצטיקער זײַט |
| אייגענע אָנפֿרעג | דער ווידזשעט עפֿנט זיך מיט אַן אייגענער אָנפֿרעג וואָס איר דעפֿינירט אין דעם פֿעלד אונטן |
ווען באַשטימט צו אייגענע אָנפֿרעג, באַווײַזט זיך אַן נאָך טעקסט־פֿעלד וווּ איר קענט אַרײַנלייגן דעם פעליקן אָנפֿרעג־טעקסט. שטיצט פּשוטע מוסטער־וואַריאַבלען:
{site_name}— דער נאָמען פֿון דעם איצטיקן פּלאַץ{page_title}— דער טיטל פֿון דער איצטיקער זײַט{user_display_name}— דער ווײַזנאָמען פֿון דעם אײַנגעקלאָגטן באַניצער
פעליק: דיסייבלט
SharedWorker לויף־צײַט
ווערסיע 1.1.0 פֿירט אַרײַן אַ SharedWorker לויף־צײַט פֿאַר דעם MLC מאָטאָר. פֿריִער האָט יעדער בלעטערער־קוויטל וואָס האָט גענוצט WebLLM געלאָדן זײַן אייגענע אינסטאַנץ פֿון דעם מאָדעל, קאָנקורירנדיק אויף GPU זכּרון און גורם געווען אויפֿפֿירונג־פּראָבלעמען אויף מיטלען מיט באַגרענעצטן VRAM.
מיט דער SharedWorker לויף־צײַט, דינט איין קוויטל ווי דער מאָטאָר־האָסט. אַלע אַנדערע קוויטלעך קאָמוניקירן מיט יענער איינציקער אינסטאַנץ דורך דעם worker׳ס מעלדונג־קאַנאַל. דער רעזולטאַט:
- איין GPU סעסיע געטיילט איבער אַלע אָפֿענע קוויטלעך
- שנעלערע ענטפֿערס אַמאָל דער מאָדעל איז געלאָדן (קיין איבערגעחזרטע איניציאַליזאַציע)
- נידעריקער שפּיץ־זכּרון־באַניץ אויפֿן מיטל
דער SharedWorker איז דורכזיכטיק פֿאַר באַניצער. דער admin-bar סטאַטוס־אנווײַזער שפּיגלט תּמיד אָפּ דעם צושטאַנד פֿון דעם געטיילטן מאָטאָר, נישט דעם יחידדיקן קוויטל.
apiFetch מיטלוואַרג
די צוגאָב אינסטאַלירט אַן apiFetch מיטלוואַרג וואָס כאַפּט אָפּ WordPress REST API בקשות וואָס פּאַסן צום AI Client SDK מוסטער. אַנשטאָט צו מאַכן אַ loopback HTTP בקשה צום סערווער, ווערן די בקשות רוטירט גלײַך צום לאָקאַלן WebLLM פֿאַרמיטלער וואָס לויפֿט אין דעם SharedWorker.
דאָס מיינט אַז plugins און themes וואָס נוצן דעם סטאַנדאַרטן WordPress apiFetch API צו רופֿן AI ענדפּוינטן וועלן אויטאָמאַטיש געניסן פֿונעם בלעטערער־זײַטיקן מאָדעל ווען ער איז בנימצא, אָן דאַרפֿן קיין קאָד־ענדערונגען.
Hooks און פֿילטערס
פֿילטערס
wpai_preferred_text_models— רעגיסטרירן דעם WebLLM בלעטערער־מאָטאָר ווי אַ פּרעפֿערירטן טעקסט־מאָדעל. די צוגאָב האַקט זיך אָטאָמאַטיש אַרײַן אין דעם פֿילטער ווען דער מאָטאָר איז קאָנפֿיגורירט און בנימצא.ultimate_webllm_widget_enabled— איבערשרײַבן דעם ענייבלטן צושטאַנד פֿון ווידזשעט פֿאַר אַ ספּעציפֿישן באַניצער אָדער קאָנטעקסט. גיט צוריקtrueאָדערfalse.ultimate_webllm_auto_prompt— בײַטן דעם אויטאָ־אָנפֿרעג־טעקסט איידער ער ווערט געשיקט צום ווידזשעט. באַקומען דעם אָנפֿרעג־שטריקל און דעם איצטיקןWP_Postאָביעקט.
פּראָבלעמען־לייזונג
דער שמועס־ווידזשעט באַווײַזט זיך נישט
- בא ַשטעטיקט אַז דער באַניצער איז אײַנגעקלאָגט — דער ווידזשעט ווערט געוויזן נאָר פֿאַר אָטענטיפֿיצירטע באַניצער
- קאָנטראָלירט אַז Enable floating chat widget איז אָנגעמאַכט אין דעם Connector פּאַנעל
- באַשטעטיקט אַז דעם באַניצערס בלעטערער שטיצט WebGPU (זעט פֿאָדערונגען אויבן)
דער admin-bar אנווײַזער ווײַזט "פֿעלער"
עפֿנט דעם בלעטערער־אַנטוויקלער־קאָנסאָל (F12) און זוכט WebLLM־פֿאַרבונדענע פֿעלערן. געוויינטלעכע סיבות:
- דער בלעטערער שטיצט נישט WebGPU
- מאָדעל־וואָג־אַראָפּלאָדונג איז דורכגעפֿאַלן — קאָנטראָלירט נעץ־פֿאַרבינדונג און פּרוּווט אויסרייניקן דעם IndexedDB קאַש אין בלעטערער־אַנטוויקלער־כּלים (Application → IndexedDB)
- אַ בלעטערער־פֿאַרברייטערונג בלאָקירט דעם SharedWorker
מאָדעל־וואָגן ווערן אַראָפּלאָדן יעדעס מאָל
די צוגאָב ניצט IndexedDB ווי דעם קאַש־הינטערגרונט כּדי צו פֿאַרזיכערן אַז מאָדעל־וואָגן בלײַבן איבער CDN ווײַטערפֿירונגען. אויב וואָגן ווערן ווידער־אַראָפּלאָדן בײַ יעדן באַזוך, קאָנטראָלירט אַז IndexedDB ווערט נישט אויסגעמעקט דורך אַ בלעטערער־פּריוואַטקייט־אײַנשטעלונג אָדער פֿאַרברייטערונג.
ענדערונג־לאָג
זעט ענדערונג־לאָג פֿאַר דער פולער ווערסיע־געשיכטע.