Жаңы: Админ тилкесиндеги абал көрсөткүчү бар калкып чыгуучу чат виджети — кирген каалаган колдонуучу браузер тараптагы LLMге түздөн-түз алдыңкы бөлүктөн суроо бере алат.
Жаңы: SharedWorker иштөө чөйрөсү — MLC кыймылдаткычы эми SharedWorker ичинде иштейт, ошондуктан бир нече өтмөк бир GPU сессиясын талашпай, чогуу колдонот.
Жаңы: apiFetch ортомчу кармагычы — AI Client SDK үлгүсүнө дал келген WordPress REST сурамдары жергиликтүү WebLLM брокерине ачык-айкын багытталат, loopback HTTP айланып өтүүсү кереги жок.
Жаңы: Чат виджетин күйгүз үп-өчүрүү жана auto-prompt жүрүм-турумун жөндөө үчүн Connector панелиндеги виджет жөндөөлөрүнүн UI.
Оңдоо: IndexedDB кэш бэкендин мажбурлап колдонуу, ошондо моделдин салмак файлдарын жүктөөлөр демейки Cache API жолун бузган HuggingFace xet CDN багыттоолорунан кийин да сакталат.
Оңдоо: embedding моделдери үчүн context_window KV-cache кайра аныктоосун өткөрүп жиберүү (аларда декодер жок жана бул кайра аныктоо иштөө учурунда ката жараткан).
Оңдоо: Worker өтмөгү жүктөлө электе /webllm/v1/models ичинде cold-start талапкер моделин жарыялоо, ошондо SDK керектөөчүлөрү моделди дароо көрөт.
Оңдоо: Модель жөндөлгөндө AI Experiments мүмкүнчүлүгү браузер кыймылдаткычына багытталышы үчүн WebLLMди wpai_preferred_text_models чыпкасына туташтыруу.
Жакшыртылды: Аягына чейин тестирлөө учурунда аныкталган кэшти жаңыртуу, мазмунду нормалдаштыруу жана жабдыкка шилтеме оңдоолору.