Skip to main content

Ultimate AI Connector for WebLLM ცვლილებების ჟურნალი

ვერსია 1.1.0 — გამოშვებულია 2026-04-09-ზე

  • ახალი: მცურავი ჩატის ვიჯეტი admin-bar-ის სტატუსის ინდიკატორით — ნებისმიერ შესულ მომხმარებელს შეუძლია ბრაუზერის მხარეს მომუშავე LLM-ს მოთხოვნა პირდაპირ წინა ნაწილიდან გაუგზავნოს.
  • ახალი: SharedWorker runtime — MLC ძრავა ახლა SharedWorker-ში მუშაობს, ამიტომ მრავალი ჩანართი ერთ GPU სესიას იზიარებს, ნაცვლად იმისა, რომ მასზე ეჯიბრებოდეს.
  • ახალი: apiFetch middleware interceptor — WordPress REST მოთხოვნები, რომლებიც AI Client SDK-ის ნიმუშს ემთხვევა, გამჭვირვალედ მარშრუტდება ლოკალურ WebLLM broker-ში; loopback HTTP round-trip საჭირო აღარ არის.
  • ახალი: ვიჯეტის პარამეტრების UI Connector პანელში ჩატის ვიჯეტის ჩასართავად/გამოსართავად და auto-prompt ქცევის დასაკონფიგურირებლად.
  • შესწორება: იძულებით გამოიყენება IndexedDB cache backend, რათა მოდელის წონების ჩამოტვირთვები გადარჩეს HuggingFace xet CDN გადამისამართებებს, რომლებიც ნაგულისხმევ Cache API გზას არღვევს.
  • შესწორება: context_window KV-cache გადაფარვის გამოტოვება embedding მოდელებისთვის (მათ decoder არ აქვთ და გადაფარვა runtime შეცდომას იწვევდა).
  • შესწორება: cold-start კანდიდატი მოდელის გამოჩენა /webllm/v1/models-ში მანამდე, სანამ worker ჩანართი ჩაიტვირთება, რათა SDK მომხმარებლებმა მოდელი დაუყოვნებლივ დაინახონ.
  • შესწორება: WebLLM-ის ჩართვა wpai_preferred_text_models ფილტრში, რათა AI Experiments ფუნქციამ ბრაუზერის ძრავაზე დაამარშრუტოს, როცა მოდელი დაკონფიგურირებულია.
  • გაუმჯობესებულია: Cache-busting, კონტენტის ნორმალიზაცია და hardware-reference შესწორებები, რომლებიც end-to-end ტესტირებისას გამოვლინდა.

ვერსია 1.0.0 — საწყისი გამოშვება