-
Mozilla je predstavil Thunderbolt, odjemalca za AI, ki ni lasten model, temveč uporabniški vmesnik za podjetja in uporabnike, ki želijo poganjati lastno, samogostovano AI infrastrukturo namesto uporabe oblačnih storitev tretjih ponudnikov. Thunderbolt je večplatformski AI odjemalec, ki deluje kot front-end nad samogostovano AI infrastrukturo; Mozilla ga ne predstavlja kot lasten LLM, ampak kot odjemalni sloj nad odprtokodnim ogrodjem Haystack.
-
Thunderbolt temelji na odprtokodnem ogrodju Haystack podjetja deepset in je opisan kot »sovereign AI client«, ki se lahko poveže z ACP-združljivimi agenti ter API-ji, združljivimi z OpenAI, vključno z več modeli in storitvami. Mozilla ga opisuje kot »sovereign AI client«, kar pomeni, da UI/odjemalec sedi nad infrastrukturo, ki jo organizacija upravlja sama.
-
Glavna vrednost rešitve je nadzor nad podatki: omogoča povezavo z lokalno shranjenimi podatki podjetja, uporabo lokalne baze SQLite kot vira resnice ter dodatne varnostne mehanizme, kot so izbirno šifriranje od konca do konca in dostopne kontrole na ravni naprave. Integracijski model temelji na združljivosti z ACP agenti in OpenAI-združljivimi API-ji, zato lahko deluje kot univerzalni klient za več različnih modelov in agentnih back-endov.
-
Članek posebej izpostavi integracijo z lokalno shranjenimi poslovnimi podatki prek odprtih protokolov, kar nakazuje RAG ali podobne retrieval vzorce nad internimi viri.
-
Kot lokalni »source of truth« uporablja offline SQLite bazo, kar je tehnično pomembno, ker zmanjšuje odvisnost od zunanjih storitev in omogoča lokalno sidranje konteksta ter metapodatkov.