Umelá inteligencia sa čoraz častejšie stáva súčasťou podnikových aplikácií. Generovanie textu, sumarizácia dokumentov, inteligentné vyhľadávanie, preklady či práca s obrázkami už dnes nie sú výnimočné funkcie.
S rastúcim počtom AI služieb však vzniká nový problém: ako AI integrovať tak, aby aplikácia nebola pevne naviazaná na jedného poskytovateľa?
Práve tento problém rieši naša nová open-source knižnica WebJET AI.
Jedno API namiesto viacerých integrácií
WebJET AI poskytuje jednotné Java API pre komunikáciu s viacerými AI poskytovateľmi. Aktuálne podporuje:
- OpenAI,
- Google Gemini,
- OpenRouter,
- aj možnosť doplniť vlastného AI providera.
Aplikácia tak nemusí obsahovať samostatnú integračnú vrstvu pre každú službu. Provider sa môže zmeniť bez zásadného prepisovania aplikačného kódu.
To znižuje vendor lock-in a dáva vývojárom väčšiu slobodu pri výbere modelu podľa ceny, výkonu alebo požiadaviek konkrétneho projektu.
Viac než len generovanie textu
WebJET AI nie je určené iba na odoslanie promptu a prijatie textovej odpovede.
Podľa možností konkrétneho providera podporuje aj:
- generovanie a streamovanie textu,
- multimodálne vstupy,
- generovanie a úpravu obrázkov,
- embeddings pre sémantické vyhľadávanie a RAG riešenia,
- získavanie dostupných AI modelov.
Vývojári tak pracujú s jednotnými dátovými modelmi pre požiadavky, odpovede, chyby aj spotrebu tokenov.
Bezpečnejšie spracovanie vstupov
Pri nasadení AI v podnikových aplikáciách je dôležitá aj bezpečnosť.
WebJET AI obsahuje ochrannú vrstvu proti prompt injection, ktorá pomáha oddeľovať systémové inštrukcie od nedôveryhodného používateľského vstupu.
Knižnica zároveň nepredpisuje spôsob práce s API kľúčmi. Aplikácia ich môže načítať z environment variables, Kubernetes Secrets, secret managera alebo vlastného konfiguračného systému.
Podpora lokálnych AI modelov
Zaujímavou možnosťou WebJET AI je aj podpora lokálnych modelov prostredníctvom samostatného modulu webjet-ai-local.
Aktuálne podporuje napríklad:
- Multilingual E5 pre embeddings,
- M2M100 pre lokálne preklady,
- EuroLLM-1.7B-Instruct pre viacjazyčné generovanie textu.
Lokálny runtime je oddelený od základnej knižnice, takže aplikácie využívajúce iba cloudové AI služby nemusia obsahovať ďalšie natívne závislosti.
Pri lokálnych modeloch WebJET AI podporuje aj prípravu reprodukovateľných modelových balíkov s kontrolou veľkosti súborov a SHA-256 checksumov. Model sa následne môže používať bez potreby sťahovania ďalšieho obsahu počas behu aplikácie.
Použiteľné aj mimo WebJET CMS
Hoci WebJET AI používa aj samotný WebJET CMS, knižnica od neho zostáva úplne nezávislá.
Nevyžaduje:
- Spring,
- servlet container,
- databázu,
- JPA,
- ani WebJET CMS.
Môžete ju preto použiť v ľubovoľnom projekte postavenom na Java 17 alebo novšej.
Open source a pripravené na použitie
WebJET AI je dostupné ako open-source projekt pod licenciou Apache 2.0 a je publikované aj cez Maven Central.
Knižnica je vhodná napríklad pre:
- AI asistentov v podnikových aplikáciách,
- sumarizáciu a analýzu dokumentov,
- RAG a inteligentné vyhľadávanie,
- automatické preklady,
- generovanie obsahu a obrázkov,
- kombináciu cloudových a lokálnych AI modelov.
Hlavný cieľ je jednoduchý: vytvoriť jednu stabilnú integračnú vrstvu medzi Java aplikáciou a rýchlo sa meniacim svetom AI modelov.
Objavte WebJET AI, pozrite si dokumentáciu a príklady pre jednotlivých poskytovateľov a vyskúšajte ho vo vlastnom projekte.
