„Model polski jest lepszy, skuteczniejszy od modeli zagranicznych i do tego jest dziesięciokrotnie mniejszy” – podkreśla kierownik.
446
298
Nowe rozwiązanie w modelu open source mogą wykorzystywać naukowcy, administracja publiczna i przedsiębiorcy.
Rodzina modeli PolDense, opracowana przez AI Lab w państwowym Ośrodku Przetwarzania Informacji, ma zwiększyć niezależność technologiczną krajowych podmiotów w wyszukiwaniu informacji. Ich twórcy twierdzą, że niektóre z tych modeli osiągają w tej pracy lepsze wyniki niż większe modele wielojęzyczne. Przy tym mają znacznie mniejsze wymagania sprzętowe – informuje Newseria Biznes.
Rodzina PolDense obejmuje sześć modeli opartych na architekturze ModernBERT i technologii ettin-encoders. Mają one od 17 mln do 1 mld parametrów. Zostały opracowane z myślą o systemach pracujących z dużymi wolumenami danych nieustrukturyzowanych. W szczególności w wyszukiwarkach, chatbotach, asystentach AI oraz aplikacjach wykorzystujących architekturę RAG (Retrieval Augmented Generation). Potrafią analizować teksty o długości nawet 8192 tokenów.
„Są to specjalistyczne modele językowe, których celem jest wsparcie wyszukiwania informacji. Nie są one porównywalne z modelami typu ChatGPT, Claude, Qwen i DeepSeek, ponieważ nie są to modele generatywne” – wyjaśnia agencji Newseria Marek Kozłowski, kierownik AI Lab w Ośrodku Przetwarzania Informacji-Państwowym Instytucie Badawczym.
Według niego polskie rozwiązania mają być wsparciem dla zastosowań agentowych. Otóż żeby duże modele językowe przetwarzały właściwe dane, należy je wyszukać. Po to są modele PolDense – aby skutecznie wyszukiwać informacje w polskich zbiorach danych i potem przekazywać je do dużych modeli językowych.
PolDense udostępniony m.in. dla firm
Jednym z podejść pozwalających zwiększyć skuteczność wyszukiwania są tzw. dense retrievery, czyli modele oparte na głębokich sieciach neuronowych. Nad tego typu technologiami pracuje obecnie AI Lab OPI.
„Jest duże zapotrzebowanie na rozwiązania typu RAG. Wierzymy w to, że wraz z rewolucją agentową, która nadejdzie w ciągu dwóch–trzech lat, potrzeba wyszukiwania jak najbardziej wartościowej informacji lokalnej i przekazywanie jej do kolejnych agentów będzie elementem kluczowym dla sukcesu wdrożeń w przemyśle i organach publicznych” – twierdzi Marek Kozłowski.
Modele PolDense OPI-PIB udostępnił jako open source na platformie Hugging Face. Mogą je wykorzystywać naukowcy, administracja publiczna i przedsiębiorcy do tworzenia własnych mechanizmów wyszukiwania, systemów RAG i narzędzi do pracy z bazami dokumentów.
Kierownik zapewnia, że modele PolDense są porównywalne lub lepsze od modeli koncernów zagranicznych, które są 10 razy większe.
„Często wdrożenia, które dotąd polegały na wyszukaniu informacji, opierały się na modelach chińskich lub amerykańskich. Teraz możemy wziąć model polski, który jest lepszy, skuteczniejszy od modeli zagranicznych i do tego jest dziesięciokrotnie mniejszy” – podkreśla kierownik AI Lab w OPI-PIB.
Największy z modeli, PolDense 1B, uzyskał 64,11 pkt w benchmarku Polish Information Retrieval Benchmark (PIRB), zajmując pierwsze miejsce w rankingu. Wyprzedził m.in. modele wielojęzyczne mające kilka razy więcej parametrów.
Źródło: Newseria Biznes