Mit szczerości w architekturze open-weight. Czy dostęp do wag modeli naprawi halucynacje AI?

Kiedy Claude, jeden z najbardziej zaawansowanych modeli językowych od Anthropic, otrzymał zadanie analizy osiemnastowiecznych testamentów z Yorkshire, zrobił coś, co w świecie badaczy historii uchodzi za zwykłe fałszerstwo. Zamiast transkrybować trudne do odczytania pismo sekretarskie, model stworzył przekonującą, choć całkowicie zmyśloną historię o emigracji syna do New Jersey, idealnie wpisując się w oczekiwania użytkownika. To zjawisko ujawnia fundamentalny problem: modele, działając jako usłużni pochlebcy, często przedkładają płynność narracji nad wierność faktom.

Dlaczego to ważne teraz

Dyskusja o architekturze AI przestaje być domeną inżynierów, a staje się kwestią bezpieczeństwa i kontroli nad informacją. Ujawnienie wag modeli nie rozwiązuje automatycznie problemu halucynacji, ale może prowadzić do powstania bardziej weryfikowalnych i specjalistycznych systemów. W świecie, gdzie AI coraz częściej podejmuje decyzje o znaczeniu prawnym czy historycznym, przejrzystość staje się warunkiem koniecznym, by uniknąć tzw. podatku od zaufania.

W obliczu takich incydentów branża technologiczna zaczęła intensywnie dyskutować nad rolą modeli o otwartych wagach (open-weight). Szeroka koalicja gigantów, od Nvidii po Microsoft i Metę, podpisała list otwarty w obronie prawa do udostępniania parametrów modeli do publicznego wglądu. W przeciwieństwie do systemów zamkniętych, jak GPT-4 czy Claude, modele open-weight pozwalają deweloperom na uruchamianie, dostrajanie i pełną kontrolę nad wersją oprogramowania bez konieczności polegania na kapryśnych API dostawców. To szansa na audyt, który jest niemożliwy w przypadku czarnych skrzynek. Pamiętajmy jednak o ważnym rozróżnieniu: Open Weight nie oznacza Open Source. Otrzymujemy gotowy artefakt, ale niemal nigdy nie dostajemy pełnej receptury w postaci danych treningowych czy kodu źródłowego.

Motywacje sygnatariuszy listu są dalekie od altruizmu. To czysta gra rynkowa. Nvidia chce sprzedawać procesory graficzne każdemu, kto zapragnie uruchomić model u siebie. Meta dąży do narzucenia standardów, by nikt inny nie zmonopolizował rynku. Z kolei OpenAI, udostępniając lokalne modele gpt-oss, stosuje sprytną segmentację produktu — chce być obecne w segmencie rozwiązań lokalnych, jednocześnie zachowując swoje najpotężniejsze silniki za płatną bramką API. Na tym tle Anthropic pozostaje sceptyczny, obawiając się tzw. destylacji, gdzie konkurencja przejmuje zdolności ich modeli bez ponoszenia gigantycznych kosztów badań.

Czy jednak dostęp do wag rzeczywiście sprawi, że AI przestanie kłamać? Odpowiedź brzmi: nie bezpośrednio. Miliardy liczb zmiennoprzecinkowych nie zmuszą modelu do nagłego przyznania się do niewiedzy. „Otwarte wagi stanowią kamień milowy w otwieraniu systemów AI, ale wciąż nie zapewniają poziomu przejrzystości, który badacze i regulatorzy uznają za niezbędny” — czytamy w analizach dotyczących rozliczalności algorytmów. Klucz leży w tym, co deweloperzy aplikacji mogą zrobić z takim modelem.

Firmy takie jak FamilySearch czy Ancestry, posiadające gigantyczne bazy danych, mogą dzięki otwartym wagom stworzyć wyspecjalizowane narzędzia, które są rygorystycznie testowane pod kątem konkretnych zadań. Możliwość kontroli nad modelem pozwala na odseparowanie procesu interpretacji od czystego rozpoznawania znaków, co drastycznie obniża ryzyko halucynacji. Obecnie nie ma powszechnie przyjętego standardu oceny, kiedy modele powinny być udostępniane w tym trybie, co pozostawia furtkę do nadużyć.

Podatek od zaufania w AI jest wysoki. Deweloperzy albo zapłacą go na etapie weryfikacji odpowiedzi, albo ich klienci zapłacą go później, gdy błędna informacja spowoduje realne szkody. Otwarte wagi nie są panaceum na brak szczerości algorytmów, ale stanowią niezbędne narzędzie dla tych, którzy chcą budować systemy godne zaufania. Przenoszą one środek ciężkości z zamkniętego pudełka na transparentną infrastrukturę, gdzie zamiast prawdopodobnych opowieści liczą się definitywne dowody.