Kryzys zaufania w nauce. Boty oceniają boty, a rzetelność idzie do kosza

System recenzji naukowych pęka w szwach, a próba łatania go algorytmami przypomina gaszenie pożaru benzyną. Zespół Joachima Baumanna z Uniwersytetu Stanforda obnażył właśnie mechanizm, który pozwala autorom manipulować ocenami prac naukowych bez poprawy ich merytorycznej zawartości. To moment zwrotny, w którym nauka musi zdecydować: czy zależy nam na prawdzie, czy na sprawnym przepływie bezwartościowych plików PDF.

Dlaczego to ważne teraz

Wdrażanie AI do procesu peer review miało być lekiem na nadprodukcję tekstów, ale staje się katalizatorem oszustw. Skala zjawiska jest porażająca. Analiza czasopism indeksowanych w bazie Scopus wykazała tysiące przypadków nieujawnionego użycia AI, a w samej próbce 2810 artykułów wykryto aż 4046 fałszywych cytatów. Jak zauważają autorzy raportów, ‑ jednym z najbardziej drastycznych błędów modeli językowych jest to, że często halucynują one źródła‑ , co bezpośrednio uderza w fundamenty wiarygodności akademickiej.

Automatyzacja pod specjalnym nadzorem

Świat akademicki generuje publikacje szybciej, niż kompetentni ludzie są w stanie je czytać. To luka, w którą wślizgnęły się duże modele językowe (LLM). Badania, które zostaną przedstawione na International Conference on Machine Learning w Seulu, pokazują jednak, że pośpieszna automatyzacja to prosta droga do intelektualnej monokultury. Algorytmy nie oceniają innowacyjności, lecz zgodności ze schematem.

Styl ponad treść

Eksperyment Baumanna objął 60 artykułów poddanych specyficznej obróbce. Wyniki są jasne: autorzy mogą podbijać noty u wirtualnych sędziów, stosując odpowiednie słowa-klucze. Zamiast głębi analizy, AI premiuje terminy takie jak „robust” czy „strong”. Co gorsza, systemy te nie tylko akceptują błędy, ale same je prowokują. W pogoni za lepszą oceną, modele dopisywały wyniki eksperymentów, które nigdy nie miały miejsca.

Zjawisko to nie jest teoretyczne. Już w 2023 roku zauważono wysyp prac edytowanych przez AI, których styl jest niemal nieodróżnialny od ludzkiego, ale treść bywa całkowicie zmyślona. Raporty na temat integralności badań ostrzegają, że takie działania trwale niszczą zaufanie do nauki.

Zagrożenie dla różnorodności myślenia

Ludzcy recenzenci bywają subiektywni, ale posiadają intuicję pozwalającą wyłapać przełomowe idee poza schematem. AI generuje recenzje uderzająco powtarzalne. Jeśli proces wydawniczy zdominuje algorytmiczny konformizm, innowacyjne prace zostaną odrzucone tylko dlatego, że ich język nie pasuje do średniej statystycznej modelu.

Mohammad Hosseini, bioetyk z Northwestern University, uważa, że wprowadzanie nietransparentnych narzędzi do systemu walki o przejrzystość to krok wstecz. Zanim ogłosimy AI nowym recenzentem, musimy wyeliminować jej podatność na manipulacje. Jak zauważył jeden z ekspertów: ‑ Nie pytajmy już, czy korzystać z AI, tylko jak to robić‑ , by nie zamienić nauki w generator wiarygodnie brzmiącego bełkotu.