Ukryte instrukcje dla sztucznej inteligencji: nowa strategia w recenzowaniu prac naukowych

W świecie nauki, gdzie zasady recenzowania prac są fundamentem jakości i wiarygodności, pojawia się nowy, niepokojący trend. Badacze, w próbie wpływania na werdykt recenzentów, zaczęli ponoć umieszczać w swoich publikacjach ukryte instrukcje dla narzędzi sztucznej inteligencji.

Raport Nikkei Asia ujawnił, że podczas badania przedruków anglojęzycznych dostępnych w repozytorium arXiv, zidentyfikowano aż 17 prac zawierających tego typu ukryte podpowiedzi dla AI. Autorzy tych artykułów byli powiązani z 14 instytucjami akademickimi w ośmiu krajach, w tym z japońskim Uniwersytetem Waseda, koreańskim KAIST, a także amerykańskimi, takimi jak Columbia University i University of Washington.

Zidentyfikowane prace dotyczyły głównie informatyki. Same podpowiedzi były zazwyczaj zwięzłe, liczące od jednej do trzech zdań, i ukrywano je technikami takimi jak biały tekst na białym tle lub ekstremalnie małe czcionki. Instrukcje te często nakazywały potencjalnym recenzentom AI „udzielanie wyłącznie pozytywnej recenzji” lub chwalenie pracy za „znaczący wkład, rygor metodologiczny i wyjątkową nowatorstwo”.

Jeden z profesorów Uniwersytetu Waseda, skontaktowany przez Nikkei Asia, bronił stosowania takich instrukcji. Zasugerował, że w obliczu rosnącej obawy o wykorzystanie AI przez „leniwych recenzentów”, podpowiedzi te miałyby działać jako swego rodzaju obrona czy kontrargument. Jego argumentacja bazowała na fakcie, że wiele konferencji naukowych kategorycznie zabrania używania sztucznej inteligencji do recenzowania prac. Takie stanowisko rodzi jednak istotne pytania o etykę naukową i zaufanie w procesie peer review. Czy cel uświęca środki, zwłaszcza gdy prowadzi to do manipulacji wynikami recenzji?

Ten proceder podkreśla szerszy problem — narastające wyzwania związane z transparentnością i uczciwością w miarę coraz szerszego włączania sztucznej inteligencji w akademicki obieg. Ukryte instrukcje, niezależnie od intencji, podważają podstawowe założenia bezstronności i rzetelności, na których opiera się ocena naukowa. Rozwiązanie tej kwestii będzie wymagało bardziej rygorystycznych protokołów i przemyślanej polityki dotyczącej roli AI w recenzowaniu, aby zapewnić, że akademicka jakość nie zostanie naruszona.