X testuje integrację AI z notatkami społeczności, waży szybkość i ryzyko dezinformacji

X (dawniej Twitter) kontynuuje rozwój swojego flagowego programu „Notatki Społeczności”, wprowadzonego w 2021 roku. Inicjatywa ta miała na celu walkę z dezinformacją poprzez umożliwienie użytkownikom dodawania kontekstowych wyjaśnień do postów, które mogły wprowadzać w błąd. Przykładowo, użytkownicy mogli oznaczyć wideo wygenerowane przez AI, aby zapobiec mylnemu wrażeniu, że przedstawione wydarzenia faktycznie miały miejsce. Kluczowym elementem systemu jest ocena użyteczności notatek przez zdecentralizowaną społeczność, co zapewnia, że tylko najbardziej wartościowe informacje są widoczne.

Dotychczas system ten polegał wyłącznie na ludzkiej inteligencji – zarówno w generowaniu, jak i w ocenie notatek. Jednakże, X uruchomił właśnie pilotażowy program, który rozszerza możliwości tworzenia notatek o sztuczną inteligencję, konkretnie o duże modele językowe (LLM).

Integracja AI: szybkość kontra precyzja

Opublikowany przez badaczy X model zakłada integrację zarówno ludzkich, jak i generowanych przez AI notatek, przy czym nadal to ludzie decydują o ich przydatności. W dobie lawinowo narastającej dezinformacji, badacze argumentują, że prędkość i skala generowania notatek przez LLM stały się koniecznością. Jak sami piszą: „umożliwienie automatycznego tworzenia notatek sprawiłoby, że system mógłby działać w skali i tempie niemożliwym dla ludzkich twórców, potencjalnie dostarczając kontekstu dla rzędów wielkości większej ilości treści w sieci”.

Tworzenie notatek przez LLM ma być doskonalone w procesie uczenia przez wzmocnienie z wykorzystaniem opinii społeczności (RLCF). Ten mechanizm ma na celu uszlachetnianie przyszłego generowania notatek dzięki różnorodnym opiniom członków społeczności, co powinno zaowocować bardziej precyzyjnymi, bezstronnymi i użytecznymi notatkami.

Potencjalne pułapki i wyzwania

Mimo oczekiwanego usprawnienia procesu weryfikacji dezinformacji, nowy model niesie ze sobą pewne ryzyka. Badacze wskazują na potencjalne problemy z tym, że notatki generowane przez AI mogą być przekonujące, a jednocześnie niepoprawne – co jest znanym problemem w przypadku innych modeli. Istnieje również ryzyko nadmiernej homogenizacji notatek. Pojawiają się także obawy, że ludzcy twórcy notatek mogą angażować się mniej z powodu obfitości treści generowanych przez AI, a ta obfitość może z kolei przeciążyć możliwości ludzkich oceniających w wystarczającym określaniu, co jest pomocne, a co nie.

Badanie otwiera perspektywy dla dalszej integracji AI w system notatek społeczności, z zachowaniem ludzkiej kontroli. Przyszłe kierunki rozwoju mogą obejmować współpracę z AI (ang. AI co-pilots) dla ludzkich twórców notatek, co pozwoliłoby na szybsze prowadzenie badań i tworzenie większej liczby notatek. Rozważa się także asystę AI w audytowaniu notatek przez ludzkich oceniających. Dodatkowo, badacze proponują metody weryfikacji i uwierzytelniania dla oceniających i twórców notatek, personalizację LLM oraz metody adaptacji i ponownego zastosowania już zweryfikowanych notatek do podobnych kontekstów, aby uniknąć wielokrotnego oceniania tych samych koncepcji.

Human-AI: synergia czy wyparcie?

Istnieje niewątpliwy potencjał w metodach współpracy człowieka z AI, gdzie ludzie dostarczają niuanse i różnorodność, a LLM zapewniają szybkość i skalę niezbędną do radzenia sobie z obfitością informacji online. Niemniej jednak, konieczne są dalsze intensywne testy, aby upewnić się, że „ludzki dotyk” nie zostanie utracony. Autorzy badania jasno określają swój cel: „celem nie jest stworzenie asystenta AI, który mówi użytkownikom, co mają myśleć, ale zbudowanie ekosystemu, który umożliwia ludziom bardziej krytyczne myślenie i lepsze rozumienie świata.”