Amazon tonie w fałszywych książkach generowanych przez AI. Ofiarą pada także znany naukowiec.

Sztuczna inteligencja stała się narzędziem w rękach oszustów, którzy zalewają Amazon fałszywymi książkami. Mechanizm jest prosty: generują one treści za pomocą AI, podszywają się pod znane osoby i oferują je niczego nie podejrzewającym klientom. Problem jest na tyle poważny, że głos w sprawie zabrało już Stowarzyszenie Wydawców, apelując o wyraźne oznaczanie treści generowanych przez AI.

Jedną z ofiar tego procederu padł Eric Topol, prominentny lekarz i naukowiec, który ostrzega, że na Amazonie sprzedawane są dziesiątki fałszywych książek kucharskich i poradników zdrowotnych, bezprawnie wykorzystujących jego nazwisko i wizerunek. Topol zgłaszał sprawę wielokrotnie do Amazona, jednak bezskutecznie. Obsługa klienta odpowiada jedynie ogólnikowymi linkami. Jeden z kupujących podzielił się doświadczeniem, że zakupił jedną z tych książek, ufając nazwisku Topola, tylko po to, by rozczarować się treścią.

Amazon, w odpowiedzi na zarzuty, informuje, że stosuje zarówno automatyczne, jak i manualne metody weryfikacji treści. Książki naruszające zasady są usuwane, niezależnie od tego, czy zostały wygenerowane przez AI, czy nie. Firma twierdzi również, że stale aktualizuje zabezpieczenia w miarę rozwoju sztucznej inteligencji. Autorzy publikujący za pośrednictwem Kindle Direct Publishing muszą ujawniać, czy w tworzeniu książki wykorzystano AI, jednak informacja ta nie jest udostępniana klientom, co stanowi lukę w transparentności.

Sky News donosi, że przypadki takie jak Topola są powszechne, zwłaszcza w tematyce sportowej. Po ważnych wydarzeniach sportowych, takich jak Mistrzostwa Europy Kobiet, pojawiają się mini-biografie generowane przez AI z fałszywymi okładkami i skąpą treścią. Autorzy tych książek często nie mają żadnej realnej obecności w Internecie, a publikują dziesiątki książek naraz.

Stowarzyszenie Wydawców apeluje o jaśniejsze oznaczanie treści generowanych przez AI i ostrzega, że kupujący są zdezorientowani. Prezes Dan Conway twierdzi, że czytelnikom niemal niemożliwe jest odróżnienie dobrze opracowanej książki od tej wyprodukowanej przez AI, ostrzegając przed „przesyceniem informacyjnym”, gdy tysiące książek AI wypierają autentyczne tytuły.

Amazon wprowadził pewne ograniczenia, takie jak limit trzech książek dziennie dla self-publisherów oraz obowiązek zgłaszania wykorzystania AI w tekście, obrazach lub tłumaczeniach. Firma zaostrzyła również zasady dotyczące streszczeń i zeszytów ćwiczeń, które często kopiują duże fragmenty oryginalnych dzieł. Jednak przypadek Topola pokazuje, że fałszywe książki generowane przez AI nadal się przedostają, zawłaszczając reputację zaufanych ekspertów.