Rozmowy z Grokiem, chatbotem Elona Muska, indeksowane przez Google. Użytkownicy pytali o instrukcje wytwarzania fentanylu i plany zamachu.

Kontrowersje wokół prywatności danych w chatbotach AI narastają. Tym razem na celowniku znalazł się Grok, chatbot od xAI Elona Muska. Okazuje się, że setki tysięcy rozmów prowadzonych przez użytkowników z tym narzędziem są indeksowane przez wyszukiwarki internetowe, w tym Google.

Problem polega na mechanizmie udostępniania rozmów. Kiedy użytkownik Groka klika przycisk „udostępnij”, generowany jest unikalny adres URL, który można rozesłać znajomym. Adresy te są jednak indeksowane przez roboty wyszukiwarek, co oznacza, że treść rozmów staje się publicznie dostępna.

Jak donosi Forbes, w publicznie dostępnych rozmowach można znaleźć zaskakujące zapytania. Użytkownicy pytali Groka m.in. o sposoby na włamanie się do portfeli kryptowalutowych, wdawali się w nieprzyzwoite konwersacje z wirtualną osobą i prosili o instrukcje dotyczące produkcji metamfetaminy. Dostępne są również żądania instrukcji wytwarzania fentanylu, listy metod samobójczych, porady dotyczące konstruowania bomb, a nawet szczegółowy plan zamachu na Elona Muska.

Regulamin xAI zabrania wykorzystywania Groka do celów, które mogą „krytycznie zaszkodzić życiu ludzkiemu” lub do opracowywania „broni biologicznej, chemicznej lub broni masowego rażenia”. Widać jednak, że użytkownicy ignorują te ograniczenia.

To nie pierwszy tego typu incydent. Podobne problemy dotknęły wcześniej użytkowników chatbotów Meta i OpenAI. Wówczas również na jaw wyszły niepokojące aspekty wykorzystania tych narzędzi.

xAI nie odpowiedziało na prośbę o komentarz w sprawie indeksowania rozmów przez wyszukiwarki. Pozostaje pytanie, jak długo ten stan będzie się utrzymywał i czy xAI podejmie kroki w celu ochrony prywatności użytkowników.

Warto przypomnieć, że pod koniec ubiegłego miesiąca użytkownicy ChatGPT alarmowali, że ich rozmowy również są indeksowane przez Google. OpenAI tłumaczyło to krótkotrwałym eksperymentem. Elon Musk, komentując sprawę Groka, stwierdził krótko: „Grok ftw”, co można interpretować jako wyraz zadowolenia z faktu, że Grok nie ma podobnej funkcji udostępniania i priorytetowo traktuje prywatność.