OpenAI tnie koszty obsługi ChatGPT bez logowania. Tysiące GPU zastąpione setkami

Kilka tysięcy procesorów graficznych Nvidii kontra zaledwie kilkaset. Taka przepaść dzieli stare i nowe podejście OpenAI do obsługi użytkowników, którzy korzystają z ChatGPT bez zakładania konta. Inżynierowie z San Francisco zredukowali wydatki na wnioskowanie w tym segmencie o ponad połowę, co stawia pod znakiem zapytania dotychczasowe przekonania o skrajnej nieopłacalności darmowych usług AI.

To kluczowy moment dla spółki Sama Altmana. OpenAI wchodzi właśnie w fazę brutalnego wyścigu cenowego z konkurentami takimi jak Anthropic czy chiński DeepSeek. Aby utrzymać rentowność przy masowej skali, firma musi radykalnie optymalizować algorytmy, zwłaszcza że popyt na zasoby obliczeniowe stale przewyższa podaż, a walka o rynkowe udziały wymusza udostępnianie technologii za ułamek wcześniejszej ceny.

Przełom w wydajności infrastruktury

Choć OpenAI nie zdradza technicznych szczegółów optymalizacji, efekty są uderzające. Redukcja inwestycji infrastrukturalnych o ponad 50 procent dla gości portalu to dowód na to, że oprogramowanie zaczyna nadganiać braki w sprzęcie. Jak podaje The Information, do obsługi ruchu wystarcza teraz ułamek mocy obliczeniowej wykorzystywanej jeszcze kilka miesięcy temu. „Walka o efektywność algorytmiczną jest teraz równie ważna jak wyścig na wielkość modeli, ponieważ zasoby GPU są ograniczonym towarem” — zauważa analityk cytowany przez serwis.

Optymalizacja kosztów idzie w parze z agresywną polityką produktową. Firma wprowadziła model GPT-4o Mini, który jest 20 razy tańszy od swoich poprzedników. Efekt? Szacuje się, że koszt pojedynczej rozmowy na czacie wynosi obecnie około 1 grosza. To pozwala firmie na drastyczne ruchy cenowe na rynkach wschodzących — przykładem są Indie, gdzie subskrypcja ChatGPT Go staniała o 75 procent, spadając z 20 do zaledwie 5 dolarów miesięcznie.

Presja konkurencji i wentyl bezpieczeństwa

Działania OpenAI to bezpośrednia reakcja na ruchy konkurencji. DeepSeek zaprezentował niedawno otwartoźródłową metodę przyspieszania wnioskowania o 85 procent, co zmusiło Amerykanów do szukania oszczędności tam, gdzie do tej pory palili gotówkę najszybciej. Jednocześnie model GPT-3.5-turbo zyskał większe limity tokenów (16K), co pozwala przetwarzać cztery razy więcej informacji przy jednym zapytaniu bez proporcjonalnego wzrostu opłat.

Czy mniejsze zapotrzebowanie na karty Nvidii oznacza koniec problemów z dostępem do czipów? Eksperci tonują nastroje. Uwolnione zasoby służą raczej jako „wentyl bezpieczeństwa” dla wiecznie przeciążonej infrastruktury. Zyskana moc zostanie prawdopodobnie przekierowana do obsługi klientów premium oraz rozwoju nowej generacji modeli, które wymagają jeszcze większej mocy obliczeniowej niż obecne systemy. Wojna cenowa dopiero się rozkręca, a OpenAI przygotowuje się do dalszych cięć — nieoficjalnie mówi się o planowanym, 85-procentowym spadku cen tokenów w API.