Karandeep Anand na czele Character.AI: Wyzwania regulacyjne i bezpieczeństwo użytkowników w świecie chatbotów

Character.AI, platforma czatbotów wspomagana kapitałem Google i posiadająca dziesiątki milionów aktywnych użytkowników miesięcznie, ogłosiła objęcie sterów firmy przez Karandeepa Ananda. Były wiceprezes Meta ds. produktów biznesowych, a wcześniej doradca zarządu Character.AI, obejmuje stanowisko dyrektora generalnego w burzliwym okresie dla spółki.

Firma, pomimo dynamicznego rozwoju platformy, mierzy się z poważnymi obawami dotyczącymi bezpieczeństwa dzieci. W ostatnich miesiącach Character.AI wdrożyło szereg nowych funkcji zabezpieczających, co jest pokłosiem aktywnego procesu sądowego. Pozew, który budzi szerokie reperkusje, zarzuca jednemu z czatbotów firmy udział w tragicznym zdarzeniu – śmierci 14-letniego chłopca z Florydy. Sprawa ta rzuca cień na reputację Character.AI i podkreśla pilną potrzebę zwiększenia bezpieczeństwa na platformie.

Anand wnosi do Character.AI bogate doświadczenie. W Meta był odpowiedzialny za produkty reklamowe, które docierały do miliardów użytkowników. Wcześniej pełnił funkcję szefa zarządzania produktem w Microsofcie, gdzie nadzorował doświadczenia użytkowników platformy chmurowej Azure. Ostatnio Anand piastował stanowisko prezesa w startupie fintechowym Brex. Jego szerokie kompetencje w zarządzaniu produktami na dużą skalę będą kluczowe w obliczu wyzwań stojących przed Character.AI.

Przejęcie sterów firmy przez Ananda następuje zaledwie dziesięć miesięcy po powrocie współzałożyciela i dyrektora generalnego Character.AI, Noama Shazeera, do Google. Shazeer, który wcześniej kierował kluczowymi zespołami AI w gigancie z Mountain View, opuścił firmę w ramach transakcji, która obejmowała również niewyłączną umowę Google na wykorzystanie technologii Character.AI. Ta specyficzna relacja między obiema firmami nie uszła uwadze federalnych regulatorów, którzy rozpoczęli dochodzenie antymonopolowe. Sprawa ta jest jednym z wielu przykładów, gdzie „odwrócone przejęcia” w przestrzeni startupów AI, mające na celu pozyskanie talentów, stały się przedmiotem wzmożonej kontroli regulacyjnej – analogicznie do przypadku transakcji Microsoftu z Inflection.AI.

Character.AI pozyskało dotąd ponad 150 milionów dolarów finansowania venture capital, głównie od Andreessen Horowitz. Nowy CEO, Karandeep Anand, w swoim pierwszym oświadczeniu na blogu firmy podkreślił, że jednym z jego priorytetów będzie uczynienie filtrów bezpieczeństwa „mniej uciążliwymi”. Anand zaznaczył, że choć firma dba o bezpieczeństwo użytkowników, zbyt często aplikacja filtruje treści „doskonale nieszkodliwe”.

Zapowiedział również poprawę jakości modeli AI na platformie, innowacje w zakresie funkcji pamięci oraz zwiększenie przejrzystości w podejmowaniu decyzji. Wiele z tych zmian ma zostać wdrożonych w ciągu najbliższych 60 dni. Specjalizacja Character.AI w czatbotach rozrywkowych wpisuje się w rosnący trend na rynku generatywnej sztucznej inteligencji. Dane z Sensor Tower wskazują, że w 2024 roku 66% użytkowników platformy to osoby w wieku 18-24 lata, a 72% stanowią kobiety – co świadczy o zaskakująco dużym segmencie rynku i specyficznej demografii odbiorców.