Autor: AI Sight

Agenci AI

TokenSpeed: LightSeek przełamuje monopol TensorRT-LLM kodem open source

Fundacja LightSeek zaprezentowała TokenSpeed – nowy silnik inferencyjny na licencji MIT, który ma konkurować z TensorRT-LLM. TokenSpeed, zoptymalizowany pod kątem ekstremalnego przepływu danych w kodowaniu, jest odpowiedzią na rosnące wymagania agentów AI. W testach na układach NVIDIA B200 wyprzedził on TensorRT-LLM, oferując niższe opóźnienia i większą przepustowość, co może zmienić przyszłość inferencji AI.

Read More
LLM

Anthropic zagląda w myśli Claude’a. Autoenkodery tłumaczą kod maszynowy na ludzką mowę

Model Claude, stworzony przez Anthropic, generuje odpowiedzi, posługując się złożonymi ciągami liczb, które dotychczas były niemożliwe do bezpośredniego odczytania. Dzięki nowej technologii Natural Language Autoencoders (NLA) naukowcy mogą zajrzeć „pod maskę” AI i sprawdzić, co model „myśli”, zanim wygeneruje odpowiedź, a nawet wykryć jego ukryte motywacje.

Read More
Agenci AI

Scale Labs sprawdza granice możliwości AI: Nowy ranking refaktoryzacji obnaża niespójność agentów

Debiutujący ranking SWE Atlas Refactoring rzuca nowe światło na rzeczywiste kompetencje inżynieryjne modeli AI. Wyniki pokazują, że choć Claude 3.5 Sonnet dominuje w restrukturyzacji kodu, to branża wciąż zmaga się z problemem brudnego kodu i braku powtarzalności wyników. Oznacza to, że droga do ich pełnej autonomii w inżynierii programowania jest jeszcze daleka.

Read More