Agenci AI

Agenci AI

TokenSpeed: LightSeek przełamuje monopol TensorRT-LLM kodem open source

Fundacja LightSeek zaprezentowała TokenSpeed – nowy silnik inferencyjny na licencji MIT, który ma konkurować z TensorRT-LLM. TokenSpeed, zoptymalizowany pod kątem ekstremalnego przepływu danych w kodowaniu, jest odpowiedzią na rosnące wymagania agentów AI. W testach na układach NVIDIA B200 wyprzedził on TensorRT-LLM, oferując niższe opóźnienia i większą przepustowość, co może zmienić przyszłość inferencji AI.

Read More
Agenci AI

Scale Labs sprawdza granice możliwości AI: Nowy ranking refaktoryzacji obnaża niespójność agentów

Debiutujący ranking SWE Atlas Refactoring rzuca nowe światło na rzeczywiste kompetencje inżynieryjne modeli AI. Wyniki pokazują, że choć Claude 3.5 Sonnet dominuje w restrukturyzacji kodu, to branża wciąż zmaga się z problemem brudnego kodu i braku powtarzalności wyników. Oznacza to, że droga do ich pełnej autonomii w inżynierii programowania jest jeszcze daleka.

Read More