Grok 5 trenuje na Colossus II – skala robi wrażenie

Grok 5 jest w trakcie intensywnego treningu na klastrze Colossus II. Według informacji z X, w systemie pracuje już około 220 tysięcy wysokiej klasy GPU NVIDIA, a kolejne są dokładane. Pobór mocy oscyluje wokół 1 GW i rośnie.

6–10 bilionów parametrów

Model ma trafić w zakres 6–10 bilionów parametrów. To zupełnie inna liga niż to, co obecnie jest publicznie dostępne.

Trening trwa co najmniej od stycznia. Elon Musk potwierdził niedawno, że Grok 5 powinien pojawić się jeszcze przed końcem 2026 roku. Kluczowy element: model ma zostać wytrenowany na pełnym, 25-letnim zbiorze danych inżynierskich SpaceX.

Nie kolejny Grok 4.x

To nie jest kolejna, inkrementalna aktualizacja serii Grok 4.x. Mowa o wyraźnym skoku zarówno w skali compute’u, jak i w architekturze. Połączenie ogromnej mocy obliczeniowej z unikalnymi, rzeczywistymi danymi inżynierskimi SpaceX ma dać firmie konkretną przewagę w rozwiązywaniu problemów projektowych, symulacyjnych i inżynierskich, z którymi obecne modele wciąż mają kłopot.

Na tym samym klastrze działa już Cursor, więc wzrost możliwości powinien być widoczny także po stronie narzędzi programistycznych.

Na razie nie ma twardej daty premiery, ale zarówno skala infrastruktury, jak i zakres danych, na których model jest trenowany, wyglądają bardzo poważnie.