Jesteśmy świadkami momentu przełomowego, kiedy gigant technologiczny OpenAI decyduje się na całkowite odejście od tradycyjnych rozwiązań opartych na zakupie sprzętu u zewnętrznych dostawców. Do tej pory serwery ChatGPT działały na chipach graficznych produkowanych przez firmę Nvidia, co wiązało sie z ogromnymi kosztami i zależnością od jednego gracza rynkowego.
Koniec erzy wynajmowania mocy obliczeniowej
Prezes OpenAI, Greg Brockman, wprost przyznał, że obecne rozwiązania nie pozwalają na osiągnięcie wymaganego tempa rozwoju. Dyrektor generalny Broadcom potwierdził te słowa, wskazując na nienasycony popyt po moc obliczeniową do roku 2028. W odpowiedzi firma podjęła decyzję o zbudowaniu własnego układu scalonego od podstaw.
Nowość Calapeno w krótkim czasie
Odejście od gotowych rozwiązań i stworzenie dedykowanego procesora nazwanego Calapeno zajęło niesamowite 9 miesięcy. Jest to najszybszy cykl rozwoju układu ASIC dla półprzewodników o wysokiej wydajności, jaki kiedykolwiek zarejestrowano w branży. Próbki inżynieryjne są już testowane pod rzeczywistym obciążeniem.
Specyfika tego nowego chipu polega na tym, że nie jest to uniwersalny akcelerator do trenowania modeli, lecz dedykowany procesor wyłącznie do wnioskowania. Wniosek w kontekście AI oznacza uruchamianie gotowych modeli w odpowiedzi na zapytania użytkowników.
Skalp zamiast scyzoryka szwajcarskiego
Kiedy chipy Nvidia porównujemy do narzędzi typu scyzoryk szwajcarski, które robią wszystko przeciętnie dobrze, Calapeno jest precyzyjnym skalpelem. Jego jedynym zadaniem jest wyciąganie wniosków z danych wejściowych użytkowników.
Ta dedykacja pozwala na drastyczne ograniczenie przemieszczania danych oraz lepsze równoważenie zasobów pamięci i sieciowych. Dzięki temu układ osiąga wydajność znacznie bliższą teoretycznego maksimum, co jest kluczowe dla skalowalnych modeli językowych.
Współpraca z własnymi modelami AI
Firma OpenAI nie tylko zaprojektowała ten układ, ale także wykorzystała swoje modele sztucznej inteligencji do pomocy w jego budowie. Jest to śmiały ruch, który pozwala na szybsze iteracje i optymalizację pod kątem własnych potrzeb.
Wydajność energetyczna jako priorytet
Pierwsze testy laboratoryjne wskazują, że Calapeno oferuje znacznie lepszą wydajność w przeliczeniu na zużywaną energię niż najnowocześniejsze systemy konkurencji. Optymalizacja architektury sprawia, że każdy wat energii jest wykorzystany z maksymalną efektywnością.
Wdrożenie jeszcze w tym roku
Mimo braku pełnego raportu technicznego, OpenAI twierdzi, że układ już uruchamia obciążenia uczenia maszynowego dla przyszłych wersji modeli. Wdrożenie do produkcji planowane jest na obecny rok, co oznacza koniec erzy wynajmowania cudzych serwerów.
Pełne dane techniczne zostaną opublikowane w najbliższych miesiącach, ale już teraz wiemy, że to nie jest tylko marketingowa deklaracja. Rozwiązanie znajduje się w fazie laboratoryjnej i przechodzi ostatnie etapy walidacji przed masową produkcją.