Sojusz Technologiczny: Standaryzacja Formatów Danych dla Przyszłości AI
W obliczu dynamicznie rozwijającej się branży sztucznej inteligencji (AI), konsolidacja i unifikacja technologii stają się kluczowymi kwestiami, które mogą znacząco przyspieszyć tempo innowacji. Ważnym krokiem w tym kierunku jest wspólna inicjatywa takich gigantów technologicznych jak AMD, Arm, Intel, Meta, Microsoft, NVIDIA i Qualcomm, które postanowiły zestandaryzować formaty danych nowej generacji dla potrzeb sztucznej inteligencji.
W poszukiwaniu skuteczniejszej infrastruktury AI, kluczowe jest zoptymalizowanie każdego segmentu – od algorytmów po sprzęt. Dzięki postępowi w dziedzinie węższej precyzji danych AI oraz związanych z nim zoptymalizowanych algorytmów, branża zdołała przejść od tradycyjnej 32-bitowej precyzji zmiennoprzecinkowej do obecnie zaledwie 8-bitowej precyzji (tj. OCP FP8). Węższe formaty umożliwiają układom scalonym wykonywanie bardziej wydajnych obliczeń AI w każdym cyklu zegara, przyspieszając tym samym czasy uczenia i wnioskowania modeli AI.
Konsolidując swoje siły, wymienione firmy utworzyły Sojusz Formatów Mikroskalowania (MX) z zamiarem stworzenia i znormalizowania nowych typów danych 6- i 4-bitowych przeznaczonych do uczenia i wnioskowania AI. Kluczowa technologia, która umożliwia działanie formatów poniżej 8 bitów, nazywana mikroskalowaniem, opiera się na wieloletnich badaniach i eksploracji przestrzeni projektowej. Nowe formaty danych, takie jak MXFP8, MXFP6, MXFP4 i MXINT8, są zgodne z obecnymi stosami AI, umożliwiają elastyczną implementację zarówno na poziomie sprzętu, jak i oprogramowania, a także umożliwiają precyzyjne mikroskalowanie na poziomie sprzętu.
W duchu otwartości i współpracy, Sojusz MX opublikował specyfikację Formatów Mikroskalowania (MX) wersja 1.0 w otwartym, wolnym od licencji formacie poprzez Fundację Open Compute Project (OCP), aby umożliwić i zachęcić do szerokiego przyjęcia w branży oraz zapewnić podstawy dla potencjalnych przyszłych innowacji w zakresie węższych formatów danych. Działanie to nie tylko przyspiesza tempo rozwoju AI, ale również promuje otwartość, odpowiedzialność i odpowiedzialny rozwój aplikacji AI.
Przedstawiciele firm zaangażowanych w inicjatywę podkreślają, że specyfikacja OCP MX jest znaczącym krokiem w kierunku przyspieszenia prac nad szkoleniem i wnioskowaniem AI z użyciem formatów danych poniżej 8 bitów. Te formaty przyspieszają aplikacje, redukując obciążenie pamięci i pasma, a także umożliwiają innowacje w implementacji operacji matematycznych. Wszystko to z korzyścią dla całego przemysłu, od modeli rekomendacyjnych z surowymi wymogami dokładności, po najnowsze duże modele językowe, które są wrażliwe na opóźnienia i intensywne obliczeniowo.
W erze, gdy AI kontynuuje swoją ekspansję i staje się coraz bardziej niezbędne w różnych sektorach, otwarte standardy stanowią klucz do napędzania innowacji, współpracy i szerokiego przyjęcia. Dzięki tej unikatowej kolaboracji branżowej, przyszłość AI wydaje się jaśniejsza i obiecująca, otwierając drzwi do nowych możliwości i rozwiązań, które będą kształtować przyszłość technologii sztucznej inteligencji.
Na podstawie: techpowerup.com
