Foxconn ogłasza udoskonalony model języka dużego (LLM) na podstawie Llama 3.1 firmy Meta

Foxconn, firma najbardziej znana z produkcji iPhone'ów i innych produktów sprzętowych Apple, właśnie zaskoczyła wszystkich, ogłaszając swój pierwszy duży model językowy (LLM) zwany FoxBrain, który ma służyć do usprawnienia produkcji i zarządzania łańcuchem dostaw.

Tajwański producent twierdzi, że FoxBrain został wytrenowany przy użyciu zaledwie 120 procesorów graficznych Nvidia H100. Niniejszy LLM został w zasadzie opracowany na podstawie architektury Llama 3.1 firmy Meta, z 70 miliardami parametrów uzyskanych w wyniku destylacji. Koncepcja udoskonalenia LLM polega na wykorzystaniu modelu „nadrzędnego” i wytrenowaniu modelu „podrzędnego” w oparciu o jego odpowiedzi. Firma Foxconn przyznała również, że ich LLM nie dorównuje udoskonalonemu modelowi DeepSeek (Chiny), ale ogólna wydajność jest bardzo bliska światowym standardom.

Mówiąc o tym osiągnięciu, dr Yung-Hui Li, dyrektor Centrum Badań nad Sztuczną Inteligencją w Instytucie Badawczym Hon Hai (Foxconn), powiedział:

W ostatnich miesiącach rozwijanie zdolności rozumowania i efektywne wykorzystanie procesorów graficznych stopniowo stało się głównym trendem w dziedzinie sztucznej inteligencji. Nasz model FoxBrain przyjął bardzo skuteczną strategię szkoleniową, skupiając się na optymalizacji procesu szkoleniowego zamiast na bezmyślnym gromadzeniu mocy obliczeniowej.

Dzięki starannie zaprojektowanym metodom szkoleniowym i optymalizacji zasobów udało nam się zbudować lokalny model AI z silnymi możliwościami rozumowania.

Foxconn ogłasza udoskonalony model języka dużego (LLM) na podstawie Llama 3.1 firmy Meta

Foxconn nie tylko składa produkty Apple, ale również produkuje serwery AI dla firmy Nvidia. FoxBrain, wraz ze 120 procesorami graficznymi H100, jest skalowany przy użyciu sieci Quantum-2 InfiniBand firmy Nvidia, a szkolenie trwa zaledwie około 4 tygodni (przy całkowitym koszcie obliczeniowym wynoszącym 2688 dni GPU). Firma Foxconn wygenerowała 98 miliardów wysokiej jakości tokenów danych przedtreningowych w języku chińskim tradycyjnym, przy czym długość okna kontekstowego wynosiła do 128 000 tokenów.

Partnerstwo między Foxconnem i Nvidią nie jest niczym nowym, a obie firmy pracują również nad innymi projektami, w tym nad budową największego na świecie zakładu produkującego procesory graficzne Blackwell.

Nvidia udostępniła firmie Foxconn również superkomputer Taipei-1, który umożliwił ukończenie procesu wstępnego trenowania modelu. Firma Foxconn poinformowała, że ​​FoxBrain stanie się „kluczowym silnikiem” do modernizacji trzech głównych platform firmy: inteligentnej produkcji, inteligentnych pojazdów elektrycznych i inteligentnych miast.

Sign up and earn $1000 a day ⋙

Leave a Comment

Różnica między zwykłym telewizorem a Smart TV

Różnica między zwykłym telewizorem a Smart TV

Telewizory Smart TV naprawdę podbiły świat. Dzięki tak wielu świetnym funkcjom i możliwościom połączenia z Internetem technologia zmieniła sposób, w jaki oglądamy telewizję.

Dlaczego zamrażarka nie ma światła, a lodówka tak?

Dlaczego zamrażarka nie ma światła, a lodówka tak?

Lodówki to powszechnie stosowane urządzenia gospodarstwa domowego. Lodówki zazwyczaj mają dwie komory: komora chłodna jest pojemna i posiada światło, które włącza się automatycznie po każdym otwarciu lodówki, natomiast komora zamrażarki jest wąska i nie posiada światła.

2 sposoby na naprawę przeciążenia sieci, które spowalnia sieć Wi-Fi

2 sposoby na naprawę przeciążenia sieci, które spowalnia sieć Wi-Fi

Na działanie sieci Wi-Fi wpływa wiele czynników poza routerami, przepustowością i zakłóceniami. Istnieje jednak kilka sprytnych sposobów na usprawnienie działania sieci.

Jak obniżyć wersję iOS 17 do iOS 16 bez utraty danych za pomocą Tenorshare Reiboot

Jak obniżyć wersję iOS 17 do iOS 16 bez utraty danych za pomocą Tenorshare Reiboot

Jeśli chcesz powrócić do stabilnej wersji iOS 16 na swoim telefonie, poniżej znajdziesz podstawowy przewodnik, jak odinstalować iOS 17 i obniżyć wersję iOS 17 do 16.

Co dzieje się z organizmem, gdy codziennie jesz jogurt?

Co dzieje się z organizmem, gdy codziennie jesz jogurt?

Jogurt jest wspaniałym produktem spożywczym. Czy warto jeść jogurt codziennie? Jak zmieni się Twoje ciało, gdy będziesz jeść jogurt codziennie? Przekonajmy się razem!

Który rodzaj ryżu jest najlepszy dla zdrowia?

Który rodzaj ryżu jest najlepszy dla zdrowia?

W tym artykule omówiono najbardziej odżywcze rodzaje ryżu i dowiesz się, jak zmaksymalizować korzyści zdrowotne, jakie daje wybrany przez Ciebie rodzaj ryżu.

Jak obudzić się rano na czas

Jak obudzić się rano na czas

Ustalenie harmonogramu snu i rutyny związanej z kładzeniem się spać, zmiana budzika i dostosowanie diety to niektóre z działań, które mogą pomóc Ci lepiej spać i budzić się rano o odpowiedniej porze.

Wskazówki dotyczące gry Rent Please! Symulator wynajmującego dla nowicjuszy

Wskazówki dotyczące gry Rent Please! Symulator wynajmującego dla nowicjuszy

Proszę o wynajem! Landlord Sim to mobilna gra symulacyjna dostępna na systemy iOS i Android. Wcielisz się w rolę właściciela kompleksu apartamentowego i wynajmiesz mieszkania, a Twoim celem jest odnowienie wnętrz apartamentów i przygotowanie ich na przyjęcie najemców.

Najnowsze kody do obrony wieży łazienkowej i jak je wprowadzać

Najnowsze kody do obrony wieży łazienkowej i jak je wprowadzać

Zdobądź kod do gry Bathroom Tower Defense Roblox i wymień go na atrakcyjne nagrody. Pomogą ci ulepszyć lub odblokować wieże zadające większe obrażenia.

Budowa, symbole i zasady działania transformatorów

Budowa, symbole i zasady działania transformatorów

Poznajmy budowę, symbole i zasady działania transformatorów w jak najbardziej dokładny spos��b.

4 sposoby, w jakie sztuczna inteligencja ulepsza inteligentne telewizory

4 sposoby, w jakie sztuczna inteligencja ulepsza inteligentne telewizory

Od lepszej jakości obrazu i dźwięku po sterowanie głosowe i wiele więcej — te funkcje oparte na sztucznej inteligencji sprawiają, że inteligentne telewizory stają się o wiele lepsze!

Dlaczego ChatGPT jest lepszy niż DeepSeek

Dlaczego ChatGPT jest lepszy niż DeepSeek

Początkowo ludzie wiązali duże nadzieje z DeepSeek. Jako chatbot oparty na sztucznej inteligencji, reklamowany jako silny konkurent ChatGPT, obiecuje inteligentne możliwości i doświadczenia związane z czatem.

Poznaj Fireflies.ai: darmową sekretarkę AI, która zaoszczędzi Ci godzin pracy

Poznaj Fireflies.ai: darmową sekretarkę AI, która zaoszczędzi Ci godzin pracy

Łatwo jest przegapić ważne szczegóły podczas zapisywania innych istotnych informacji, a próba robienia notatek podczas rozmowy może być rozpraszająca. Rozwiązaniem jest Fireflies.ai.

Jak hodować aksolotla w Minecraft, oswoić salamandrę w Minecraft

Jak hodować aksolotla w Minecraft, oswoić salamandrę w Minecraft

Axolot Minecraft będzie świetnym pomocnikiem dla graczy operujących pod wodą, jeśli tylko będą umieli się nim posługiwać.

Konfiguracja gry A Quiet Place: The Road Ahead na PC

Konfiguracja gry A Quiet Place: The Road Ahead na PC

Konfiguracja gry A Quiet Place: The Road Ahead została oceniona dość wysoko, dlatego też przed podjęciem decyzji o pobraniu należy wziąć ją pod uwagę.