Firma IBM opracowała nową technologię optyczną, która może obsługiwać szkolenie modeli sztucznej inteligencji z „prędkością światła”, oszczędzając przy tym znaczną ilość energii. Firma IBM twierdzi, że dzięki zastosowaniu tych przełomowych rozwiązań w centrach danych, oszczędność energii w trakcie szkolenia typowego modelu sztucznej inteligencji będzie równa rocznemu zużyciu energii przez 5000 amerykańskich gospodarstw domowych.
Jak podaje IBM, centra danych łączą się ze światem zewnętrznym za pomocą światłowodów, natomiast wewnątrz budynków nadal dominującym materiałem jest okablowanie miedziane. Te miedziane przewody łączące akceleratory GPU spędzają dużo czasu czekając na dane z innych urządzeń, podczas gdy pobierają energię, co znacznie zwiększa koszty eksploatacji. Komentując nową technologię optycznej transmisji danych, Dario Gil, starszy wiceprezes i dyrektor ds. badań w IBM, powiedział:
Ponieważ sztuczna inteligencja generuje zapotrzebowanie na większą moc obliczeniową, centra danych muszą ewoluować – a technologia ogólnej optyki pakietowej może pomóc dużym centrom danych lepiej dostosować się do przyszłych wymagań. Dzięki temu przełomowi procesory przyszłości będą mogły komunikować się w taki sam sposób, w jaki światłowody przesyłają dane do i z centrów danych, zapoczątkowując nową erę szybszej, bardziej zrównoważonej komunikacji, która poradzi sobie z ogromnymi obciążeniami związanymi ze sztuczną inteligencją.

Firma IBM przedstawia w artykule technicznym prototyp swojej nowej technologii optyki współpakietowej (CPO) . Zasadniczo, poprzez znaczące zwiększenie przepustowości w centrach danych można zminimalizować przestoje GPU, przyspieszając przetwarzanie AI.
Firma IBM z przekonaniem obiecuje, że technologia ta może pomóc skrócić czas szkolenia dużych modeli językowych (LLM) z trzech miesięcy do trzech tygodni. Jednocześnie większa efektywność energetyczna pozwoli na ograniczenie zużycia energii i redukcję kosztów związanych ze szkoleniem LLM.