Amazon (NASDAQ:AMZN) Web Services (AWS) ogłosił wprowadzenie nowych serwerów centrów danych wyposażonych w własne chipy sztucznej inteligencji (AI), rzucając wyzwanie dominacji Nvidii w tym sektorze. Apple Inc (NASDAQ:AAPL). zostało potwierdzone jako klient, planujący wykorzystać te nowe chipy Trainium2. Jednostka chmurowa AWS ujawniła, że te serwery będą częścią ogromnego superkomputera, który będzie zawierał setki tysięcy chipów. Ogłoszenie to zostało dokonane we wtorek.
Ten superkomputer, napędzany chipami Trainium2 od AWS, będzie wykorzystywany przez startup AI Anthropic jako pierwszą firmę korzystającą z tej technologii. Anthropic jest znany z tworzenia niezawodnych i interpretowalnych systemów AI i wykorzysta moc obliczeniową do zwiększenia możliwości swoich modeli AI.
Benoit Dupin, dyrektor w Apple, potwierdził również, że gigant technologiczny wykorzystuje chipy Trainium2, co świadczy o znaczącym przyjęciu nowej oferty AWS.
Matt Garman, dyrektor generalny AWS, ujawnił ponadto, że firma pracuje już nad Trainium3, kolejną ewolucją swojego chipa AI, którego debiut zaplanowano na przyszły rok.
Nowe instancje Amazon Elastic Compute Cloud (Amazon EC2), napędzane AWS Trainium2, są już ogólnie dostępne i wprowadzają UltraServery Trn2. Te UltraServery zostały zaprojektowane, aby zapewnić wyjątkową wydajność i efektywność kosztową w trenowaniu i wdrażaniu współczesnych modeli AI, w tym dużych modeli językowych (LLM) i modeli podstawowych (FM).
Instancje Trn2 obiecują 30-40% poprawę wydajności cenowej w porównaniu z obecnymi instancjami EC2 opartymi na GPU i mogą pochwalić się 16 chipami Trainium2, dostarczając 20,8 szczytowych petaflopów mocy obliczeniowej. Sprawia to, że są idealne do obsługi obciążeń AI z miliardami parametrów.
Dla jeszcze bardziej wymagających zadań AI, UltraServery Trn2 oferują nową usługę EC2, wyposażoną w 64 połączone chipy Trainium2, zapewniające do 83,2 szczytowych petaflopów mocy obliczeniowej. Ta konfiguracja czterokrotnie zwiększa moc obliczeniową, pamięć i możliwości sieciowe pojedynczej instancji, umożliwiając trenowanie i wdrażanie największych na świecie modeli AI.
Wspólny projekt AWS i Anthropic, nazwany Project Rainier, ma na celu zbudowanie EC2 UltraCluster z UltraSerwerów Trn2, który po ukończeniu stanie się największym na świecie klastrem obliczeniowym AI.
AWS podkreślił również nadchodzący chip Trainium3, który będzie produkowany w procesie technologicznym 3 nanometrów, obiecując czterokrotne zwiększenie wydajności obecnych UltraSerwerów Trn2.
Zestaw narzędzi programistycznych AWS Neuron (SDK) ułatwia optymalizację modeli AI do działania na chipach Trainium, wspierając popularne frameworki takie jak JAX i PyTorch, i jest zintegrowany z centrum modeli Hugging Face, które hostuje ponad 100 000 modeli.
Instancje Trn2 są obecnie dostępne w regionie AWS US East (Ohio), z planami rozszerzenia dostępności na dodatkowe regiony w najbliższej przyszłości. Tymczasem UltraServery Trn2 są oferowane w fazie podglądu.
Artykuł został przetłumaczony przy pomocy sztucznej inteligencji. Zapoznaj się z Warunkami Użytkowania, aby uzyskać więcej informacji.