Trainium-ийн сургалтын хурд сайжирсан ч эхний туршилт удаан байв

Юу болсон бэ?

SemiAnalysis-ийн инженерүүд AWS-ийн Trainium3 дээр PyTorch ашиглан хийсэн туршилтынхаа дүнг өнөөдөр нийтэллээ. Тэдний хэмжилтээр Qwen3-32B загварыг 16 Trainium2 чип дээр сургахад хөрвүүлсэн горимын хурд шууд ажиллуулах горимоос 1.28 дахин өндөр байв. Харин тусдаа gpt-oss 20B туршилтын эхний компайл 27 минут 17 секунд үргэлжилжээ. Энэ бол зохиогчдын өөрсдийн төхөөрөмж дээрх туршилт бөгөөд бүх хэрэглэгчид ижил хурд авна гэсэн баталгаа биш.

Яагаад чухал вэ?

Amazon-ийн Trainium нь NVIDIA-ийн GPU-тай өрсөлдөх өөрийн хийцийн AI чип. AWS 10-р сарын 20-нд Trainium2, Trainium3 дээр ажиллах TorchNeuron-ийг PyTorch-ийн нээлттэй эхийн хувилбарын нийтийн туршилтаар гаргаснаа зарласан. PyTorch бол AI загвар бүтээхэд өргөн хэрэглэдэг программын сан; өмнө нь өөр чип рүү шилжихэд код, сургалтын хэрэгслийг тааруулах ажил их гардаг байв.

SemiAnalysis-ийн ажиглалтаар энэ удаагийн гол ахиц нь зөвхөн чипийн тооцоолох чадвар биш, сургалтын хэрэгсэл PyTorch-той илүү нийцэж эхэлсэн явдал. Гэвч удаан компайл нь загварын бүтцийг дахин дахин өөрчилж туршдаг судалгааны ажлыг сааруулж болно. Иймээс чипийн үнэ хямд байх боломж дангаараа хэрэглэгч татахгүй: нийт сургалтын хугацаа, программын тогтвортой байдал, ашиглалтын зардал хамт өрсөлдөх ёстой.

Цаашид юуг ажиглах вэ?

AWS 10-р сарын 22-нд компайлын хугацааг багасгах кэш, олон процессын хамтын хөрвүүлэлт болон өргөн хүрээний загварын шалгалтын талаар тайлбарласан. SemiAnalysis цаашдын TorchNeuron хувилбарууд эхний алхмын саатлыг бууруулна гэж тэмдэглэсэн ч энэ нь одоогоор амласан сайжруулалт болохоос хэмжсэн үр дүн биш. Дараагийн шинэчлэлүүд дээр компайлын хугацаа үнэхээр буурах эсэх, TorchNeuron-ийг AWS-ийн хэрэглэгчид үйлдвэрлэлийн сургалтад хэр өргөн ашиглахыг ажиглах нь зүйтэй.