Zyphra가 새로운 텐서 및 시퀀스 병렬 처리(TSP) 기술을 발표했다. 이 기술은 하드웨어 인식 훈련 및 추론 전략으로, GPU 축을 따라 파라미터와 활성화 메모리를 동시에 줄이는 방식으로 설계되었다. TSP는 기존의 TP+SP 기준에 비해 2.6배 높은 처리량을 제공하는 것으로 알려져 있다. 이러한 혁신적인 접근 방식은 인공지능 및 기계 학습 분야에서의 효율성을 크게 향상시킬 것으로 기대된다.

<Mark Tech Post 뉴스 본문 전체읽기>