대규모 언어 모델이 텍스트 토큰을 전송하지 않고도 협력할 수 있는 방법을 연구한 팀이 나왔다. 중국의 Tsinghua 대학, Infinigence AI, The Chinese University of Hong Kong, Shanghai AI Laboratory, Shanghai Jiao Tong 대학의 연구자들은 캐시-투-캐시(C2C)를 소개했다. C2C는 대규모 언어 모델이 KV-Cache를 통해 정보를 교환하는 새로운 통신 패러다임이다. 이를 통해 모델들은 텍스트를 전송하지 않고도 직접적으로 의미적인 통신을 할 수 있다. 이를 통해 모델 간 협업이 더욱 효율적으로 이루어질 수 있을 것으로 기대된다.

<Mark Tech Post 뉴스 본문 전체읽기>