딥시크 CSA(압축 희소 어텐션)의 구조. 토큰 단위 압축기가 KV를 압축하고, 라이트닝 인덱서가 매긴 점수로 상위 일부만 골라 어텐션을 계산한다. 전체 문맥을 다 읽지 않는 방식으로 KV 캐시와 연산량을 함께 줄인다.
딥시크
ⓒ딥시크2026.09.07
진실과 정의를 추구하는 오마이뉴스를 후원해주세요!
후원문의 : 010-3270-3828 / 02-733-5505 (내선 0)
오마이뉴스 취재후원
사람에 대한 기사에 관심이 많습니다. 사람보다 더 흥미진진한 탐구 대상을 아직 보지 못했습니다.