---
title: "CASK"
description: "推論LLMのKVキャッシュ圧縮 · arXiv"
canonical: https://portfolio.skyline23.com/ja/projects/cask
language: ja
content-signal: ai-train=no, search=yes, ai-input=yes
---

# CASK

> 推論LLMのKVキャッシュ圧縮 · arXiv

## Overview

LLMの長い推論で増えるKVキャッシュを削減する研究です。解答に必要な状態を残し、重複する中間状態を統合します。2026年4月13日にarXivで公開しました（arXiv:2604.10900）。

## Highlights

- coreを保持し、scratchだけを統合します。入力区間の整理で生成中の圧縮に必要な空間を確保します。
- H100 PCIeでQwen3-8BとTriAttentionを比較しました。AIME24・AIME25各6例で次トークン一致率と平均NLLを測定しました。
- multi_news・vcsumでは生成区間の統合を確認しましたが、qmsum・gov_reportでは入力だけで予算を使い切る問題が残りました。論文と実装コードを公開しています。

## Metadata

- Type: Project
- Category: ML
- Years: 2026
- Stack: LLM, KV cache, Reasoning

## Links

- Paper: [arXiv](https://arxiv.org/abs/2604.10900)
- Source: [GitHub](https://github.com/Skyline-23/CASK)

## Language versions

- [EN](https://portfolio.skyline23.com/en/projects/cask/index.md) · [KO](https://portfolio.skyline23.com/ko/projects/cask/index.md) · [JA](https://portfolio.skyline23.com/ja/projects/cask/index.md)

- [Portfolio index](https://portfolio.skyline23.com/ja/index.md)