プロジェクト

LLMの長い推論で増えるKVキャッシュを削減する研究です。解答に必要な状態を残し、重複する中間状態を統合します。2026年4月13日にarXivで公開しました（arXiv:2604.10900）。

AppleプラットフォームのプロジェクトにPythonランタイムとパッケージを組み込むためのツールキットです。SwiftPMテンプレート、Python CLI、署名の自動化をまとめています。

メモリ制約のあるiOSキーボードで推論するため、通常のPyTorchモデルとStateful KV-cacheモデルをCore MLへ変換するオンデバイスML実験です。

メトリクスやデバッグ情報を表示するPure SwiftUIのHUDパッケージです。ドラッグ、画面端へのスナップ、Compact/Expanded状態に対応しています。