期間

2024 - 2025

• 一般モデル変換成功
• Statefulモデル変換成功
• オンデバイス移植実験中

使用ツール・スキル

スキル

• Core ML / MLCompute
• Swift
• オンデバイス推論パイプライン構成

動機

• モバイルキーボードで使用できる、Apple CPU、GPU、NPUに最適化されたMLモデルを構築したかった。
• CoreMLがモバイルキーボードの限られたメモリリソースでメモリを追跡しないことを知り、キーボード向けのAI駆動オートコンプリート推論ロジックを実装したかった。

学んだこと

• coremltoolsを使用したPyTorchモデル変換方法を学習。
• iOS 18で導入されたKV-cacheを使用したStatefulモデルへの変換ロジックを研究。