LFM3-Omni-2BをiPhoneでオフライン実行 Xenova氏が約80トークン毎秒の移植例を紹介
AINNでは投稿本文・投稿者本人の追記・第三者コメントの全文転載を避け、X公式埋め込みと元投稿への導線を中心に表示します。
AIによる見どころ整理
何について
Xenova氏は、Liquid AIのLFM3-Omni-2BをiPhone 18 Pro Maxへ移植し、完全オフラインで約80トークン毎秒動作させたと報告しました。React Nativeアプリ内で独自のWebGPUカーネルを使う実装です。App Storeで公開すべきかを問いかけており、一般向けの配信開始を告知したものではありません。
なぜ注目
音声対話AIをスマートフォン上で完全オフライン実行する実装例として注目されます。通信が難しい場面での活用を考える材料ですが、アプリの一般提供時期や対応端末は、この投稿では確定していません。
🔰 初学者向け要約
スマートフォン内でAIを動かすと、処理のたびに外部サーバーへ接続せずに利用できる可能性があります。今回は開発者が特定のiPhoneで動かした例で、約80トークン毎秒という速度も本人の報告です。すべての端末で同じ速さや使い勝手になることを示すものではありません。
用語を調べる
公開記事とWeb上の出典をもとに、Geminiが短く説明します。1日5回まで利用できます。
