Modalの月30ドル枠、A100 80GBなら何時間？　GPU単価と別課金の条件

何について

テツメモ氏が、自宅のGPUで扱いにくいLoRA学習を例に、ModalのStarterプランで使える計算量を紹介した。Modalの料金表では基本料は月0ドル。GPU・CPU・メモリの計算料金に月30ドル分を充てられ、ワークスペースは最大3人、GPUは同時に最大10基まで使える。 A100の80GB版は通常単価が1秒0.000694ドル。1時間では約2.50ドルなので、1基のGPU料金だけで30ドルを割ると約12時間になる。実際にはCPUとメモリも計算枠を消費するため、ジョブに使える時間は構成で変わる。 また、Modalがモデルを運用するShared Endpointsはトークン単位の別課金。Starterの計算枠が残っていても、最初のリクエストから料金がかかる。

なぜ注目

「約12時間」の計算に何が含まれるかと、無料枠が使えないサービスを見分けると、クラウドGPUを試す前に費用を見積もりやすい。