Hugging Faceのsafeagents、AIのツール実行前に検査 ログのみの設定は遮断しない

何について

Hugging Faceが公開した「safeagents」は、AIコーディングエージェントとモデルの間に置くローカルの中継ソフトだ。モデルが返すツール呼び出しを、エージェント側が受け取る前に検査し、遮断対象を警告文に置き換える。接続先URLを設定できるClaude Code、OpenCode、Hermesなどで使う構成が示されている。 公式READMEによると、要求で宣言されていないツールや、会話に現れない接続先などを調べ、atif-scanによる危険度判定も行う。任意の判定モデルを加えることもできるが、判定モデルが既に決まった遮断を解除する仕組みではない。 導入例の「--log-only」は、遮断候補を記録するだけで実行は止めない。実際の遮断と試行観察を混同しないことが重要だ。検査対象はこの中継を通るツール呼び出しであり、PC全体を隔離する仕組みや、すべての危険な操作を防ぐ保証として扱うものではない。

なぜ注目

実行権限を持つAIの監視に役立つ仕組みだが、投稿の起動例はログを残すモードである点が重要。導入しただけで遮断が有効になったと思い込まず、実際に通る経路と動作モードを区別したい。