従量課金APIでtimeoutしても「0円」と決めつけない——unknown cost・lease・reconcileの設計

従量課金APIをagentから呼ぶとき、危険な実装があります。 request ↓ timeout ↓ 失敗した ↓ cost = 0 ↓ retry クライアント側では自然に見えます。 しかし、timeoutが証明しているのは、こちらが待つのをやめたことだけです。

More from Zenn (AI) on Accept All

JapanAI コーディングツールを狙った攻撃から、自分の開発環境を守る — Nx の s1ngularity 事件と、手元で確かめた設定 Zenn (AI)

JapanA short checklist before you trust an AI code change Zenn (AI)

JapanFlashAttention1~4の変遷と仕組みを読み解く Zenn (AI)

Japan自律型AIペネトレーションテスターShannonを自分のPCで動かそうとして、深いところで2回連続つまずいた話 Zenn (AI)

JapanCodex Day 26徹底解説：モバイルのアカウント切り替えと保存型リセット予告 Zenn (AI)

Japan複数のAIの回答だけを集める「個人ナレッジ庫」という発想（需要テスト中） Zenn (AI)

More from Zenn (AI) on Accept All.