Zenn (AI)Japan
OpenAIの12時間プロンプトキャッシュ：重なる書込みをPythonで二重計上しない
長い共通指示や参照資料を何時間かおきに使うアプリでは、キャッシュの有効時間が採用判断に関わります。ただし、長く保存する指定を足せば必ず安くなるわけではありません。複数の書込み境界を置く場合は、同じトークンを重複して数えたり、書込み倍率に通常入力分を再び加えたりしない計算が必要です。 本稿では、OpenAIの12時間プロンプトキャッシュを題材に、30分と12時間の書込み区間をPythonで分けます。
Read at Zenn (AI) ↗Related
JapanAWS LambdaでNext.jsやHonoなどNode.jsフレームワークとアプリをそのままデプロイ、実行できる「AWS Lambda Web Functions」発表 Publickey
JapanAnthropicのBun、TypeScript 7よりも3倍以上高速なTypeScript型チェッカーを搭載。Bunの新バージョン1.4.3で Publickey
JapanDeno開発元がCloudflareに合流。Denoの開発は終了へ、今後はCloudflare WorkersとDurable Objectsのオープンソース実装に注力 Publickey
JapanAIを仕事で使いたいなら、まず「毎回つまずく一工程」から Zenn (AI)
JapanClaude Code のサブエージェントが起動しない: zero tools と subagent_type is required Zenn (AI)
