Zenn (AI)Japan
AI GatewayでLLMの使いすぎは防げる？Azure API Management で検証した
1. はじめに LLMを使ったアプリでは、利用が増えたときの費用も気になります。アプリごとに制限を実装する代わりに、モデルへのアクセスを一か所で管理できないか。そこで試してみたのがAI Gatewayです。 LLMの入出力は、テキストを細かく区切った「トークン」という単位で数えます。その数に上限を設ければ、使いすぎを抑えられそうです。
Read at Zenn (AI) ↗Related
JapanClaude 5 世代 移行ガイド ― Opus 5 / Sonnet 5 / Fable 5.1 で変わった API とプロンプト Zenn (AI)
JapanGoogle、Geminiのチャットに「Skills」を導入、個人向けから順次提供 ——Gemsは自動移行へ gihyo.jp
JapanコーディングエージェントにGoogle Cloudの専門知識とツールを組み込む「Google Cloud Developer Plugin for AI Coding Agents」発表 Publickey
JapanWith great verification comes great velocity: How agents raised the stakes at Flava API Gateway LINE Engineering
JapanDecision Model 「Clef」を試してみる：Colabで画像の中の猫を判断する Zenn (AI)
