Qiita (LLM)Japan
OpenTelemetryとGrafanaでLLMアプリのレイテンシ・トークン使用量・推定コストを可視化する
LLMアプリを運用していると、「応答が遅くなった」「トークンを使いすぎている」「どのモデルでコストが増えたのか分からない」といった問題が起きます。 ログにリクエスト内容やレスポンスを出力する方法もありますが、集計や時系列での比較には向きません。そこで今回は、OpenTele...
Read at Qiita (LLM) ↗More from Qiita (LLM) on Accept All
JapanMCPツールの権限設計と危険なツール呼び出しを防ぐ実践ガイド Qiita (LLM)
Japan開発途中でAIモデルやエージェントを替えても品質を落とさない：リポジトリに残す3原則 Qiita (LLM)
Japan“でぶねこ”の重み公開 1兆パラメータのAIモデル「Mistral Large 4」（Le Chonk）がダウンロード可能に ITmedia AI+
JapanGemini Notebook、無料で数百冊の教科書にアクセス可能に 米国・インドの出版社提供 日本でも利用可 ITmedia AI+
JapanGeminiで生成したPDFやスライドを「チャット上で直接編集」可能に 個人プランとGoogle Workspaceで試してみた ITmedia AI+
