Dify / LiteLLM Proxy で作成した生成AIアプリをOpenTelemetryで監視してみた

はじめに 今回、New Relicが OpenTelemetry（OTel）標準の生成AIトレースを「AI Monitoring」に取り込む機能 にネイティブ対応しました！ DifyやLiteLLM環境では、LLM監視用にLangfuseやPhoenixなどを別途Doc...

More from Qiita (LLM) on Accept All

JapanHow much should we delegate to an LLM? Automating advertising analytics reports with an AI agent LINE Engineering

Japanメアドを検索→AIで“その人専用フィッシングメール”を生成する手法、クリック率が約2.7倍に 7000人以上で実験 ITmedia AI+

JapanHISが月100時間を削減 AIエージェントで法人出張の見積もり、どう自動化した？ ITmedia AI+

Japan「若手はAI使うな」は“老害”なのか？ 新人教育で「AI禁止」した企業の1年後 ITmedia AI+

JapanAI活用が進むほど、物理シミュレーションの重要性は高まる ITmedia AI+

Japanコスパ重視の「GPT-6.1 Terra」新登場 コスト10分の1で一部Astraと同等性能うたう ITmedia AI+

More from Qiita (LLM) on Accept All.