Zenn (AI)Japan
AIの回答評価にDecisionモデルが使える。速いと0.5秒、理由文は出ない
RAGやエージェントの回答を、LLMに採点させて品質を見ている人向けの話です。11月3日公開の azure-ai-evaluation 1.18.11（リリースノート記載）で、GroundednessEvaluator や RelevanceEvaluator などの評価器に、採点役としてMicrosoft-Decision-1を指定できるようになりました。
Read at Zenn (AI) ↗Related
JapanElasticsearch の Autoscaling を改善する: scale-out の高速化と HPA tolerance の調整 Mercari Engineering
JapanBuilding a large-scale iOS configuration system with the AttributedString architecture LINE Yahoo / LY Tech
JapanFlava DBaaS deep dive: From architecture to migration and beyond LINE Yahoo / LY Tech
JapanCloud infrastructure transformation at LY Corporation: introducing the architecture of Flava, the next-generation platform integrating two massive clouds LINE Engineering
Japan会話履歴の肥大化による性能劣化を防ぐ！「全履歴累積」vs「マイルストーン構造化ステート圧縮」で入力トークン91.9%削減 Zenn (AI)
