Qiita (LLM)Japan
マルチベクトル検索の最適化:Token Pooling-Aware Trainingによるインデックス軽量化と精度維持の設計論

概要 情報検索(IR)やRAG(Retrieval-Augmented Generation)システムにおいて、ドキュメントを単一の密ベクトルに圧縮するシングルベクトル(Single-Vector)エンベディングと、各トークンの表現をそのまま保持して検索時に照合するマルチ...
Read at Qiita (LLM) ↗More from Qiita (LLM) on Accept All

Japanllama.cpp v1.0.0のリリースの意味とプロダクション推論基盤設計へのインパクト Qiita (LLM)

Japanユーザーの真の意図を見抜く評価基盤「XYBench」:XY問題に対するLLMのプロアクティブ解釈能力とシステム設計 Qiita (LLM)

Japanllama.cppでGPUに2層多く載せたら、プロンプト処理が19倍遅くなった:崖の見つけ方 Qiita (LLM)

Japan作りながら鍛えるコードリーディング力 Zenn (AI)

Japan時事プローブと公式直結基準でAPI中継のモデル劣化を検知する Zenn (AI)
