Qiita (LLM)Japan
RiaGate: 行列演算を「消す」のではなく「抑える」推論ゲートのコンセプト
Transformerの推論は行列演算が支配的ですが、ボトルネックはFLOPSそのものよりも同期とメモリ帯域の往復にあります。RiaGate（旧: SlimeLieGate）は、各Transformer Headの非可換性をオンラインで観測し、順序を守る必要がない場合は並列...
Read at Qiita (LLM) ↗Related
JapanCloud infrastructure transformation at LY Corporation: introducing the architecture of Flava, the next-generation platform integrating two massive clouds LINE Engineering
JapanDistributed mobile team collaboration: Code & design reviews, architecture discussions, and continuous practice LINE Engineering
Japan中国語Web小説の翻訳管理アプリを作ったら、最終的に「API を呼ばない」設計に落ち着いた話 Qiita (LLM)
JapanなぜAIモデルは"知らない"とはっきり言えないのか調べてみた Qiita (LLM)
JapanGPT‑6 Sol / Luna、API価格を半額に――AIエージェントは「働き続けられるコスト」へ Qiita (LLM)
