Qiita (LLM)Japan
500万円のGPUで、会話に使えたのは3B分だった

📝 この記事は forge.workstyle.tech に掲載した記事の転載です。 80GBあれば大きなモデルで会話できると思っていました。実際は3B分しか動かせませんでした。しかも声なしで。 モデル全体は35Bです。けれど、1語ごとに使う重みは3B分。ここにたどり着...
Read at Qiita (LLM) ↗Related

Japanさくらインターネット、GPU専有によりトークン消費量を気にせず定額で利用できる「さくらのAI Engineプライベートエディション」提供開始を発表 Publickey

JapanGoogle、AI電子透かしの検出サイト「SynthID Detector」を一般向けに公開 ——OpenAI・NVIDIA・KakaoのAI生成コンテンツにも対応、Appleの生成物も近く確認可能に gihyo.jp

SiliconCarbon-Dot Interface Enables Ultrathin High-κ Dielectrics on 2D Semiconductors (UIUC, NETL, Argonne, Monash) SemiEngineering

Japan2026年10月12日 今日のQiitaトレンド記事をポッドキャストで聴こう! Qiita (LLM)

SiliconOn-Chip Monitors Detect Bit-Flip Attacks in AI Accelerators (UF, UT Dallas, RPI) SemiEngineering
