Qiita (LLM)Japan
GPUもPythonも使わず、CPUだけでAIを動かす小さなRust製エンジンRai

普通のパソコンでAIを動かすのは、意外とハードルが高い。たいていはGPU(計算が得意な高価な部品)や、PyTorchなどの大きな準備がいるからだ。そこへ「GPUもいらない、Pythonもいらない」と言い切る小さな道具が現れた。名前はRai。計算の中身まで全部をRust(プロ...
Read at Qiita (LLM) ↗Related
GitHubShow HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia Hacker News Show

SiliconAdd Runtime Controls to AI Agents with NVIDIA OpenShell NVIDIA Technical Blog

Japan「4GB GPUで8Bモデルを学習できる」というSoupの主張をRTX 5060 Tiで検証したら、学習は本当に動いたがアダプタが空だった Zenn (AI)
JapanClaude CodeのUIや動作をTypeScriptでカスタマイズできる「Mods」正式リリース gihyo.jp
