Zenn (AI)Japan
ブラウザで動くローカルLLM(WebLLM)でどこまでAIアプリを作れるのか?

WebLLMを使うと、小規模なLLMをブラウザ上で実行できます。ローカル環境で処理を完結できる一方、モデルの性能や端末の処理能力には制約があります。 実際に試すと、今回の環境では長文要約の誤りと待ち時間が気になった一方で、文章から決まった項目を取り出したり、問い合わせを分類したりする用途には、補助機能としての可能性を感じました。
Read at Zenn (AI) ↗More from Zenn (AI) on Accept All

Japanzvec-grepでローカルの検索性能向上を試してみる Zenn (AI)

JapanA Tiny Continuity Log Makes AI Video Experiments Easier to Compare Zenn (AI)

Japan画像から使いやすいAI画像プロンプトを作るための3つの視点 Zenn (AI)

JapanAIカスタマーサポートを作ったら、AIよりナレッジベースのほうが難しかった Zenn (AI)

JapanAIカスタマーサポートを作ってわかった。「答えられるAI」より「答えないAI」のほうが難しい Zenn (AI)
