Token から取り出した2048個の数字には「意味」があるのか？ #11

はじめに 前回までの実験で、Token ID はその数値自体を計算に使っているのではなく、token_embd.weight から値を取り出すための index として使われていることを確認した。 例えば、 "Hello" ↓ Token ID = 9707 ↓ ...

More from Qiita (LLM) on Accept All

Japan「Jev」とは “文章を書かないAI”がなぜ話題に？ 元OpenAI研究者が開発、「“スマートなif文”と考えてみて」 ITmedia AI+

Japanエージェントの編集1,041回を比べたら、89.6%がファイルを大きくしていた Zenn (AI)

JapanJevって結局なんなのか、調べながら使い道までアレコレ考えてみた Zenn (AI)

JapanTypeSafe AIの「Jev」とは？ System Oneモデルという新カテゴリのAIを調べてみた Zenn (AI)

Japan推奨されたモデルは本当に動く？ベンチマークツール"HomeBench"でローカルLLMを実測してみた Zenn (AI)

JapanClaude Codeのサブエージェントが「読めない」を隠して実在しない事実を作った話 Zenn (AI)

More from Qiita (LLM) on Accept All.