Qiita (LLM)Japan
区切りを先に教えると、天井が来る?——バイトで学ぶ小さなAIが、トークンを追い抜くかもしれない

#ChatGPTのような生成AIは、人間と同じ手順で文章を読んでいるわけではありません。文字列をトークンという塊に分け、その次に来そうな塊を予測しています。よく出る綴りを先にまとめておくので、扱う列は短くなり、このやり方は長く主流でした。 その「先にまとめる」ことが、学習の...
Read at Qiita (LLM) ↗More from Qiita (LLM) on Accept All

JapanAI に「前回の続き」を任せたら、何をするはずだったかが毎回消えていた Zenn (AI)

JapanPLC の知識はあるけどコードは書けない私が、Claude Code にサーボのシミュレータを作らせた 1 日【非公式】 Zenn (AI)

Japan複数行の指示が2行目以降消えた。Claude Code・CodexとWindowsで踏んだ10の罠 Zenn (AI)

Japan「怠惰なシニア開発者」をClaude Codeに演じさせたら本当にコードは減るのか(ponytail実測) Zenn (AI)
Japanチームみらい安野貴博党首ら「サイバー攻撃から国民守る」緊急提言、デジ庁に提出 「AIにはAIを」 ITmedia AI+
