Zenn (AI)Japan
RLVRを理解する①──人間の採点を介さないLLMの報酬設計
はじめに LLMは事前学習で、大量のテキストから次の単語を予測できるようになります。ただ、この段階の学習目標は「それらしい続きを出す」ことであり、質問に答えたり、指示どおりに振る舞ったりすることまでは含まれていません。ChatGPTのような対話AIが使いものになるまでには、事前学習のあとにもう一段、人間にとって好ましい振る舞いへ仕上げる学習（post-training）が必要です。
Read at Zenn (AI) ↗More from Zenn (AI) on Accept All
JapanAIの「テスト通りました」を信じない — Claude Code 実運用で、緑の検査をすり抜けた穴と止める仕組み Zenn (AI)
JapanAI 待ちで人類暇すぎる Zenn (AI)
JapanAIに業務を任せる前に、人が担当している理由を台帳にする Zenn (AI)
JapanOpus 5.5を5日使った失敗ノート97件、判断ミスは23件だった Zenn (AI)
Japan続・LLMに"扁桃体"を埋め込んでみた記録 — Agentic Misalignment編 Zenn (AI)
