OpenAI、モデルの「ミスアライメント」報告の新フレームワーク公開 データ捏造など6件の事例も公表

OpenAIは、AIモデルの開発過程などで確認されたミスアライメント事例を追跡・公表するための新枠組みを発表した。実害の有無を問わず迅速に情報共有する方針で、APIキーの無断探索やデータ捏造、不正な指示の書き込みなど、未公開モデルや「GPT-5.6 Sol」の訓練中に観測された6件の事例報告書も公開した。

More from ITmedia AI+ on Accept All

JapanAnthropic、Claudeの「チャット」と「Cowork」を統合 資料作成の「Docs」「Slides」も ITmedia AI+

Japan三菱重工、インフラ・防衛向けAIでPFNと資本業務提携 100億円出資し共同開発 ITmedia AI+

Japanなぜ「Claude Code」で想定外のコストになるのか？ 「トークン浪費」を防ぐポイントまとめ ITmedia AI+

Japan「中国AIがClaudeやGPTから数十億トークン抽出」 米当局が暴いた「知識蒸留」の実態 ITmedia AI+

Japan千代田区、生成AI全庁展開で「年間4000時間」を削減 次の一歩は「打倒・美しい紙の資料」、そのワケは？ ITmedia AI+

Japan国産汎用ロボットによるフィジカルAIのデータ収集で7社が競う、試作機を披露 ITmedia AI+

More from ITmedia AI+ on Accept All.