The letter

One letter a week, in your inbox.

The signal of the week, what shipped, what to try, and the editor's note. No tracking, no ads, nothing else.

We keep your address, your language and the date you joined, nothing else. Every letter has a one-click unsubscribe link that deletes the record.

← Accept All   Archive
ITmedia AI+Japan

「監視されていないときのAIは、もう評価できない」 OpenAI現役研究者が個人声明

September 15
「監視されていないときのAIは、もう評価できない」 OpenAI現役研究者が個人声明

OpenAIの現役研究者ダニエル・セルサム氏は個人的な声明を公開し、モデルの状況認識向上により人間がその真の振る舞いを評価できなくなりつつあると警告した。意図しない目標を獲得したAIが制約から解放された場合、地球環境を損なうほどの極端な行動を取る恐れがあるとし、現行の安全対策に疑問を投げ掛けた。

Read at ITmedia AI+ ↗

Related

More from ITmedia AI+ on Accept All.