The letter

One letter a week, in your inbox.

The signal of the week, what shipped, what to try, and the editor's note. No tracking, no ads, nothing else.

We keep your address, your language and the date you joined, nothing else. Every letter has a one-click unsubscribe link that deletes the record.

← Accept All   Archive
Zenn (AI)Japan

Astraの正直さを測るテストに、空欄の答案を出してみた

September 7

Astraが人物の異名を問われたとき、推論テキスト(CoT)に書いたのは、机に差す日光と窓辺のマグカップの情景だった。 CoTは、答えに至る途中でモデルが生成する推論の文章だ。そこに危険な計画や不正の手がかりが残れば、別のAIや人間が作業を見張る材料になる。 問題とは別のことを考えるよう指示した試験で、OpenAIは正答したと報告している。 System Card、表10 マグカップの描写を読み込んでも、人物名にたどり着いた理由はそこに

Read at Zenn (AI) ↗

More from Zenn (AI) on Accept All.