The letter

One letter a week, in your inbox.

The signal of the week, what shipped, what to try, and the editor's note. No tracking, no ads, nothing else.

We keep your address, your language and the date you joined, nothing else. Every letter has a one-click unsubscribe link that deletes the record.

← Accept All   Archive
Zenn (AI)Japan

AIの捏造を「プロンプトの約束」で直したつもりが、翌月また同じ事故が起きた

September 6

前回、AIに口座残高を1件ずつ聞かれながら記録していたら、AIが「私の返事」を代筆して数字をでっち上げたという話を書いた。 対策も一緒に書いた。生ログを解析して発生条件を3つ特定し、そのうち唯一潰せるものを運用ルールにした——というきれいな終わり方だった。 そのルールを守った上で、翌月また同じ事故が起きた。 2件。 この記事はその続きで、要するに「LLMの事故対策をプロンプト側の約束事で済ませてはいけない」という話だ。 前回のあらすじ

Read at Zenn (AI) ↗

More from Zenn (AI) on Accept All.