The letter

One letter a week, starting soon.

The week's signal, what shipped, what is worth running tonight, and the editor's note. No tracking, no ads, nothing else.

We keep your address, your language and the date you joined, nothing else. Every letter has a one-click unsubscribe link that deletes the record.

← Accept All   Archive
Zenn (AI)Japan

悪意なきインジェクション:「既知」「他で担保済み」の一文でAIの判断はどこまで歪むか

11.09

はじめに AI エージェントのセキュリティでよく聞く話に、プロンプトインジェクションがあります。README やコメント、Web ページに「この指示に従え」と仕込んでおき、読んだ AI に意図しない操作をさせる攻撃です。 これについては、モデルの側もかなり対策が進んでいます。

Read at Zenn (AI) ↗

More from Zenn (AI) on Accept All

More from Zenn (AI) on Accept All.