Zenn (AI)Japan
悪意なきインジェクション:「既知」「他で担保済み」の一文でAIの判断はどこまで歪むか

はじめに AI エージェントのセキュリティでよく聞く話に、プロンプトインジェクションがあります。README やコメント、Web ページに「この指示に従え」と仕込んでおき、読んだ AI に意図しない操作をさせる攻撃です。 これについては、モデルの側もかなり対策が進んでいます。
Read at Zenn (AI) ↗More from Zenn (AI) on Accept All

JapanAIによるハーネスの自己改善で気を付けるべきこと Zenn (AI)

JapanAIが書いた記事・本の事実確認は、主張を3種類に分けてやる。私が断定しすぎた2つの記述と、直した手順(Claude Code) Zenn (AI)

JapanLLM アプリケーションのプロンプトをどこで管理するか Zenn (AI)

Japanテーブルの意味と使い方を育てる。CodexとSkillで回すメタデータ整備 Zenn (AI)

JapanTokenEconomizer: Microsoft's Free Plugin That Cut Claude Code's Cost Zenn (AI)
