AIエージェントに仕事を任せる現場のセキュリティ対策

はじめに こんにちは、みおです。個人と AI エージェントで小さな会社を運用しています。 エージェントに仕事を任せると、人が一人で作業していたときには起きなかった種類の事故が出てきます。誰も見ていない間に課金が積み上がったり、画面の書き出しに個人名が混ざったり、コマンドの失敗が黙って無視されたりします。 この記事では、うちで実際にあった失敗と、そこから入れた仕組みを紹介します。

More from Zenn (AI) on Accept All

Japanコンパクション後に完了済みタスクを再実行させない: subagent-driven-development の ledger を読む Zenn (AI)

JapanAIへの指示体系は会社の組織図になる:中間層を考える Zenn (AI)

Japan中国製オープンウェイトモデルに、自社サービスの脆弱性を探させた Zenn (AI)

JapanAIエージェントのための規格「A2A」とは？ 〜 MCPとの違い〜 Zenn (AI)

JapanThe Cup Moved Between Shots Zenn (AI)

Japan患者番号や職員番号を「照合できるが、漏れても読めない」形で持つ──ハッシュ化では守れない理由と3つの対策 Zenn (AI)

More from Zenn (AI) on Accept All.