The letter

One letter a week, starting soon.

The week's signal, what shipped, what is worth running tonight, and the editor's note. No tracking, no ads, nothing else.

We keep your address, your language and the date you joined, nothing else. Every letter has a one-click unsubscribe link that deletes the record.

← Accept All   Archive
Qiita (LLM)Japan

データポイズニングとバックドア対策:微調整データの改ざん検知と「合図」の洗い出しを Python で確かめる

11.08

モデルの振る舞いは、プロンプトだけでなく学習データでも変えられます。攻撃者が学習データや微調整データに細工した例を混ぜると、ふだんは正常に動き、特定の語句(合図、トリガー)が入ったときだけ攻撃者の決めた振る舞いをするモデルができます。これがバックドアです。 この記事では、自...

Languages & runtimes
Read at Qiita (LLM) ↗

Related

More from Qiita (LLM) on Accept All.