Zenn (AI)Japan
GPUなしでAbliteration CLI『Heretic』を動かし、拒否率とKL発散を実測した
これは何を試した記事か Heretic という、LLMの拒否挙動(いわゆる検閲・安全性アラインメント)を再学習なしで抑制するPython製CLIツールを実際に動かし、処理前後の拒否率とKL発散(元モデルの出力分布からのズレ)を数値で確認した記事である。 筆者の環境にはGPUがなく、READMEが前提にしているRTX 3090での実行(既定設定で30〜40分)とは条件が大きく異なる。
Read at Zenn (AI) ↗Related
JapanNVIDIA、音声の文字起こし・翻訳を行うAIモデル「Nemotron 3.5 Transcribe」を公開 gihyo.jp
JapanOracle CloudがGoogle TPU導入を発表、2027年に提供を開始。Oracle AI World 2026 Publickey
JapanSakana API Platform、エンタープライズ向けにアーリーアクセスプログラムを開始 Sakana AI
JapanAWSとGoogle Cloudが「PyTorch」のAWS Trainium、Google Cloud TPU対応版をオープンソースで公開。NVIDIAからの移行に挑む Publickey
JapanAWS Transform、Azure Functions用のコードをAWS Lambda用に変換など、Microsoft AzureからAWSへの移行に対応 Publickey
