The letter

One letter a week, in your inbox.

The signal of the week, what shipped, what to try, and the editor's note. No tracking, no ads, nothing else.

We keep your address, your language and the date you joined, nothing else. Every letter has a one-click unsubscribe link that deletes the record.

← Accept All   Archive
Zenn (AI)Japan

LLM判定は、安いフィルタの後ろに置く

September 9

外部サイトから集めた記事候補を、関連するものだけに絞るバッチを運用しています。候補のタイトルと要約を大規模言語モデル(LLM)へ渡し、関連があればダウンロードする仕組みです。 処理が遅くなったとき、私はダウンロード部分が原因だろうと考えていました。ところがフェーズ別の時間を計測すると、ダウンロードよりも、その前にある要約取得とLLM判定が大半を占めていました。しかも、後で「無料では読めない」と分かる記事についても、先に要約を取得してLL

Read at Zenn (AI) ↗

More from Zenn (AI) on Accept All.