deney · olgun

Query biçimine göre yönlendir

Sembol biçimli query'ler BM25'e, cümleler dense'e; her zaman hybrid ikisinden de kötü ölçüldü.

İki retriever, bir regex. Sembole benzeyen bir query BM25'e gidiyor; bir cümle dense index'e. Hybrid fusion ve reranking flag arkasında duruyor — ikisi de ölçüldü, ikisi de kaybetti.

AyarRecall@8MRRTR düzyazı R@8p50
yalnız BM250.4050.2400.2632 ms
hybrid (dense + BM25 → RRF)0.7860.6040.68440 ms
yalnız dense0.7860.6780.68432 ms
auto: sembol → BM25, düzyazı → dense ✓0.7860.6900.68434 ms

Her zaman hybrid neden kaybediyor

RRF sıraları topluyor. Bir kanalın elinde işe yarar bir şey olmadığında — QUEUE_NAMES için dense, "auth nasıl çalışıyor" için BM25 — en iyi tahmini yine tam güçle öne çıkıyor ve listenin tepesini kirletiyor. Yönlendirme, tahmin yürütecek olan kanalı devreden çıkarıyor.

Sembol sayılan ne

İçinde bir sınır olan tek bir token: camelCase, snake_case, kebab-case, a.b.c, a/b, A::B ya da ALLCAPS. Bilerek dar tutuldu — bir false positive gerçek bir soruyu BM25'e gönderiyor, bu ölçülebilir biçimde kötü; bir false negative ise yalnızca küçük bir kazanımdan vazgeçiyor. Semboller BM25'te 1.0 / 1.0, dense'te 1.0 / 0.875 alıyor.

Masada bir LLM router vardı. Bir regex aynı MRR kazanımını bedavaya getirdi ve sıfır latency ekliyor.

#routing #bm25 #dense #rrf

Bu notu beyaz tahtada gör →