微分可能な検索インデックス
public.icon
from
2023/4/21
微分可能な検索インデックス
LLM Meetup Tokyo
Ubie
の人が書いた
https://docs.google.com/presentation/d/1-tqsW5roJ_WJH2xUAW3aKFfBtj7AlDT-wD98AeKaXbk/edit#slide=id.g20c8d9442d1_0_0
https://gyazo.com/09dac39958f765260cbdc951e86f95ce
https://gyazo.com/f0bdff74f77e74a8637620fe4f7a6d76
ベクトル検索
とも違うらしい
関連:
言語のベクトル空間の中で会話すればいい
tkgshn.icon
与えられたテキストオブジェクトに対して、文章IDというものをつける
https://gyazo.com/4464c8981ef7b4055ae25cadb86ab7fe
論文紹介: Transformer Memory as a Differentiable Search Index (NeurIPS 2022)
若干わかってきた
あんまり性能は良くなさそう
tkgshn.icon*5