局所性鋭敏型ハッシュ

局所性鋭敏型ハッシュ（きょくしょせいえいびんがたハッシュ、英語: locality sensitive hashing）とは高次元のデータを確率的な処理によって次元圧縮するための手法である。ハッシュの基本的な考え方は類似したデータが高確率で同じバケットに入るようにデータを整理するというものである。多くの場合においてこのバケットの数は入力されるデータサンプルの数よりもずっと小さくなる。

定義

局所性鋭敏型ハッシュを行うためのパラメータの集合をLSH族(Locality Sensitive Hashing Family)と呼ぶ。LSH族は距離空間${\displaystyle {\mathcal {M}}=(M,d)}$と閾値${\displaystyle R>0}$、近似因子${\displaystyle c>1}$によって定義される。LSH族^[1][2]は2点${\displaystyle p,q\in {\mathcal {M}}}$について次の2つの性質、

• ${\displaystyle d(p,q)\leq R}$ならば${\displaystyle h(p)=h(q)}$となる確率は${\displaystyle P_{1}\,}$以上である。
• ${\displaystyle d(p,q)\geq cR}$ならば${\displaystyle h(p)=h(q)}$となる確率は${\displaystyle P_{2}\,}$以下である。

を満たす関数${\displaystyle h:{\mathcal {M}}\to S}$により与えられる族であり，${\displaystyle h}$は${\displaystyle {\mathcal {F}}}$から一様乱数にしたがって選択される。このとき${\displaystyle d(p,q)}$は2点${\displaystyle p,q}$の距離を表す関数であり、${\displaystyle P_{1}>P_{2}}$となるよう設計する。このような族${\displaystyle {\mathcal {F}}}$は${\displaystyle (R,cR,P_{1},P_{2})}$に鋭敏であるという。

これに準ずる定義として、領域${\displaystyle U}$における類似度関数${\displaystyle \phi :U\times U\to [0,1]}$によるものがある^[3]。局所性鋭敏型ハッシュの性質は、ハッシュ関数の集合${\displaystyle H}$と確率分布${\displaystyle D}$により与えられる。あるハッシュ関数${\displaystyle h}$は集合${\displaystyle H}$から確率分布${\displaystyle D}$により選ばれるが、${\displaystyle D}$とは領域${\displaystyle U}$に存在する2点${\displaystyle a,b}$について、

${\displaystyle Pr_{h\in H}[h(a)=h(b)]=\phi (a,b)}$

を満たすような確率分布である。

手法

ハミング距離に基づく標本化

LSH族を構築するためのもっとも単純な手法はハミング距離に基づくものである。これは${\displaystyle d}$次元のベクトル${\displaystyle \{0,1\}^{d}}$に対して適応できる。この手法は${\displaystyle d}$次元のベクトルについて${\displaystyle i}$番目の座標値をハッシュ値として与えるような族${\displaystyle {\mathcal {F}}}$により定義され、${\displaystyle {\mathcal {F}}}$とは例えば${\displaystyle {\mathcal {F}}=\{h:\{0,1\}^{d}\to \{0,1\}\mid h(x)=x_{i},i=1...d\}}$のように与えられる。ここで${\displaystyle {\mathcal {F}}}$から${\displaystyle h}$を任意に選ぶということは、入力点から任意にビットを選択するということに他ならない。この時、族は次の性質を持つ。

${\displaystyle P_{1}=1-R/d\,}$, ${\displaystyle P_{2}=1-cR/d\,}$

安定分布に基づく手法

ハッシュ関数${\displaystyle h_{\mathbf {a} ,b}({\boldsymbol {\upsilon }}):{\mathcal {R}}^{d}\to {\mathcal {N}}}$を${\displaystyle d}$次元のベクトル${\displaystyle v}$を整数の集合に移すような関数であると定義する^[4]。ハッシュ関数${\displaystyle h}$は2つの乱数${\displaystyle a,b}$によって定義される。ここで${\displaystyle a}$とは安定分布から独立に選ばれる乱数であり、${\displaystyle b}$とは${\displaystyle [0,r]}$から一様に選ばれる実乱数である。${\displaystyle a}$および${\displaystyle b}$が選ばれたとき、ハッシュ関数${\displaystyle h_{\mathbf {a} ,b}}$は

${\displaystyle h_{\mathbf {a} ,b}({\boldsymbol {\upsilon }})=\left\lfloor {\frac {\mathbf {a} \cdot {\boldsymbol {\upsilon }}+b}{r}}\right\rfloor }$

のように与えられる。

この他にもデータをより適切に対応させるハッシュ関数が提案されている^[5]。例えばk-平均法に基づくハッシュ関数などは大域的最適解を与えることが保証されていないものの実用的なハッシュ関数として知られている。