2006年2月 4日(土) 23時57分45秒 [Web関連]

辞書に載ってない単語もうまく検索結果に…

ライブドアが、ブログ検索サービスに使っているシステムを「N-gram方式」に変更したそうです。この方式にすると、形態素解析が不要なので、「単語の辞書」が要らないのだとか。辞書が不要ということは、「辞書にない単語」でもうまくヒットさせられる可能性があるということなんでしょうかね？たとえば、「にしし」みたいな。(^^;) 辞書にない単語だと、（一般的な検索サイトだと）検索結果にノイズが多く出てしまうんですよね。どうなんだろう？

◆ライブドア、ブログ検索をN-gram方式へ--対象は2000万ブログ超（＠CNET Japan）

このN-gram方式というのは、形態素解析を使わずに、強制的に指定文字数で文章をぶった切って、それを「単語」として検索する方式らしいです。（ずいぶんいい加減な説明ですが。^^;;;）
まあその詳しい技術的な内容はおいといて、「辞書を使わない」という点がちょっと気になったんです。

形態素解析（＝文章を単語に分解する作業）をするためには、単語の辞書が必要です。だから、辞書にないものは単語としては切り出せないのですね。例えば、「にしし」とか。(^^;)
（「にしし」で検索をかけると、「約33年ごとにしし座流星雨が観測」みたいな検索結果も上位に出てきます。^^;）

辞書にないから単語として切り出せないために、「本当に単語として使われてるところ」と、「偶然その並びで文字が出現してるところ」との区別が付けられずに、検索結果にノイズが出るのかな…と思うのです。むしろ、形態素解析によって、「に」を助詞だと判断してしまった結果、本来は単語として使われているところを誤解して見逃してしまう（ランクを下げてしまう）可能性もあるのかな…？と思うのです。

辞書を使わずに全文検索する方式なら、元々、「単語として使われている」か「偶然その並びで出現している」かは関係なく等価なわけですよね？ とすると、（ノイズがなくなるようなことはないにせよ）、形態素解析によって誤って除外されるようなことがなくなって、よりいい検索結果が出てくるのかな…？とちょっと期待するわけです。

…で、まあ、いい検索結果が出るかどうかは、使ってみればすぐにわかるわけで。

実験してみました！
「にしし」での検索結果は...

1. 確かにしし座流星群は毎年１１月中旬なのですが
2. 疲れた２５人にししなべを用意
3. ボタン鍋にしし鍋になるのか
4. ちなみにしし座 ZOPPINI 正規取扱店
5. そんで弁当にししゃもが入っていたせぃで

…がんばってここまで文章書いたのに、これか…。(笑)
いやまあ、そもそも、ブログの中で私の名前なんか書く人が居ないだろう、という話もあるわけですが。（今回のライブドアのは、ブログ限定の検索だもんなあ。）

…ええと、もう何が言いたかったのか分かんなくなってきたな。(笑)

辞書に載ってない単語でも、「それが単語として使われてる」ってのを識別して検索結果に出せるような検索手法ってないんですかね？

…というまとめでいいか。^^;;;
（なにもまとめられてないけど。）

（参考）「N-gram方式」を採用したイントラネット向け全文検索エンジン「WiSE」（＠INTERNET Watch）