青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

不會(huì)飛的鳥

2010年12月10日 ... 不鳥他們!!! 我要用自己開發(fā)的分布式文件系統(tǒng)、分布式調(diào)度系統(tǒng)、分布式檢索系統(tǒng), 做自己的搜索引擎!!!大魚有大志!!! ---楊書童

[轉(zhuǎn)]TF-IDF與余弦相似性的應(yīng)用(二):找出相似文章

今天,我們?cè)賮硌芯苛硪粋€(gè)相關(guān)的問題。有些時(shí)候,除了找到關(guān)鍵詞,我們還希望找到與原文章相似的其他文章。比如,"Google新聞"在主新聞下方,還提供多條相似的新聞。

為了找出相似的文章,需要用到"余弦相似性"(cosine similiarity)。下面,我舉一個(gè)例子來說明,什么是"余弦相似性"。

為了簡(jiǎn)單起見,我們先從句子著手。

  句子A:我喜歡看電視,不喜歡看電影。

  句子B:我不喜歡看電視,也不喜歡看電影。

請(qǐng)問怎樣才能計(jì)算上面兩句話的相似程度?

基本思路是:如果這兩句話的用詞越相似,它們的內(nèi)容就應(yīng)該越相似。因此,可以從詞頻入手,計(jì)算它們的相似程度。

第一步,分詞。

  句子A:我/喜歡/看/電視,不/喜歡/看/電影。

  句子B:我/不/喜歡/看/電視,也/不/喜歡/看/電影。

第二步,列出所有的詞。

  我,喜歡,看,電視,電影,不,也。

第三步,計(jì)算詞頻。

  句子A:我 1,喜歡 2,看 2,電視 1,電影 1,不 1,也 0。

  句子B:我 1,喜歡 2,看 2,電視 1,電影 1,不 2,也 1。

第四步,寫出詞頻向量。

  句子A:[1, 2, 2, 1, 1, 1, 0]

  句子B:[1, 2, 2, 1, 1, 2, 1]

到這里,問題就變成了如何計(jì)算這兩個(gè)向量的相似程度。

我們可以把它們想象成空間中的兩條線段,都是從原點(diǎn)([0, 0, ...])出發(fā),指向不同的方向。兩條線段之間形成一個(gè)夾角,如果夾角為0度,意味著方向相同、線段重合;如果夾角為90度,意味著形成直角,方向完全不相似;如果夾角為180度,意味著方向正好相反。因此,我們可以通過夾角的大小,來判斷向量的相似程度。夾角越小,就代表越相似。

以二維空間為例,上圖的a和b是兩個(gè)向量,我們要計(jì)算它們的夾角θ。余弦定理告訴我們,可以用下面的公式求得:

假定a向量是[x1, y1],b向量是[x2, y2],那么可以將余弦定理改寫成下面的形式:

數(shù)學(xué)家已經(jīng)證明,余弦的這種計(jì)算方法對(duì)n維向量也成立。假定A和B是兩個(gè)n維向量,A是 [A1, A2, ..., An] ,B是 [B1, B2, ..., Bn] ,則A與B的夾角θ的余弦等于:

使用這個(gè)公式,我們就可以得到,句子A與句子B的夾角的余弦。

余弦值越接近1,就表明夾角越接近0度,也就是兩個(gè)向量越相似,這就叫"余弦相似性"。所以,上面的句子A和句子B是很相似的,事實(shí)上它們的夾角大約為20.3度。

由此,我們就得到了"找出相似文章"的一種算法:

  (1)使用TF-IDF算法,找出兩篇文章的關(guān)鍵詞;

  (2)每篇文章各取出若干個(gè)關(guān)鍵詞(比如20個(gè)),合并成一個(gè)集合,計(jì)算每篇文章對(duì)于這個(gè)集合中的詞的詞頻(為了避免文章長(zhǎng)度的差異,可以使用相對(duì)詞頻);

  (3)生成兩篇文章各自的詞頻向量;

  (4)計(jì)算兩個(gè)向量的余弦相似度,值越大就表示越相似。

"余弦相似度"是一種非常有用的算法,只要是計(jì)算兩個(gè)向量的相似程度,都可以采用它。

posted on 2014-03-06 21:36 不會(huì)飛的鳥 閱讀(264) 評(píng)論(0)  編輯 收藏 引用


只有注冊(cè)用戶登錄后才能發(fā)表評(píng)論。
網(wǎng)站導(dǎo)航: 博客園   IT新聞   BlogJava   博問   Chat2DB   管理


青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            欧美精品大片| 欧美日韩黄色一区二区| 久久久久久999| 欧美日韩日本网| 亚洲国产一区二区视频| 久久婷婷国产麻豆91天堂| 一本大道av伊人久久综合| 欧美va天堂| 亚洲国产精品成人精品| 欧美在线视频a| 一本色道久久综合亚洲精品不| 国产自产在线视频一区| 亚洲一区3d动漫同人无遮挡| 亚洲高清不卡一区| 欧美一区国产一区| 国产欧美日韩视频| 午夜一级在线看亚洲| 宅男在线国产精品| 国产精品第13页| 亚洲免费网址| 亚洲自啪免费| 国内久久精品视频| 免费在线欧美视频| 麻豆九一精品爱看视频在线观看免费| 一区二区在线观看视频在线观看 | 久久香蕉精品| 久久精品国产久精国产爱| 国产一区视频观看| 欧美wwwwww| 欧美日韩视频免费播放| 亚洲综合色在线| 欧美中文字幕久久| 亚洲精品国偷自产在线99热| 99精品欧美一区二区三区| 国产精品欧美日韩久久| 久久久久久久久久久一区| 久久久综合网站| 亚洲人成在线观看| 一区二区精品| 国产一区二区电影在线观看| 美女精品在线| 欧美成人一区二区三区| 亚洲色图自拍| 亚洲欧美一区二区视频| 国产精品久久久久久一区二区三区| 中国av一区| 亚洲一区二区三区精品动漫| 国产精品一区二区欧美| 国产一区二区三区精品欧美日韩一区二区三区 | 亚洲第一精品久久忘忧草社区| 久久久久久亚洲精品不卡4k岛国| 午夜精品一区二区三区在线播放 | 欧美理论电影网| 亚洲日本欧美| 欧美成人a∨高清免费观看| 久久亚洲免费| 一本色道综合亚洲| 亚洲一区日韩在线| 国产一区二区三区高清| 欧美a级片网站| 欧美日韩另类丝袜其他| 午夜精品免费视频| 久久亚洲综合色| 久久综合网色—综合色88| 亚洲欧美国产高清va在线播| 国产午夜一区二区三区| 欧美成人一区二区三区在线观看| 欧美精品午夜| 久久精品五月| 欧美xart系列高清| 亚洲午夜视频在线观看| 久久国产精品一区二区三区四区 | 欧美午夜大胆人体| 久久久久.com| 欧美剧在线观看| 久久久综合网站| 欧美三区视频| 久久电影一区| 国产深夜精品福利| 亚洲精品在线视频| 一区二区亚洲精品国产| 亚洲午夜电影| 夜夜狂射影院欧美极品| 久久精品国产视频| 亚洲欧美日韩视频一区| 欧美高清在线视频观看不卡| 久久久久国产精品厨房| 国产精品成人播放| 亚洲国产精品久久人人爱蜜臀 | 欧美xxxx在线观看| 久久久久久综合网天天| 欧美午夜不卡影院在线观看完整版免费 | 国产精品久久久久一区二区三区共| 欧美一区二区三区免费视频 | 免费观看在线综合| 久久精品人人做人人爽电影蜜月| 欧美精品色综合| 狼人社综合社区| 国产精品日韩欧美一区二区三区| 亚洲第一色在线| 黄色成人免费观看| 亚洲综合色噜噜狠狠| 一区二区三区日韩欧美精品| 欧美aⅴ99久久黑人专区| 久久久久一区二区三区四区| 国产精品你懂的在线| 99亚洲一区二区| 一区二区精品国产| 欧美激情性爽国产精品17p| 西西裸体人体做爰大胆久久久| 久久久水蜜桃| 亚洲视频每日更新| 欧美人妖在线观看| 亚洲黄页视频免费观看| 亚洲黄色成人久久久| 久久精品亚洲乱码伦伦中文| 久久se精品一区二区| 国产区欧美区日韩区| 亚洲欧美精品伊人久久| 久久aⅴ国产紧身牛仔裤| 国产精品日韩欧美一区| 99视频精品免费观看| 久久影院午夜论| 午夜精品视频在线观看一区二区| 欧美久久一级| 一二三四社区欧美黄| 亚洲尤物在线| 国产精品家教| 香蕉久久夜色| 久久爱www.| 狠狠色狠狠色综合日日五| 久久久久久有精品国产| 欧美成人一区在线| 亚洲啪啪91| 欧美日韩亚洲不卡| 亚洲伊人一本大道中文字幕| 日韩一级精品| 欧美日韩一区在线播放| 亚洲欧美精品中文字幕在线| 久久综合狠狠| 亚洲最新视频在线| 国产欧美日本在线| 蜜臀久久99精品久久久久久9 | 久久久亚洲国产天美传媒修理工| 国内外成人在线| 麻豆精品传媒视频| 亚洲精品国精品久久99热一 | 亚洲乱码视频| 久久久久久久999精品视频| 激情久久久久久久久久久久久久久久 | 亚洲视频一二| 猫咪成人在线观看| 亚洲婷婷综合色高清在线 | 亚洲乱码国产乱码精品精98午夜| 欧美日韩无遮挡| 久久成人一区| 在线视频欧美精品| 午夜视频在线观看一区二区三区 | 欧美大片免费看| 亚洲在线免费观看| 久久激情五月婷婷| 一本久道久久综合婷婷鲸鱼| 国产伦精品一区| 欧美片第1页综合| 国产精品成人av性教育| 在线观看亚洲专区| 欧美日韩在线播放三区| 久久深夜福利| 欧美一区1区三区3区公司| 亚洲欧洲精品一区二区三区| 亚洲视频一区二区在线观看| 欧美调教vk| 亚洲视频在线观看免费| 欧美成人福利视频| 欧美一区二区日韩一区二区| 99精品视频一区二区三区| 好吊一区二区三区| 国产免费观看久久| 久久久噜噜噜久久中文字幕色伊伊| 一区二区三区不卡视频在线观看 | 欧美在线看片| 久久久国产午夜精品| 亚洲一区在线观看视频| 亚洲香蕉在线观看| 先锋影音久久久| 日韩午夜电影av| 国产日韩欧美在线播放| 国产精品xnxxcom| 欧美日韩精品在线播放| 久久成人综合网| 亚洲欧美三级伦理| 亚洲欧美精品伊人久久| 亚洲午夜精品福利| 在线亚洲观看| 亚洲福利一区| 欧美国产一区视频在线观看| 欧美成人亚洲成人日韩成人| 久久男人av资源网站| 国产精品久久国产精品99gif| 欧美日韩爆操|