探索推薦引擎內部的秘密:推薦引擎初探

“探索推薦引擎內部的秘密”系列將帶領讀者從淺入深的學習探索推薦引擎的機制,實現方法,其中還涉及一些基本的優化方法,例如聚類和分類的應用。同時在理論講解的基礎上,還會結合Apache Mahout 介紹如何在大規模數據上實現各種推薦策略,進行策略優化,構建高效的推薦引擎的方法。本文作為這個系列的第一篇文章,將深入介紹推薦引擎的工作原理,和其中涉及的各種推薦機制,以及它們各自的優缺點和適用場景,幫助用戶清楚的了解和快速構建適合自己的推薦引擎。

信息發現

如今已經進入了一個數據爆炸的時代,隨著Web 2.0 的發展, Web 已經變成數據分享的平台,那麼,如何讓人們在海量的數據中想要找到他們需要的信息將變得越來越難。

在這樣的情形下,搜索引擎(Google,Bing,百度等等)成為大家快速找到目標信息的最好途徑。在用戶對自己需求相對明確的時候,用搜索引擎很方便的通過關鍵字搜索很快的找到自己需要的信息。但搜索引擎並不能完全滿足用戶對信息發現的需求,那是因為在很多情況下,用戶其實並不明確自己的需要,或者他們的需求很難用簡單的關鍵字來表述。又或者他們需要更加符合他們個人口味和喜好的結果,因此出現了推薦系統,與搜索引擎對應,大家也習慣稱它為推薦引擎。

隨著推薦引擎的出現,用戶獲取信息的方式從簡單的目標明確的數據的搜索轉換到更高級更符合人們使用習慣的信息發現。

如今,隨著推薦技術的不斷發展,推薦引擎已經在電子商務(E-commerce,例如Amazon,噹噹網) 和一些基於social 的社會化站點( 包括音樂,電影和圖書分享,例如豆瓣, Mtime 等) 都取得很大的成功。這也進一步的說明了,Web2.0 環境下,在面對海量的數據,用戶需要這種更加智能的,更加了解他們需求,口味和喜好的信息發現機制。

推薦引擎

前面介紹了推薦引擎對於現在的Web2.0 站點的重要意義,這一章我們將講講推薦引擎到底是怎麼工作的。推薦引擎利用特殊的信息過濾技術,將不同的物品或內容推薦給可能對它們感興趣的用戶。

圖1. 推薦引擎工作原理圖

圖1. 推薦引擎工作原理圖

圖1 給出了推薦引擎的工作原理圖,這裡先將推薦引擎看作黑盒,它接受的輸入是推薦的數據源,一般情況下,推薦引擎所需要的數據源包括:

  • 要推薦物品或內容的元數據,例如關鍵字,基因描述等;
  • 系統用戶的基本信息,例如性別,年齡等
  • 用戶對物品或者信息的偏好,根據應用本身的不同,可能包括用戶對物品的評分,用戶查看物品的記錄,用戶的購買記錄等。其實這些用戶的偏好信息可以分為兩類:

  • 顯式的用戶反饋:這類是用戶在網站上自然瀏覽或者使用網站以外,顯式的提供反饋信息,例如用戶對物品的評分,或者對物品的評論。
  • 隱式的用戶反饋:這類是用戶在使用網站是產生的數據,隱式的反應了用戶對物品的喜好,例如用戶購買了某物品,用戶查看了某物品的信息等等。

顯式的用戶反饋能準確的反應用戶對物品的真實喜好,但需要用戶付出額外的代價,而隱式的用戶行為,通過一些分析和處理,也能反映用戶的喜好,只是數據不是很精確,有些行為的分析存在較大的噪音。但只要選擇正確的行為特徵,隱式的用戶反饋也能得到很好的效果,只是行為特徵的選擇可能在不同的應用中有很大的不同,例如在電子商務的網站上,購買行為其實就是一個能很好表現用戶喜好的隱式反饋。

推薦引擎根據不同的推薦機制可能用到數據源中的一部分,然後根據這些數據,分析出一定的規則或者直接對用戶對其他物品的喜好進行預測計算。這樣推薦引擎可以在用戶進入的時候給他推薦他可能感興趣的物品。

推薦引擎的分類

推薦引擎的分類可以根據很多指標,下面我們一一介紹一下:

  1. 推薦引擎是不是為不同的用戶推薦不同的數據根據這個指標,推薦引擎可以分為基於大眾行為的推薦引擎和個性化推薦引擎

    • 根據大眾行為的推薦引擎,對每個用戶都給出同樣的推薦,這些推薦可以是靜態的由系統管理員人工設定的,或者基於系統所有用戶的反饋統計計算出的當下比較流行的物品。
    • 個性化推薦引擎,對不同的用戶,根據他們的口味和喜好給出更加精確的推薦,這時,系統需要了解需推薦內容和用戶的特質,或者基於社會化網絡,通過找到與當前用戶相同喜好的用戶,實現推薦。

    這是一個最基本的推薦引擎分類,其實大部分人們討論的推薦引擎都是將個性化的推薦引擎,因為從根本上說,只有個性化的推薦引擎才是更加智能的信息發現過程。

  2. 根據推薦引擎的數據源其實這裡講的是如何發現數據的相關性,因為大部分推薦引擎的工作原理還是基於物品或者用戶的相似集進行推薦。那麼參考圖1 給出的推薦系統原理圖,根據不同的數據源發現數據相關性的方法可以分為以下幾種:

    • 根據系統用戶的基本信息發現用戶的相關程度,這種被​​稱為基於人口統計學的推薦(Demographic-based Recommendation)
    • 根據推薦物品或內容的元數據,發現物品或者內容的相關性,這種被稱為基於內容的推薦(Content-based Recommendation)
    • 根據用戶對物品或者信息的偏好,發現物品或者內容本身的相關性,或者是發現用戶的相關性,這種被稱為基於協同過濾的推薦(Collaborative Filtering-based Recommendation)。

  3. 根據推薦模​​型的建立方式可以想像在海量物品和用戶的系統中,推薦引擎的計算量是相當大的,要實現實時的推薦務必需要建立一個推薦模型,關於推薦模型的建立方式可以分為以下幾種:

    • 基於物品和用戶本身的,這種推薦引擎將每個用戶和每個物品都當作獨立的實體,預測每個用戶對於每個物品的喜好程度,這些信息往往是用一個二維矩陣描述的。由於用戶感興趣的物品遠遠小於總物品的數目,這樣的模型導致大量的數據空置,即我們得到的二維矩陣往往是一個很大的稀疏矩陣。同時為了減小計算量,我們可以對物品和用戶進行聚類, 然後記錄和計算一類用戶對一類物品的喜好程度,但這樣的模型又會在推薦的準確性上有損失。
    • 基於關聯規則的推薦(Rule-based Recommendation):關聯規則的挖掘已經是數據挖掘中的一個經典的問題,主要是挖掘一些數據的依賴關係,典型的場景就是“購物籃問題”,通過關聯規則的挖掘,我們可以找到哪些物品經常被同時購買,或者用戶購買了一些物品後通常會購買哪些其他的物品,當我們挖掘出這些關聯規則之後,我們可以基於這些規則給用戶進行推薦。
    • 基於模型的推薦(Model-based Recommendation):這是一個典型的機器學習的問題,可以將已有的用戶喜好信息作為訓練樣本,訓練出一個預測用戶喜好的模型,這樣以後用戶在進入系統,可以基於此模型計算推薦。這種方法的問題在於如何將用戶實時或者近期的喜好信息反饋給訓練好的模型,從而提高推薦的準確度。

其實在現在的推薦系統中,很少有隻使用了一個推薦策略的推薦引擎,一般都是在不同的場景下使用不同的推薦策略從而達到最好的推薦效果,例如Amazon 的推薦,它將基於用戶本身歷史購買數據的推薦,和基於用戶當前瀏覽的物品的推薦,以及基於大眾喜好的當下比較流行的物品都在不同的區域推薦給用戶,讓用戶可以從全方位的推薦中找到自己真正感興趣的物品。

深入推薦機制

這一章的篇幅,將詳細介紹各個推薦機制的工作原理,它們的優缺點以及應用場景。

基於人口統計學的推薦

基於人口統計學的推薦機制(Demographic-based Recommendation)是一種最易於實現的推薦方法,它只是簡單的根據系統用戶的基本信息發現用戶的相關程度,然後將相似用戶喜愛的其他物品推薦給當前用戶,圖2 給出了這種推薦的工作原理。

圖2. 基於人口統計學的推薦機制的工作原理

圖2. 基於人口統計學的推薦機制的工作原理

從圖中可以很清楚的看到,首先,系統對每個用戶都有一個用戶Profile 的建模,其中包括用戶的基本信息,例如用戶的年齡,性別等等;然後,系統會根據用戶的Profile 計算用戶的相似度,可以看到用戶A 的Profile 和用戶C 一樣,那麼系統會認為用戶A 和C 是相似用戶,在推薦引擎中,可以稱他們是“鄰居”;最後,基於“鄰居”用戶群的喜好推薦給當前用戶一些物品,圖中將用戶A 喜歡的物品A 推薦給用戶C。

這種基於人口統計學的推薦機制的好處在於:

  1. 因為不使用當前用戶對物品的喜好歷史數據,所以對於新用戶來講沒有“冷啟動(Cold Start)”的問題。
  2. 這個方法不依賴於物品本身的數據,所以這個方法在不同物品的領域都可以使用,它是領域獨立的(domain-independent)。

那麼這個方法的缺點和問題是什麼呢?這種基於用戶的基本信息對用戶進行分類的方法過於粗糙,尤其是對品味要求較高的領域,比如圖書,電影和音樂等領域,無法得到很好的推薦效果。可能在一些電子商務的網站中,這個方法可以給出一些簡單的推薦。另外一個局限是,這個方法可能涉及到一些與信息發現問題本身無關卻比較敏感的信息,比如用戶的年齡等,這些用戶信息不是很好獲取。

基於內容的推薦

基於內容的推薦是在推薦引擎出現之初應用最為廣泛的推薦機制,它的核心思想是根據推薦物品或內容的元數據,發現物品或者內容的相關性,然後基於用戶以往的喜好記錄,推薦給用戶相似的物品。圖3 給出了基於內容推薦的基本原理。

圖3. 基於內容推薦機制的基本原理

圖3. 基於內容推薦機制的基本原理

圖3 中給出了基於內容推薦的一個典型的例子,電影推薦系統,首先我們需要對電影的元數據有一個建​​模,這裡只簡單的描述了一下電影的類型;然後通過電影的元數據發現電影間的相似度,因為類型都是“愛情,浪漫”電影A 和C 被認為是相似的電影(當然,只根據類型是不夠的,要得到更好的推薦,我們還可以考慮電影的導演,演員等等);最後實現推薦,對於用戶A,他喜歡看電影A,那麼系統就可以給他推薦類似的電影C。

這種基於內容的推薦機制的好處在於它能很好的建模用戶的口味,能提供更加精確的推薦。但它也存在以下幾個問題:

  1. 需要對物品進行分析和建模,推薦的質量依賴於對物品模型的完整和全面程度。在現在的應用中我們可以觀察到關鍵詞和標籤(Tag)被認為是描述物品元數據的一種簡單有效的方法。
  2. 物品相似度的分析僅僅依賴於物品本身的特徵,這裡沒有考慮人對物品的態度。
  3. 因為需要基於用戶以往的喜好歷史做出推薦,所以對於新用戶有“冷啟動”的問題。

雖然這個方法有很多不足和問題,但他還是成功的應用在一些電影,音樂,圖書的社交站點,有些站點還請專業的人員對物品進行基因編碼,比如潘多拉,在一份報告中說道,在潘多拉的推薦引擎中,每首歌有超過100 個元數據特徵,包括歌曲的風格,年份,演唱者等等。

基於協同過濾的推薦

隨著Web2.0 的發展,Web 站點更加提倡用戶參與和用戶貢獻,因此基於協同過濾的推薦機制因運而生。它的原理很簡單,就是根據用戶對物品或者信息的偏好,發現物品或者內容本身的相關性,或者是發現用戶的相關性,然後再基於這些關聯性進行推薦。基於協同過濾的推薦可以分為三個子類:基於用戶的推薦(User-based Recommendation),基於項目的推薦(Item-based Recommendation)和基於模型的推薦(Model-based Recommendation)。下面我們一個一個詳細的介紹著三種協同過濾的推薦機制。

基於用戶的協同過濾推薦

基於用戶的協同過濾推薦的基本原理是,根據所有用戶對物品或者信息的偏好,發現與當前用戶口味和偏好相似的“鄰居”用戶群,在一般的應用中是採用計算“K-鄰居”的算法;然後,基於這K 個鄰居的歷史偏好信息,為當前用戶進行推薦。下圖 4 給出了原理圖。

圖4. 基於用戶的協同過濾推薦機制的基本原理

圖4. 基於用戶的協同過濾推薦機制的基本原理

上圖示意出基於用戶的協同過濾推薦機制的基本原理,假設用戶A 喜歡物品A,物品C,用戶B 喜歡物品B,用戶C 喜歡物品A ,物品C 和物品D;從這些用戶的歷史喜好信息中,我們可以發現用戶A 和用戶C 的口味和偏好是比較類似的,同時用戶C 還喜歡物品D,那麼我們可以推斷用戶A 可能也喜歡物品D,因此可以將物品D 推薦給用戶A。

基於用戶的協同過濾推薦機制和基於人口統計學的推薦機制都是計算用戶的相似度,並基於“鄰居”用戶群計算推薦,但它們所不同的是如何計算用戶的相似度,基於人口統計學的機制只考慮用戶本身的特徵,而基於用戶的協同過濾機制可是在用戶的歷史偏好的數據上計算用戶的相似度,它的基本假設是,喜歡類似物品的用戶可能有相同或者相似的口味和偏好。

基於項目的協同過濾推薦

基於項目的協同過濾推薦的基本原理也是類似的,只是說它使用所有用戶對物品或者信息的偏好,發現物品和物品之間的相似度,然後根據用戶的歷史偏好信息,將類似的物品推薦給用戶,圖5 很好的詮釋了它的基本原理。

假設用戶A 喜歡物品A 和物品C,用戶B 喜歡物品A,物品B 和物品C,用戶C 喜歡物品A,從這些用戶的歷史喜好可以分析出物品A 和物品C 時比較類似的,喜歡物品A 的人都喜歡物品C,基於這個數據可以推斷用戶C 很有可能也喜歡物品C,所以系統會將物品C 推薦給用戶C。

與上面講的類似,基於項目的協同過濾推薦和基於內容的推薦其實都是基於物品相似度預測推薦,只是相似度計算的方法不一樣,前者是從用戶歷史的偏好推斷,而後者是基於物品本身的屬性特徵信息。

圖5. 基於項目的協同過濾推薦機制的基本原理

圖5. 基於項目的協同過濾推薦機制的基本原理

同時協同過濾,在基於用戶和基於項目兩個策略中應該如何選擇呢?其實基於項目的協同過濾推薦機制是Amazon 在基於用戶的機制上改良的一種策略,因為在大部分的Web 站點中,物品的個數是遠遠小於用戶的數量的,而且物品的個數和相似度相對比較穩定,同時基於項目的機制比基於用戶的實時性更好一些。但也不是所有的場景都是這樣的情況,可以設想一下在一些新聞推薦系統中,也許物品,也就是新聞的個數可能大於用戶的個數,而且新聞的更新程度也有很快,所以它的形似度依然不穩定。所以,其實可以看出,推薦策略的選擇其實和具體的應用場景有很大的關係。

基於模型的協同過濾推薦

基於模型的協同過濾推薦就是基於樣本的用戶喜好信息,訓練一個推薦模型,然後根據實時的用戶喜好的信息進行預測,計算推薦。

基於協同過濾的推薦機制是現今應用最為廣泛的推薦機制,它有以下幾個顯著的優點:

  1. 它不需要對物品或者用戶進行嚴格的建模,而且不要求物品的描述是機器可理解的,所以這種方法也是領域無關的。
  2. 這種方法計算出來的推薦是開放的,可以共用他人的經驗,很好的支持用戶發現潛在的興趣偏好

而它也存在以下幾個問題:

  1. 方法的核心是基於歷史數據,所以對新物品和新用戶都有“冷啟動”的問題。
  2. 推薦的效果依賴於用戶歷史偏好數據的多少和準確性。
  3. 在大部分的實現中,用戶歷史偏好是用稀疏矩陣進行存儲的,而稀疏矩陣上的計算有些明顯的問題,包括可能少部分人的錯誤偏好會對推薦的準確度有很大的影響等等。
  4. 對於一些特殊品味的用戶不能給予很好的推薦。
  5. 由於以歷史數據為基礎,抓取和建模用戶的偏好後,很難修改或者根據用戶的使用演變,從而導致這個方法不夠靈活。

混合的推薦機制

在現行的Web 站點上的推薦往往都不是單純只採用了某一種推薦的機制和策略,他們往往是將多個方法混合在一起,從而達到更好的推薦效果。關於如何組合各個推薦機制,這裡講幾種比較流行的組合方法。

  1. 加權的混合(Weighted Hybridization): 用線性公式(linear formula)將幾種不同的推薦按照一定權重組合起來,具體權重的值需要在測試數據集上反复實驗,從而達到最好的推薦效果。
  2. 切換的混合(Switching Hybridization):前面也講到,其實對於不同的情況(數據量,系統運行狀況,用戶和物品的數目等),推薦策略可能有很大的不同,那麼切換的混合方式,就是允許在不同的情況下,選擇最為合適的推薦機制計算推薦。
  3. 分區的混合(Mixed Hybridization):採用多種推薦機制,並將不同的推薦結果分不同的區顯示給用戶。其實,Amazon,噹噹網等很多電子商務網站都是採用這樣的方式,用戶可以得到很全面的推薦,也更容易找到他們想要的東西。
  4. 分層的混合(Meta-Level Hybridization): 採用多種推薦機制,並將一個推薦機制的結果作為另一個的輸入,從而綜合各個推薦機制的優缺點,得到更加準確的推薦。

趙晨婷,現就職於IBM 中國軟件開發中心Web 2.0 開發小組,對SOA,J2EE,Web 2.0 應用的開發有豐富的經驗。主要關注點在數據處理,數據搜索,推薦算法和推薦系統設計等。

馬春娥,工作在IBM CSDL web2.0 team,開發人員,曾參與Project Zero 和Lotus Mashup Center 的開發。主要的關注點在web2.0 領域的數據的建模,數據的處理,數據的可視化,Web2.0 領域的數據的語義,數據的關聯等。

來源:http://www.ibm.com/developerworks/ cn/web/1103_zhaoct_recommstudy1/index.html?ca=drs-

特別注意:本站所有轉載文章言論不代表本站觀點,本站所提供的攝影照片,插畫,設計作品,如需使用,請與原作者聯繫,文章轉自alibuybuy

Comments are closed.