百度大規(guī)模推薦系統(tǒng)介紹

1、百度大規(guī)模推薦系統(tǒng)介紹目錄百度機(jī)器學(xué)習(xí)開放平臺(tái)歷程云端上的BML大規(guī)模推薦系統(tǒng)實(shí)踐20122009平臺(tái)化2014升級為BML2016百度機(jī)器學(xué)習(xí) 開放平臺(tái)大規(guī)模LR 算法上線百度機(jī)器學(xué)習(xí)開放平臺(tái)發(fā)展平臺(tái)整體架構(gòu)Web ConsoleBML Restful APIJob SchedulerJob MonitorVisualizationMatrix + Normandy SchedulerParameter ServerHDFSDataBaseConsole APIIAM / STSRest ServerRequest ParserBOSLR / DNN / CF / K-means / LDA

2、 TrainerLR / DNN / CF / K-means / LDA Trainer LR / DNN / CF / K-means / LDA TrainerNext百度機(jī)器學(xué)習(xí)開放平臺(tái)歷程云端上的BML大規(guī)模推薦系統(tǒng)實(shí)踐云端上的BML/云端上的BML預(yù)處理分類算法推薦算法生成數(shù)據(jù)集聚類算法主題模型神經(jīng)網(wǎng)絡(luò)在線學(xué)習(xí)可視化效果評估云端上的BMLNext百度機(jī)器學(xué)習(xí)開放平臺(tái)歷程云端上的BML大規(guī)模推薦系統(tǒng)實(shí)踐推薦系統(tǒng)必備高效的算法干凈的數(shù)據(jù)完善的系統(tǒng)業(yè)務(wù)場景菜品推薦新聞推薦搜索推薦ELF (Essential Learning Framework)FS (local, hdfs, bos)

3、FS (local, hdfs, bos)Parameter serverParameter serverParameter serverCompute workerCompute workerCompute worker同步/ 異步多輪迭代coordinatorELF (Essential Learning Framework)簡單易用, 編寫Async SGD LR僅需要200行代碼組件分布式多線程實(shí)現(xiàn), 支持紳粒度的線程控制節(jié)點(diǎn)間通信依賴高效的baidu-rpc深度優(yōu)化hashtable, 專用于Parameter Server協(xié)同過濾-基于user的CF路人甲路人乙路人丙物品A物品B物

4、品C相似推薦喜歡協(xié)同過濾-基于item的CF路人甲路人丙物品A物品B物品C相似路人乙推薦喜歡協(xié)同過濾收集用戶偏好找到相似的用戶或物品計(jì)算推薦 , = , =11+(,)隱式/顯式反饋Cosine相似度, = , =歐幾里得距離, , (, ,)=( ) , ,協(xié)同過濾當(dāng)item數(shù)量很大時(shí)，計(jì)算量會(huì)大到難以計(jì)算沒有利用到矩陣稀疏的性質(zhì)協(xié)同過濾DataParseParseParseNorm AggregatorDot Aggregator, TopK AggregatorOutputcosi , j=ratingu1i ratingu1j + + ratinguni ratingunj22rati

5、ngu1i+ + ratinguni22ratingu1j+ + ratingunjAlaya推薦基于深度學(xué)習(xí)的推薦系統(tǒng)支持基于用戶和商品的協(xié)同過濾可以使用上更多的用戶信息并行分布式訓(xùn)練Alaya訓(xùn)練Alaya整體架構(gòu)Exploration and ExploitationEpsilon-Greedy方法UCB方法ExploreExploitPlanB假設(shè)有一個(gè)廣告資源池，每個(gè)廣告的收益都服從一個(gè)未知的分 布。怎么知道該給每個(gè)用戶展示哪個(gè)廣告，從而獲得最大的點(diǎn) 擊收益？PlanA PlanC先在前K輪每個(gè)Plan都執(zhí)行一次在后面的N輪，選值最大的那個(gè)Exploration and ExploitationLinUCBT