分布式緩存技術(shù)方案

一.背景在高并發(fā)的分布式的系統(tǒng)中，緩存是必不可少的一部分。沒有緩存對系統(tǒng)的加速和阻擋大星的請求直接落到系統(tǒng)的底層,系統(tǒng)是很難撐住高并發(fā)的沖擊，分布式系統(tǒng)中緩存的設(shè)計是很重要的一環(huán)使用緩存的收益：加速讀寫,緩存一般是內(nèi)存操作,要比傳統(tǒng)數(shù)據(jù)庫操作要快的多?降低后端的負載。緩存一些復雜計算或者耗時得出的結(jié)果可以降低后端系統(tǒng)對CPU、10、線程這些資源的需求本地緩存遠端調(diào)用結(jié)果，減少服務(wù)間的調(diào)用,提升服務(wù)并發(fā)能力目前問題：目前業(yè)務(wù)中對緩存的使用并不多，在這次直播活動中，組件性能瓶勁很多,有很大一部分是可以通過緩存加速的疫情直播活動期間,幾個核心服務(wù)由于人手、改造難度問題等,最后由羅陳瓏做一了個緩存代理服務(wù)，把UC、EOMS的部分接口做了緩存代理,這些緩存本來應(yīng)該由服務(wù)提供者來實現(xiàn)的數(shù)據(jù)一致性問題，加了緩存之后，隨之而來的就是1—致性的問題數(shù)據(jù)一致性問題，加了緩存之后，隨之而來的就是1—致性的問題，發(fā)現(xiàn)有數(shù)據(jù)不能及時更新目前大家對緩存使用方式不太統(tǒng)一，有的組件使用本地JVM緩存時封裝太復雜,出現(xiàn)問題不好走位,清除緩存也不好做二目標降低分布式緩存技術(shù)使用門檻，將分布式緩存框架作為微服務(wù)開發(fā)必備的腳手架,讓開發(fā)者更易使用，避免因技術(shù)門檻而放棄使用緩存?梳理核心業(yè)勢，使用分布式緩存加速服勢響應(yīng)速度,降低服勢負載三.分布式緩存方案3.1@WafCacheable緩存3.1.1分布式緩存和本地jvm緩存為了提高接口能力，需要將一些頊繁訪問但數(shù)據(jù)更新頻率比較彳氐的放入緩存中，不要庫或其他耗時耗資源的數(shù)據(jù)源中取。使用@WafCacheable注解，緩存過期時間可以根據(jù)數(shù)據(jù)更新頻率自由設(shè)定，不設(shè)置默認為2小時。?WafCacheable標記的方法被攔截后，數(shù)據(jù)獲取的優(yōu)先級：本地jvm緩存＞redis緩存〉數(shù)據(jù)源（DB、RMI、其他耗時耗資源的操作）?WafCacheable使用場景：高頻訪問彳矽頁更新的數(shù)據(jù)ewafCacheabl^8OverridepublicModuleConfiggetByTenantCodeAndDefaultConfigCode(StringtenantCode,StringdefaultConfigcodTenanttenant=ths.tenantServ.ce.getByCodG(tcnantCode);if(tenant=null){returnnuLl;}Hetuhiithis.getByTenAntldAndDefaulXConflgCode(tenant?gGtId(),defaultConfigCode);注意：@WafCacheable對同一個類里的內(nèi)調(diào)方法（A調(diào)B,B上加注解不生效），如果直接用this.BQ,加在B上的緩存不生效,需要使用${service}.B（）調(diào)用（${service}指service實例)。3.1.2RMI緩存RMI（RemoteMethodInvocation）是指微服務(wù)提供的SDK中FeignClient方式申請的接口r具體參考http://note.youdao?com/noteshare?id=dda3f2af3976689339c9ffa5ba0b0675RMI上也可以加@WafCacheable注解。使用場景：對于數(shù)據(jù)變化頻率在2小時以上的，為了減少服勢端的請求,提高接口性能緩存方式：本地jvm緩存作用域：客戶端/消費者，攔截的包要注意，只攔截以下規(guī)則的包命名建議RMI上緩存時間不要超過同一接口service上的過期時間的1/2,最好設(shè)置為1/4.^FeignClient(url- _ “，value-rlassapi")pub二丄cinterlaceClassirie.niberApiextendsClientCallTypeApi{SWofCachcablc(cxpirc-GOG)€ApiOp0r,tion("?S學校的學段和年級“)6RequestMapping(value=M/v'/schoo*:：/(schooicij/secticrn；"rmethod=RequestNothod?G￡T)PagerResult<SchoolSectionsvo>querySchoolSections(^ReqvestKeader(value■^.^or-tcri-nt-'d")Stringtenant3.1.3關(guān)閉緩存方法1）酉8置文件中修改?在application.yml中加入waf：cache:enabled:false注意:生產(chǎn)環(huán)境禁止關(guān)閉緩存?調(diào)用rest接口關(guān)閉當前結(jié)點緩存2）管理接口動態(tài)設(shè)置3.1.4緩存配置默認情況下緩存是開啟狀態(tài)，緩存隊列大小3W,單個又竣20K以下會放入jvmf否則只放入redis,當然也可以通過緩存模式可以強制指定放入jvm.application.yml酉￡置:waf:cache:enabled：true //■max-object-size:30薦緩存單糸-大小，單位Ab max-queue-size:20000薦緩譏隊列上限3.1.5緩存注解的使用public@interfaceWafCacheable{*緩存過期時間，單位是秒*默認72。0秒々小時丿*/intexpire()default7200;*緩存key，支持自定義*如果沒有設(shè)置使用默認方式*自定義Jcey+請求參數(shù)*VStringkey() t""；/*才*是否強制放進J咖緩存不管緩存對象上限*默認不強制*只有當C^QheMo<^e-BOTjH^JforcePutIntQj?^i^S$^booleanforcePutlntoJvm()defaultfalse;*緩存模式"默認為jvm/氓dis都放*/WafCacheModecacheMode()defaultWafCacheMode.BOTH;3.1.5手動使用緩存CacheService是封裝了jvm緩存和redis緩存，在使用sdk操作緩存時，會同時往jvm和redis都放-份，部分api支持對象大于設(shè)置的單個對象大小上限可不放jvm.RedisService封裝redis的基本操作，包含分布式鎖的操作。

3.2緩存清除/數(shù)據(jù)一致性問題—致的問題，當一個緩存能極大的提高系統(tǒng)負載能力，但同時也引入新的問題，業(yè)務(wù)規(guī)則或緩存的源數(shù)據(jù)發(fā)生變化時.—致的問題，當一個3.Z1緩存清理的難點?緩存key不確走。通過?Wafcacheable注解設(shè)置的緩存，緩存key的生成策略為如果設(shè)置了自立義key的前綴，則使用自立義key前綴+各個參數(shù)拼接而成，如果沒有設(shè)置自左義key則使用包名+類劃+方法需+各個參數(shù)拼接而成。labileStxiw 剛“Sxriaa “Scmb? Cojaetd {SrxiD^Qfferah-r*vSTTir>j9uffer<|;if|2tr2aantil?.i?A?tBlank|t?y||{⑷key”）?>?I9b?“emigrgetS皿I.acpead廠.?》?append（r?a/>dR5re>iarlArgtranu?-null<a?rguM3tv.leeajchC|{ate.serQ「??〉?ypeadiW勿?toRCRSxtlaoiftwtnens丨”rwtaniM>.coStria^11.r?plaot（：?：；?》： ?{?, ："「：??：■?*?￥：a*）.r?pl?c?{‘ ??| |?<： r<pl?c?9??nr:**|.r?placa（-?緩存存在多個節(jié)點中。緩存不僅有微服務(wù)提供者內(nèi)部緩存，還有客戶端（消費端）的緩存，一般是在rmi通過紗afcacheable設(shè)置的。緩存既有jvm緩存也有redis緩存。jvm緩存存在于每個application中。這樣意味著需要淸除所有微服務(wù)節(jié)點內(nèi)部的jvm緩存及redis緩存，包括客戶端（消費者端）緩存。3.2.2LRU+TTL算法緩存更新在被動更新緩存上是采用LRU+TTL組合算法實現(xiàn)緩存更新,也就是說只要緩存達到任一清除條件（緩存過期或LRU）都會被清除LRU算法，當緩存容量不足時（控制了緩存上限，避免00M）,淘汰最久沒有被訪問過的，始終保持熱數(shù)據(jù)的緩存命中率TTL算法TTL算法r也就是超時剔除r給緩存i手動設(shè)置一個過期時間，當超過時間后，再次訪問時從數(shù)據(jù)源重新加載并設(shè)回緩存期,3.2.3主動通知緩存更新（立即生效）由上層應(yīng)用在配置更新后，通過MQ消息通知給微服務(wù)，微服務(wù)各應(yīng)用H?點以廣播消息的方式消費，淸除本節(jié)點內(nèi)的緩存。適用場景：適用數(shù)據(jù)一致性要求高，對數(shù)據(jù)不一致容忍度低的場景優(yōu)點：數(shù)據(jù)一致性高，實現(xiàn)方式簡單，上層應(yīng)用改動比較小，只需在緩存的數(shù)據(jù)發(fā)生變化后發(fā)送一條mq消息缺點：上層應(yīng)用需要按照淸除緩存規(guī)則在相應(yīng)的增、刪、改的功能處增加mq消息。緩存key規(guī)則說明：英文逗號表示且的關(guān)系，檢索同一個key中包含的逗號分隔的多個關(guān)鍵字?;"英文分號表示或的關(guān)系，檢索封號分隔的多個key.例如:cityr010;getAIICity解釋：檢索緩存key中同時包含city和010字符串的key檢索緩存key中包含getAIICity的key.33內(nèi)置緩存管理3.3.1開關(guān)緩存請求/cache/editW請求GET類型接口 手動控制緩存開關(guān)描述 注意:不要輕意關(guān)閉整個緩存，目前生產(chǎn)上流量比較大,關(guān)閉整個緩存會對數(shù)據(jù)庫有較大壓力如需緊級讓某個開關(guān)生效,可以調(diào)用清除緩存的方法單個清緩請求 http://xxxxx/叩p/cache/edit?enable=close關(guān)閉緩存示例http://xxxxx/app/cache/edit?enable=t開后緩存響應(yīng)true開后緩存示例false關(guān)閉緩存

3.3.2打印jvm緩存請求W請求類型接口描述app/cache/stackGET以json格式輸出全部jvm緩存，包括key及value此方法可用于調(diào)試緩存內(nèi)變量請求示例響應(yīng)示例http://xxxxx/app/cache/stack響應(yīng)示例{ncodeH:200,nmessageH:'-result'1: {}}3.3.3打印jvm緩存隊列大小請求w請求類型接口描述請求示例響應(yīng)示例/cache/stack/sizeGET僅輸出jvm內(nèi)緩存key的個數(shù)http://xxxxx/app/cache/stack/size{"size":3963}3.3.4打印所有jvm緩存key請求地/eache/stack/keys址請求類GET型

接口插 輸出當前進程中所有jvm緩存的key述請求示http://xxxxx/app/cache/stack/keys例響應(yīng)示例3.3.5模糊搜索緩存中的key請求地/cache/keys/_search址請求類GET型接口描模糊搜索某個key,大代無關(guān)述請求示http://xxxxx/app/cache/keys/_search?q=com例響應(yīng)示例3.3.6清除全部jvm緩存請求地/cache/clearjvm址請求類GET型接口描清除全部jvm內(nèi)存述注意:盡呈不要使用清除全部jvm內(nèi)存，可以使用清除特走緩存操作請求示http://xxxxx/app/cache/clearjvm例響應(yīng)示例晌應(yīng)示例{"code":200z"message":,,0K"/?'resulf: {}}3.3.7清除指定key緩存請求地/cache/clear址請求類POST型接口描 清除緩存，可以清除多個緩存述請求示http://xxxxx/app/cache/clear例 body:[■key"1響應(yīng)示 響應(yīng)示例例Hcoden:200,Hmessage":nOKHfnresultn: {}}3.3.8緩存狀態(tài)請求地址請求類型接口描述請求示/cac