大規(guī)模分布式軟負(fù)載體系實(shí)踐

1、大規(guī)模分布式軟負(fù)載體系實(shí)踐什么是軟負(fù)載阿巴巴9年雙11中的軟負(fù)載實(shí)踐軟負(fù)載技術(shù)架構(gòu)原理微服務(wù)應(yīng)架構(gòu)趨勢與軟負(fù)載阿巴巴開源中間層軟負(fù)載均衡產(chǎn)品 Nacos什么是 “硬負(fù)載”？七層四層軟件硬件硬負(fù)載 是指傳統(tǒng)的企業(yè)級技術(shù)架構(gòu)中在流量控制側(cè)偏重于使硬件負(fù)載均衡器、偏重于四層負(fù)載均衡、偏重于集中的關(guān)代理模式，偏重于Server-Based Load Balance的系列的實(shí)踐法。防火墻 DMZOrganiza(ons DMZ7層反向代理集群nginx/apache/haproxy動(dòng)靜分離分流和路由4層硬件負(fù)載均衡f5/lvs,路由器,絡(luò)NAT內(nèi)部關(guān)負(fù)載均衡器F5LVS“硬負(fù)載”臨的產(chǎn)業(yè)趨勢挑戰(zhàn)偏4層負(fù)

2、載均衡流量的不確定性，需要彈性和靈活性IDC內(nèi)部的機(jī)器之間的流量也很關(guān)注負(fù)載均衡器的功能的可擴(kuò)展性關(guān)單點(diǎn)難以消除，故障恢復(fù)慢流量的精細(xì)控制，四層負(fù)載均衡難以理解業(yè)務(wù)語義必須關(guān)注成本關(guān)注整個(gè)負(fù)載體系的可運(yùn)維性,可操作性,可管理性互聯(lián)DevOps云計(jì)算軟負(fù)載偏重于7層負(fù)載均衡軟件定義流量均衡策略理解業(yè)務(wù)語義的流量調(diào)撥數(shù)據(jù)和算法驅(qū)動(dòng)的精細(xì)流量控制策略擴(kuò)展性和靈活性可操作性萬物皆“服務(wù)”以服務(wù)為中的現(xiàn)代應(yīng)架構(gòu)趨勢serviceService-Centric Architecture微服務(wù)的基 - 服務(wù)發(fā)現(xiàn)與注冊中優(yōu)勢侵易集中管控劣勢關(guān)式，有單點(diǎn)成本基 于 服 務(wù) 端 負(fù) 載 均 衡例子NginxLVS

3、Maglev優(yōu)勢單點(diǎn)隨應(yīng)然伸縮成本低劣勢侵難集中管控例子DNSRibbon & EurekaService Mesh基 于 客 戶 端 負(fù) 載 均 衡Client BasedServer Based阿巴巴9年雙11中的軟負(fù)載實(shí)踐統(tǒng)接線上動(dòng)態(tài)隔離環(huán)境微灰度單元化及異地多活流量調(diào)度統(tǒng)接動(dòng)靜分離https加速&證書管理口流量的限流黑灰流量清洗，安全防攻擊智能流量轉(zhuǎn)發(fā)策略（戶特征洞察）邏輯分流與容災(zāi)持鏈路追蹤IAAS統(tǒng)接gine)中間層負(fù)載均衡統(tǒng)接統(tǒng)接gine)購物車交易商品付購物車交易商品付PC線IoT動(dòng)態(tài)隔離環(huán)境真實(shí)產(chǎn)環(huán)境統(tǒng)接層中間層負(fù)載均衡(Mid-Tier LoadBalancer)壓測流量真

4、實(shí)產(chǎn)流量線上壓測服務(wù)分組產(chǎn)服務(wù)分組持動(dòng)態(tài)、邏輯隔離動(dòng)態(tài)環(huán)境vs靜態(tài)環(huán)境根據(jù)需求動(dòng)態(tài)成某個(gè)環(huán)境 成本低邏輯隔離 vs 物理隔離邏輯隔離更靈活 符合彈性等需求測試環(huán)境（Test）預(yù)產(chǎn)環(huán)境（Stage）產(chǎn)環(huán)境（Production）create 微灰度1 規(guī)則- 3% 流量-label-1A/B Testingcreate 微灰度1 規(guī)則-10% 流量-label-2灰度效率問題后端測試難上下游依賴鏈路復(fù)雜， 新測試環(huán)境部署困難線上數(shù)據(jù)和鏈路狀態(tài) 難以仿真鏈路局部創(chuàng)新和優(yōu)化 難微灰度敏捷創(chuàng)新和試錯(cuò)低成本擴(kuò)展多套環(huán)境對業(yè)務(wù)0侵的灰度 測試環(huán)境和段線上真實(shí)流量法鏈路染權(quán)重路由和流量控制鏈路沖突檢測資源占

5、審核容量管理單元化及異地多活CDN中間層負(fù)載均衡中間層負(fù)載均衡統(tǒng)接層區(qū)域單元A區(qū)域單元 B區(qū)域單元 C統(tǒng)接 & 中間層負(fù)載均衡識(shí)別戶特征識(shí)別流量區(qū)域特征識(shí)別IDC分布拓?fù)浣Y(jié)構(gòu)持流量權(quán)重控制識(shí)別切流&容災(zāi)規(guī)則中間層負(fù)載均衡流量調(diào)度Metrics 數(shù)據(jù)收集根據(jù)需求動(dòng)態(tài)成某個(gè)環(huán)境 成本低時(shí)序數(shù)據(jù)存儲(chǔ)時(shí)序和時(shí)空數(shù)據(jù)庫數(shù)據(jù)分析&算法時(shí)序和時(shí)空數(shù)據(jù)庫全局動(dòng)決策降權(quán)重定點(diǎn)控制遷移 下線閾值保護(hù)，防雪崩基于數(shù)據(jù)和算法驅(qū)動(dòng)的動(dòng) 決策，精細(xì)的流量調(diào)度中間層負(fù)載均衡整體架構(gòu)原理系統(tǒng)打通中間層負(fù)載均衡與CMD中間層負(fù)載均衡與API Gateway配置中與流量規(guī)則基礎(chǔ)中間件與中間層負(fù)載均衡 中間層負(fù)載均衡與業(yè)務(wù)應(yīng)理解業(yè)

6、務(wù)流量cookie，path，param header機(jī)房拓?fù)淙珬etrics從絡(luò)，操作系統(tǒng)，tomcat，緩存，RPC，業(yè)務(wù)都要暴露合適的 狀態(tài)數(shù)據(jù)強(qiáng)的中間層負(fù)載均衡規(guī)模數(shù)據(jù)分發(fā)和推送能數(shù)據(jù)驅(qū)動(dòng)數(shù)據(jù)中狀態(tài)數(shù)據(jù) 實(shí)時(shí)性保障數(shù)據(jù)（計(jì)算平臺(tái)）+智能的決策不斷改進(jìn)算法 機(jī)器學(xué)習(xí)法IAAS (絡(luò)，主機(jī)，操作系統(tǒng)）注冊中配置中DNS-SD分布式協(xié)調(diào)中間件層精細(xì)流量規(guī)則層“服務(wù)發(fā)現(xiàn)”vs“軟負(fù)載”(weight)ip1:port1/svc1 ip2:port2/svc1 ip3:port2/svc1RegistryProvideConsumeConsumeregistertell me svc1s en

7、dpoints!ip1ip1,ip2,ip3流量控制request flowip1:port1/svc1 ip2:port2/svc1 ip3:port2/svc1RegistryProvideConsumeConsumeregistertell me svc1s endpoints!ip1,ip2,i p3ip1,ip2,ip3服務(wù)發(fā)現(xiàn)request flow 服務(wù)發(fā)現(xiàn) vs 軟負(fù)載 (label match&selector)ip1:port1/svc1 ip2:port2/svc1 ip3:port2/svc1RegistryProvideConsumeConsumeregisterte

8、ll me svc1s endpoints!ip1,ip2,i p3ip1,ip2,ip3服務(wù)發(fā)現(xiàn)request flow ip1:port1/svc1ip2:port2/svc1 ip3:port2/RegistryProvideConsumeConsumeregistertell me svc1s endpoints!ip1,ip2ip3動(dòng)態(tài)歸組request flow 軟負(fù)載的基 - Label Based & Weightlabel basedmetadata)“軟負(fù)載”與新技術(shù)趨勢Service Mesh是client base LB 還是 server base？service m

9、esh為何要持權(quán)重路 由？Traffic Management 的本質(zhì)是什 么?Kubernetes DNS-SD什么是DNS-SD？Label selectorService Mesh 規(guī)模產(chǎn)應(yīng)之 “阿喀琉斯之踵“-性能瓶頸流量治理的擴(kuò)展性與性能的 平衡或有解決之道，但某層必須變user portaladmin portalOPSConfigServerMySQLDerbyCMDBETCDDisk FileGNSTaoKeeper分布式致性(ZAB,Piv-Raft,Gossip,SW,Async-Service DiscoveryHealth CheckDynamic DNSConfig

10、PushIntelligent RouteTraffic Mgr ServiceMeta KV ServiceDistributed CoordinatorName ServerNginx/ LVSLog &Stre am異地多活軟負(fù)載均 衡服務(wù)編排彈性計(jì)算服務(wù)治理任務(wù)調(diào)度預(yù)案限流數(shù)據(jù)計(jì) 算流量調(diào)度環(huán)境隔離切庫容災(zāi)泛電商體系（天貓、淘寶、菜鳥、共 享業(yè)務(wù)平臺(tái)、聚劃算、盒馬 )文娛（優(yōu)酷、阿影業(yè)、 阿音樂)搜索&廣告（搜索、阿媽 媽）安全阿云德地圖國際化（Lazada,AliEx press）IDCIDCIDCIDCREGIREGIONREGIONIDCIDCV阿IPServer巴巴Diam開o

11、nd源Notify,TNimear-DcUoMPs)/alibaba/nacos阿巴巴逐步將“軟負(fù)載體系”開源和開放”Nacos - 持Metadata 和 Weight的注冊中serviceService-Centric Architecture服務(wù)注冊與發(fā)現(xiàn)服務(wù)共享服務(wù)元數(shù)據(jù)管理 服務(wù)配置管理服務(wù)連接與調(diào)服務(wù)健康管理服務(wù)聚集與集成服務(wù)跨域治理 服務(wù)評價(jià)系統(tǒng)管理遺留系統(tǒng)集成服務(wù)協(xié)議轉(zhuǎn)換服務(wù)目錄管理TrafficManagementService Managem服務(wù)命周期管理 服務(wù)拓?fù)湟蕾嚪治龉收细綦x滾動(dòng)升級 服務(wù)彈性服務(wù)SLA管理服務(wù)安全策略服務(wù)限流與熔斷環(huán)境隔離 智能路由負(fù)載均衡 流量調(diào)度優(yōu)雅上下線異地多活Nacos 1.0Service I