云原生微服務(wù)治理的最佳實(shí)踐-阿里云+望陶

阿?云云原?應(yīng)?平臺(tái)?級(jí)技術(shù)專家云原生微服務(wù)的挑戰(zhàn)和趨勢(shì)運(yùn)行態(tài)服務(wù)治理最佳實(shí)踐開發(fā)態(tài)服務(wù)治理最佳實(shí)踐OpenSergo開源開放的服務(wù)治理標(biāo)準(zhǔn)云原生微服務(wù)的挑戰(zhàn)和趨勢(shì)運(yùn)行態(tài)服務(wù)治理最佳實(shí)踐開發(fā)態(tài)服務(wù)治理最佳實(shí)踐OpenSergo開源開放的服務(wù)治理標(biāo)準(zhǔn)微服務(wù)在云原?下的挑戰(zhàn)云原?微服務(wù)的發(fā)展趨勢(shì)CloudHostingCloudNativeMicroservices?CloudHostingCloudNativeMicroservices?容器化?以容器為核心?ECS上云?以機(jī)器為核心?更敏捷?以應(yīng)用為核心ServiceServiceGovernance??提效/穩(wěn)定性?以業(yè)務(wù)為核心阿?微服務(wù)治理技術(shù)演進(jìn)路線2008治理與業(yè)務(wù)捆治理與業(yè)務(wù)捆綁?依賴沖突難管理?SDK升級(jí)成本高2013Fat-SDKPandora治理與業(yè)務(wù)分治理與業(yè)務(wù)分離?基于隔離容器?運(yùn)維治理效率大幅提升2019-Agent治理透明治理透明化?無(wú)侵入?0升級(jí)成本?全面兼容開源2022-治理標(biāo)準(zhǔn)治理標(biāo)準(zhǔn)化?語(yǔ)言無(wú)關(guān)?全鏈路生態(tài)覆蓋?社區(qū)共建測(cè)試態(tài)Test行態(tài)Ops?服務(wù)壓測(cè)測(cè)試態(tài)Test行態(tài)Ops?服務(wù)壓測(cè)?流量錄制?流量回放?無(wú)損下線?無(wú)損上線?金絲雀發(fā)布?A/BTest?全鏈路灰度?離群實(shí)例摘除?流量控制與平滑?熔斷降級(jí)?同AZ優(yōu)先路由?推空保護(hù)?讀寫流量分離?緩存熱點(diǎn)治理?服務(wù)鑒權(quán)?訪問(wèn)控制??服務(wù)元信息?服務(wù)契約管理?服務(wù)調(diào)試?服務(wù)Mock?開發(fā)環(huán)境隔離?端云互聯(lián)熱動(dòng)靜請(qǐng)求分離靜態(tài)頁(yè)面動(dòng)態(tài)請(qǐng)求有效請(qǐng)求SLB/NGINX非法請(qǐng)求容量之內(nèi)超容點(diǎn)/普通流量探測(cè)分離；精細(xì)流控/Web全鏈路流量治理熱動(dòng)靜請(qǐng)求分離靜態(tài)頁(yè)面動(dòng)態(tài)請(qǐng)求有效請(qǐng)求SLB/NGINX非法請(qǐng)求容量之內(nèi)超容點(diǎn)/普通流量探測(cè)分離；精細(xì)流控/Web其它應(yīng)用緩存其它應(yīng)用緩存根據(jù)應(yīng)用的容量進(jìn)行流控；實(shí)時(shí)探測(cè)應(yīng)用內(nèi)部不穩(wěn)定調(diào)用，及時(shí)隔離或摘除；自適應(yīng)系統(tǒng)過(guò)載保護(hù)SQL連接池治理；緩存熱點(diǎn)key擊穿防護(hù)；不穩(wěn)定第三方服務(wù)探測(cè)、隔離與熔斷基于JavaAgent的服務(wù)治理云原生微服務(wù)的挑戰(zhàn)和趨勢(shì)運(yùn)行態(tài)服務(wù)治理最佳實(shí)踐開發(fā)態(tài)服務(wù)治理最佳實(shí)踐DemoAgent提供者A1AgentAgent消費(fèi)者B4調(diào)用其他提供者Agent提供者A1AgentAgent消費(fèi)者B4調(diào)用其他提供者注冊(cè)中心感知到服務(wù)端下線注冊(cè)中心感知到服務(wù)端下線服務(wù)端下線客戶端視角服務(wù)調(diào)用報(bào)錯(cuò)期正常下線正常下線服務(wù)端視角注冊(cè)中心2323AgenAgen消費(fèi)t者A55提供者B確保在途請(qǐng)求處理完畢再下線Redis:JedisPool連接池創(chuàng)建后不會(huì)立即建連接數(shù)據(jù)庫(kù):druid連接池異步創(chuàng)建連接無(wú)損上線Redis:JedisPool連接池創(chuàng)建后不會(huì)立即建連接數(shù)據(jù)庫(kù):druid連接池異步創(chuàng)建連接應(yīng)用初始化預(yù)建連接Dubbo/SC服務(wù)需要延遲暴露?流量需要緩慢增加，但Dubbo以下版本存在服務(wù)預(yù)熱不生效問(wèn)題?Fastjson/Jetty低版本沒(méi)有開啟并行類加載?JVMJIT編譯問(wèn)題引起cpu飆高?日志異步化服務(wù)注冊(cè)通過(guò)readiness檢小流量預(yù)熱正常流量進(jìn)入服務(wù)注冊(cè)查K8sreadiness檢查和SpringCloud/Dubbo體系沒(méi)有打通預(yù)熱曲線動(dòng)態(tài)調(diào)整治理中心http-header:user-id%100==203.注冊(cè)中心配置中心AgentAgent提供者3提供者12.注冊(cè)環(huán)境標(biāo)簽4.治理中心http-header:user-id%100==203.注冊(cè)中心配置中心AgentAgent提供者3提供者12.注冊(cè)環(huán)境標(biāo)簽4.消費(fèi)者Agent微服務(wù)Agent最佳實(shí)踐Deployment的鏡像，打上新版本的標(biāo)簽?第二步：配置針對(duì)新版本的標(biāo)簽路由規(guī)則Deployment副本數(shù)調(diào)整到0或刪除該DeploymentAgent一等公民?兩種灰度規(guī)則?按流量百分比路由pheader數(shù)等?打通微服務(wù)網(wǎng)關(guān)提提供者2ASCGx-user-id:120Cx-mse-tag:grayx-mse-tag:grayABASCGx-user-id:120Cx-mse-tag:grayx-mse-tag:grayABx-user-id:100x-mse-tag:basex-mse-tag:base客戶端網(wǎng)關(guān)層ABCSx-user- id:120x-user-id:100sCbasebasebasebase前后端全鏈路灰度發(fā)布Android網(wǎng)關(guān)層webABCssZuul10%90%CAgentAgentbaseVue/node.jsA-serviceAAgentCAgentAgentbaseVue/node.jsA-serviceAAgentAgentAgentCA-service-grayVue/node.A-service-grayVue/node.jsABBbasebasebasebaseMQServerRocketMQServer版本為4.5.0及以上，且在broker.conf中配置enablePropertyFilter=true；?支持阿里云RocketMQ?支持開源SQL92MessageMessageeeMQServerRocketMQServer版本為4.5.0及以上，且在broker.conf中配置enablePropertyFilter=true；?支持阿里云RocketMQ?支持開源SQL92MessageMessageeeCBAACAgentAgent微服務(wù)網(wǎng)關(guān)Androidx-mse-tag:grayx-mse-tag:grayABAgentAgentAgentx-mse-tag:basex-mse-tag:baseCbasebasebasebase?實(shí)時(shí)性高復(fù)時(shí)間?更靈活的摘除策略：調(diào)整權(quán)重?維度更加豐富?彈性擴(kuò)容替換故障機(jī)器治理中心配置中心注冊(cè)中心t提供者消費(fèi)者Agent用戶Agent微服務(wù)Agent提供者可用區(qū)B鄰近路由治理中心配置中心注冊(cè)中心t提供者消費(fèi)者Agent用戶Agent微服務(wù)Agent提供者可用區(qū)B個(gè)可用區(qū)的資源分布盡量均勻3.容災(zāi)場(chǎng)景時(shí)可強(qiáng)制跨可用區(qū)路由微服務(wù)微服務(wù)Agent消費(fèi)者Agen消費(fèi)者Agent應(yīng)用監(jiān)控Skywalking限流降級(jí)sentinel故障演練ChaosBlade應(yīng)用監(jiān)控Skywalking限流降級(jí)sentinel故障演練ChaosBlade全鏈路壓測(cè)微服務(wù)治理SpringCloud開源自建注冊(cè)/配置/服務(wù)治理Nacos開源控制臺(tái)研研發(fā)關(guān)注故障注入Spring-boot客戶端調(diào)用RestTemplate/OpenFeign注冊(cè)發(fā)現(xiàn)nacos-dicovery配置nacosconfig鏈路追蹤鏈路壓測(cè)服務(wù)治理限流降級(jí)SpringCloudinAlibabaCloud全全鏈路壓測(cè)云產(chǎn)品控制臺(tái)注冊(cè)/配置/服務(wù)治理多活容災(zāi)/故障演練AHAS應(yīng)用監(jiān)控ARMS限流降級(jí)故障注入鏈路追蹤限流降級(jí)故障注入鏈路追蹤無(wú)侵入式JavaAgent云產(chǎn)品提供客戶端調(diào)客戶端調(diào)用RestTemplate/OpenFeign注冊(cè)發(fā)現(xiàn)nacos-discovery配置nacosconfigSpring-boot研發(fā)關(guān)注開啟后注冊(cè)中心異常，導(dǎo)致所有提供者與注2收到空地址推送2Agent3客戶端拒絕空地址推送AgentAgent3客戶端無(wú)法調(diào)用服務(wù)端AgentAgentA開啟后注冊(cè)中心異常，導(dǎo)致所有提供者與注2收到空地址推送2Agent3客戶端拒絕空地址推送AgentAgent3客戶端無(wú)法調(diào)用服務(wù)端AgentAgentAgentAgent4BBAgentAgentAgentAgent注1.4.2以上版本具備推空保護(hù)能力，但業(yè)務(wù)需要升級(jí)客戶端，修改代碼重新發(fā)布，成本太高。解決辦法：提供無(wú)侵入的客戶端級(jí)服務(wù)發(fā)現(xiàn)高可用方案，無(wú)需修改業(yè)務(wù)代碼，支持Nacos/ZK/Eureka/Consul等多種注冊(cè)中心。開啟開啟前注冊(cè)中心Agent微服務(wù)視?訪問(wèn)數(shù)據(jù)庫(kù)的治理場(chǎng)景在端側(cè)進(jìn)行進(jìn)行治理 慢慢SQL拖垮服務(wù)單庫(kù)/單表無(wú)法承載日益單庫(kù)/單表無(wú)法承載日益增長(zhǎng)的業(yè)務(wù)數(shù)據(jù)量級(jí)慢參數(shù)查詢拖垮主庫(kù)性能慢參數(shù)查詢拖垮主庫(kù)性能數(shù)據(jù)庫(kù)訪問(wèn)按環(huán)境隔數(shù)據(jù)庫(kù)訪問(wèn)按環(huán)境隔離慢SQL治理 并發(fā)控制)分庫(kù)分表+動(dòng)態(tài)路由讀寫流量分離數(shù)據(jù)流量隔離 (影子庫(kù)表)云原生微服務(wù)的挑戰(zhàn)和趨勢(shì)運(yùn)行態(tài)服務(wù)治理最佳實(shí)踐開發(fā)態(tài)服務(wù)治理最佳實(shí)踐OpenSergo開源開放的服務(wù)治理標(biāo)準(zhǔn)CABB3C3開發(fā)環(huán)境3A2C2開發(fā)環(huán)境2A1C1基線環(huán)境1B1云上VPC多CABB3C3開發(fā)環(huán)境3A2C2開發(fā)環(huán)境2A1C1基線環(huán)境1B1云上VPC?研發(fā)人員每個(gè)人獨(dú)立部署一套環(huán)境?基于全鏈路流量控制進(jìn)行邏輯隔離?入口請(qǐng)求打上標(biāo)識(shí)，標(biāo)識(shí)綁定應(yīng)用?大幅度降低研發(fā)成本CABB3開發(fā)環(huán)境3A2C2開發(fā)環(huán)境2C1基線環(huán)境1B1A1ECS代理云上VPC通道服務(wù)本地環(huán)境4ECLIPSE多CABB3開發(fā)環(huán)境3A2C2開發(fā)環(huán)境2C1基線環(huán)境1B1A1ECS代理云上VPC通道服務(wù)本地環(huán)境4ECLIPSECC3?研發(fā)人員每個(gè)人獨(dú)立部署一套環(huán)境?基于全鏈路流量控制進(jìn)行邏輯隔離?入口請(qǐng)求打上標(biāo)識(shí)，標(biāo)識(shí)綁定應(yīng)用?大幅度降低研發(fā)成本B4AlibabaCloudToolkitIDEA云原生微服務(wù)的挑戰(zhàn)和趨勢(shì)運(yùn)行態(tài)服務(wù)治理最佳實(shí)踐開發(fā)態(tài)服務(wù)治理最佳實(shí)踐OpenSergo開源開放的服務(wù)治理標(biāo)準(zhǔn)OpenSergo定位與使命基于業(yè)界微服務(wù)治理場(chǎng)景與實(shí)踐抽象成通用標(biāo)準(zhǔn)，解決各個(gè)微服務(wù)生態(tài)中治理概念、能力與配置不一致的問(wèn)題，以統(tǒng)一的CRD/DSL進(jìn)行本從網(wǎng)關(guān)到服務(wù)框架，從數(shù)據(jù)庫(kù)到緩的每一環(huán)都進(jìn)行了抽象，場(chǎng)景覆蓋完整標(biāo)標(biāo)準(zhǔn)化全鏈路生態(tài)覆蓋多語(yǔ)言異構(gòu)化無(wú)論微服務(wù)的語(yǔ)言是Java,Go還是其它語(yǔ)言，無(wú)論是傳統(tǒng)微服務(wù)還是Mesh架構(gòu)，都可以利用同一套標(biāo)準(zhǔn)規(guī)范接入，，等多家企業(yè)、社區(qū)共同合作業(yè)界共建開放標(biāo)準(zhǔn)Spec…Spec…………ControlPlaneSDK提供spec的對(duì)接APIOpenSergoSDK對(duì)nelOOpenSergoOOpenSergo控制平面OOpenSergoSDK/AgentOOpenSergo開源生態(tài)Specv1alpha1?流量路由?流控降級(jí)?服務(wù)容錯(cuò)SpecSpecv1alpha1?流量路由?流控降級(jí)?服務(wù)容錯(cuò)Specv1alpha2?流量染色?數(shù)據(jù)庫(kù)治理?離群實(shí)例摘除Specv1beta1?緩存治理Specv1(GA)?服務(wù)發(fā)現(xiàn)?分布式任務(wù)治理?MQ治理?配置治理…Apache…各微服務(wù)治理領(lǐng)域的生態(tài)落地，與標(biāo)準(zhǔn)共建https://opensergo.io/2022.02022.092022.122022.072023.03《微服務(wù)治理技術(shù)白皮書》?阿里巴巴電商體系10余年的微服務(wù)實(shí)踐經(jīng)驗(yàn)沉淀。?阿里云MSE產(chǎn)品數(shù)百家企業(yè)客戶成功案例總結(jié)。。?不僅是一本深度闡述微服務(wù)技術(shù)的書，更是一本解決微服務(wù)落地