騰訊云TCS之探索

騰訊云TCS之探索騰訊云TCS，同時也作為我們的預(yù)生產(chǎn)云。TCS是云原生時代的基礎(chǔ)設(shè)施，TCS(TencentCloud-nativeSuite）即騰訊專有云敏捷版PaaS平臺，提供云原生平臺與騰訊自研PaaS產(chǎn)品（如Credis、TDSQL、TSF）等。同時，TCS也是騰訊公有云、騰訊專有云TCE以及騰訊SaaS產(chǎn)品的通用底座，為騰訊各個云產(chǎn)品在各個場景的輸出和交付提供統(tǒng)一的底座。TCS云原生基礎(chǔ)設(shè)施是TCS/TCE解決方案中的基礎(chǔ)設(shè)施與容器平臺層，為騰訊的各種云產(chǎn)品私有化輸出提供向上屏蔽底層IaaS差異的云原生計算、存儲、網(wǎng)絡(luò)等能力。近兩年，TCS經(jīng)歷了幾個版本的迭代，目前主要為3.8.0版本，在保持高速的技術(shù)發(fā)展和演進(jìn)，為眾多騰訊產(chǎn)品的私有化項目的中標(biāo)、成功落地提供技術(shù)支撐。我們在接觸騰訊云TCS之前，還曾了解過華為云、百度云、阿里云等等，之所以選擇騰訊云，是因為只有騰訊云才符合我們的需求，因此我們要把精力投向這個方向，這樣我們就能順利簽到自己的私有云。隨著項目的啟動實施，我們經(jīng)歷了私有云的建設(shè)過程。項目基本完成時，我們輸入一些數(shù)據(jù)，用于測試，發(fā)現(xiàn)的第一個小問題，是通過NPM（網(wǎng)絡(luò)性能監(jiān)控）里抓取DCGW的數(shù)據(jù)，需要等很長時間。對此技術(shù)支持解釋說，這是由于NPM提供了變更手冊，可通過升級解決。我們升級以后發(fā)現(xiàn)果然問題解決了，不過緊接著又發(fā)現(xiàn)了第二個問題，是UNDERLAYNAT網(wǎng)關(guān)數(shù)據(jù)能出去互聯(lián)網(wǎng)，但是回包無法正常返回，在WC交換機(jī)上查不到對應(yīng)網(wǎng)關(guān)的路由，這個現(xiàn)象很奇怪。對此技術(shù)支持解釋說，UNDERLAY網(wǎng)關(guān)公網(wǎng)地址以靜態(tài)路由方式手動發(fā)布在NFVW上，由于未引入到BGP中，導(dǎo)致WC交換機(jī)無法正常學(xué)習(xí)到該網(wǎng)關(guān)路由。如增加UNDERLAY網(wǎng)關(guān)地址，需要先在NFVW交換機(jī)上增加靜態(tài)路由，再在平臺側(cè)進(jìn)行配置，否則會出現(xiàn)出向訪問失敗的現(xiàn)象。隨后我們遇到的第三個問題就是同VPC同租戶下，OVERLAYCVM與BMS網(wǎng)絡(luò)不通。同時我們還發(fā)現(xiàn)，通過Ansible跨VPC傳輸小文件時慢的問題。對此技術(shù)支持解釋說，第一個問題是退還BMS服務(wù)器，數(shù)據(jù)庫中刪除rack表中的2條錯誤記錄，重新導(dǎo)入2條正確的記錄，重新申請BMS機(jī)器，方可解決。至于第二個問題，技術(shù)人員表示目前沒有上傳慢問題，后續(xù)問題復(fù)現(xiàn)時再排查。對于此項我們做了記錄，一旦再次發(fā)現(xiàn)還得請技術(shù)人員來支持。緊接著第四個問題出現(xiàn)了，是一個系統(tǒng)問題，BillingMidasp-data-cluster虛機(jī)內(nèi)存報OOM。對此技術(shù)支持解釋說，計費虛擬機(jī)有定時任務(wù)，每分鐘檢查是否有掛掉的進(jìn)程，有的話就拉起來，不影響推量計算，有兩個方法可以避免發(fā)生，第一個給Data1機(jī)器提高點內(nèi)存，并觀察幾天是否還會有OOMKill告警；第二個是將BillingMidasp-data-cluster組件用來計算業(yè)務(wù)推量，并不會影響業(yè)務(wù)流程(資源購買、變配、銷毀等功能)，因為有定時任務(wù)保證程序不掛掉(除非機(jī)器資源問題拉不起)，可以忽略Data1機(jī)器的OOMKill告警。發(fā)現(xiàn)的第五個問題是，在租戶側(cè)啟用VPCDNS，配置完成后，與COS訪問域名存在沖突，這該如何是好？對此技術(shù)支持說，目前3.8.0版本不支持自定義VPCDNS和TCE主域名一致，自定義域名與TCE主域名一致的情況下，綁定該VPCDNS的CVM解析都會被劫持，自定義VPCDNS內(nèi)沒有解析就會為空。3.10.0版本支持子域名遞歸，但3.8.0版本還不支持，把自定義VPCDNS的域名改成和TCE主域名不一致的即可。可我們生產(chǎn)網(wǎng)用的域名，都是已經(jīng)綁定的，此時需要云單獨提供解析。最后我們與技術(shù)支持商議決定，支持平臺解析記錄，批量添加到客戶自定義DNS方法中。雖然問題還