0
阿基米德曾說過：“給我一個(gè)支點(diǎn)，我就能撬起整個(gè)地球。”在京東云，阿基米德是一套高效的調(diào)度系統(tǒng)，這套系統(tǒng)調(diào)度著全球最大規(guī)模Docker集群、最大規(guī)模Kubernetes集群。
京東擁有超過900萬SKU的自營商品，京東物流為5.9萬家企業(yè)客戶提供一體化供應(yīng)鏈服務(wù)，僅2021京東618期間，累計(jì)下單超過3438億元，窺一斑而見全豹，能夠調(diào)配如此龐大規(guī)模業(yè)務(wù)背后的系統(tǒng)，其背后的應(yīng)用數(shù)量和復(fù)雜程度可想而知。簡單的調(diào)度分配資源算法已經(jīng)無法滿足復(fù)雜的調(diào)度需求，阿基米德調(diào)度系統(tǒng)應(yīng)運(yùn)而生。
目前，阿基米德調(diào)度系統(tǒng)已經(jīng)全面接管京東的應(yīng)用資源調(diào)度，每日調(diào)度百萬臺容器實(shí)例運(yùn)轉(zhuǎn)，服務(wù)履約率達(dá)到98.3%。2021年京東618，京東云在支撐京東全線業(yè)務(wù)正常運(yùn)行下，超大規(guī)模集群的CPU資源利用率提升3倍，單位訂單資源成本下降30%，內(nèi)存平均使用率提升57%，交付效率提升150%......
在行業(yè)首個(gè)混合云操作系統(tǒng)京東云云艦中，阿基米德作為核心調(diào)度系統(tǒng)，是資源交付的基石，負(fù)責(zé)整個(gè)京東數(shù)據(jù)中心的資源調(diào)度，是撬動(dòng)整個(gè)數(shù)據(jù)中心的支點(diǎn)。
舉例最直觀的的感知：京東的電商場景中，購物車、訂單、詳情等，涉及到的每一臺容器分布，包括容器編排、單機(jī)計(jì)算資源、內(nèi)存資源，均由阿基米德分配和調(diào)度，特別是618、11.11的超大流量場景下，少數(shù)容器編排錯(cuò)誤都有可能給業(yè)務(wù)帶來致命影響，調(diào)度器需負(fù)責(zé)把控峰值時(shí)每一臺容器計(jì)算的質(zhì)量，其重要性可想而知。
經(jīng)歷京東體系復(fù)雜場景的多年磨練，阿基米德可實(shí)現(xiàn)最優(yōu)的集群全局調(diào)度、最優(yōu)的一次作業(yè)調(diào)度，不僅能確保全局資源編排和成本最優(yōu)、資源運(yùn)行最穩(wěn)定，還能在集群內(nèi)選擇最合適的宿主機(jī)，以最佳的資源使用、最少的相互干擾（如 CPU 分布、IO 爭搶），來運(yùn)行提交的計(jì)算作業(yè)。
1、基于預(yù)測的智能調(diào)度
阿基米德在核心功能——調(diào)度方面，利用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)智能算法，對應(yīng)用的資源使用情況進(jìn)行畫像統(tǒng)計(jì)，并對應(yīng)用的未來資源使用情況進(jìn)行預(yù)測，以對應(yīng)用進(jìn)行合理部署，實(shí)現(xiàn)資源的優(yōu)化調(diào)度。
具體來看，阿基米德采用強(qiáng)化機(jī)器學(xué)習(xí)算法，可根據(jù)應(yīng)用的歷史數(shù)據(jù)，提取其資源使用的特征，進(jìn)而將不同的應(yīng)用進(jìn)行歸類，形成應(yīng)用畫像。綜合應(yīng)用標(biāo)簽和批處理任務(wù)的描述，對未來一段時(shí)間的任務(wù)調(diào)度進(jìn)行提前規(guī)劃，使得業(yè)務(wù)能夠正常運(yùn)行的同時(shí)，資源得到充分的利用，有效防止了批處理任務(wù)與長期服務(wù)的資源競爭。
阿基米德的智能調(diào)度可以成倍提升資源利用率成倍提升，極大降低企業(yè)采購成本，以今年618為例，阿基米德調(diào)度實(shí)現(xiàn)CPU利用率3倍的提升。
2、精準(zhǔn)驅(qū)逐與碎片整理
資源碎片在幾乎每臺服務(wù)器上都有發(fā)生，不同批次采購的服務(wù)器規(guī)格性能不同，服務(wù)器上的CPU或者內(nèi)存配額沒有同時(shí)分配完，就會出現(xiàn)資源碎片。
同時(shí)在長期服務(wù)中，特別是面向用戶的任務(wù)，會出現(xiàn)明顯的高峰低谷，而且不同長期服務(wù)的資源消耗也不同，因此集群中的時(shí)空資源利用率不均是常態(tài)。
針對資源碎片和時(shí)空分布不均問題造成的資源浪費(fèi)，阿基米德采用批處理任務(wù)進(jìn)行統(tǒng)一填充式調(diào)度，完成資源碎片的充分利用、資源的時(shí)空復(fù)用，保障長期服務(wù)穩(wěn)定存在，以及低頻度遷移。同時(shí)阿基米德會時(shí)刻保持一定的資源儲備，應(yīng)對突發(fā)流量的資源需求。
3、調(diào)度器仿真系統(tǒng)及回放
為充分模擬真實(shí)事件狀況和實(shí)際操作過程，阿基米德支持通過模擬器+線上數(shù)據(jù)回放，對調(diào)度請求進(jìn)行仿真模擬，形成新的數(shù)據(jù)建模，并優(yōu)化調(diào)度方案，為智能調(diào)度提供更優(yōu)方案。
以最小成本、最快速度，阿基米德可分三步完成1：1機(jī)器資源和請求要求的調(diào)度需求模擬，培養(yǎng)真實(shí)復(fù)雜場景的調(diào)度能力。
仿真劇本管理模塊：用以采集清洗線上真實(shí)數(shù)據(jù)，生成仿真劇本，并可以支持純模擬劇本生成。
仿真調(diào)度模擬模塊：將仿真數(shù)據(jù)灌入，經(jīng)過調(diào)度算法調(diào)度，模擬調(diào)度過程，最終生成調(diào)度結(jié)果。
調(diào)度算法評測模塊：對調(diào)度過程和結(jié)果進(jìn)行監(jiān)測和評測，并通過可視化圖表對調(diào)度過程進(jìn)行展示。
4、離在線混合部署
伴隨京東購物節(jié)規(guī)模指數(shù)級增長，添置服務(wù)器成為浩資巨大的燒錢工程。高出日常峰值的機(jī)器過后閑置，又不可避免地造成資源浪費(fèi)。
阿基米德支持將延遲不敏感的離線計(jì)算任務(wù)和延遲敏感的在線服務(wù)，部署到同一集群上運(yùn)行，讓在線服務(wù)的空閑資源充分被離線計(jì)算任務(wù)所使用，在線業(yè)務(wù)、離線業(yè)務(wù)共享混合云操作系統(tǒng)云艦的資源池。
通過應(yīng)用分級、DiskIO限速、Job調(diào)度管理、Pod流量限速等方式，阿基米德可保證離線業(yè)務(wù)不會影響在線業(yè)務(wù)，提高資源利用率。
5、多樣化IP地址管理
通過用戶annotation配置，阿基米德可實(shí)現(xiàn)多應(yīng)用場景的IP地址管理，包括IP地址隨機(jī)分配，用戶指定pod IP地址，用戶應(yīng)用分組內(nèi)IP保留和用戶自定義私有IP池等。
在零售行業(yè)，針對離在線任務(wù)的不同運(yùn)行需求（在線任務(wù)資源占用少、響應(yīng)要求快，離線任務(wù)占用資源大、響應(yīng)要求慢），阿基米德混合部署兩個(gè)集群，把不同類型的任務(wù)調(diào)度到相同的物理資源上，借助智能調(diào)度及資源隔離等方式保障SLO（服務(wù)等級目標(biāo)service level objective），極大降低成本。
在金融行業(yè)，尤其是支付場景，阿基米德讓各種配置不同的設(shè)施能夠在交易高峰期，以秒級速度將在線服務(wù)器的各種軟件、應(yīng)用轉(zhuǎn)移到離線服務(wù)器中，極大提升資源利用率。
在互聯(lián)網(wǎng)行業(yè)，經(jīng)常出現(xiàn)流量高并發(fā)的業(yè)務(wù)場景，阿基米德通過冷熱節(jié)點(diǎn)混部方式，充分釋放冷節(jié)點(diǎn)CPU利用率，有效滿足日志等數(shù)據(jù)處理需求。遇到購物節(jié)這類單量爆漲的場景，也可以通過K8S管理與調(diào)度充足計(jì)算資源支持，保證每一單平穩(wěn)順暢。
不止于資源調(diào)度，阿基米德在綠色節(jié)能方面也有卓越表現(xiàn)。
通常而言，機(jī)房的電力消耗主要是制冷為 CPU 降溫。阿基米德會根據(jù)應(yīng)用標(biāo)簽與調(diào)度規(guī)劃，對于服務(wù)器 CPU 的主頻進(jìn)行相應(yīng)調(diào)整，以達(dá)到節(jié)能降耗的作用，在多個(gè)核心機(jī)房進(jìn)行的大規(guī)模實(shí)踐中，已取得了降低能耗降低 17% 的成果。
經(jīng)過多年京東業(yè)務(wù)實(shí)踐，阿基米德調(diào)度系統(tǒng)已在大規(guī)模超復(fù)雜場景中，實(shí)現(xiàn)了常態(tài)化應(yīng)用，并通過混合云操作系統(tǒng)云艦對外開放，讓更多產(chǎn)業(yè)客戶用更低的成本獲得更強(qiáng)的計(jì)算能力，持續(xù)提升客戶的數(shù)智基礎(chǔ)設(shè)施效率。
未來，阿基米德調(diào)度系統(tǒng)將進(jìn)一步推動(dòng)優(yōu)化調(diào)度算法，提升調(diào)度的準(zhǔn)確性，在整合計(jì)算、提升效率、節(jié)能降耗方面進(jìn)行更多的實(shí)踐，并把更多的業(yè)務(wù)一線的調(diào)度數(shù)據(jù)和模型與業(yè)界分享。
雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
