A Novel Multi-Objective Preemption Policy in Cloud Systems.pdf

1、互聯(lián)網(wǎng)技術(shù)迅速并被廣泛使用，云計(jì)算作為一種新興的新計(jì)算機(jī)機(jī)制正成為工業(yè)界和學(xué)術(shù)界的一個(gè)熱點(diǎn)話題。云計(jì)算可以被定義為“通過(guò)互聯(lián)網(wǎng)向用戶（稱為云消費(fèi)者）提供資源池中計(jì)算資源的大規(guī)模分布式計(jì)算范型”。
　　計(jì)算服務(wù)使用者（消費(fèi)者）僅需要在他們?cè)L問(wèn)計(jì)算服務(wù)時(shí)支付給供應(yīng)商費(fèi)用。此外，消費(fèi)者不再需要大量投資或遭遇到建設(shè)和維護(hù)復(fù)雜IT基礎(chǔ)設(shè)施的難題。
　　因此，它被認(rèn)為是提供用滿足日常所需的計(jì)算資源（例如，處理能力、存儲(chǔ)、軟件和網(wǎng)絡(luò)帶寬）

2、的功能，這作為可訪問(wèn)公共設(shè)施服務(wù)的云消費(fèi)者的代表。這種計(jì)算公共服務(wù)，像所有其他四個(gè)現(xiàn)有服務(wù)（即水、電、煤氣、電話），而提供基礎(chǔ)水平的計(jì)算服務(wù)被認(rèn)為是一般社會(huì)的重要特征。
　　云計(jì)算環(huán)境可以分為4個(gè)層次的體系結(jié)構(gòu)：硬件/數(shù)據(jù)中心層、基礎(chǔ)結(jié)構(gòu)層、平臺(tái)層和應(yīng)用層。此外，云社區(qū)已廣泛使用以下三種服務(wù)模型到云服務(wù)類別中：
　　1.軟件即服務(wù)（SaaS）：指的是在互聯(lián)網(wǎng)上提供所需要的應(yīng)用程序。SaaS提供商包括例如Salesforce.

3、com、Rackspace和SAP Business ByDesign。
　　2.平臺(tái)即服務(wù)(PaaS)：指的是提供平臺(tái)層資源，包括操作系統(tǒng)支持和軟件開發(fā)框架。PaaS提供商包括如下Google App Engine、Microsoft Windows Azure和Force.com。
　　3.基礎(chǔ)架構(gòu)即服務(wù)(IaaS)：指的是按需供應(yīng)基礎(chǔ)設(shè)施資源，通常是虛擬機(jī)的資源調(diào)配。提供IaaS的云所有者稱為IaaS的供應(yīng)商。IaaS

4、提供商包括例如Amazon EC2、GoGrid和Flexiscale。
　　云提供商依賴它們?cè)谔摂M化技術(shù)的概念上的計(jì)算能力—通過(guò)在物理基礎(chǔ)架構(gòu)層和計(jì)算進(jìn)程之間引入邏輯層來(lái)隱藏底層的基礎(chǔ)架構(gòu)。通過(guò)虛擬機(jī)監(jiān)視器（例如Xen、KVM和VMware），俗稱為“管理程序”，每個(gè)云能夠控制和模擬多個(gè)進(jìn)程環(huán)境中（即 Vms），每個(gè)云運(yùn)行它自己的“客戶端”軟件，通常是指操作系統(tǒng)。
　　虛擬機(jī)和網(wǎng)絡(luò)技術(shù)的成熟導(dǎo)致了商業(yè)醫(yī)療提供者的出現(xiàn)，向用

5、戶提供幾乎無(wú)限數(shù)量的資源。虛擬機(jī)（VM）技術(shù)已能夠在物理基礎(chǔ)設(shè)施之上創(chuàng)建自定義的環(huán)境，同時(shí)新模型也在出現(xiàn)，例如IaaS和云計(jì)算。
　　在云上可用的資源必須能很好的供應(yīng)，在這種情況下他們巨大的能力指是高效的利用資源和有效按時(shí)到達(dá)最終用戶，沒(méi)有很大的延遲完成云用戶交辦的任務(wù)。
　　因此，資源調(diào)配，必須基于可用性、性能、功能和資源成本來(lái)限定服務(wù)級(jí)別要求要求指定服務(wù)級(jí)別協(xié)議，SLA）。
　　云計(jì)算的許多定義之一就是，基礎(chǔ)設(shè)施即

6、服務(wù)(IaaS)系統(tǒng)—IT基礎(chǔ)設(shè)施作為虛擬機(jī)部署在提供商的數(shù)據(jù)中心中。IaaS是指按需提供基礎(chǔ)設(shè)施資源，通常是指虛擬機(jī)（VMs）。IaaS的云所有者稱為IaaS提供商。IaaS提供商包括例如Amazon EC2(3)、GoGrid和Flexiscale。
　　在云計(jì)算基礎(chǔ)設(shè)施，不同的用戶運(yùn)行眾多的應(yīng)用程序，計(jì)算需求也多樣化。一些用戶在特定的時(shí)間請(qǐng)求支援以滿足應(yīng)用程序的最后期限，而其他用戶關(guān)于時(shí)間上沒(méi)有嚴(yán)格的要求。第一類用戶應(yīng)用程序

7、被稱為最后期限約束（例如，提前預(yù)約"AR"），第二類被稱為盡最大努力(BE)。在公共云提供商看來(lái)，租賃的優(yōu)先順序是基于經(jīng)濟(jì)驅(qū)動(dòng)的。例如亞馬遜EC2為用戶提供不同的實(shí)例類型與特定的優(yōu)先事項(xiàng)相關(guān)聯(lián)（例如，現(xiàn)貨、按需和保留實(shí)例）。
　　資源調(diào)配是大型分布式系統(tǒng)，例如云所面臨的重要挑戰(zhàn)之一。近年來(lái)，云計(jì)算已經(jīng)成為一種重要的范式并成為在互聯(lián)網(wǎng)上提供的作為主機(jī)和分發(fā)服務(wù)的新模式。云計(jì)算成為了對(duì)企業(yè)所有者很有吸引力的平臺(tái)，因?yàn)樗梢蕴峁M足 I

8、T行業(yè)調(diào)配資源的巨大能力的幻想。
　　然而在科學(xué)和工業(yè)界，對(duì)計(jì)算資源的需求已成為一項(xiàng)終極要求。許多資源管理系統(tǒng)已開始部署租賃抽象資源和使用虛擬機(jī)(VMs)的資源調(diào)配以提供這些需求。
　　一般來(lái)說(shuō)，為用戶的請(qǐng)求調(diào)配資源有三個(gè)維度，如下所示：
　　1.軟件可用資源。
　　2.硬件資源。
　　3.在期間內(nèi)的資源可用（資源可用性）。
　　然而，滿足所有這些資源調(diào)配模型中的目標(biāo)，已被證明是具有挑戰(zhàn)性的問(wèn)題。過(guò)去

9、的資源調(diào)配模型都不能滿足所有這些方面。近年來(lái)，虛擬機(jī)（VM）技術(shù)發(fā)展為了一種資源配置模型，并創(chuàng)造了處理這些維度的機(jī)會(huì)。
　　在云計(jì)算基礎(chǔ)設(shè)施上，用戶運(yùn)行各種應(yīng)用程序具有不同的計(jì)算要求。一些用戶需要在特定的時(shí)間使用資源，以滿足應(yīng)用程序的最后期限，而其他用戶則對(duì)時(shí)間要求不嚴(yán)格，只要它們被授予所需的資源，當(dāng)有資源它們就執(zhí)行。第一類用戶應(yīng)用程序被稱為最后期限約束（即，提前預(yù)約"AR"），第二類被稱為盡最大努力(BE)。
　　在目前的

10、云計(jì)算環(huán)境中，大型的公共云，如亞馬遜EC2可以說(shuō)是不需要提供Ars或截止日期敏感的資源調(diào)配，因?yàn)樗麄冇凶銐虻馁Y源來(lái)提供無(wú)限容量的幻想，在那里可以立即調(diào)配資源。
　　然而，當(dāng)系統(tǒng)為不同的用戶提供不同的優(yōu)先權(quán)限時(shí)，必須決定誰(shuí)、什么時(shí)候可以得到資源?？梢杂酶鞣N用戶或請(qǐng)求的服務(wù)質(zhì)量(QoS)要求（例如，截止時(shí)間）的優(yōu)先級(jí)來(lái)驅(qū)動(dòng)這種決定。
　　當(dāng)沒(méi)有足夠的資源分配給高優(yōu)先級(jí)請(qǐng)求（如必須立即訪問(wèn)資源以按時(shí)到達(dá)）時(shí)將產(chǎn)生問(wèn)題。因此，問(wèn)題是

11、如何以最低等待時(shí)間為AR請(qǐng)求提供服務(wù)。
　　在此研究中，我們提出了一種新穎的在云計(jì)算系統(tǒng)中的優(yōu)先搶占進(jìn)程策略。
　　此外，我們制定了這一問(wèn)題—作為一種多目標(biāo)優(yōu)化策略，目的是在高優(yōu)先級(jí)請(qǐng)求下分配資源，使其提供最小等待時(shí)間。為此目的，我們將擴(kuò)展容量調(diào)配模型用于當(dāng)前云，通過(guò)利用資源租賃作為一種基本的資源調(diào)配抽象為盡最大努力和提前預(yù)訂請(qǐng)求提供服務(wù)。通過(guò)允許在租賃期實(shí)行租賃搶占，其中一個(gè)可能性是幾個(gè)盡最大努力租賃將會(huì)被搶占，為 AR請(qǐng)

12、求騰出足夠的資源。為了解決這一問(wèn)題，我們制定了多目標(biāo)優(yōu)化問(wèn)題，這個(gè)問(wèn)題會(huì)在下一節(jié)中描述。
　　這項(xiàng)工作所作的貢獻(xiàn)被如下所示：
　　1.我們提出了一種新型多目標(biāo)搶占政策，目的是以高優(yōu)先級(jí)請(qǐng)求方式服務(wù)等待時(shí)間最小分配資源。我們認(rèn)為搶占進(jìn)程作為多目標(biāo)問(wèn)題，其目標(biāo)通常為不可公度的。
　　2.我們通過(guò)使用提出的一整套模擬裝置評(píng)估了提出的模型。仿真結(jié)果非常好同時(shí)展示了我們提出的利用搶占租賃以適應(yīng)不同的情況下解決問(wèn)題的策略的效率。<

13、br>　　搶占機(jī)制，也是我們?cè)诒疚闹兴褂玫臋C(jī)制，為其他更高優(yōu)先級(jí)或更緊迫的請(qǐng)求中斷免費(fèi)資源。搶占是一個(gè)適當(dāng)?shù)臋C(jī)制，用來(lái)解決請(qǐng)求啟動(dòng)和起點(diǎn)啟動(dòng)的爭(zhēng)用?？梢酝ㄟ^(guò)資源管理系統(tǒng)，手動(dòng)或自動(dòng)搶占正在運(yùn)行的進(jìn)程。
　　在我們提出的模型中，用戶可以為計(jì)算資源發(fā)出一個(gè)租賃請(qǐng)求，通過(guò)一組虛擬機(jī)來(lái)調(diào)度和實(shí)現(xiàn)。此外，我們考慮三種類型的租賃：最好努力撤銷、最好努力中止和提前預(yù)留(AR)。我們還考慮到AR租賃是非搶占的，其資源必須在特定的時(shí)間可用，而Be

14、st-Effort租賃是可搶占的（取消或暫停），其請(qǐng)求進(jìn)行排隊(duì)直到可以分配資源。
　　這個(gè)問(wèn)題涉及三個(gè)優(yōu)化目標(biāo)，目標(biāo)是盡量減少下列目標(biāo)：
　　1.時(shí)間開銷（搶占進(jìn)程引起）：這一目標(biāo)旨通過(guò)搶占進(jìn)程，盡量減少時(shí)間開銷到系統(tǒng)的實(shí)施時(shí)間。
　　2.候選租賃的完成時(shí)間：在可撤銷租賃的情況下，最好是以更少的完成時(shí)間搶占租賃，因?yàn)楦鶕?jù)租賃條款，取消租約后,它會(huì)從頭開始，這將浪費(fèi)系統(tǒng)資源，降低用戶的滿意度。
　　3.搶占的數(shù)目被

15、應(yīng)用于候選租賃：事實(shí)上，搶占租賃增加它的完工時(shí)間。但是，用戶并不希望其租賃被搶占或至少被搶占的次數(shù)盡可能的少。因此，為了提高用戶滿意度，最好是在特定的租賃中減少搶占數(shù)。因?yàn)楫?dāng)其租賃在較短的時(shí)間完成，沒(méi)有被搶占多次（那將需要等待長(zhǎng)時(shí)間來(lái)完成他們的請(qǐng)求），用戶會(huì)更加滿意。
　　我們開發(fā)了一個(gè)模擬器，用以檢驗(yàn)提出的模型。此外，我們還定義和應(yīng)用了三種不同搶占策略，包括：
　　1.沒(méi)有搶占（NP）政策：系統(tǒng)中不允許搶占。
　　2

16、. N-最大限度搶占（N-NP）政策：每個(gè)租賃最多允許N個(gè)搶占。
　　3.無(wú)限的搶占（UP）政策：應(yīng)用于每個(gè)租賃的搶占沒(méi)有限制。
　　在實(shí)驗(yàn)中進(jìn)行，實(shí)際工作量CEA Curie已配置為生成8個(gè)月的工作負(fù)載，其中包括超過(guò)120,000條并行請(qǐng)求。我們研究在系統(tǒng)中應(yīng)用每個(gè)搶占策略的效果，并且基于不同的度量標(biāo)準(zhǔn)計(jì)算仿真結(jié)果，包括：
　　1.租賃優(yōu)先購(gòu)買權(quán)的數(shù)量
　　2.AR等待時(shí)間
　　3.資源利用率