Next-Generation NVM Storage System -
  Storage Architecture for Data-Centric Computing /Android Platform
長久以來,系統中的資料儲存裝置(i.e., Disk)在存取速度上遠遠不及主記憶體(i.e., DRAM),在將近數萬、數十萬倍的存取速度差距之下,造成記憶體與儲存裝置之間龐大的效能缺口(Performance gap)。隨著快取記憶體(Flash)技術的發展,以Flash做為非揮發性記憶體(NVM)儲存裝置,例如在PC與Server上使用的SSD與在Embedded system常見的eMMC、SD card等裝置,提供了更快速的存取速度與更大的資料頻寬,縮短了長久以來記憶體與儲存裝置之間的效能缺口。近年,數種新興NVM技術的掘起,例如相變式記憶體(PCM)、磁阻式記憶體(MRAM)、電阻式記憶體(RRAM)等,在許多研究報告中指出,這些技術能更加進一步的縮短這效能缺口,甚至可能直接取代DRAM成為下一代的主記憶體應用。這樣戲劇性的變化,許多學界與業界的研究者紛紛開始試著大幅改變計算機結構與作業系統的設計方向與思維。

台大資工嵌入式計算實驗室(ECLab)在NVM儲存裝置之研究上,除了密切關注學界上的研究發展趨勢並與業界進行產學合作,研發最新的NVM儲存系統架構最佳化設計,目前主要針對在Data-Centric Computing與Android Platform之應用:

[Data-Centric Computing]
由於電腦與網路的快速進展,來自社群網路、電子交易、氣象觀測…等各式各樣資料不斷地湧入資料中心(data center)。這些資料有一些共通特性:(1)它們通常很龐大。舉例來說,Facebook有約10億個使用者,一天可產生出500TB以上的資料。(2)這些資料很有價值,但前提是分析速度要夠快。舉例來說,分析氣象資料預測颱風動態對人們生活非常有益處,但如果分析資料要花一周時間,颱風早就跑遠了。最近非常熱門的cloud-computing、data-mining、Map-Reduce…等,便是以快速分析大量資料為目標,均屬於data-centric computing之範疇。

(點圖放大)
考慮data-centric computing特性來設計系統架構是關鍵的電腦技術與研究方向。我們近期研究的方向之一是利用資料中心內儲存系統的存取與使用特性,提升固態硬碟的效能。資料中心儲存系統有以下兩個特性:(1)雖然有大量資料被寫入資料中心,但我們分析發現有80%以上的寫入資料只存放不到1週的時間就被覆寫了。(2)資料中心是全年無休運轉的,因此資料中心可以定期檢查、操作儲存系統中的資料。

我們提出的設計概念是:一般固態硬碟要保證所有寫入的資料都有1到10年的資料維持性(data retention),但資料中心既然全年無休,新寫入的資料先有1週的資料維持性即可,資料中心可在一週後再將少數需要更長的儲存時間的資料另存成有1到10年維持性的型態。

實驗結果顯示,這個設計可使固態硬碟的寫入效能提升1.8–5.7倍。研究論文"Optimizing NAND Flash-Based SSDs via Retention Relaxation"已發表於有關檔案與儲存系統的頂尖國際會議(USENIX FAST '12)。我們的研究也被知名的科技部落客StorageMojo選為Best Paper。    
 
[Android Platform]
近年來手機的應用有著爆炸性的演變,智慧型手機的出現,讓我們除了撥打電話與發送簡訊之外,亦能使用上網、聽音樂、玩遊戲等功能,因此,智慧型手機的儲存內容不再只是簡單的通訊錄與簡訊,各式各樣的檔案與媒體串流的使用,增加了儲存系統的負擔。目前市面上智慧型手機皆使用Flash作為儲存裝置,如eMMC與SD card,與傳統PC使用Disk作為儲存裝置有很大的不同。然而,至今智慧型手機作業系統中的I/O子系統仍直接繼承PC的設計方式,許多研究指出,由於應用程式特性與儲存裝置的差異,傳統I/O系統設計並不適合智慧型手機,但鮮少有研究針對智慧型手機儲存裝置之特性與程式行為特性進行最佳化設計。本實驗室針對目前智慧型手機Android系統進行I/O子系統最佳化研究,針對不同的特性之Apps(多媒體串流、遊戲、網頁瀏覽等)上從檔案系統、I/O排程器,下至硬體控制器與儲存裝置進行一系列分析研究,試圖尋找出最適合智慧型手機架構的儲存系統。

除了針對現今智慧型手機使用的儲存裝置做最佳化,我們亦探索新興的NVM儲存裝置如PCM於智慧型手機之應用,PCM雖然可儲存的容量密度較Flash小,但相較於Flash,PCM具有隨機存取與高速的特性,除了適合用來儲存非連續性的隨機寫入資料與經常使用的資料,亦可當作系統主記憶體使用,目前我們正在分析智慧型手機之資料儲存特性,研究PCM用於智慧型手機的資料配置與資料排程最佳化。
(回研究方向標題...)
 
  Heterogeneous Computing Platform
異質整合運算平台為近來新興的運算模式,將多種不同架構、運算能力及能量消耗的核心整合進同一平台,藉此利用不同核心的特性以提升整體運算效能或降低系統能量消耗。異質運算同時也是各處理器製造商共同的發展趨勢。這兩三年來,Intel及AMD等大廠均利用異質整合的概念將CPU及GPU整合在單一晶片上,並已有數十種產品上市,包括Intel Sandybridge/Ivybridge,AMD Fusion,ARM Mali及NVIDIA Tegra II/III等。


圖形處理器模型之架構方塊圖 (點圖放大)

對此,本實驗室已完成了一套圖形處理器模擬模型的開發。該模型可於週期等級(cycle-level)精確地模擬圖形處理器的執行過程,並為第一個能夠同時支援一般繪圖應用程式(如OpenGL ES)及GPGPU(General Purpose Computing on GPU)應用程式(如CUDA)的模擬模型。此外,本實驗室現與Intel及工研院合作,預計將開發好的圖形處理器模型整合進另一個全系統模擬平台中,以達到全系統精確模擬的目的。


三維堆疊記憶體應用於異質整合處理器上的議題

本實驗室於異質整合運算領域的研究方向如下
  1. 記憶體子系統優化:包括設計能同時考慮CPU及GPU應用程式之不同效能需求之記憶體管理策略,以及考慮引入三維堆疊(3D Die-Stacking)與使用非揮發式記憶體(Non-Volatile Memory)來取代傳統DRAM後,於記憶體系統架構上需要做的修改和新的優化方向。
  2. 全系統功耗/能耗管理:如何將異質處理平台共享的電源做最適當的分配已進一步提高整體運作效率。 
Citation:
[1] Po-Han Wang, Chia-Lin Yang, Yen-Ming Chen, and Yu-Jung Cheng. 2011. Power gating strategies on GPUs. ACM Trans. Archit. Code Optim. 8, 3, Article 13 (October 2011), 25 pages.
[2] Po-Han Wang; Chien-Wei Lo; Chia-Lin Yang; Yu-Jung Cheng; , "A cycle-level SIMT-GPU simulation framework," Performance Analysis of Systems and Software (ISPASS), 2012 IEEE International Symposium on , vol., no., pp.114-115, 1-3 April 2012
(回研究方向標題...)
 
  GPU Virtualization
近幾年高效能計算系統 (High-performance computing system) 領域產生重大的改變,最為關鍵的便是圖形處理器GPU (Graphics Process Unit) 的快速成長帶來的大量計算能力。在2012年下半年度Top 500超級電腦排行榜的排名前10名超級電腦中就有3台是採用圖形處理器加速。


提供圖形處理器運算資源的行動雲端運算架構

在行動雲端運算架構下,為了服務大量的雲端使用者,我們預見圖形處理器虛擬化 (GPU Virtualization) 將是關鍵技術之一。然而圖形處理器具有不可搶先 (Non-Preemptive) 的特性,一旦一個使用者長時間佔用圖形處理器,其他使用者將會無法忍受。因此,傳統圖形處理器虛擬化策略無法有效的服務大量的雲端使用者。 


針對圖形處理器虛擬化所設計的多工排程機制 (點圖放大)

針對此問題,本實驗室提出多工排程機制來加強圖形處理器虛擬化,使其能更有效的分享圖形處理器運算能力。本實驗室更將進一步的在圖形處理器虛擬化中加入即時轉移 (Live Migration) 和災難復原 (Disaster Recovery) 等技術增強圖形處理器的可用性、並增進效能。 
(回研究方向標題...)
 
 
 

Copyright © 2007 ECLab