發布時間:2014-07-05所屬分類:計算機職稱論文瀏覽:1次
摘 要: 摘要:在存儲不同數據完整性要求的內容時,采用不同強度的差錯校驗。存儲0級內容時,每一次寫入都進行差錯校驗,存儲1級和2級內容時,以1/N的概率進行差錯校驗。差錯校驗的結果更新該物理存儲區塊的損壞級別,但是損壞級別只升不降。 關鍵詞:嵌入式系統,多
摘要:在存儲不同數據完整性要求的內容時,采用不同強度的差錯校驗。存儲0級內容時,每一次寫入都進行差錯校驗,存儲1級和2級內容時,以1/N的概率進行差錯校驗。差錯校驗的結果更新該物理存儲區塊的損壞級別,但是損壞級別只升不降。
關鍵詞:嵌入式系統,多媒體Flash存儲器,文件系統,中國科教創新導刊
本文選自《中國科教創新導刊》(ChinaEducationInnovationHerald),主辦:中國科學技術信息研究所、科學技術文獻出版社,周期:旬刊,出版地:北京市,語種:中文,開本:大16開,ISSN1673-9795,CN11-5599/N,郵發代號:80-616。
隨著電子技術的不斷發展,嵌入式系統越來越多地在控制類、消費類、通訊類等電子產品廣泛應用,并且隨著數字信號處理與人機交互界面等相關技術的不斷成熟,嵌入式多媒體應用數量也逐漸上升。多媒體業務的數據量大,數據內容復雜,在多媒體應用中數據的存儲與管理是不容回避的問題。Flash存儲器制造成本低廉、存儲容量大、數據非易失、無機械故障,在目前的嵌入式系統中被廣泛用作外存儲器件。然而Flash存儲器卻是一種數據正確性非理想的器件,應用中可能會出現壞損數據單元,這又給應用Flash存儲器嵌入式系統進行數據存儲管理增添了新的難度[1]。
嵌入式多媒體應用中大量數據存儲在Flash上,本文以文件系統的方案解決數據存儲的管理問題。對嵌入式多媒體應用中Flash文件系統的應用特點與關鍵設計進行了分析,設計實現了一個功能完整的文件代號管理、文件指針存取以及對應用透明的自動壞損管理的文件系統。針對嵌入式系統應用的需要,改進了本Flash文件系統的應用可靠性,降低了其系統資源開銷。針對多媒體應用的數據特點,提出了存儲內容自適應的環境管理策略。仿真與實用的效果表明,本Flash文件系統適宜于嵌入式多媒體應用。
在嵌入式系統中應用Flash存儲器最好的辦法是在其上構造一個文件系統,對Flash存儲器中的數據內容進行基于文件代號的存儲管理,同時對于Flash存儲器本身的壞損單元自動進行應用透明的壞損管理。目前在通用計算機上已經有很多成熟的文件系統,如DOS下的FAT文件系統、Windows NT下的NTFS文件系統及UNIX文件系統等[2]。但是這些文件系統并不適合直接用到嵌入式系統中進行多媒體數據內容的存儲:第一,嵌入式系統的應用條件遠比計算機惡劣,電源電壓的不穩定以及突發性斷電將對Flash的存儲造成災難性的影響,通用文件系統對于可靠性的設計考慮不足;第二,通用文件系統是針對系統資源非常豐富的計算機平臺并基于速度較慢的磁盤驅動器,它們常常大量使用緩存技術,如注重文件系統的速度特性,要耗費比較多的系統資源。這與嵌入式系統中系統資源十分有限,Flash存儲器又相對于磁盤驅動器較快的應用情況不用;第三,嵌入式系統中存儲于Flash上的內容很多是多媒體數據資料,這些數據內容往往雞一定程度的誤碼損傷,未必需要如通用文件系統那樣嚴格保證存儲的正確性。通過靈活的校驗機制與壞損管理,達到更優化的存儲速度與更高效的存儲空間利用,這對成本敏感的嵌入式系統來說尤其具有幫助。
基于上述考慮,設計了一個適合嵌入式多媒體應用的Flash文件系統。它不僅支持文件代號管理、文件指針存取以及應用透明的自動壞損管理這些通用文件系統所具有的功能,并且在文件系統的可靠性以及文件系統的額外資源消耗方面進行了改善;此外還引入了基于存儲內容自適應的壞損管理策略,從而使該Flash文件系統更加適合嵌入式多媒體應用。
1 Flash存儲器的操作特點
Flash存儲器在讀取方面與普通的SRAM存儲器類似,一般可以實現完全隨機的讀取。Flash存儲器最大的不同在于寫操作方面。Flash存儲器的寫操作需要經過“擦除—寫入”兩個操作過程。當希望對Flash存儲器的某一個單元進行寫入時,首先必須對這個存儲單元所在的區塊(Block)執行擦除操作,擦除操作成功完成后,整個區塊的數據內容都被清空(一般被設置成0xFF);然后對目的單元所在的頁面(Page)執行寫入操作,需要一次寫入整個頁面的全部數據內容(也有一次Flash存儲器支持部分頁的寫入,這樣可以分多次寫完一個頁面,但是一旦寫過的存儲單元數據就不能再被更改),操作成功后要進行數據正確性的校驗。
一個區域(Block)包含一個或多個頁面(Page),一個頁面包含多個數據存儲單元(字節或字)。
為了增強所設計Flash文件系統在不同Flash存儲器上的移植能力,選取了3個最基本的操作作為本Flash文件系統與Flash存儲器設備的應用接口:區塊擦除(Block_Erase)、頁面寫入(Page_Write)、頁面讀出(Page_Read)。這樣雖然可能會忽略某些Flash存儲器產品的獨有特性,但卻增加了所設計的Flash文件系統對同Flash存儲器產生的適應能力。另外,Flash存儲器寫入的時間瓶不在于數據傳遞,而是Flash存儲器內部的擦除和寫操作等;Flash存儲器讀出的速度和微處理器處理數據的速度都很快,因此雖然將讀和寫的基本單位擴大到了頁面,但額外增加的操作時間是很短的。
2 Flash文件系統的基本結構
本Flash文件系統在基本結構上與MS-DOS的FAT文件系統類似[3]。MS-DOS是一個應用于幾十年的商業化軟件產品,其FAT文件系統技術成熟、結構簡單、系統資源開銷小,易于在嵌入式系統的硬件平臺上實現。本Flash文件系統的基本結構如圖1所示,整個文件系統包括如下幾個部分:
(1)系統記錄(SR,System Record)存放媒質信息和最重要的文件系統信息。媒質信息諸如Flash存儲器的類型、容量,劃分成多少個區塊,每區塊包含多少個頁面等。文件系統信息包括版本信息、保留區塊的數目和位置、文件分配表和文件登記表所在的位置和大小、數據區域的位置和大小等。
(2)文件分配表(FAT,File Allocation Table)存放著Flash存儲器上所有區塊的占用與空閑情況以及每個文件的存儲連接結構。MS-DOS FAT文件系統中有12位、16位、32位三種不同的FAT格式?紤]到在微處理器上實現的方便性并權衡Flash文件系統應用的規模,選擇將文件分配表固定為16位的格式。
(3)文件登記表(FRT,File Register Table)存放著Flash文件系統中每一個文件的文件代號、文件長度、文件屬性以及該文件的存儲鏈在文件分配表中的入口?紤]到嵌入式系統的應用范圍,本Flash文件系統不支持子目標結構。
(4)數據區域(Data Area)用于存放文件的數據內容。本Flash文件系統中,數據分配的最小單位是Flash存儲器的一個基本擦除單元,即一個物理區塊(Block)。
本Flash文件系統提供:文件系統的格式化(Format)、文件的創建(Create)、刪除(Delete)、打開(Open)、關閉(Close)、讀(Read)、寫(Write)、文件指針的移動(Seek)、位置讀取(Tell)等基本的功能。程序主體代碼ANSI C語言寫成,使用一個非常小的Flash存儲器設備驅動接口,擴展及移植的能力都比較好。
3 提高Flash文件系統的可靠性
在MS-DOS的FAT文件系統中,僅僅對數據區域提供壞損管理,而對于它的主引導記錄、文件分配表和根目錄這三個極重要的文件系統數據結構卻未做任何保護(雖然MS-DOS的FAT文件系統中存在著兩張FAT表,但是DOS只是簡單地復寫第二張FAT表而從不使用它)。一旦這三個區域的內容出現一點失效,將必然導致文件數據的大量損失。另外,如果這些數據結構的存儲區域發生物理性損壞,更會導致整張磁盤的報廢。這在由Flash存儲器占據很大成本比重的嵌入式應用中,是非常不希望的。
歸結起來,嵌入式系統中的Flash存儲器主要面臨兩大類不穩定因素:一是Flash存儲器本身可能出現物理性的損壞;二是嵌入式系統面對較多的突發掉電與重啟動,造成Flash存儲器寫操作的異常終止。
針對Flash存儲器的物理損霈問題,除對文件數據區域提供壞損管理外,還將系統記錄、文件分配表和文件登記表這三個文件系統重要數據結構采用浮動位置的方法存儲。即不僅對文件數據存儲進行動態的分配管理,對于Flash文件系統中這三個重要數據結構也不固定其存儲位置。這樣可以避免因它們的存儲區域發生物理損壞造成整個文件系統失效。具體做法是:對于系統記錄定義一個系統記錄保留區,將系統記錄存在這個區域內,確切的位置在文件系統初始的時候通過標識幻數(Magic Number)的方法掃描找到;而文件分配表和文件登記表則存放在文件數據區域內,通過系統記錄中的索引項找到。
針對Flash存儲器的寫操作異常終止問題,將6系統記錄、文件分配表和文件登記表這三個對Flash文件系統最重要的數據結構均進行雙份的存儲改善其安全性。在文件系統的操作中,程序對每一個表結構的兩個備份進行順次修改,以此確保Flash存儲器上總是存有一整套完好的系統記錄表、文件分配表和文件登記表。在系統被啟動運行時,文件系統會首先進行自檢,通過這三個表結構中的標識幻數,以及最開關和最末尾的更新序列號可以確定每一張表備份的合法性和時效性,判斷出前次系統關閉中存在著的操作異常終止并及時更正。通過這樣的設計,即使文件系統大使用中出現了寫操作異常終止的情況,錯誤將只涉及當時被操作的文件數據,不會擴散給Flash文件系統中的其它文件,更不會因此損壞三個文件系統表結構,造成整個文件系統的徹底癱瘓。
通過以上兩個方面的改進,本Flash文件系統的可靠性比于MS-DOS FAT文件系統有了很大的提高。從實驗1和實驗2的仿真結構可以看到,即使在Flash極不可靠和寫操作異常防止頻發的最惡劣工作條件下,本Flash文件系統也能夠保持可靠工作,從而使之能夠適合于嵌入式系統的應用。
實驗1 高壞損率狀況下本Flash文件系統的可靠工作
實驗條件
Flash存儲器規格:16 KB/Block×1024Block,設定Flash頁面的寫入壞損概率為1%,對單一文件重復進行(打開文件,寫入1KB數據,關閉文件)10000次操作。
實驗結果
完成后文件總長度 10,240,000 Bytes
被文件數據占用的Flash空間 625 Blocks
損壞塊占據的Flash空間 342 Blocks
FAT和FRT被操作的次數 11583次
SR被操作的次數 223次
同條條件MS-DOS FAT文件系統仍能保持工作的概率(即其主引導記錄、文件分配表、根目錄區域無物損壞的概率) 2.9E-52
實驗2 頻繁寫操作異常終止狀況下本Flash文件系統的可靠工作
實驗條件 Flash存儲器規格:16 KB/Block×1024Block,預先存儲5個文件,文件長度分別為k×100KB(k=1..5),模擬寫操作進行當中,發生系統掉電類事故,造成寫操作異常中止。
實驗結果 實驗次數 100次
導致SR、FAT或FRT出錯的次數 71次
Flash文件系統啟動自檢時發現并更正文件系統錯誤的次數 71次
Flash上已有的5個文件受損的次數 0文件×0次
4 降低Flash文件系統的資源消耗
嵌入式系統相對于通用計算機系統來講,往往有荷刻得多的成本要求,需要嵌入式系統盡可能低的系統資源配置。尤其對于Flash文件系統這種用于增強系統功能的服務性質模塊,就更需要降低對系統資源的消耗,才能夠擴大其使用的范圍。
就Flash文件系統的資源消耗來講,主要包括程序代碼開銷、處理器占用時間、運行時內存開銷以及額外的Flash存儲器消耗。其中,運行時內存開銷最限制Flash文件系統的應用,同時設計結構的改善與運行時內存開銷直接相關。所以針對資源消耗的結構優化主要著重于降低運行時的內存開銷。
Flash存儲器的擦除單位是區塊(Block),這是本Flash文件系統中數據存儲分配的最小單元。如果不采用任何措施的話,運行時內存開銷中將至少包括備份一個完整區塊數據的緩沖區。但一個Flash存儲器的區塊可能很大(Sumsung[TM]KM29U128是16KB),這在很多嵌入系統中都是過大的資源開銷(最通用的8位微處理器MCS-51系列,總線尋址的能力只有64KB),必須進行改進。
為此,采用交換緩沖區(Swap Buffer)技術來解決這個困難。當需要準備某一個區塊的數據時,并不直接向該區塊寫入,而是首先擦除用于做交換緩沖區的區塊,然后逐步向交換緩沖區填入目的數據內容。因為此時,任何有用數據內容都未被破壞,所以運行內存中的緩沖就可以做得比較小。當交換緩沖區填寫完成后,再擦除目的區塊,拷貝交換緩沖區內容到目的區塊。
采用交換緩沖區后,對內存中的緩沖區大小沒有特別要求,考慮到Flash存儲器的操作特性,選取Flash存儲器的頁面(Page)容量作為內存緩沖區大小。在結構上作了上述改進后,雖然大大降低了Flash文件系統的運行時內存消耗,但代價是將一個數據區塊的寫入時間延長了一倍。不過一般的Flash存儲器中都有一特點制作的區塊,該區域保證不會損壞,正好適用做交換緩沖區。這樣就可以省去中間交換緩沖過程的數據完整性檢驗,加快寫操作的速度。
表1給出了在與MCS-51兼容的微處理器上本Flash文件系統實例,對Sumsung KM29U128 Flash存儲器(16KB/Block×1024Block)[4]進行管理應用中的系統資源開銷。地于一般的成本要求來講,是可以接受的。
表1 一個應用實例中本Flash文件系統的系統資源開銷
程序代碼開銷 8.28 KB
額外的Flash占用 8 Blocks/1024 Blocks=0.78%
運行時RAM開銷 總和 0.79 KB
頁面緩沖區 0.50 KB
文件打開表 0.13 KB
FAT項更新表 0.08 KB
其它 0.08 KB
5 基于存儲內容的自適應環境管理策略
嵌入式系統中應用Flash存儲器,與多媒體相關的應用占據相當的比例,如數碼相機、語音監錄、MP3播放器等。存儲在Flash上的內容多數是多媒體數據流,這種應用相對于普通文件系統的單純數據業務具有其自己的數據特點。據此在本Flash文件系統上提了出了基于存儲內容的自適應壞損管理策略。
Flash存儲器上存儲的內容包括數據文件和多媒體數據流。數據文件對于數據完整性要求很嚴格,不允許存儲中出現任何錯誤。但多媒體數據流則不同,很多種多媒體數據流允許一定情況下傳輸差錯,一些甚至允許傳輸差錯很嚴重,如CVSD編碼的語音。而Flash存儲器的區塊發生物理損壞時,經常是只有幾個bit出現錯誤,其它部分卻是完好的。綜合考慮這兩個方面的因素,就可以對不同內容的數據流賦予不同的數據完整性要求。這樣一方面充分發揮了Flash存儲器的存儲能力,另一方面也可以降低弱數據完整性要求的數據檢驗強度,提高數據寫入速度。
在本Flash文件系統中,把不同數據內容對于數據完整性的要求分成一個組別:0、1和2級。其中,0級的數據完整性最高,不允許在存儲中出現任何差錯, 用于數據型的好。2級的數據完整性要求最低,允許出現較多的差錯,用于抗差錯性強的多媒體碼流。相應地,對于Flash存儲器的每個可用區塊,也按照其物理損壞的程度分成對應的三個級別:0級的區塊所有的存儲單元都完好;2級的區域則存在著比較多的損壞位;損壞程度超過2級允許的區塊成為徹底損壞塊,不能再使用。存儲的原則為:對于特定的存儲內容用損壞級別不超過其數據完整性要求級別的Flash區塊存儲。
同時,在存儲不同數據完整性要求的內容時,采用不同強度的差錯校驗。存儲0級內容時,每一次寫入都進行差錯校驗,存儲1級和2級內容時,以1/N的概率進行差錯校驗。差錯校驗的結果更新該物理存儲區塊的損壞級別,但是損壞級別只升不降。最初的損壞級別在格式化并建立文件系統時設定。
通過實驗3的結果可以看到,采用存儲內容自適應的壞損管理策略后,對于可容錯的多媒體碼流,存儲效率和存儲速度都可以得到明顯提高。并且,設定合適的校驗概率所發生的漏檢率是很低的。
實驗3 內容自適應的壞損管理策略對多媒體數據流的應用效果
實驗條件
Flash存儲器規格:16KB/Block×1024Block。
0級塊,不允許出現損壞,每次寫入都進行校驗,對應理想存儲媒質;
1級塊,允許1~2 bits損壞,以1/4概率校驗,對應3.8E-6差錯率;
2級塊,允許3~8 bits損壞,以1/32概率校驗,對應6.1E-5差錯率。
設定Flash頁面的寫入以1%概率損壞1個bit,對單一文件重復進行
{打開文件,寫入1KB數據,關閉文件}的操作10000次。
實驗結果
存儲0級數據(純數據業務) 存儲1級數據(低容錯多媒體業務) 存儲2級數據(高容錯多媒體業務)
被文件數據占用Flash空間 0級Blocks 625 0級Blocks 547
1級Blocks 78 0級 Blocks 616
1級 Blocks 8
2級 Blocks 1
無法于使用的Flash空間 348 Blocks 6Blocks 0 Blocks
對數據內容進行的寫入校驗次數 10000次 2564次 320次
數據寫入了未達要求的存儲塊,而檢驗漏過檢出的次數 0次 1次 0次
針對嵌入式多媒體應用中大量數據在Flash上存儲的管理問題,文件系統是一種比較全面優秀的解決方案。本文對嵌入式多媒體應用中Flash文件系統的應用特點與關鍵設計進行了分析,設計實現了一個適宜于嵌入式多媒體應用的Flash文件系。其主要特點包括:
(1)完全支持文件代號管理、文件指針存取以及對應用透明的自動壞損管理這些通用文件系統所具有的功能。
(2)針對嵌入式系統的應用環境,設計改進了本Flash文件系統的可靠性,使其可以工作在很惡劣的條件下。
(3)針對嵌入式系統的成本與系統資源限制,改進降低了本Flash文件系統的系統資源開銷,擴大了其應用范圍。
(4)針對多媒體應用的數據特點,提出了基于存儲內容自適應的壞損管理策略,提高了在多媒體應用中的存儲效率與存儲速度。
最終設計的Flash文件系統其結構如圖2。
通過仿真分析,本Flash文件系統相對類似MS-DOS FAT的基礎系統,在可靠性、系統資源開銷等方面的性能提高是可觀的,對于多媒體數據流在Flash存儲器資源有效利用和改善存儲性能等方面,也有明顯的改善。因此,本Flash文件系統很適合于嵌入式多媒體應用。
SCISSCIAHCI