分布式存儲(chǔ)系統(tǒng)具有如下特性:數(shù)據(jù)分為多個(gè)分片存儲(chǔ)在多臺(tái)服務(wù)節(jié)點(diǎn)上。每個(gè)分片有多個(gè)副本,存儲(chǔ)在不同的服務(wù)節(jié)點(diǎn)上。許多客戶端并發(fā)訪問(wèn)系統(tǒng),執(zhí)行讀寫(xiě)操作,每個(gè)讀寫(xiě)操作在系統(tǒng)中需要花費(fèi)不等的時(shí)間。除非下文中特別注明和討論,讀寫(xiě)操作是原子的。與數(shù)據(jù)庫(kù)事務(wù)一致性的區(qū)別:數(shù)據(jù)庫(kù)事務(wù)的ACID的中也有一個(gè)一致性(consistency),但彼一致性非此一致性。ACID中的一致性是指,數(shù)據(jù)庫(kù)的事務(wù)的執(zhí)行,或者說(shuō)事務(wù)觀察到的數(shù)據(jù),總是要滿足某些全局的一致性約束條件,如性約束,外鍵約束等。這個(gè)概念和數(shù)據(jù)庫(kù)的數(shù)據(jù)是否多副本沒(méi)關(guān)系。而本文的一致性在多副本的語(yǔ)境下才有意義。所以,數(shù)據(jù)庫(kù)事務(wù)的一致性,是指數(shù)據(jù)項(xiàng)之間總是滿足某些約束條件,或者說(shuō)整個(gè)數(shù)據(jù)庫(kù)在滿足約束條件的意義上是正確的。 對(duì)于保證分布式存儲(chǔ)系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲(chǔ)多個(gè)副本。泰州大規(guī)模分布式存儲(chǔ)設(shè)備
說(shuō)起分布式存儲(chǔ),大家可能都會(huì)覺(jué)得這是一個(gè)老生常談的問(wèn)題,雖然分布式存儲(chǔ)并不是一個(gè)年輕的技術(shù),許多開(kāi)發(fā)者也對(duì)分布式存儲(chǔ)耳熟能詳,但分布式存儲(chǔ)卻并不是像想象中的那種簡(jiǎn)單的技術(shù),它是一個(gè)涉及到文件系統(tǒng)、存儲(chǔ)系統(tǒng)、網(wǎng)絡(luò)、算法、管理等多方面技術(shù)的匯聚,因此,要想真正的掌握分布式存儲(chǔ)技術(shù),絕不是一件輕松的事。但對(duì)于開(kāi)發(fā)者來(lái)說(shuō),如果不了解分布式存儲(chǔ)技術(shù),實(shí)際上對(duì)他們的開(kāi)發(fā)工作還是會(huì)有很大的影響,特別是現(xiàn)在基于互聯(lián)網(wǎng)的開(kāi)發(fā)更是離不開(kāi)對(duì)分布式存儲(chǔ)技術(shù)的深入了解。 浙江分布式存儲(chǔ)系統(tǒng)原理解析分布式存儲(chǔ)的小知識(shí),你值得擁有!
隨著網(wǎng)絡(luò)帶寬的高速增長(zhǎng),在軟件上的消耗已成為網(wǎng)絡(luò)性能的瓶頸,而通過(guò)繞過(guò)CPU實(shí)現(xiàn)高性能傳輸?shù)腞DMA網(wǎng)絡(luò)成為分布式存儲(chǔ)不錯(cuò)的選擇。RDMA(RemoteDirectMemoryAccess),可以簡(jiǎn)單理解為網(wǎng)卡完全繞過(guò)CPU實(shí)現(xiàn)兩個(gè)服務(wù)器之間的內(nèi)存數(shù)據(jù)交換。其作為一種硬件實(shí)現(xiàn)的網(wǎng)絡(luò)傳輸技術(shù),可以大幅提升網(wǎng)絡(luò)傳輸效率,幫助網(wǎng)絡(luò)IO密集的業(yè)務(wù)(比如分布式存儲(chǔ)、分布式數(shù)據(jù)庫(kù)等)獲得更低的時(shí)延以及更高的吞吐。初的RDMA是實(shí)現(xiàn)在IB(Infiniband)上,由于其新的硬件技術(shù)棧成本比較高,主要用于HPC(高性能計(jì)算)等少數(shù)場(chǎng)景。而新的技術(shù)發(fā)展下,能夠?qū)崿F(xiàn)在以太網(wǎng)上使用RDMA。
如何保證分布式存儲(chǔ)的高性能與高可用?大家可能想到的是,除了傳統(tǒng)架構(gòu)里面的備份、HotStandby、雙活、多活這種架構(gòu)之外,對(duì)于保證分布式存儲(chǔ)系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲(chǔ)多個(gè)副本。當(dāng)某個(gè)存儲(chǔ)節(jié)點(diǎn)出故障時(shí),系統(tǒng)能夠自動(dòng)將服務(wù)切換到其他的副本,從而實(shí)現(xiàn)自動(dòng)容錯(cuò)。分布式存儲(chǔ)系統(tǒng)通過(guò)復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲(chǔ)節(jié)點(diǎn),并確保多個(gè)副本之間的數(shù)據(jù)一致性。同一份數(shù)據(jù)有多個(gè)副本,只有一個(gè)為主副本Primary,其他的副本為備份副本Backup,數(shù)據(jù)從主副本復(fù)制到備份副本,采用終一致性來(lái)保證數(shù)據(jù)和事物的完整。 分布式存儲(chǔ)系統(tǒng)需要使用多臺(tái)服務(wù)器共同存儲(chǔ)數(shù)據(jù),隨著服務(wù)器數(shù)量的增加,出現(xiàn)故障的概率也在不斷增加。
為了保證分布式存儲(chǔ)系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲(chǔ)多個(gè)副本。當(dāng)某個(gè)副本所在的存儲(chǔ)節(jié)點(diǎn)出現(xiàn)故障時(shí),分布式存儲(chǔ)系統(tǒng)能夠自動(dòng)將服務(wù)切換到其他的副本,從而實(shí)現(xiàn)自動(dòng)容錯(cuò)。分布式存儲(chǔ)系統(tǒng)通過(guò)復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲(chǔ)節(jié)點(diǎn),并確保多個(gè)副本之間的數(shù)據(jù)一致性??蛻舳藢?xiě)請(qǐng)求發(fā)送給主副本,主副本將寫(xiě)請(qǐng)求復(fù)制到其他備副本,常見(jiàn)的做法是同步操作日志(CommitLog)。主副本首先將操作日志同步到備副本,備副本回放操作日志,完成后通知主副本。接著,主副本修改本機(jī),等到所有的操作都完成后再通知客戶端寫(xiě)成功。下圖中的復(fù)制協(xié)議要求主備同步成功才可以返回客戶端寫(xiě)成功,這種協(xié)議稱(chēng)為強(qiáng)同步協(xié)議。 布式存儲(chǔ)系統(tǒng),采用Scale-out擴(kuò)展架構(gòu),可實(shí)現(xiàn)超大集群規(guī)模的部署。紹興數(shù)據(jù)分布式存儲(chǔ)的一般架構(gòu)
分布式存儲(chǔ)能夠?qū)崿F(xiàn)內(nèi)容感知,配合前端應(yīng)用對(duì)海量數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析和價(jià)值挖掘。泰州大規(guī)模分布式存儲(chǔ)設(shè)備
得益于合理的分布式架構(gòu),分布式存儲(chǔ)可預(yù)估并且彈性擴(kuò)展計(jì)算、存儲(chǔ)容量和性能。分布式存儲(chǔ)的水平擴(kuò)展有以下幾個(gè)特性:1)節(jié)點(diǎn)擴(kuò)展后,舊數(shù)據(jù)會(huì)自動(dòng)遷移到新節(jié)點(diǎn),實(shí)現(xiàn)負(fù)載均衡,避點(diǎn)過(guò)熱的情況出現(xiàn);2)水平擴(kuò)展只需要將新節(jié)點(diǎn)和原有集群連接到同一網(wǎng)絡(luò),整個(gè)過(guò)程不會(huì)對(duì)業(yè)務(wù)造成影響;3)當(dāng)節(jié)點(diǎn)被添加到集群,集群系統(tǒng)的整體容量和性能也隨之線性擴(kuò)展,此后新節(jié)點(diǎn)的資源就會(huì)被管理平臺(tái)接管,被用于分配或者回收。隨著分布式存儲(chǔ)的發(fā)展,存儲(chǔ)行業(yè)的標(biāo)準(zhǔn)化進(jìn)程也不斷推進(jìn),分布式存儲(chǔ)優(yōu)先采用行業(yè)標(biāo)準(zhǔn)接口進(jìn)行存儲(chǔ)接入。在平臺(tái)層面,通過(guò)將異構(gòu)存儲(chǔ)資源進(jìn)行抽象化,將傳統(tǒng)的存儲(chǔ)設(shè)備級(jí)的操作封裝成面向存儲(chǔ)資源的操作,從而簡(jiǎn)化異構(gòu)存儲(chǔ)基礎(chǔ)架構(gòu)的操作,以實(shí)現(xiàn)存儲(chǔ)資源的集中管理,并能夠自動(dòng)執(zhí)行創(chuàng)建、變更、回收等整個(gè)存儲(chǔ)生命周期流程,從而降低了存儲(chǔ)采購(gòu)和管理成本。 泰州大規(guī)模分布式存儲(chǔ)設(shè)備
江蘇魏晉元興智能科技有限公司擁有智能技術(shù)、計(jì)算機(jī)技術(shù)研發(fā)、技術(shù)咨詢(xún),技術(shù)轉(zhuǎn)讓:軟件開(kāi) 發(fā)、銷(xiāo)售;信息系統(tǒng)集成服務(wù):機(jī)電產(chǎn)品、計(jì)算機(jī)及配件、 電線電纜、儀器儀表、電子元器件、機(jī)械設(shè)備、機(jī)電設(shè)備 節(jié)能設(shè)備、辦公用品、攝影器材、文化用品、通訊設(shè)備、體 育器材、消防器材銷(xiāo)售;綜合布線工程、水電工程、園林綠 化工程、室內(nèi)裝飾工程、土石方工程設(shè)計(jì)、施工,提供勞務(wù) 服務(wù);企業(yè)形象策劃:企業(yè)管理咨詢(xún):家用電器銷(xiāo)售、維 修;文化藝術(shù)交流活動(dòng)組織、 策劃。( 依法須經(jīng)批準(zhǔn)的項(xiàng) 目,經(jīng)相關(guān)部門(mén)批準(zhǔn)后方可開(kāi)展經(jīng)營(yíng)活動(dòng))等多項(xiàng)業(yè)務(wù),主營(yíng)業(yè)務(wù)涵蓋網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門(mén)禁失控制。公司目前擁有較多的高技術(shù)人才,以不斷增強(qiáng)企業(yè)重點(diǎn)競(jìng)爭(zhēng)力,加快企業(yè)技術(shù)創(chuàng)新,實(shí)現(xiàn)穩(wěn)健生產(chǎn)經(jīng)營(yíng)。江蘇魏晉元興智能科技有限公司主營(yíng)業(yè)務(wù)涵蓋網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門(mén)禁失控制,堅(jiān)持“質(zhì)量保證、良好服務(wù)、顧客滿意”的質(zhì)量方針,贏得廣大客戶的支持和信賴(lài)。公司力求給客戶提供全數(shù)良好服務(wù),我們相信誠(chéng)實(shí)正直、開(kāi)拓進(jìn)取地為公司發(fā)展做正確的事情,將為公司和個(gè)人帶來(lái)共同的利益和進(jìn)步。經(jīng)過(guò)幾年的發(fā)展,已成為網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門(mén)禁失控制行業(yè)出名企業(yè)。