| id | user_id | blog_id |
| 0 | 0 | 0 |
| 1 | 0 | 1 |
壞處:
破壞數(shù)據(jù)完備性。由于ID是主鍵,在數(shù)據(jù)模型上沒有約束來保證不出現(xiàn)重復的user_id,blog_id對。一旦數(shù)據(jù)出現(xiàn)重復,更新刪除都是問題。索引過多。由于是關系表,必須在user_id和blog_id上面分別建一個索引。影響性能。
解決方案:使用文檔數(shù)據(jù)庫典型的處理多對多的辦法。不是建立一張關系表,而是在其中一個文檔(如User)中,加入一個List字段。
| user_id | user_name | blog_id[] | …… |
| 0 | Jake | 0,1 | …… |
| 1 | Rose | 1,2 | …… |
問題二:沒有區(qū)分"一對多關系"和“多對一關系”癥狀:關系模型不區(qū)分“一對多”和“多對一”,對于文檔數(shù)據(jù)庫來講,關系模型只有“多對一”。就像這張Comment表:
| comment_id | user_id | content | …… |
| 0 | 0 | “NoSQL反模式是好文章” | …… |
| 1 | 0 | “是啊” | …… |
如果整個模型都是這樣的“多對一”關系就需要反思了。
壞處:
額外索引。如果客戶端已知user_id,需要獲得User信息和Comment信息,需要執(zhí)行兩次查詢。其中一次查詢需要使用索引。并且要在客戶端自己Join。這樣可能有潛在性能問題。
解決方案:問題的核心在于是已知user_id查詢兩張表,還是已知comment_id查詢兩張表。如果是已知comment_id這樣的設計就是合理的,但是如果是已知user_id來查詢,把關系放在user表里的設計更合理一些。
| user_id | user_name | comment_id[] | …… |
| 0 | Jake | 0,1 | …… |
| 1 | Rose | 1,2 | …… |
這樣的設計,就可以避免一個索引。同理,對于多對多也是一樣的,通過合理的安排字段的位置可以避免索引。
正確使用的場合:
關系型模型是非常成功的數(shù)據(jù)模型,合理的沿用是非常好的。但是由于文檔數(shù)據(jù)庫的特點,需要適當?shù)恼{(diào)整,這樣得出的數(shù)據(jù)模型,盡管性能不是最優(yōu),但是有最好的靈活性。并且也有利于和關系數(shù)據(jù)庫轉(zhuǎn)換。
反模式二:處處引用客戶端Join
癥狀:數(shù)據(jù)庫設計中充滿了xx_id的字端,在查詢的時候需要大量的手動Join操作。就涉及到了這個反模式。正如上面提到的博客的關系模型,如果已知blog_id查詢comments,需要至少執(zhí)行3次查詢,并且手動Join。
壞處:
手動Join,麻煩且易出錯。文檔數(shù)據(jù)庫不支持Join且沒有外鍵保證。因此需要在客戶端Join,這樣的操作對于軟件開發(fā)來講是比較繁瑣的。由于沒有外鍵保證,因此不能保證取得的ID在數(shù)據(jù)庫里面是有數(shù)據(jù)的。在處理的時候需要不斷判斷,容易出錯。多次查詢。如果引用過多,查詢的時候需要多次查詢才能查到足夠的數(shù)據(jù)。本來文檔數(shù)據(jù)庫是很快的,但是由于多次查詢,給數(shù)據(jù)庫增加了壓力,獲取全部數(shù)據(jù)的時間也會增加。事務處理繁瑣。文檔數(shù)據(jù)庫一般不支持一般意義上事務,只支持行鎖。如果文檔數(shù)據(jù)庫有給多個連接。在插入的時候,事務的處理就是噩夢。在文檔數(shù)據(jù)庫中使用事務,需要使用行鎖,在進行大量的處理。太過繁瑣,感興趣的讀者可以搜一下。
解決方案:適當使用內(nèi)聯(lián)數(shù)據(jù)結構。由于文檔數(shù)據(jù)庫支持更復雜的數(shù)據(jù)結構可以將引用轉(zhuǎn)換為內(nèi)聯(lián)的數(shù)據(jù),而不用新建一張表。這樣做可以解決上面的一些問題,是一個推薦的方案。就像上面博客的例子一樣。將五張表簡化成了兩張表。那什么時候使用內(nèi)聯(lián)呢?一般認為
使用內(nèi)聯(lián)可以解決讀性能問題,明顯減少Q(mào)uery的次數(shù)的時候。可以簡化數(shù)據(jù)模型,化簡表之間的關系,而同時不會影響靈活性的時候。事務可以得到簡化為單行事務的時候正確使用的場合:
范式化的使用場景,文檔數(shù)據(jù)庫會被多個應用使用。由于數(shù)據(jù)庫設計無法估計多個應用現(xiàn)在及將來的查詢情況,需要極大的靈活性。在這個時候,使用引用比內(nèi)聯(lián)靠譜。
反模式三 濫用內(nèi)聯(lián)后患無窮
問題一 妨礙到查詢的內(nèi)聯(lián)癥狀:頻繁查詢一些內(nèi)聯(lián)字段,丟棄其他字段。
壞處:
無ID約束:使用內(nèi)聯(lián)字段和引用不同,是沒有ID約束的。因此不能通過ID(主鍵)來管理,如果經(jīng)常需要單獨操作內(nèi)聯(lián)對象會非常不便。索引泛濫:如果以內(nèi)聯(lián)字段為條件進行查詢,需要建立索引。有可能造成索引泛濫。性能浪費:大部分文檔數(shù)據(jù)庫的實現(xiàn)是按行存儲的,也就意味著,盡管只查詢一個字段,但是DB需要將整行從磁盤中取出。如果字段夠小,文檔夠大,是很不合算的。
解決方案:如果出現(xiàn)以上的癥結,就可以考慮使用引用代替內(nèi)聯(lián)了。內(nèi)聯(lián)特性主要的用途在于提高性能,如果出現(xiàn)性能不升反降,那就沒有意義了。如果對性能有很強烈的要求,可以考慮使用重復數(shù)據(jù),同樣的數(shù)據(jù)即在內(nèi)聯(lián)字段中也在引用的表里面。這樣可以結合內(nèi)聯(lián)和引用的性能優(yōu)勢。缺點是數(shù)據(jù)出現(xiàn)重復,維護會比較麻煩。
問題二 無限膨脹的內(nèi)聯(lián)癥狀:List,Map類型的內(nèi)聯(lián)字段不斷膨脹,而且沒有限制。就像前面提到的Blog的內(nèi)聯(lián)字段Comment。如果對每一篇Blog的Comment數(shù)量沒有限制的話,Comment會無限膨脹。輕則影響性能,重則插入失敗。
| Blog_id | content | Comment[] | …… |
| 0 | “…” | “NoSQL反模式是好文章”, “是啊”,”無限增長中”… | …… |
插入失敗。文檔數(shù)據(jù)庫的每條記錄都有最大大小,并且也有推薦最佳的大小。一般不會超過4M。就像剛剛提到的例子,如果是篇熱門的博文的話,評論的大小很容易就超過4M。屆時文檔將無法更新,新的評論無法插入。性能拖油瓶。由于內(nèi)聯(lián)字段膨脹,其大小將遠遠超過其他部分,影響其他部分的性能表現(xiàn)。并且因此導致該記錄大小頻繁變化,對檔數(shù)據(jù)庫的數(shù)據(jù)文件內(nèi)部可能因此產(chǎn)生很多碎片。
解決方案:設定最大數(shù)目或者使用引用。還是Blog和Comment的例子,可以將Comment從Blog中剝離出成一張表。如果考慮到性能,可以在Blog表中新建一個字段如最近的評論。這樣既保證了性能,又能夠預防膨脹。
| Blog_id | content | last_five_comment[] | …… |
| 0 | “…” | “NoSQL反模式是好文章”, “是啊”,”最多5條”… | …… |
壞處:
權限管理難。數(shù)據(jù)庫的權限管理的最小粒度是表。如果使用內(nèi)聯(lián)技術,就意味著內(nèi)聯(lián)部分必須和其他字段用同一個權限來管理。沒有辦法在DB級別隱藏。切表難。如果發(fā)現(xiàn)一張表的龐大需要切表。這個時候就比較糾結了。如果一刀切,partion Key的選擇;索引的失效都會成為問題。如果覺得拆為兩張表,就會很好操作的話,就是內(nèi)聯(lián)的過度使用了 。備份難。關系數(shù)據(jù)庫中每張表可以有不同的備份策略。但是如果內(nèi)聯(lián)起來,這樣的備份就做不到了。解決辦法:設計數(shù)據(jù)庫模型的時候需要考量之后的維護操作,尤其是內(nèi)聯(lián)的字段需不需要單獨的維護。需要和運維商量。如果對內(nèi)聯(lián)的字段有單獨維護的要求,可以拆分出來作為引用。
問題四 盯死應用的內(nèi)聯(lián)癥狀:應用可以非常好的運行在數(shù)據(jù)庫上。但是當新的應用接入的時候會很麻煩。因為設計數(shù)據(jù)模型的時候考慮到了查詢。所以當有新應用,新查詢接入的時候,就會難于使用原有的模型。
壞處:
新應用接入難。當新的應用試圖使用同一個數(shù)據(jù)庫的時候,接入比較困難。因為查詢時不同的,需要調(diào)整數(shù)據(jù)模型才能適應。但是調(diào)整模型又會影響原有應用。集成難。不同的關系型數(shù)據(jù)庫可以集成在一起,共同使用。但是對于文檔數(shù)據(jù)庫,雖然功能上可以互補,但是由于內(nèi)聯(lián)數(shù)據(jù)結構的差異,也比較難于集成。ETL難。現(xiàn)在大部分的數(shù)據(jù)分析系統(tǒng)使用的是關系模型,就連Hadoop雖然不用關系模型,但是其上的Hive的常用工具也是按關系模型設計的。
解決方案:
使用范式設計數(shù)據(jù)庫,即用引用代替內(nèi)聯(lián)。或者在使用內(nèi)聯(lián)的時候,給每個內(nèi)聯(lián)對象一個全局唯一的Key,保證其和關系模型直接可以存在映射關系,這樣可以提高數(shù)據(jù)模型的靈活性。如Blog表:
| Blog_id | content | Comment[] | …… |
| 0 | “…” | [{"id"=1,"content"=“NoSQL反模式是好文章”}, {"id"=2,"content"=“是啊”}…] | …… |
這樣的設計既可以利用到內(nèi)聯(lián)的好處,又能將其和關系模型映射起來。確定是需要手動維護comment_id,保證其全局唯一性。
反模式四:在線計算
癥狀:有一些運行時間很長的Query,由于有聚合計算,索引也不能解決。隨著數(shù)據(jù)量的增長,逐漸成為性能瓶頸。
壞處:
影響用戶體驗。在線業(yè)務中,如果一個查詢大于4s,用戶體驗會急劇下降。按主鍵和按索引的查詢都能滿足要求。但是聚合操作往往需要掃描全表或者大量的數(shù)據(jù),隨著數(shù)據(jù)量的增加,查詢時間會變長,用戶不可容忍。影響數(shù)據(jù)庫性能。長查詢的壞處數(shù)不清。在線上應用中,如果出現(xiàn)長查詢,可能會霸占數(shù)據(jù)的大部分資源,包括IO,連接,CPU等等。導致其他很好的查詢,輕則性能也下降,重者無法使用數(shù)據(jù)庫。長查詢可以稱之為DB殺手。
解決方案:首先要權衡,這個聚合操作是不是必要的,必須實時完成。如果沒有必要實時完成的話,可以采取離線操作的方案。在夜深人靜的時候,跑一個長查詢,將結果緩存起來,給第二天使用。如果必須實時完成,則可以新建一個字段,用“incr”這樣的操作,在運行的時候,實時聚合結果。而不是查詢的時候執(zhí)行一次長查詢。如果邏輯比較復雜,或者覺得大量“incr”操作給數(shù)據(jù)庫系統(tǒng)帶來了壓力,可以使用Storm之類的實時數(shù)據(jù)處理框架。總之,要慎用長查詢。
反模式五:把內(nèi)聯(lián)Map對象的Key當作ID用
癥狀:文檔數(shù)據(jù)庫支持內(nèi)聯(lián)Map類型。將其中Map的Key當作數(shù)據(jù)庫的主鍵來用。
| Blog_id | content | Comment{} | …… |
| 0 | “…” | {"1"=“NoSQL反模式是好文章”, "2"=“是啊”} | …… |
壞處:
無法通過數(shù)據(jù)庫做各種(>=)查詢。對于關系型數(shù)據(jù)庫來說,雖然數(shù)據(jù)結構可以很靈活,但查詢的時候都是按層次的。比如comment.id,comment.content。也就是說其Map類型中的Key可以理解為屬性名的,而不是用作ID。因此一旦這樣使用,就脫離的數(shù)據(jù)庫管制,無法使用各種查詢功能。無法通過索引查詢。文檔數(shù)據(jù)可建立索引是需要列名的。比如comment.id。而這樣的數(shù)據(jù)結構沒有固定的列名,因此無法建立索引。
解決方案:使用數(shù)組+Map來解決。如:
| Blog_id | content | Comment[] | …… |
| 0 | “…” | [{"id"=1,"content"=“NoSQL反模式是好文章”}, {"id"=2,"content"=“是啊”}…] | …… |
反模式六:不合理的ID
癥狀:使用String甚至更復雜數(shù)據(jù)結構作為的ID,或者全部使用數(shù)據(jù)庫提供的自生成ID。如:
| id(該ID系系統(tǒng)自生成) | Blog_id | content | …… |
| 0 | 0 | ... | …… |
ID混亂。如果使用數(shù)據(jù)庫提供的自生成ID,同時表中還有一個類似有主鍵含義的Blog_id,這樣很不好,容易造成邏輯混亂。由于文檔數(shù)據(jù)庫不支持ID的重命名,習慣關系數(shù)據(jù)庫做法的人可能會再建立一個自己的邏輯ID字段。這是沒有必要的。索引龐大,性能低下。ID是數(shù)據(jù)庫的非常重要的部分。ID的長度將決定索引(包括主鍵的索引)的大小,直接影響到數(shù)據(jù)庫性能。如果索引比內(nèi)存小,性能會很好。但一旦索引大小超過內(nèi)存,出現(xiàn)數(shù)據(jù)交換,性能會急劇下降。一個Long占8字節(jié),一個20個字符的UTF8 String占用約60個字節(jié)。相差10倍之巨,不能不考慮。
解決方案:盡量使用有一定意義的字段做ID,并且不在其他字段中重復出現(xiàn)。不使用復雜的數(shù)據(jù)類型做ID,只使用int,long或者系統(tǒng)提供的主鍵類型做ID。
文檔數(shù)據(jù)庫的反模式總結
闡述了這么多的反模式,下面有個一覽表,涵蓋了上面所有的反模式。這個一覽表,是按照文檔數(shù)據(jù)庫模型建立的。是個文檔數(shù)據(jù)庫模型的例子。
| ID | 反模式名 | 問題 |
| 0 | 存在描述多對多的關系表 | [{ID:00 癥狀:文檔數(shù)據(jù)庫中存儲在有純粹的關系表 壞處:[破壞數(shù)據(jù)完備性,索引過多] 解決方案:加入一個List字段 },{ ID:01 癥狀:關系模型不區(qū)分“一對多”和“多對一” 壞處:額外索引 解決方案:合理的安排字段的位置 }] |
| 1 | 處處引用客戶端Join | [{ ID:10 癥狀:查詢的時候需要大量的手動Join操作 壞處:[手動Join,多次查詢, 事務處理繁瑣] 解決方案:適當使用內(nèi)聯(lián)數(shù)據(jù)結構。 }] |
| 2 | 濫用內(nèi)聯(lián)后患無窮 | [{ ID:20 癥狀:頻繁查詢一些內(nèi)聯(lián)字段,丟棄其他字段 壞處:[無ID約束,索引泛濫, 性能浪費] 解決方案:使用引用代替內(nèi)聯(lián)了,允許重復數(shù)據(jù) },{ ID:21 癥狀:List,Map類型的內(nèi)聯(lián)字段不斷膨脹,而且沒有限制 壞處:[插入失敗, 性能拖油瓶] 解決方案:設定最大數(shù)目或者使用引用。 },{ ID:22 癥狀:DBA想單獨維護內(nèi)聯(lián)字段,但無法做到 壞處:[權限管理難, 切表難, 備份難] 解決方案:設計數(shù)據(jù)庫模型的時候需要考量之后的維護操作 },{ ID:23 癥狀:應用可以非常好的運行在數(shù)據(jù)庫上。但是當新的應用接入的時候會很麻煩。內(nèi)聯(lián)盯死了應用 壞處:[新應用接入難, 集成難, ETL難] 解決方案:使用范式設計數(shù)據(jù)庫,即用引用代替內(nèi)聯(lián)。保證其和關系模型直接可以存在映射關系 }] |
| 3 | 在線計算 | [{ ID:30 癥狀:有一些運行時間很長的Query, 逐漸成為性能瓶頸。 壞處:[影響用戶體驗,影響數(shù)據(jù)庫性能] 解決方案:取消不必要的聚合操作. 運行的時候,實時聚合結果.使用第三方實時或非實時工具。如Hadoop,Storm. }] |
| 4 | 把內(nèi)聯(lián)Map對象的Key當作ID用 | [{ ID:40 癥狀:文檔數(shù)據(jù)庫支持內(nèi)聯(lián)Map類型。將其中Map的Key當作數(shù)據(jù)庫的主鍵來用。 壞處:[無法通過數(shù)據(jù)庫做各種(>""" =)查詢,無法通過索引查詢] 解決方案:使用數(shù)組+Map來解決。 }] |
| 5 | 不合理的ID | [{ ID:50 癥狀:用String甚至更復雜數(shù)據(jù)結構作為的ID,或者全部使用數(shù)據(jù)庫提供的自生成ID。 壞處:[ID混亂,索引龐大] 解決方案:盡量使用有一定意義的字段做ID。不使用復雜的數(shù)據(jù)類型做ID。 }] |
本文試圖總結了筆者知道的重要的文檔數(shù)據(jù)庫的反模式。現(xiàn)在關于NoSQL數(shù)據(jù)模型設計模式的討論才剛剛起步,將來也許會逐漸自成體系。對于列數(shù)據(jù)庫和Key-Value的反模式,筆者等到有了足夠積累的時候,再和大家分享。
標簽:吉安 丹東 本溪 鶴崗 邯鄲 昭通 大理 景德鎮(zhèn)
巨人網(wǎng)絡通訊聲明:本文標題《NoSQL反模式 - 文檔數(shù)據(jù)庫篇》,本文關鍵詞 NoSQL,反,模式,文檔,數(shù)據(jù)庫,;如發(fā)現(xiàn)本文內(nèi)容存在版權問題,煩請?zhí)峁┫嚓P信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡,涉及言論、版權與本站無關。