開發一個分布式文件系統需要多方努力，但是如果能準確地解決問題，它就是無價的。Ceph 的目標簡單地定義為：可輕松擴展到數 PB 容量，對多種工作負載的高性能（每秒輸入/輸出操作[IOPS]和帶寬）。
不幸的是，這些目標之間會互相競爭（例如，可擴展性會降低或者抑制性能或者影響可靠性）。Ceph 開發了一些非常有趣的概念（例如，動態元數據分區，數據分布和復制），這些概念在本文中只進行簡短地探討。Ceph 的設計還包括保護單一點故障的容錯功能，它假設大規模（PB 級存儲）存儲故障是常見現象而不是例外情況。最后，它的設計并沒有假設某種特殊工作負載，但是包括適應變化的工作負載，提供最佳性能的能力。它利用 POSIX 的兼容性完成所有這些任務，允許它對當前依賴 POSIX 語義（通過以 Ceph 為目標的改進）的應用進行透明的部署。最后，Ceph 是開源分布式存儲，也是主線 Linux 內核（2.6.34）的一部分。
現在，讓我們探討一下 Ceph 的架構以及高端的核心要素。然后我會拓展到另一層次，說明 Ceph 中一些關鍵的方面，提供更詳細的探討。
Ceph 生態系統可以大致劃分為四部分（見圖 1）：客戶端（數據用戶），元數據服務器（緩存和同步分布式元數據），一個對象存儲集群（將數據和元數據作為對象存儲，執行其他關鍵職能），以及最后的集群監視器（執行監視功能）。
如圖所示，客戶使用元數據服務器，執行元數據操作（來確定數據位置）。元數據服務器管理數據位置，以及在何處存儲新數據。值得注意的是，元數據存儲在一個存儲集群（標為 “元數據 I/O”）。實際的文件 I/O 發生在客戶和對象存儲集群之間。這樣一來，更高層次的 POSIX 功能（例如，打開、關閉、重命名）就由元數據服務器管理，不過 POSIX 功能（例如讀和寫）則直接由對象存儲集群管理。
另一個架構視圖由圖 2 提供。一系列服務器通過一個客戶界面訪問 Ceph 生態系統，這就明白了元數據服務器和對象級存儲器之間的關系。分布式存儲系統可以在一些層中查看，包括一個存儲設備的格式（Extent and B-tree-based Object File System [EBOFS] 或者一個備選），還有一個設計用于管理數據復制，故障檢測，恢復，以及隨后的數據遷移的覆蓋管理層，叫做 Reliable Autonomic Distributed Object Storage（RADOS）。最后，監視器用于識別組件故障，包括隨后的通知。
示例系統資源
**CEPH-STORAGE**
OS: CentOS Linux 7 (Core)
RAM:1 GB
CPU:1 CPU
DISK: 20
Network: 45.79.136.163
FQDN: ceph-storage.linoxide.com
**CEPH-NODE**
OS: CentOS Linux 7 (Core)
RAM:1 GB
CPU:1 CPU
DISK: 20
Network: 45.79.171.138
FQDN: ceph-node.linoxide.com
安裝前的配置
在安裝 Ceph 存儲之前，我們要在每個節點上完成一些步驟。第一件事情就是確保每個節點的網絡已經配置好并且能相互訪問。
配置 Hosts
要在每個節點上配置 hosts 條目，要像下面這樣打開默認的 hosts 配置文件（LCTT 譯注：或者做相應的 DNS 解析）。
# vi /etc/hosts
45.79.136.163 ceph-storage ceph-storage.linoxide.com
45.79.171.138 ceph-node ceph-node.linoxide.com
安裝 VMware 工具
工作環境是 VMWare 虛擬環境時，推薦你安裝它的 open VM 工具。你可以使用下面的命令安裝。
# yum install -y open-vm-tools
配置防火墻
如果你正在使用啟用了防火墻的限制性環境，確保在你的 Ceph 存儲管理節點和客戶端節點中開放了以下的端口。
你必須在你的 Admin Calamari 節點開放 80、2003、以及4505-4506 端口，并且允許通過 80 號端口訪問到 Ceph 或 Calamari 管理節點，以便你網絡中的客戶端能訪問 Calamari web 用戶界面。
你可以使用下面的命令在 CentOS 7 中啟動并啟用防火墻。
# systemctl start firewalld
# systemctl enable firewalld
運行以下命令使 Admin Calamari 節點開放上面提到的端口。
# firewall-cmd --zone=public --add-port=80/tcp --permanent
# firewall-cmd --zone=public --add-port=2003/tcp --permanent
# firewall-cmd --zone=public --add-port=4505-4506/tcp --permanent
# firewall-cmd --reload
在 Ceph Monitor 節點，你要在防火墻中允許通過以下端口。
# firewall-cmd --zone=public --add-port=6789/tcp --permanent
然后允許以下默認端口列表，以便能和客戶端以及監控節點交互，并發送數據到其它 OSD。
# firewall-cmd --zone=public --add-port=6800-7300/tcp --permanent
如果你工作在非生產環境，建議你停用防火墻以及 SELinux 設置，在我們的測試環境中我們會停用防火墻以及 SELinux。
# systemctl stop firewalld
# systemctl disable firewalld
系統升級
現在升級你的系統并重啟使所需更改生效。
# yum update
# shutdown -r 0
設置 Ceph 用戶
現在我們會新建一個單獨的 sudo 用戶用于在每個節點安裝 ceph-deploy工具，并允許該用戶無密碼訪問每個節點，因為它需要在 Ceph 節點上安裝軟件和配置文件而不會有輸入密碼提示。
運行下面的命令在 ceph-storage 主機上新建有獨立 home 目錄的新用戶。
[root@ceph-storage ~]# useradd -d /home/ceph -m ceph
[root@ceph-storage ~]# passwd ceph
節點中新建的每個用戶都要有 sudo 權限，你可以使用下面展示的命令賦予 sudo 權限。
[root@ceph-storage ~]# echo "ceph ALL = (root) NOPASSWD:ALL" | sudo tee /etc/sudoers.d/ceph
ceph ALL = (root) NOPASSWD:ALL
[root@ceph-storage ~]# sudo chmod 0440 /etc/sudoers.d/ceph
設置 SSH 密鑰
現在我們會在 Ceph 管理節點生成 ssh 密鑰并把密鑰復制到每個 Ceph 集群節點。
在 ceph-node 運行下面的命令復制它的 ssh 密鑰到 ceph-storage。
[root@ceph-node ~]# ssh-keygen
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa):
Created directory '/root/.ssh'.
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
5b:*:*:*:*:*:*:*:*:*:c9 root@ceph-node
The key's randomart image is:
+--[ RSA 2048]----+
[root@ceph-node ~]# ssh-copy-id ceph@ceph-storage
配置 PID 數目
要配置 PID 數目的值，我們會使用下面的命令檢查默認的內核值。默認情況下，是一個小的最大線程數 32768。
如下圖所示通過編輯系統配置文件配置該值為一個更大的數。
配置管理節點服務器
配置并驗證了所有網絡后，我們現在使用 ceph 用戶安裝 ceph-deploy。通過打開文件檢查 hosts 條目（LCTT 譯注：你也可以用 DNS 解析來完成）。
# vim /etc/hosts
ceph-storage 45.79.136.163
ceph-node 45.79.171.138
運行下面的命令添加它的庫。
# rpm -Uhv http://ceph.com/rpm-giant/el7/noarch/ceph-release-1-0.el7.noarch.rpm
或者創建一個新文件并更新 Ceph 庫參數，別忘了替換你當前的 Release 和版本號。
[root@ceph-storage ~]# vi /etc/yum.repos.d/ceph.repo
[ceph-noarch]
name=Ceph noarch packages
baseurl=http://ceph.com/rpm-{ceph-release}/{distro}/noarch
enabled=1
gpgcheck=1
type=rpm-md
gpgkey=https://ceph.com/git/?p=ceph.git;a=blob_plain;f=keys/release.asc
之后更新你的系統并安裝 ceph-deploy 軟件包。
安裝 ceph-deploy 軟件包
我們運行下面的命令以及 ceph-deploy 安裝命令來更新系統以及最新的 ceph 庫和其它軟件包。
#yum update -y yum install ceph-deploy -y
配置集群
使用下面的命令在 ceph 管理節點上新建一個目錄并進入新目錄，用于收集所有輸出文件和日志。
# mkdir ~/ceph-cluster
# cd ~/ceph-cluster
# ceph-deploy new storage
如果成功執行了上面的命令，你會看到它新建了配置文件。
現在配置 Ceph 默認的配置文件，用任意編輯器打開它并在會影響你公共網絡的 global 參數下面添加以下兩行。
# vim ceph.conf
osd pool default size = 1
public network = 45.79.0.0/16
安裝 Ceph
現在我們準備在和 Ceph 集群關聯的每個節點上安裝 Ceph。我們使用下面的命令在 ceph-storage 和 ceph-node 上安裝 Ceph。
# ceph-deploy install ceph-node ceph-storage
處理所有所需倉庫和安裝所需軟件包會需要一些時間。
當兩個節點上的 ceph 安裝過程都完成后，我們下一步會通過在相同節點上運行以下命令創建監視器并收集密鑰。
# ceph-deploy mon create-initial
設置 OSD 和 OSD 守護進程
現在我們會設置磁盤存儲，首先運行下面的命令列出你所有可用的磁盤。
# ceph-deploy disk list ceph-storage
結果中會列出你存儲節點中使用的磁盤，你會用它們來創建 OSD。讓我們運行以下命令，請使用你的磁盤名稱。
# ceph-deploy disk zap storage:sda
# ceph-deploy disk zap storage:sdb
為了最后完成 OSD 配置，運行下面的命令配置日志磁盤以及數據磁盤。
# ceph-deploy osd prepare storage:sdb:/dev/sda
# ceph-deploy osd activate storage:/dev/sdb1:/dev/sda1
你需要在所有節點上運行相同的命令，它會清除你磁盤上的所有東西。之后為了集群能運轉起來，我們需要使用以下命令從 ceph 管理節點復制不同的密鑰和配置文件到所有相關節點。
# ceph-deploy admin ceph-node ceph-storage
測試 Ceph
我們快完成了 Ceph 集群設置，讓我們在 ceph 管理節點上運行下面的命令檢查正在運行的 ceph 狀態。
# ceph status
# ceph health
HEALTH_OK
如果你在 ceph status 中沒有看到任何錯誤信息，就意味著你成功地在 CentOS 7 上安裝了 ceph 存儲集群。
