社区编辑申请
注册/登录
手动部署Ceph octopus集群
运维 系统运维
本篇给大家介绍手动部署Ceph octopus集群,希望对你有所帮助。

 基础配置

三台环境为centos7.9,以下配置需要在每台机器上执行

配置hosts解析

  1. cat >> /etc/hosts <<EOF 
  2. 192.168.2.16 node1 
  3. 192.168.2.19 node2 
  4. 192.168.2.18 node3 
  5. EOF 

关闭防火墙和selinux

  1. systemctl stop firewalld && systemctl disable firewalld 
  2. setenforce 0 && sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/config 

分别在三个节点设置主机名

  1. hostnamectl set-hostname node1 
  2. hostnamectl set-hostname node2 
  3. hostnamectl set-hostname node3 

配置主机时间同步

  1. systemctl restart chronyd.service && systemctl enable chronyd.service 

使用yum安装

安装yum-plugin-priorities

  1. yum install yum-plugin-priorities 

安装依赖包

  1. yum install snappy leveldb gdisk python-argparse gperftools-libs epel-release 

添加ceph仓库

建议使用阿里的源,国外的太慢了

  1. vim /etc/yum.repos.d/ceph.repo 
  2. [ceph] 
  3. name=ceph 
  4. baseurl=http://mirrors.aliyun.com/ceph/rpm-15.2.8/el7/x86_64/ 
  5. gpgcheck=0 
  6. [ceph-noarch] 
  7. name=cephnoarch 
  8. baseurl=http://mirrors.aliyun.com/ceph/rpm-15.2.8/el7/noarch/ 
  9. gpgcheck=0 

安装ceph

  1. yum install ceph -y 

部署monitor节点

所有 Ceph 群集至少需要一个monitor,并且至少需要与存储在群集上的对象副本一样多的 OSD。引导初始mon是部署 Ceph 存储群集的第一步,这里我直接在node1、node2、node3创建三个mon。

在node1添加monitor

为集群生成唯一的fsid,fsid是群集的唯一标识符,代表 Ceph 存储群集主要用于 Ceph 文件系统的文件系统 ID

  1. uuidgen 

创建ceph配置文件,将生成的fsid添加到配置文件中

  1. vim /etc/ceph/ceph.repo 
  2. [global
  3. fsid=9c079a1f-6fc2-4c59-bd4d-e8bc232d33a4 

为群集创建keyring并生成monitor keyring。monitor通过密钥相互通信。必须生成具有monitor密钥的keyring,并在引导初始monitor时提供keyring。

  1. ceph-authtool --create-keyring /tmp/ceph.mon.keyring --gen-key -n mon. --cap mon 'allow *' 

生成管理员keyring,生成用户并将用户添加到client.admin keyring中。要使用 CLI 工具,必须有一个用户,并且还必须将用户添加到monitor keyring。

  1. ceph-authtool --create-keyring /etc/ceph/ceph.client.admin.keyring --gen-key -n client.admin --cap mon 'allow *' --cap osd 'allow *' --cap mds 'allow *' --cap mgr 'allow *' 

生成引导 osd 密钥,生成用户并将用户添加到client.bootstrap-osd keyring中。

  1. ceph-authtool --create-keyring /var/lib/ceph/bootstrap-osd/ceph.keyring --gen-key -n client.bootstrap-osd --cap mon 'profile bootstrap-osd' --cap mgr 'allow r' 

将生成的键添加到 ceph.mon.keyring

  1. ceph-authtool /tmp/ceph.mon.keyring --import-keyring /etc/ceph/ceph.client.admin.keyring 
  2. ceph-authtool /tmp/ceph.mon.keyring --import-keyring /var/lib/ceph/bootstrap-osd/ceph.keyring 

更改 ceph.mon.keyring的所有者。

  1. chown ceph:ceph /tmp/ceph.mon.keyring 

使用主机名、主机 IP 地址和 FSID 生成monitor映射。将其保存为 :/tmp/monmap

  1. monmaptool --create --add node1 192.168.2.16 --add node2 192.168.2.19 --add node3 192.168.2.18 --fsid 9c079a1f-6fc2-4c59-bd4d-e8bc232d33a4 /tmp/monmap 

查看生成的monitor映射文件

  1. monmaptool --print /tmp/monmap 

 

在monitor主机上创建默认数据目录,目录名是{cluster-name}-{hostname}格式

  1. mkdir /var/lib/ceph/mon/ceph-node1 
  2. chmod 777 -R /var/lib/ceph/mon/ceph-node3 

在node1节点对monitor进行初始化

  1. ceph-mon --mkfs -i node1 --monmap /tmp/monmap --keyring /tmp/ceph.mon.keyring 

可以查看数据目录生成的文件

编辑ceph配置文件

  1. [global
  2. fsid = 9c079a1f-6fc2-4c59-bd4d-e8bc232d33a4 
  3. mon initial members = node1,node2,node3 
  4. mon host = 192.168.2.16,192.168.2.19,192.168.2.18 
  5. mon clock drift allowed = .5 
  6. auth cluster required = cephx 
  7. auth service required = cephx 
  8. auth client required = cephx 
  9. osd pool default size = 3  //创建pool的时候默认pool是3副本 
  10. osd pool default min size = 2   //pool最少可写的副本数为2 
  11. osd pool default pg num = 8 
  12. osd pool default pgp num = 8 
  13. osd crush chooseleaf type = 0  

将配置文件拷贝到其他节点

  1. scp /etc/ceph/ceph.conf node2:/etc/ceph/ceph.conf 
  2. scp /etc/ceph/ceph.conf node3:/etc/ceph/ceph.conf 

将mon keyring,mon map及admin keyring拷贝到其他节点

  1. scp /tmp/ceph.mon.keyring node2:/tmp/ceph.mon.keyring 
  2. scp /etc/ceph/ceph.client.admin.keyring node2:/etc/ceph/ceph.client.admin.keyring 
  3. scp /tmp/monmap node2:/tmp/monmap 
  4. scp /tmp/ceph.mon.keyring node3:/tmp/ceph.mon.keyring 
  5. scp /etc/ceph/ceph.client.admin.keyring node3:/etc/ceph/ceph.client.admin.keyring 
  6. scp /tmp/monmap node3:/tmp/monmap 

在node2、node3上添加monitor

分别在这两个节点创建数据目录

  1. mkdir /var/lib/ceph/mon/ceph-node2 
  2. chmod 777 -R /var/lib/ceph/mon/ceph-node2 
  3. mkdir /var/lib/ceph/mon/ceph-node3 
  4. chmod 777 -R /var/lib/ceph/mon/ceph-node3 

分别在这两个节点对monitor进行初始化

  1. ceph-mon --mkfs -i node2 --monmap /tmp/monmap --keyring /tmp/ceph.mon.keyring 
  2. ceph-mon --mkfs -i node3 --monmap /tmp/monmap --keyring /tmp/ceph.mon.keyring 

分别在三个节点启动ceph-mon服务

  1. systemctl start ceph-mon@node1 && systemctl enable ceph-mon@node1 
  2. systemctl start ceph-mon@node2 && systemctl enable ceph-mon@node2 
  3. systemctl start ceph-mon@node3 && systemctl enable ceph-mon@node3 

image.png

  • 可以看到提示3 monitors have not enabled msgr2"

执行以下命令恢复正常

  1. ceph mon enable-msgr2 

 

image.png

创建MGR

在运行ceph-mon守护程序的每个节点上,还应该设置一个ceph-mgr守护程序。

创建密钥目录

所有mgr节点都要执行

  1. sudo -u ceph mkdir /var/lib/ceph/mgr/ceph-`hostname -s` 
  2. cd /var/lib/ceph/mgr/ceph-`hostname -s` 

创建身份验证密钥

  1. ceph auth get-or-create mgr.`hostname -s` mon 'allow profile mgr' osd 'allow *' mds 'allow *' > keyring 

启动mgr守护进程

  1. systemctl enable ceph-mgr@`hostname -s` && systemctl start ceph-mgr@`hostname -s` 

看样子状态有点异常,在所有节点执行下面的命令之后重启机器即可解决

  • Module 'restful' has failed dependency: No module named 'pecan'
  1. pip3 install pecan werkzeug 

 

image.png

部署osd

Ceph提供了该ceph-volume实用程序,该实用程序可以准备逻辑卷,磁盘或分区以供Ceph使用。该ceph-volume实用程序通过增加索引来创建OSD ID。

创建osd

在node1执行

  1. ceph-volume lvm create --data /dev/sdb 

上面的创建过程可以分为两个阶段(准备和激活):

  1. ceph-volume lvm prepare --data /dev/sdb 
  2. 查看osd fsid 
  3. ceph-volume lvm list 
  4. ceph-volume lvm activate {ID} {FSID} 

当创建完osd之后,我们发现osd服务已经起来了

当我们在node2、node3节点执行此命令的时候报错了,发现缺少密钥文件

拷贝密钥文件

  1. scp /var/lib/ceph/bootstrap-osd/ceph.keyring node2:/var/lib/ceph/bootstrap-osd/ceph.keyring 
  2. scp /var/lib/ceph/bootstrap-osd/ceph.keyring node3:/var/lib/ceph/bootstrap-osd/ceph.keyring 

修改密钥属主属组

  1. chown ceph.ceph /var/lib/ceph/bootstrap-osd/ceph.keyring 

分别在node2、node3创建osd

  1. ceph-volume lvm create --data /dev/sdb 

也可以分步执行

  1. ceph-volume lvm prepare --data /dev/sdb 
  2. ##获取osd id 和osd fsid 
  3. ceph-volume lvm list 
  4. ##激活osd 
  5. ceph-volume lvm activate {ID} {FSID} 

最后状态是这样的

 

添加MDS

创建mds数据目录

  1. mkdir -p /var/lib/ceph/mds/ceph-`hostname -s` 
  2. chown -R ceph.ceph /var/lib/ceph/mds/ceph-`hostname -s` 

创建keyring

  1. ceph-authtool --create-keyring /var/lib/ceph/mds/ceph-`hostname -s`/keyring --gen-key -n mds.`hostname -s` 

导入keyring并设置权限

  1. ceph auth add mds.`hostname -s` osd "allow rwx" mds "allow" mon "allow profile mds" -i /var/lib/ceph/mds/ceph-`hostname -s`/keyring 
  2. chown ceph:ceph /var/lib/ceph/mds/ceph-`hostname -s`/keyring 

修改ceph.conf配置文件

  1. cat >> /etc/ceph/ceph.conf <<EOF 
  2. [mds.node1] 
  3. host = node1 
  4.  
  5. [mds.node2] 
  6. host = node2 
  7.  
  8. [mds.node3] 
  9. host = node3 
  10. EOF 

 启动mds服务

  1. systemctl enable ceph-mds@`hostname -s` && systemctl start ceph-mds@`hostname -s` 

现在状态应该是这样的


对象存储RGW安装

RGW是Ceph对象存储网关服务RADOS Gateway的简称,是一套基于LIBRADOS接口封装而实现的FastCGI服务,对外提供RESTful风格的对象存储数据访问和管理接口。RGW基于HTTP协议标准,因此非常适用于Web类的互联网应用场景,用户通过使用SDK或者其他客户端工具,能够很方便地接入RGW进行图片、视频以及各类文件的上传或下载,并设置相应的访问权限,共享给其他用户。

安装radosgw

  1. yum install ceph-radosgw -y 

创建rgw相关的资源池

资源池列表及部分资源池功能介绍如下。

  • .rgw:region和zone配置信息。
  • .rgw.root:region和zone配置信息。
  • .rgw.control:存放notify信息。
  • .rgw.gc:用于资源回收。
  • .rgw.buckets:存放数据。
  • .rgw.buckets.index:存放元数据信息。
  • .rgw.buckets.extra:存放元数据扩展信息。
  • .log:日志存放。
  • .intent-log:日志存放。
  • .usage:存放用户已用容量信息。
  • .users:存放用户信息。
  • .users.email:存放用户E-mail信息。
  • .users.swift:存放swift类型的账号信息。
  • .users.uid:存放用户信息。
  1. ceph osd pool create .rgw 8 8 
  2. ceph osd pool create .rgw.root 8 8 
  3. ceph osd pool create .rgw.control 8 8 
  4. ceph osd pool create .rgw.gc 8 8 
  5. ceph osd pool create .rgw.buckets 8 8 
  6. ceph osd pool create .rgw.buckets.index 8 8 
  7. ceph osd pool create .rgw.buckets.extra 8 8 
  8. ceph osd pool create .log 8 8 
  9. ceph osd pool create .intent-log 8 8 
  10. ceph osd pool create .usage 8 8 
  11. ceph osd pool create .users 8 8 
  12. ceph osd pool create .users.email 8 8 
  13. ceph osd pool create .users.swift 8 8 
  14. ceph osd pool create .users.uid 8 8 

创建过程会遇到这个报错,原因是每个osd默认最多只支持250个pg,这里有两种解决办法,一种是删除之前创建的pool,并新建pool时把pg设置小一点,另一种则是修改osd默认最大pg数,这里我用了第二种,修改完配置文件后,重启mon

  • Error ERANGE: pg_num 8 size 3 would mean 771 total pgs, which exceeds max 750 (mon_max_pg_per_osd 250 * num_in_osds 3)

编辑配置文件

  1. vim /etc/ceph/ceph.conf 
  2. [global
  3. mon_max_pg_per_osd = 1000 
  4.  
  5. #重启mon 
  6. systemctl restart ceph-mon@`hostname -s` 

可以使用rados lspools查看是否创建成功


新建RADOSGW用户和keyring

创建keyring

  1. ceph-authtool --create-keyring /etc/ceph/ceph.client.radosgw.keyring 
  2. chown ceph:ceph /etc/ceph/ceph.client.radosgw.keyring 

生成ceph-radosgw服务对应的用户和key

  1. ceph-authtool /etc/ceph/ceph.client.radosgw.keyring -n client.rgw.node1 --gen-key 
  2. ceph-authtool /etc/ceph/ceph.client.radosgw.keyring -n client.rgw.node2 --gen-key 
  3. ceph-authtool /etc/ceph/ceph.client.radosgw.keyring -n client.rgw.node3 --gen-key 

添加用户访问权限

  1. ceph-authtool -n client.rgw.node1 --cap osd 'allow rwx' --cap mon 'allow rwx' /etc/ceph/ceph.client.radosgw.keyring 
  2. ceph-authtool -n client.rgw.node2 --cap osd 'allow rwx' --cap mon 'allow rwx' /etc/ceph/ceph.client.radosgw.keyring 
  3. ceph-authtool -n client.rgw.node3 --cap osd 'allow rwx' --cap mon 'allow rwx' /etc/ceph/ceph.client.radosgw.keyring 

将keyring导入集群中

  1. ceph -k /etc/ceph/ceph.client.admin.keyring auth add client.rgw.node1 -i /etc/ceph/ceph.client.radosgw.keyring 
  2. ceph -k /etc/ceph/ceph.client.admin.keyring auth add client.rgw.node2 -i /etc/ceph/ceph.client.radosgw.keyring 
  3. ceph -k /etc/ceph/ceph.client.admin.keyring auth add client.rgw.node3 -i /etc/ceph/ceph.client.radosgw.keyring 

编辑配置文件

  1. cat >> /etc/ceph/ceph.conf << EOF 
  2. [client.rgw.node1] 
  3. host=node1 
  4. keyring=/etc/ceph/ceph.client.radosgw.keyring 
  5. log file=/var/log/radosgw/client.radosgw.gateway.log 
  6. rgw_frontends = civetweb port=8080 
  7. [client.rgw.node2] 
  8. host=node2 
  9. keyring=/etc/ceph/ceph.client.radosgw.keyring 
  10. log file=/var/log/radosgw/client.radosgw.gateway.log 
  11. rgw_frontends = civetweb port=8080 
  12. [client.rgw.node3] 
  13. host=node3 
  14. keyring=/etc/ceph/ceph.client.radosgw.keyring 
  15. log file=/var/log/radosgw/client.radosgw.gateway.log 
  16. rgw_frontends = civetweb port=8080 
  17. EOF 

创建日志目录

  1. mkdir /var/log/radosgw 
  2. chown ceph:ceph /var/log/radosgw 

拷贝keyring、ceph.confceph.conf到node2、node3

  1. scp /etc/ceph/ceph.client.radosgw.keyring node2:/etc/ceph/ceph.client.radosgw.keyring 
  2. scp /etc/ceph/ceph.client.radosgw.keyring node3:/etc/ceph/ceph.client.radosgw.keyring 
  3. scp /etc/ceph/ceph.conf node2:/etc/ceph/ceph.conf 
  4. scp /etc/ceph/ceph.conf node3:/etc/ceph/ceph.conf 

在node2、node3部署RGW

修改keyring属主

  1. chown ceph:ceph /etc/ceph/ceph.client.radosgw.keyring 

创建日志目录并授权

  1. mkdir /var/log/radosgw 
  2. chown ceph:ceph /var/log/radosgw 

启动rgw服务

  1. systemctl start ceph-radosgw@rgw.`hostname -s` && systemctl enable ceph-radosgw@rgw.`hostname -s` 

查看ceph状态,发现有个小问题

使用ceph health detail查看详情,根据提示enable即可

使用curl访问服务


 

责任编辑:姜华 来源: 运维开发故事
相关推荐

2022-06-15 11:02:40

网络安全运营

2022-06-30 10:22:26

K8s可观测Prometheus

2022-05-09 15:08:56

存储厂商NFV领域华为

2022-06-24 11:14:00

美团开源

2022-06-23 11:42:22

MySQL数据库

2022-06-15 08:21:49

Linux运维工程师

2022-05-23 07:48:10

zabbix监控CentOS7

2022-06-28 12:35:21

DockerPython

2022-06-09 13:45:18

vivoK8S集群Kubernetes

2022-07-04 17:32:12

DevOpsAIOps

2022-06-30 19:00:00

2022-05-31 08:04:03

Redis高可用集群

2022-06-06 15:18:41

开源GiteaDrone

2022-06-20 14:57:50

漏洞安全威胁

2022-05-11 08:23:54

自动化测试软件测试

2022-05-24 06:04:25

多云混合云Kubernetes

2022-06-23 09:22:57

Vue技巧前端

2022-05-26 16:51:07

网络丢包网络故障网络

2022-05-30 11:10:04

数据库MySQL系统

2022-04-18 17:28:14

React前端

同话题下的热门内容

下载的文件打不开甚至中毒?教你几招Hash文件

编辑推荐

六个人如何运维一万台服务器?Linux下如何使用minicom USB串口Linux中7个判断文件系统类型的方法从美团程序员的灾难,看美团外卖自动化运维体系建设如何限制SSH用户访问Linux中指定的目录
我收藏的内容
点赞
收藏

51CTO技术栈公众号