将设为首页浏览此站
开启辅助访问 天气与日历 收藏本站联系我们切换到窄版

易陆发现论坛

 找回密码
 开始注册
查看: 104|回复: 1
收起左侧

ceph osd crush 删除默认root

[复制链接]
发表于 2021-5-28 15:00:08 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有帐号?开始注册

x
[root@host09 deploy]# ceph osd crush remove hdd) C% X, b6 R+ W
removed item id -2 name 'hdd' from crush map. r8 j' z8 ~5 k" e

, R* `5 @. t7 u, U. }+ \8 o: P
; K# Z, i4 }4 f一、缓存池原理, G+ n, N6 \4 V0 c
缓存分层特性也是在Ceph的Firefly版中正式发布的,这也是Ceph的Firefly版本中被谈论最多的一个特性。缓存分层是在更快的磁盘(通常是SSD),上创建一个Ceph池。这个缓存池应放置在一个常规的复制池或erasure池的前端,这样所有的客户端I/O操作都首先由缓存池处理。之后,再将数据写回到现有的数据池中。客户端能够在缓存池上享受高性能,而它们的数据显而易见最终是被写入到常规池中的。' F4 p5 k9 l- _1 ]- @' t, J
+ d0 \  X9 Q5 }$ O( q
) z$ L3 d; m$ O2 L: M* R! e
一般来说,缓存层构建在昂贵/速度更快的SSD磁盘上,这样才能为客户提供更好的I/O性能。在缓存池后端通常是存储层,它由复制或者erasure类型的HDD组成。在这种类型的设置中,客户端将I/O请求提交到缓存池,不管它是一个读或写操作,它的请求都能够立即获得响应。速度更快的缓存层为客户端请求提供服务。一段时间后,缓存层将所有数据写回备用的存储层,以便它可以缓存来自客户端的新请求。在缓存层和存储层之间的数据迁移都是自动触发且对客户端是透明的。缓存分层能以两种模式进行配置。- M, N; E- S* \8 F" F

6 _" I( h* A/ v" U! hwriteback模式:当Ceph的缓存分层配置为writeback模式时,Ceph客户端将数据写到缓存层类型的池,也就是速度更快的池,因此能够立即接收写入确认。基于你为缓存层设置的flushing/evicting策略,数据将从缓存层迁移到存储层,并最终由缓存分层代理将其从缓存层中删除。处理来自客户端的读操作时,首先由缓存分层代理将数据从存储层迁移到缓存层,然后再把它提供给客户。直到数据变得不再活跃或成为冷数据,否则它将一直保留在缓存层中。
$ ]2 c% _8 v& a/ {0 v" s
8 l2 h3 j  d, K; p8 n4 N/ C& \3 Mread-only模式:当Ceph的缓存分层配置为read-only模式时,它只适用于处理客户端的读操作。客户端的写操作不涉及缓存分层,所有的客户端写都在存储层上完成。在处理来自客户端的读操作时,缓存分层代理将请求的数据从存储层复制到缓存层。基于你为缓存层配置的策略,不活跃的对象将会从缓存层中删除。这种方法非常适合多个客户端需要读取大量类似数据的场景。% y. c0 d8 b1 F" q% u7 y

$ s+ B4 m8 Y" G  k8 E) p0 `5 h: v& E. H缓存层是在速度更快的物理磁盘(通常是SSD)上实现的,它在使用HDD构建的速度较慢的常规池前部署一个快速的缓存层。在本节中,我们将创建两个独立的池(一个缓存池和一个常规),分别用作缓存层和存储层。4 Q" ?' j: {, B" V. ~

  X  r1 @4 C7 |
; K, l9 ^& ?3 ~/ f4 y  \网上找了一篇一篇牛人写的存储分层在openstack的一个应用,将ssd池做cinder、nova、glance的缓冲。 . F0 E4 l6 ~7 U) b# H- h

' I8 d7 @3 A* W% T. r$ e- R; J# C二、理论与实践相结合. L/ h8 m8 [; L5 S1 J
1、下面开始配置以cache作为sata-pool的前端高速缓冲池。6 ?- N6 T! ], e4 J/ L" I  q0 j

8 ~# z& I, S% X6 Z' G8 A6 d$ o1)新建缓冲池,其中,cache作为sata-pool的前端高速缓冲池。
7 `$ }) W; s: b9 R; {& H3 n' \( b/ d& B3 q9 v
# ceph osd pool create storage 64- R8 ^( m, t! [8 y
pool 'storage' created% o4 e' Z+ ]; b  L. H0 {8 B# c
# ceph osd pool create cache 64
1 Z, I5 c0 n7 O. Npool 'cache' created
5 W( J' Z2 ^- b# g* V& C$ f
/ k& Z# L* G7 _4 Z2)设定缓冲池读写策略为写回模式。
7 O. ?" e8 Q6 P8 B- o* v+ cceph osd tier cache-mode cache writeback" c  r7 L: F4 Y7 l$ L( I# t% z
: B  M" N# b; O/ L+ ^# s
3)把缓存层挂接到后端存储池上" W0 U/ Z9 [+ y5 H& |
# ceph osd tier add storage cache
; I0 I# j2 _3 L3 b- v8 ~0 i; Ypool 'cache' is now (or already was) a tierof 'storage'( [7 [  C  _1 ~5 |+ x( u! c+ a

# z' q$ _. m2 o) ?. e1 G" G: M* G4)将客户端流量指向到缓存存储池% V% r5 \2 W8 G% y8 z. R
# ceph osd tier set-overlay storage cache7 a3 Z% N' y6 w3 u$ A
overlay for 'storage' is now (or alreadywas) 'cache'5 g  |0 R) I# G$ p2 o

3 c; R  @) j& O2、调整Cache tier配置
9 W. e+ w, I0 _3 Q" R+ \+ W8 H1)设置缓存层hit_set_type使用bloom过滤器0 U3 r7 f- C) t% W
# ceph osd pool set cache hit_set_typebloom! ^5 M5 X! j$ B+ H1 O
set pool 27 hit_set_type to bloom
3 N$ B2 L+ |0 U7 @$ Q+ T6 Y/ U- ?5 q" D, ]$ d
命令格式如下:8 [# @- K: m7 P
ceph osd pool set {cachepool} {key} {value}8 }6 h* M* j: f9 J- F
% P/ T8 H) z& M* c1 F' ~2 |/ k
关于Bloom-Filte[color=#444444 !important]算法原理可参见:0 A2 [) M; I" }
https://blog.csdn.net/jiaomeng/article/details/1495500* T0 U9 `" _  Q" k  ]' P8 k

$ d6 \3 g3 g0 }# q( a2)设置hit_set_count、hit_set_period- ^+ M; r/ w5 A! N
# ceph osd pool set cache hit_set_count 1
* p. E; h5 w5 i0 X; k" L6 p2 W" rset pool 27 hit_set_count to 17 L& }8 t5 a$ k2 G, m: v' N. a
# ceph osd pool set cache hit_set_period3600% Z& p, W6 Y# T
set pool 27 hit_set_period to 3600* E/ f1 ]( r( l# w+ r3 B+ Z
# ceph osd pool set cache target_max_bytes1000000000000
- a6 v! {9 F5 ~0 Rset pool 27 target_max_bytes to1000000000000! n. P# Q: {9 i

; S; T/ j8 A& P默认情况下缓冲池基于数据的修改时间来进行确定是否命中缓存,也可以设定热度数hit_set_count和热度周期hit_set_period,以及较大缓冲数据target_max_bytes。
6 C+ |1 C5 X! x1 \6 w8 B- S: ]4 |
+ E  N# ?( B4 i* P5 G0 _# _6 @hit_set_count 和 hit_set_period 选项分别定义了 HitSet 覆盖的时间区间、以及保留多少个这样的 HitSet,保留一段时间以来的访问记录,这样 Ceph 就能判断一客户端在一段时间内访问了某对象一次、还是多次(存活期与热度)。
  p) d6 J7 p( Z/ E1 ~
  g* j& v, c$ l2 L3)设置min_read_recency_for_promote、min_write_recency_for_promote' v; x5 p5 `1 j; d! W
# ceph osd pool set cachemin_read_recency_for_promote 17 O6 i# M4 z6 f# i0 Y8 h
set pool 27 min_read_recency_for_promote to1$ r" e2 w  ^7 K1 R
# ceph osd pool set cachemin_write_recency_for_promote 1. B* ?  k) o% b
set pool 27 min_write_recency_for_promote to 1
0 b/ H/ }- }! L8 @- Y# Z, A% M& b8 |! F: I. c! V
缓存池容量控制# J: d0 Z) T6 j  L# z
先讲解个概念缓存池代理层两大主要操作, T' W) }+ l9 C" s

% V& W2 q) P  d$ P% F) `·刷写(flushing):负责把已经被修改的对象写入到后端慢存储,但是对象依然在缓冲池。/ k0 e/ g+ X. t( Z8 {8 T5 K8 k. n
·驱逐(evicting):负责在缓冲池里销毁那些没有被修改的对象。* o2 x, A5 o6 x
/ O5 D7 [! @$ v8 i" p) B/ }, u
缓冲池代理层进行刷写和驱逐的操作,主要和缓冲池本身的容量有关。在缓冲池里,如果被修改的数据达到一个阈值(容量百分比),缓冲池代理就开始把这些数据刷写到后端慢存储。当缓冲池里被修改的数据达到40%时,则触发刷写动作。7 P# W" r+ w; s. {9 E
: w- V7 I' w+ |" e9 ?& W, V0 A! u
# ceph osd pool set cachecache_target_dirty_ratio 0.4
8 v) i- h5 }2 a4 `9 c7 |4 E8 K& O7 `4 j5 P" t
当被修改的数据达到一个确定的阈值(容量百分比),刷写动作将会以高速运作。例如,当缓冲池里被修改数据达到60%时候,则高速刷写。
* k: M- G% _7 O
; b7 I6 j+ W5 m' Z& k7 v# ^4 C( o# ceph osd pool set cachecache_target_dirty_high_ratio 0.6
  h, X3 _/ v" V' U+ K2 v
2 Q# d+ @2 M* s4 ]缓冲池的代理将会触发驱逐操作,目的是释放缓冲区空间。例如,当缓冲池里的容量使用达到80%时候,则触发驱逐操作。
2 n" k0 C7 j: U) b! d
  ^) q2 H7 T; r# ceph osd pool set cachecache_target_full_ratio 0.8! Q- u( A: M- Y7 [

( j2 e+ k, _$ k) x( l! W除了上面提及基于缓冲池的百分比来判断是否触发刷写和驱逐,还可以指定确定的数据对象数量或者确定的数据容量。对缓冲池设定较大的数据容量,来强制触发刷写和驱逐操作。
- U4 {) a7 z! X  ]$ B$ Y3 @
% s' Y& ^* O/ d/ a# ceph osd pool set cache target_max_bytes1073741824
; {5 J+ C3 {: X0 J% t. n2 f5 X5 j$ {6 Q
同时,也可以对缓冲池设定较大的对象数量。在默认情况下,RBD的默认对象大小为4MB,1GB容量包含256个4MB的对象,则可以设定:/ x% f, q6 \6 o& ?4 y4 ^

& J4 [$ M0 B) A( S! X& c8 Q, g# ceph osd pool set cache target_max_objects 256# |" X) _" m) f  O  B8 `6 B  O
) l; D8 |% M  e, T4 h0 z
4)缓冲池的数据刷新问题在缓冲池里,对象有最短的刷写周期。若被修改的对象在缓冲池里超过最短周期,将会被刷写到慢存储池。2 ?) T- H1 O# z7 _3 n
# ceph osd pool set cachecache_min_flush_age 600; |, d4 q7 [0 [# j- O, t) E
注意:单位是分钟
9 M% [% d+ H" q' M- Z" @- K4 ]7 n* S7 D
设定对象最短的驱逐周期。- K" n+ N" F2 j, ~+ I. x6 @
# ceph osd pool set cachecache_min_evict_age 1800
% G/ [. `8 S' V: Z7 P& T% p* N1 T3 ~
3、删除缓存层# S7 P4 j2 N4 r3 x/ G
删除readonly缓存
3 ], E3 s6 k7 Q( w$ B6 o# [+ J  P! ]0 l; V1 H
1)把缓存模式改为 none 即可禁用。, |9 T( t# z, z8 J) C; _
ceph osd tier cache-mode {cachepool} none
( v" a( b( C6 T
: }) n' D! j* U! x# b7 J2 T. A8 Q2)去除后端存储池的缓存池。7 y1 d7 Y& \2 h2 ^/ [% b
ceph osd tier remove {storagepool}{cachepool}- G  S  _) \7 V' G+ f+ {0 y
* y% E' v: p/ n, w% p5 B
删除writeback缓存- ]# m( Q' S7 q3 Z
1)把缓存模式改为 forward ,这样新的和更改过的对象将直接刷回到后端存储池/ g1 h8 K7 C! `4 c
# ceph osd tier cache-mode cache forward--yes-i-really-mean-it. h$ L8 ]0 e+ v+ X0 D
set cache-mode for pool 'cache' to forward; j0 P- D, [. Q" q- ^7 o" S1 R. B
, I4 i$ l- t4 o* g5 b% |6 R9 T3 g6 Y
2)确保缓存池已刷回,可能要等数分钟
0 G7 I: Z+ N4 I2 U# rados ls -p cache# E* e$ r- u) R2 l3 h1 k

2 R* b9 S6 {# m; ]+ g可以通过以下命令进行手动刷回
3 a  i7 }+ S6 _4 X2 t# rados -p cache cache-flush-evict-all5 d8 V' p7 h0 z! z2 P2 V, O% I
! Z+ m) i: _! _6 V
3)取消流量指向缓存池: _6 ^# b6 u3 l8 C+ n
# ceph osd tier remove-overlay storage5 G) I* p0 c+ k( j  N
there is now (or already was) no overlayfor 'storage'
8 w1 g2 K: P2 l3 ~
( y+ v" \/ V* f# y0 Y7 e4)剥离缓存池9 P% S5 b6 V3 V+ K8 ^9 Y0 r! p, S
# ceph osd tier remove storage cache. Y5 p4 b1 }1 ?, t/ b" E( q% J* Y' a
pool 'cache' is now (or already was) not atier of 'storage'
, Z8 x) P( Q1 _! q# Q2 T7 b& E: m* y1 @: q
102901f7trnrnnk5z533d3.jpg
102900dglzxkxx7gx74blk.jpg
 楼主| 发表于 2021-5-29 18:32:30 | 显示全部楼层
建立纯ssd的crush规则:* z& B5 f$ U9 b( A4 m- d0 ]# A

* k: u, H8 O& |% l ceph osd crush rule create-replicated ssd-pool default host ssd2 S6 u. y1 u* V0 ~
建立纯ssd的crush规则:5 j* e7 x4 _& `" G3 M/ A' v7 t
% N' h+ U; D2 s; p
ceph osd crush rule create-replicated hdd-pool default host hdd
您需要登录后才可以回帖 登录 | 开始注册

本版积分规则

关闭

站长推荐上一条 /4 下一条

如有购买积分卡请联系497906712

QQ|返回首页|Archiver|手机版|小黑屋|易陆发现 点击这里给我发消息

GMT+8, 2021-6-20 20:23 , Processed in 0.059924 second(s), 25 queries .

Powered by 龙睿 bbs168x X3.2

© 2001-2020 Comsenz Inc.

快速回复 返回顶部 返回列表