prometheus storage

在cmd/main.go下包含了prometheus启动时初始化的过程,这里基本就包括了prometheus各个重要组件的初始化过程。
prom采用 alecthomas/kingpin.v2 获取参数,prom的集群工具thanos也使用类似的初始化逻辑。

在main.go大约300多行(不排除之后版本变化),有存储组件的初始化
var (
localStorage = &tsdb.ReadyStorage{}
remoteStorage = remote.NewStorage(...)
fanoutStorage = storage.NewFanout(..., localStorage, remoteStorage)
)
fanoutStorage是本地存储和远程存储的读写代理器,这个NewFanout的参数为 (logger log.Logger, primary Storage, secondaries ...Storage),也就是说,这个代理器其实是可以传入多个远程存储对象的。

基础数据接口

这个Storage存储接口包含以下:
Close() error 关闭存储以及其下的所有resource
Appender() (Appender, error)
StartTime() (int64, error) 返回存储中最早的时间戳
Queryable 这个接口中实现一个方法 Querier(xxx) 返回存储的一个Querier接口

上面Appender返回返回的Appender也是一个接口,定义了以下方法:
Add(l labels.Labels, t int64, v float64) (uint64, error)
AddFast(l labels.Labels, ref uint64, t int64, v float64) error
// 这里的commit做了两件事:提交所有已存储的样本(collected samples),清空batch中的数据点
Commit() error
Rollback() error
其实这个appender的用途就是批量添加时序数据点,不过既然是批量操作,那么就不免有应用意外终止导致数据点丢失的可能

而Querier接口定义了以下方法:
Select(*SelectParams, ... *labels.Matcher) (SeriesSet, Warnings, error)
根据你给定的搜索参数(selectParam,如起止时间、步进、聚合函数)然后返回一组时序数据(这个数据的样式就是调用prom的query http API)
LabelValues(name string) ([]string, Warnings, error)
该方法返回一个label可能的所有值
LabelNames() ([]string, Warnings, error)
按照排序返回存储block中的所有label名称
Close() error 释放资源(这里释放的应该就是对应存储的客户端)

这里的Select方法返回的SeriesSet接口,包含以下方法:
Next() bool // 是否还有下一个数据点
At() Series
Err() error

这里的At()方法返回的Series接口,包含:
// 返回定义series的完整label,因为prom是支持模糊搜索的,那么这里的labels.Labels和你Select时输入的Labels可能并不相同
Labels() labels.Labels
Iterator() SeriesIterator

SeriesIterator会将这条series上,符合你时间要求(select时是输入了一个时间段)上的数据点全部进行迭代,包含以下方法:
Seek(t int64) bool
// 返回当前时间戳/数值对
At() (t int64, v float64)
Next() bool
Err() error

** prom中的Warnings 就是一组error,应是捕捉到的不影响核心功能的错误

存储代理实现的方法

也就是初始化过程中,Storage.NewFanout返回的fanout对象指针,这会将prom代码中产生的读写的操作代理到primary存储和secondary存储中。

fanout实现了以下方法:
StartTime() (int64, error)
遍历调用所有存储中的StartTime()方法,然后找出最早的那个时间戳。

Querier(ctx context.Context, mint , maxt int64)(Querier, error)
调用了所有存储对象的Querier方法,一旦有一个存储的Querier方法报错,就直接返回错误。这里使用 NewMergeQuerier 实现了一个合并

本地存储

在main.go中初始化的本地存储是ReadyStorage对象,其由一个读写锁和一个adapter对象指针组成,adapter由一个时间戳(起始时间) 一个tsdb.DB对象组成。
prometheus使用的本地tsdb存储名为Gorilla,是一个快捷、可伸缩、内建的时序数据库。
我们可以通过Option结构体来窥探下创建本地tsdb存储时,我们可以修改哪些配置:
MinBlockDuration
MaxBlockDuration
WalSegmentSize
RetentionDuration
MaxBytes
NoLockfile
AllowOverlappingBlocks
WALCompression

远程存储

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 195,783评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,360评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 142,942评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,507评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,324评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,299评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,685评论 3 386
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,358评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,652评论 1 293
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,704评论 2 312
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,465评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,318评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,711评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,991评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,265评论 1 251
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,661评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,864评论 2 335

推荐阅读更多精彩内容

  • To be continued.... Prometheus提供了两种存储方式,分别为本地存储和远端存储。 Pro...
    酱油王0901阅读 4,134评论 2 4
  • 概述 Prometheus提供了本地存储,即tsdb时序数据库,本地存储给Prometheus带来了简单高效的使用...
    徐亚松_v阅读 17,037评论 1 10
  • 在应用程序中添加日志记录总的来说基于三个目的:监视代码中变量的变化情况,周期性的记录到文件中供其他应用进行统计分析...
    时待吾阅读 4,947评论 0 6
  • Swift1> Swift和OC的区别1.1> Swift没有地址/指针的概念1.2> 泛型1.3> 类型严谨 对...
    cosWriter阅读 11,068评论 1 32
  • 今日体验,今天清洗完汉兰达的积碳进行断电匹配节会门,断完电进行常规的时间调整,车型少不怎么会,最后通过查询调好了。...
    王全峰阅读 112评论 0 0