ConfigMap的实现
在k8s中,ConfigMap是由apiserver存储在etcd中:
当pod
创建的时候:
可以看到,配置值源头是存储在etcd
中,但会经过apiserver
、kubelet
、pod环境变量
等多个层次传递,而其中又有缓存等机制,因此实际上难以做到对配置值的实时更新。
具体也可以参考蚂蚁金服宋净超写的Kubernetes Handbook
中ConfigMap的热更新一节:
更新 ConfigMap 目前并不会触发相关 Pod 的滚动更新,可以通过修改 pod annotations 的方式强制触发滚动更新。
更新 ConfigMap 后:
* 使用该 ConfigMap 挂载的 Env 不会同步更新
* 使用该 ConfigMap 挂载的 Volume 中的数据需要一段时间(实测大概10秒)才能同步更新
ENV 是在容器启动的时候注入的,启动之后 kubernetes 就不会再改变环境变量的值,且同一个 namespace 中的 pod 的环境变量是不断累加的,参考 Kubernetes中的服务发现与docker容器间的环境变量传递源码探究。为了更新容器中使用 ConfigMap 挂载的配置,需要通过滚动更新 pod 的方式来强制重新挂载 ConfigMap。
ConfigMap的考量
ConfigMap
的优势是在于运维可以更加全面的管理配置信息,并通过环境变量、命令行参数、映射文件等方式传递配置给应用,而不需要应用做任何修改;通过使用ConfigMap
应用对于配置中心
的存在可以完全无感知。
对于没有源码控制的程序,如nginx、redis等,ConfigMap
是蛮不错的选择。
但对于我们能够控制源码的程序,则应该可以通过对应用代码修改,来进一步发挥配置中心
的能力。
k8s实现代码参考
代码嵌套调用较多,这里就不一一注释了。
// https://github.com/kubernetes/kubernetes/blob/5f578f33855f1848a10fdf22c0f27e8a69b3cbb8/pkg/kubelet/kubelet.go#L550
configMapManager := configmap.NewCachingConfigMapManager(
kubeDeps.KubeClient, manager.GetObjectTTLFromNodeFunc(klet.GetNode))
klet.configMapManager = configMapManager
// https://github.com/kubernetes/kubernetes/blob/7909712ca574c536901bc7858dfbf72a3a6ee7dd/pkg/kubelet/configmap/configmap_manager.go#L117
func NewCachingConfigMapManager(kubeClient clientset.Interface, getTTL manager.GetObjectTTLFunc) Manager {
getConfigMap := func(namespace, name string, opts metav1.GetOptions) (runtime.Object, error) {
// 这里的kubeClient.CoreV1 是
// https://github.com/kubernetes/kubernetes/tree/e40ffd71972b820aeed283946e880aa2479f8524/staging/src/k8s.io/client-go/kubernetes/typed/core/v1
return kubeClient.CoreV1().ConfigMaps(namespace).Get(name, opts)
}
configMapStore := manager.NewObjectStore(getConfigMap, clock.RealClock{}, getTTL, defaultTTL)
return &configMapManager{
manager: manager.NewCacheBasedManager(configMapStore, getConfigMapNames),
}
}
// v1的configmap实现
// https://github.com/kubernetes/kubernetes/blob/e40ffd71972b820aeed283946e880aa2479f8524/staging/src/k8s.io/client-go/kubernetes/typed/core/v1/configmap.go#L64
// Get takes name of the configMap, and returns the corresponding configMap object, and an error if there is any.
func (c *configMaps) Get(name string, options meta_v1.GetOptions) (result *v1.ConfigMap, err error) {
result = &v1.ConfigMap{}
err = c.client.Get().
Namespace(c.ns).
Resource("configmaps").
Name(name).
VersionedParams(&options, scheme.ParameterCodec).
Do().
Into(result)
return
}
// https://github.com/kubernetes/kubernetes/blob/master/pkg/kubelet/util/manager/cache_based_manager.go#L74
func NewObjectStore(getObject GetObjectFunc, clock clock.Clock, getTTL GetObjectTTLFunc, ttl time.Duration) Store {
return &objectStore{
getObject: getObject,
clock: clock,
items: make(map[objectKey]*objectStoreItem),
defaultTTL: ttl,
getTTL: getTTL,
}
}
// https://github.com/kubernetes/kubernetes/blob/e40ffd71972b820aeed283946e880aa2479f8524/pkg/client/listers/core/internalversion/configmap.go#L85
func (s configMapNamespaceLister) Get(name string) (*core.ConfigMap, error) {
obj, exists, err := s.indexer.GetByKey(s.namespace + "/" + name)
if err != nil {
return nil, err
}
if !exists {
return nil, errors.NewNotFound(core.Resource("configmap"), name)
}
return obj.(*core.ConfigMap), nil
}
// https://github.com/kubernetes/kubernetes/blob/master/pkg/apis/core/types.go#L4277
type ConfigMap struct {
metav1.TypeMeta
// +optional
metav1.ObjectMeta
}