From 14afc4dd35c2de4a419f873d9dfebc5468bb5624 Mon Sep 17 00:00:00 2001 From: Qiming Teng Date: Wed, 20 Jan 2021 22:11:48 +0800 Subject: [PATCH] [zh] Translate kubelet-tls-bootstrapping This page, to my surprise, was not localized. --- .../kubelet-tls-bootstrapping.md | 971 +++++++++++++++--- 1 file changed, 830 insertions(+), 141 deletions(-) diff --git a/content/zh/docs/reference/command-line-tools-reference/kubelet-tls-bootstrapping.md b/content/zh/docs/reference/command-line-tools-reference/kubelet-tls-bootstrapping.md index a70f08bea1..60f3772c07 100644 --- a/content/zh/docs/reference/command-line-tools-reference/kubelet-tls-bootstrapping.md +++ b/content/zh/docs/reference/command-line-tools-reference/kubelet-tls-bootstrapping.md @@ -1,148 +1,558 @@ --- -approvers: -- ericchiang +title: TLS 启动引导 +content_type: concept +--- + -{{< toc >}} + -## Overview + +在一个 Kubernetes 集群中,工作节点上的组件(kubelet 和 kube-proxy)需要与 +Kubernetes 主控组件通信,尤其是 kube-apiserver。 +为了确保通信本身是私密的、不被干扰,并且确保集群的每个组件都在与另一个 +可信的组件通信,我们强烈建议使用节点上的客户端 TLS 证书。 -This document describes how to set up TLS client certificate bootstrapping for kubelets. -Kubernetes 1.4 introduced an API for requesting certificates from a cluster-level Certificate Authority (CA). The original intent of this API is to enable provisioning of TLS client certificates for kubelets. The proposal can be found [here](https://github.com/kubernetes/kubernetes/pull/20439) -and progress on the feature is being tracked as [feature #43](https://github.com/kubernetes/features/issues/43). + +启动引导这些组件的正常过程,尤其是需要证书来与 kube-apiserver 安全通信的 +工作节点,可能会是一个具有挑战性的过程,因为这一过程通常不受 Kubernetes 控制, +需要不少额外工作。 +这也使得初始化或者扩缩一个集群的操作变得具有挑战性。 + +为了简化这一过程,从 1.4 版本开始,Kubernetes 引入了一个证书请求和签名 +API 以便简化此过程。该提案可在 +[这里](https://github.com/kubernetes/kubernetes/pull/20439)看到。 + +本文档描述节点初始化的过程,如何为 kubelet 配置 TLS 客户端证书启动引导, +以及其背后的工作原理。 + + + + +## 初始化过程 {#initialization-process} + +当工作节点启动时,kubelet 执行以下操作: + + +1. 寻找自己的 `kubeconfig` 文件 +2. 检索 API 服务器的 URL 和凭据,通常是来自 `kubeconfig` 文件中的 + TLS 密钥和已签名证书 +3. 尝试使用这些凭据来与 API 服务器通信 + + +假定 kube-apiserver 成功地认证了 kubelet 的凭据数据,它会将 kubelet 视为 +一个合法的节点并开始将 Pods 分派给该节点。 + +注意,签名的过程依赖于: + +* `kubeconfig` 中包含密钥和本地主机的证书 +* 证书被 kube-apiserver 所信任的一个证书机构(CA)所签名 + + +负责部署和管理集群的人有以下责任: + +1. 创建 CA 密钥和证书 +2. 将 CA 证书发布到 kube-apiserver 运行所在的主控节点上 +3. 为每个 kubelet 创建密钥和证书;强烈建议为每个 kubelet 使用独一无二的、 + CN 取值与众不同的密钥和证书 +4. 使用 CA 密钥对 kubelet 证书签名 +5. 将 kubelet 密钥和签名的证书发布到 kubelet 运行所在的特定节点上 + +本文中描述的 TLS 启动引导过程有意简化甚至完全自动化上述过程,尤其是 +第三步之后的操作,因为这些步骤是初始化或者扩缩集群时最常见的操作。 + + +### 启动引导初始化 {#bootstrap-initialization} + +在启动引导初始化过程中,会发生以下事情: + + +1. kubelet 启动 +2. kubelet 看到自己 *没有* 对应的 `kubeconfig` 文件 +3. kubelet 搜索并发现 `bootstrap-kubeconfig` 文件 +4. kubelet 读取该启动引导文件,从中获得 API 服务器的 URL 和用途有限的 + 一个“令牌(Token)” +5. kubelet 建立与 API 服务器的连接,使用上述令牌执行身份认证 +6. kubelet 现在拥有受限制的凭据来创建和取回证书签名请求(CSR) +7. kubelet 为自己创建一个 CSR,并将其 signerName 设置为 `kubernetes.io/kube-apiserver-client-kubelet` +8. CSR 被以如下两种方式之一批复: + * 如果配置了,kube-controller-manager 会自动批复该 CSR + * 如果配置了,一个外部进程,或者是人,使用 Kubernetes API 或者使用 `kubectl` + 来批复该 CSR +9. kubelet 所需要的证书被创建 + +10. 证书被发放给 kubelet +11. kubelet 取回该证书 +12. kubelet 创建一个合适的 `kubeconfig`,其中包含密钥和已签名的证书 +13. kubelet 开始正常操作 +14. 可选地,如果配置了,kubelet 在证书接近于过期时自动请求更新证书 +15. 更新的证书被批复并发放;取决于配置,这一过程可能是自动的或者手动完成 + + +本文的其余部分描述配置 TLS 启动引导的必要步骤及其局限性。 + + +## 配置 {#configuration} + +要配置 TLS 启动引导及可选的自动批复,你必须配置以下组件的选项: + +* kube-apiserver +* kube-controller-manager +* kubelet +* 集群内的资源:`ClusterRoleBinding` 以及可能需要的 `ClusterRole` + +此外,你需要有 Kubernetes 证书机构(Certificate Authority,CA)。 + + +## 证书机构 {#certificate-authority} + +就像在没有启动引导的情况下,你会需要证书机构(CA)密钥和证书。 +这些数据会被用来对 kubelet 证书进行签名。 +如前所述,将证书机构密钥和证书发布到主控节点是你的责任。 + + +就本文而言,我们假定这些数据被发布到主控节点上的 +`/var/lib/kubernetes/ca.pem`(证书)和 +`/var/lib/kubernetes/ca-key.pem`(密钥)文件中。 +我们将这两个文件称作“Kubernetes CA 证书和密钥”。 +所有 Kubernetes 组件(kubelet、kube-apiserver、kube-controller-manager)都使用 +这些凭据,并假定这里的密钥和证书都是 PEM 编码的。 + + +## kube-apiserver 配置 {#kube-apiserver-configuration} -While any authentication strategy can be used for the kubelet's initial bootstrap credentials, the following two authenticators are recommended for ease of provisioning. +启用 TLS 启动引导对 kube-apiserver 有若干需求: -1. [Bootstrap Tokens](/docs/admin/bootstrap-tokens/) - __alpha__ -2. [Token authentication file](###token-authentication-file) +* 能够识别对客户端证书进行签名的 CA +* 能够对启动引导的 kubelet 执行身份认证,并将其置入 `system:bootstrappers` 组 +* 能够对启动引导的 kubelet 执行鉴权操作,允许其创建证书签名请求(CSR) -Using bootstrap tokens is currently __alpha__ and will simplify the management of bootstrap token management especially in a HA scenario. + +### 识别客户证书 {#recognizing-client-certificates} -`head -c 16 /dev/urandom | od -An -t x | tr -d ' '` +对于所有客户端证书的认证操作而言,这是很常见的。 +如果还没有设置,要为 kube-apiserver 命令添加 `--client-ca-file=FILENAME` +标志来启用客户端证书认证,在标志中引用一个包含用来签名的证书的证书机构包, +例如:`--client-ca-file=/var/lib/kubernetes/ca.pem`。 -will generate tokens that look like `02b50b05283e98dd0fd71db496ef01e8` + +### 初始启动引导认证 {#initial-bootstrap-authentication} + +为了让启动引导的 kubelet 能够连接到 kube-apiserver 并请求证书, +它必须首先在服务器上认证自身身份。你可以使用任何一种能够对 kubelet 执行身份认证的 +[身份认证组件](/zh/docs/reference/access-authn-authz/authentication/)。 + + +尽管所有身份认证策略都可以用来对 kubelet 的初始启动凭据来执行认证, +出于容易准备的因素,建议使用如下两个身份认证组件: + +1. [启动引导令牌(Bootstrap Token)](#bootstrap-tokens) +2. [令牌认证文件](#token-authentication-file) + + +启动引导令牌是一种对 kubelet 进行身份认证的方法,相对简单且容易管理, +且不需要在启动 kube-apiserver 时设置额外的标志。 +启动引导令牌从 Kubernetes 1.12 开始是一种 __Beta__ 功能特性。 + + +无论选择哪种方法,这里的需求是 kubelet 能够被身份认证为某个具有如下权限的用户: + +1. 创建和读取 CSR +2. 在启用了自动批复时,能够在请求节点客户端证书时得到自动批复 + + +使用启动引导令牌执行身份认证的 kubelet 会被认证为 `system:bootstrappers` +组中的用户。这是使用启动引导令牌的一种标准方法。 + + +随着这个功能特性的逐渐成熟,你需要确保令牌绑定到某基于角色的的访问控制(RBAC) +策略上,从而严格限制请求(使用[启动引导令牌](/zh/docs/reference/access-authn-authz/bootstrap-tokens/)) +仅限于客户端申请提供证书。当 RBAC 被配置启用时,可以将令牌限制到某个组,从而 +提高灵活性。例如,你可以在准备节点期间禁止某特定启动引导组的访问。 + + +#### 启动引导令牌 {#bootstrap-tokens} + +启动引导令牌的细节在[这里](/zh/docs/reference/access-authn-authz/bootstrap-tokens/) +详述。启动引导令牌在 Kubernetes 集群中存储为 Secret 对象,被发放给各个 kubelet。 +你可以在整个集群中使用同一个令牌,也可以为每个节点发放单独的令牌。 + + +这一过程有两个方面: + +1. 基于令牌 ID、机密数据和范畴信息创建 Kubernetes Secret +2. 将令牌发放给 kubelet + + +从 kubelet 的角度,所有令牌看起来都很像,没有特别的含义。 +从 kube-apiserver 服务器的角度,启动引导令牌是很特殊的。 +根据其 `type`、`namespace` 和 `name`,kube-apiserver 能够将认作特殊的令牌, +并授予携带该令牌的任何人特殊的启动引导权限,换言之,将其视为 +`system:bootstrappers` 组的成员。这就满足了 TLS 启动引导的基本需求。 + + +关于创建 Secret 的进一步细节可访问[这里](/zh/docs/reference/access-authn-authz/bootstrap-tokens/)。 + +如果你希望使用启动引导令牌,你必须在 kube-apiserver 上使用下面的标志启用之: + +``` +--enable-bootstrap-token-auth=true +``` + + +#### 令牌认证文件 {#token-authentication-file} + +kube-apiserver 能够将令牌视作身份认证依据。 +这些令牌可以是任意数据,但必须表示为基于某安全的随机数生成器而得到的 +至少 128 位混沌数据。这里的随机数生成器可以是现代 Linux 系统上的 +`/dev/urandom`。生成令牌的方式有很多种。例如: + +``` +head -c 16 /dev/urandom | od -An -t x | tr -d ' ' +``` + + +上面的命令会生成类似于 `02b50b05283e98dd0fd71db496ef01e8` 这样的令牌。 + +令牌文件看起来是下面的例子这样,其中前面三个值可以是任何值,用引号括起来 +的组名称则只能用例子中给的值。 ``` 02b50b05283e98dd0fd71db496ef01e8,kubelet-bootstrap,10001,"system:bootstrappers" ``` -Add the `--token-auth-file=FILENAME` flag to the kube-apiserver command (in your systemd unit file perhaps) to enable the token file. -See docs [here](/docs/admin/authentication/#static-token-file) for further details. + +向 kube-apiserver 添加 `--token-auth-file=FILENAME` 标志(或许这要对 systemd +的单元文件作修改)以启用令牌文件。参见 +[这里](/zh/docs/reference/access-authn-authz/authentication/#static-token-file) +的文档以了解进一步的细节。 -### Client certificate CA bundle + +### 授权 kubelet 创建 CSR {#authorize-kubelet-to-create-csr} + +现在启动引导节点被身份认证为 `system:bootstrapping` 组的成员,它需要被 _授权_ +创建证书签名请求(CSR)并在证书被签名之后将其取回。 +幸运的是,Kubernetes 提供了一个 `ClusterRole`,其中精确地封装了这些许可, +`system:node-bootstrapper`。 + +为了实现这一点,你只需要创建 `ClusterRoleBinding`,将 `system:bootstrappers` +组绑定到集群角色 `system:node-bootstrapper`。 + +``` +# 允许启动引导节点创建 CSR +apiVersion: rbac.authorization.k8s.io/v1 +kind: ClusterRoleBinding +metadata: + name: create-csrs-for-bootstrapping +subjects: +- kind: Group + name: system:bootstrappers + apiGroup: rbac.authorization.k8s.io +roleRef: + kind: ClusterRole + name: system:node-bootstrapper + apiGroup: rbac.authorization.k8s.io +``` + + +## kube-controller-manager 配置 {#kube-controller-manager-configuration} -The kube-controller-manager flags are: +API 服务器从 kubelet 收到证书请求并对这些请求执行身份认证,但真正负责发放 +签名证书的是控制器管理器。 + + +控制器管理器通过一个证书发放的控制回路来执行此操作。该操作的执行方式是使用磁盘上 +的文件用 [cfssl](https://blog.cloudflare.com/introducing-cfssl/) 本地签名组件 +来完成。目前,所发放的所有证书都有一年的有效期,并设定了默认的一组密钥用法。 + + +为了让控制器管理器对证书签名,它需要: + +* 能够访问你之前所创建并分发的“Kubernetes CA 密钥和证书” +* 启用 CSR 签名 + + +### 访问密钥和证书 {#access-to-key-and-certificate} + +如前所述,你需要创建一个 Kubernetes CA 密钥和证书,并将其发布到主控节点。 +这些数据会被控制器管理器来对 kubelet 证书进行签名。 + + +由于这些被签名的证书反过来会被 kubelet 用来在 kube-apiserver 执行普通的 +kubelet 身份认证,很重要的一点是为控制器管理器所提供的 CA 也被 kube-apiserver +信任用来执行身份认证。CA 密钥和证书是通过 kube-apiserver 的标志 +`--client-ca-file=FILENAME`(例如,`--client-ca-file=/var/lib/kubernetes/ca.pem`), +来设定的,正如 kube-apiserver 配置节所述。 + +要将 Kubernetes CA 密钥和证书提供给 kube-controller-manager,可使用以下标志: ``` --cluster-signing-cert-file="/etc/path/to/kubernetes/ca/ca.crt" --cluster-signing-key-file="/etc/path/to/kubernetes/ca/ca.key" ``` -### Approval controller - -In 1.7 the experimental "group auto approver" controller is dropped in favor of the new `csrapproving` controller -that ships as part of [kube-controller-manager](/docs/admin/kube-controller-manager/) and is enabled by default. -The controller uses the [`SubjectAccessReview` API](/docs/admin/authorization/#checking-api-access) to determine -if a given user is authorized to request a CSR, then approves based on the authorization outcome. To prevent -conflicts with other approvers, the builtin approver doesn't explicitly deny CSRs, only ignoring unauthorized requests. - -The controller categorizes CSRs into three subresources: - -1. `nodeclient` - a request by a user for a client certificate with `O=system:nodes` and `CN=system:node:(node name)`. -2. `selfnodeclient` - a node renewing a client certificate with the same `O` and `CN`. -3. `selfnodeserver` - a node renewing a serving certificate. (ALPHA, requires feature gate) - -The checks to determine if a CSR is a `selfnodeserver` request is currently tied to the kubelet's credential rotation -implementation, an __alpha__ feature. As such, the definition of `selfnodeserver` will likely change in a future and -requires the `RotateKubeletServerCertificate` feature gate on the controller manager. The feature progress can be -tracked at [kubernetes/features#267](https://github.com/kubernetes/features/issues/267). + +例如: ``` ---feature-gates=RotateKubeletServerCertificate=true +--cluster-signing-cert-file="/var/lib/kubernetes/ca.pem" --cluster-signing-key-file="/var/lib/kubernetes/ca-key.pem" ``` -The following RBAC `ClusterRoles` represent the `nodeclient`, `selfnodeclient`, and `selfnodeserver` capabilities. Similar roles -may be automatically created in future releases. + +所签名的证书的合法期限可以通过下面的标志来配置: -```yml -# A ClusterRole which instructs the CSR approver to approve a user requesting -# node client credentials. -kind: ClusterRole +``` +--cluster-signing-duration +``` + + +### 批复 {#approval} + +为了对 CSR 进行批复,你需要告诉控制器管理器批复这些 CSR 是可接受的。 +这是通过将 RBAC 访问权限授予正确的组来实现的。 + + +许可权限有两组: + +* `nodeclient`:如果节点在为节点创建新的证书,则该节点还没有证书。该节点 + 使用前文所列的令牌之一来执行身份认证,因此是组 `system:bootstrappers` 组 + 的成员。 +* `selfnodeclient`:如果节点在对证书执行续期操作,则该节点已经拥有一个证书。 + 节点持续使用现有的证书将自己认证为 `system:nodes` 组的成员。 + + +要允许 kubelet 请求并接收新的证书,可以创建一个 `ClusterRoleBinding` 将启动 +引导节点所处的组 `system:bootstrappers` 绑定到为其赋予访问权限的 +`ClusterRole` `system:certificates.k8s.io:certificatesigningrequests:nodeclient`: + +```yaml +# 批复 "system:bootstrappers" 组的所有 CSR apiVersion: rbac.authorization.k8s.io/v1 -metadata: - name: approve-node-client-csr -rules: -- apiGroups: ["certificates.k8s.io"] - resources: ["certificatesigningrequests/nodeclient"] - verbs: ["create"] ---- -# A ClusterRole which instructs the CSR approver to approve a node renewing its -# own client credentials. -kind: ClusterRole -apiVersion: rbac.authorization.k8s.io/v1 -metadata: - name: approve-node-client-renewal-csr -rules: -- apiGroups: ["certificates.k8s.io"] - resources: ["certificatesigningrequests/selfnodeclient"] - verbs: ["create"] ---- -# A ClusterRole which instructs the CSR approver to approve a node requesting a -# serving cert matching its client cert. -kind: ClusterRole -apiVersion: rbac.authorization.k8s.io/v1 -metadata: - name: approve-node-server-renewal-csr -rules: -- apiGroups: ["certificates.k8s.io"] - resources: ["certificatesigningrequests/selfnodeserver"] - verbs: ["create"] -``` - -These powers can be granted to credentials, such as bootstrapping tokens. For example, to replicate the behavior -provided by the removed auto-approval flag, of approving all CSRs by a single group: - -``` -# REMOVED: This flag no longer works as of 1.7. ---insecure-experimental-approve-all-kubelet-csrs-for-group="system:bootstrappers" -``` - -An admin would create a `ClusterRoleBinding` targeting that group. - -```yml -# Approve all CSRs for the group "system:bootstrappers" kind: ClusterRoleBinding -apiVersion: rbac.authorization.k8s.io/v1 metadata: name: auto-approve-csrs-for-group subjects: @@ -151,66 +561,345 @@ subjects: apiGroup: rbac.authorization.k8s.io roleRef: kind: ClusterRole - name: approve-node-client-csr + name: system:certificates.k8s.io:certificatesigningrequests:nodeclient apiGroup: rbac.authorization.k8s.io ``` -To let a node renew its own credentials, an admin can construct a `ClusterRoleBinding` targeting -that node's credentials: + +要允许 kubelet 对其客户端证书执行续期操作,可以创建一个 `ClusterRoleBinding` +将正常工作的节点所处的组 `system:nodes` 绑定到为其授予访问许可的 `ClusterRole` +`system:certificates.k8s.io:certificatesigningrequests:selfnodeclient`: -```yml -kind: ClusterRoleBinding +```yaml +# 批复 "system:nodes" 组的 CSR 续约请求 apiVersion: rbac.authorization.k8s.io/v1 +kind: ClusterRoleBinding metadata: - name: node1-client-cert-renewal + name: auto-approve-renewals-for-nodes subjects: -- kind: User - name: system:node:node-1 # Let "node-1" renew its client certificate. +- kind: Group + name: system:nodes apiGroup: rbac.authorization.k8s.io roleRef: kind: ClusterRole - name: approve-node-client-renewal-csr + name: system:certificates.k8s.io:certificatesigningrequests:selfnodeclient apiGroup: rbac.authorization.k8s.io ``` -Deleting the binding will prevent the node from renewing its client credentials, effectively -removing it from the cluster once its certificate expires. + +作为 [kube-controller-manager](/zh/docs/reference/generated/kube-controller-manager/) +的一部分的 `csrapproving` 控制器是自动被启用的。 +该控制器使用 [`SubjectAccessReview` API](/docs/reference/access-authn-authz/authorization/#checking-api-access) +来确定是否某给定用户被授权请求 CSR,之后基于鉴权结果执行批复操作。 +为了避免与其它批复组件发生冲突,内置的批复组件不会显式地拒绝任何 CSRs。 +该组件仅是忽略未被授权的请求。 +控制器也会作为垃圾收集的一部分清除已过期的证书。 + +## kubelet 配置 {#kubelet-configuration} + +最后,当主控节点被正确配置并且所有必要的身份认证和鉴权机制都就绪时, +我们可以配置 kubelet。 + + +kubelet 需要以下配置来执行启动引导: + +* 一个用来存储所生成的密钥和证书的路径(可选,可以使用默认配置) +* 一个用来指向尚不存在的 `kubeconfig` 文件的路径;kubelet 会将启动引导 + 配置文件放到这个位置 +* 一个指向启动引导 `kubeconfig` 文件的路径,用来提供 API 服务器的 URL + 和启动引导凭据,例如,启动引导令牌 +* 可选的:轮换证书的指令 + + +启动引导 `kubeconfig` 文件应该放在一个 kubelet 可访问的路径下,例如 +`/var/lib/kubelet/bootstrap-kubeconfig`。 + +其格式与普通的 `kubeconfig` 文件完全相同。实例文件可能看起来像这样: + +```yaml +apiVersion: v1 +kind: Config +clusters: +- cluster: + certificate-authority: /var/lib/kubernetes/ca.pem + server: https://my.server.example.com:6443 + name: bootstrap +contexts: +- context: + cluster: bootstrap + user: kubelet-bootstrap + name: bootstrap +current-context: bootstrap +preferences: {} +users: +- name: kubelet-bootstrap + user: + token: 07401b.f395accd246ae52d ``` -When starting the kubelet, if the file specified by `--kubeconfig` does not exist, the bootstrap kubeconfig is used to request a client certificate from the API server. On approval of the certificate request and receipt back by the kubelet, a kubeconfig file referencing the generated key and obtained certificate is written to the path specified by `--kubeconfig`. The certificate and key file will be placed in the directory specified by `--cert-dir`. + +需要额外注意的一些因素有: + +* `certificate-authority`:指向 CA 文件的路径,用来对 kube-apiserver 所出示 + 的服务器证书进行验证 +* `server`: 用来访问 kube-apiserver 的 URL +* `token`:要使用的令牌 + + +令牌的格式并不重要,只要它与 kube-apiserver 的期望匹配即可。 +在上面的例子中,我们使用的是启动引导令牌。 +如前所述,任何合法的身份认证方法都可以使用,不限于令牌。 + +因为启动引导 `kubeconfig` 文件是一个标准的 `kubeconfig` 文件,你可以使用 +`kubectl` 来生成该文件。要生成上面的示例文件: + +``` +kubectl config --kubeconfig=/var/lib/kubelet/bootstrap-kubeconfig set-cluster bootstrap --server='https://my.server.example.com:6443' --certificate-authority=/var/lib/kubernetes/ca.pem +kubectl config --kubeconfig=/var/lib/kubelet/bootstrap-kubeconfig set-credentials kubelet-bootstrap --token=07401b.f395accd246ae52d +kubectl config --kubeconfig=/var/lib/kubelet/bootstrap-kubeconfig set-context bootstrap --user=kubelet-bootstrap --cluster=bootstrap +kubectl config --kubeconfig=/var/lib/kubelet/bootstrap-kubeconfig use-context bootstrap +``` + + +要指示 kubelet 使用启动引导 `kubeconfig` 文件,可以使用下面的 kubelet 标志: + +``` +--bootstrap-kubeconfig="/var/lib/kubelet/bootstrap-kubeconfig" --kubeconfig="/var/lib/kubelet/kubeconfig" +``` + + +在启动 kubelet 时,如果 `--kubeconfig` 标志所指定的文件并不存在,会使用通过标志 +`--bootstrap-kubeconfig` 所指定的启动引导 kubeconfig 配置来向 API 服务器请求 +客户端证书。在证书请求被批复并被 kubelet 收回时,一个引用所生成的密钥和所获得 +证书的 kubeconfig 文件会被写入到通过 `--kubeconfig` 所指定的文件路径下。 +证书和密钥文件会被放到 `--cert-dir` 所指定的目录中。 + + +### 客户和服务证书 {#client-and-serving-certificates} + +前文所述的内容都与 kubelet _客户端_ 证书相关,尤其是 kubelet 用来向 +kube-apiserver 认证自身身份的证书。 + + +kubelet 也可以使用 _服务(Serving)_ 证书。kubelet 自身向外提供一个 +HTTPS 末端,包含若干功能特性。要保证这些末端的安全性,kubelet 可以执行以下操作 +之一: + +* 使用通过 `--tls-private-key-file` 和 `--tls-cert-file` 所设置的密钥和证书 +* 如果没有提供密钥和证书,则创建自签名的密钥和证书 +* 通过 CSR API 从集群服务器请求服务证书 + + +TLS 启动引导所提供的客户端证书默认被签名为仅用于 `client auth`(客户端认证), +因此不能作为提供服务的证书,或者 `server auth`。 + +不过,你可以启用服务器证书,至少可以部分地通过证书轮换来实现这点。 + + +### 证书轮换 {#certificate-rotation} + +Kubernetes v1.8 和更高版本的 kubelet 实现了对客户端证书与/或服务证书进行轮换 +这一 Beta 特性。这一特性通过 kubelet 对应的 `RotateKubeletClientCertificate` 和 +`RotateKubeletServerCertificate` 特性门控标志来控制,并且是默认启用的。 + + +`RotateKubeletClientCertificate` 会导致 kubelet 在其现有凭据即将过期时通过 +创建新的 CSR 来轮换其客户端证书。要启用此功能特性,可将下面的标志传递给 +kubelet: + +``` +--rotate-certificates +``` + + +`RotateKubeletServerCertificate` 会让 kubelet 在启动引导其客户端凭据之后请求 +一个服务证书 **且** 对该服务证书执行轮换操作。要启用此功能特性,将下面的标志 +传递给 kubelet: + +``` +--rotate-server-certificates +``` {{< note >}} -The following flags are required to enable this bootstrapping when starting the kubelet: + +Kubernetes 核心中所实现的 CSR 批复控制器出于 +[安全原因](https://github.com/kubernetes/community/pull/1982) +并不会自动批复节点的 _服务_ 证书。 +要使用 `RotateKubeletServerCertificate` 功能特性,集群运维人员需要运行一个 +定制的控制器或者手动批复服务证书的请求。 -``` ---bootstrap-kubeconfig="/path/to/bootstrap/kubeconfig" -``` + +对 kubelet 服务证书的批复过程因集群部署而异,通常应该仅批复如下 CSR: + +1. 由节点发出的请求(确保 `spec.username` 字段形式为 `system:node:` + 且 `spec.groups` 包含 `system:nodes`) +2. 请求中包含服务证书用法(确保 `spec.usages` 中包含 `server auth`,可选地也可 + 包含 `digital signature` 和 `key encipherment`,且不包含其它用法) +3. 仅包含隶属于请求节点的 IP 和 DNS 的 `subjectAltNames`,没有 URI 和 Email + 形式的 `subjectAltNames`(解析 `spec.request` 中的 x509 证书签名请求可以 + 检查 `subjectAltNames`) {{< /note >}} -Additionally, in 1.7 the kubelet implements __alpha__ features for enabling rotation of both its client and/or serving certs. -These can be enabled through the respective `RotateKubeletClientCertificate` and `RotateKubeletServerCertificate` feature -flags on the kubelet, but may change in backward incompatible ways in future releases. + +## 其它身份认证组件 {#other-authenticating-components} -`RotateKubeletClientCertificate` causes the kubelet to rotate its client certificates by creating new CSRs as its existing -credentials expire. `RotateKubeletServerCertificate` causes the kubelet to both request a serving certificate after -bootstrapping its client credentials and rotate the certificate. The serving cert currently does not request DNS or IP -SANs. +本文所描述的所有 TLS 启动引导内容都与 kubelet 相关。不过,其它组件也可能需要 +直接与 kube-apiserver 直接通信。容易想到的是 kube-proxy,同样隶属于 +Kubernetes 的控制面并且运行在所有节点之上,不过也可能包含一些其它负责 +监控或者联网的组件。 + +与 kubelet 类似,这些其它组件也需要一种向 kube-apiserver 认证身份的方法。 +你可以用几种方法来生成这类凭据: + + +* 较老的方式:和 kubelet 在 TLS 启动引导之前所做的一样,用类似的方式 + 创建和分发证书 +* DaemonSet:由于 kubelet 自身被加载到所有节点之上,并且有足够能力来启动基本服务, + 你可以运行将 kube-proxy 和其它特定节点的服务作为 `kube-system` 名字空间中的 + DaemonSet 来执行,而不是独立的进程。由于 DaemonSet 位于集群内部,你可以为其 + 指派一个合适的服务账户,使之具有适当的访问权限来完成其使命。这也许是配置此类 + 服务的最简单的方法。 + + +## kubectl 批复 {#kubectl-approval} + +CSRs 可以在控制器管理其内置的批复工作流之外被批复。 + + +签名控制器并不会立即对所有证书请求执行签名操作。相反,它会等待这些请求被某 +具有适当特权的用户标记为 “Approved(已批准)”状态。 +这一流程有意允许由外部批复控制器来自动执行的批复,或者由控制器管理器内置的 +批复控制器来自动批复。 +不过,集群管理员也可以使用 `kubectl` 来手动批准证书请求。 +管理员可以通过 `kubectl get csr` 来列举所有的 CSR,使用 +`kubectl descsribe csr ` 来描述某个 CSR 的细节。 +管理员可以使用 `kubectl certificate approve ` 来拒绝某 CSR。 +