在 Raspberry Pi 上使用 Kubernetes 进行集群计算

尚无读者喜欢这篇文章。
Kurt Stam's LEGO-encased Raspberry Pi cluster

照片作者 Kurt Stam CC BY-SA 4.0

有没有想过创建你自己的云?现在你可以了!你只需要一些廉价的开源硬件和开源软件。大约 200 美元,我成功地使用 Fabric8 设置了四台 Raspberry Pi 2,并搭载了 Kubernetes 云操作系统。

Fabric8 是一个开源的 DevOps 和集成平台,可在任何 Kubernetes 或 OpenShift 环境中开箱即用,并提供持续交付、管理、ChatOps 和 Chaos Monkey。简而言之,它是开发和管理微服务的最佳框架。(完全公开:我在 Red Hat Fabric8 项目工作。)

软件架构与其运行的硬件之间从未有过如此完美的匹配。树莓派完全静音(无风扇),并配备了相当强大的四核 CPU,而微服务架构使得每个进程相对较小,因此它可以运行在每个节点 1GB RAM 内存限制下。如果你需要更多计算能力,你可以简单地添加更多树莓派。最后,玩硬件 *就是纯粹的乐趣*,而不是登录到 Amazon 的远程虚拟机。

1. 必需的硬件

为了构建这个四树莓派的设置,我使用了

  • 4 个树莓派 2
  • 4 张 16GB MicroSD 卡(Class 10)
  • 1 个 60W 电源适配器,带 USB 接口
  • 4 根短 USB 转 Micro USB 电缆(用于为树莓派供电)
  • 4 根短 Cat 5 网线
  • 1 根较长的 Cat 5 网线,用于连接到你的网络
  • 1 个网络集线器(我用的是一个旧的五端口,10/100MBps 的,我把它翻了出来)
  • 乐高积木(相信我,自己搭建感觉很棒!)

获取 **Class 10 MicroSD 卡** 非常重要,因为这是极大地影响系统速度的唯一组件。对于四个树莓派,你可以轻松地使用较小的 20W 电源适配器,但我计划稍后添加更多,所以我买了一个更大的。树莓派上的网口是 100MBps,所以你可以使用旧的集线器。

2. 刷写 MicroSD 卡

现在我们需要将操作系统写入 MicroSD 卡。我正在使用 Hypriot 镜像。我 测试了很多其他的,包括 Pidora、Redsleeve/CentOS 和 Arch Linux,但结论是 Hypriot 在目前对我来说是最好的(主要是因为原生 Docker 支持和镜像体积小)。你可以在这里下载最新的 Hypriot 镜像。

  1. 将存储卡插入读卡器。不要挂载它。如果它自动挂载,请卸载该卡。然后将镜像写入卡中。在我的 OS X 机器上,执行此操作的命令是
    sudo dd bs=1m if=hypriot-rpi-20151103-224349.img of=/dev/diskn
  2. 将 'n' 替换为使用磁盘工具找到的磁盘编号:在 Mac OS X 10.8.x Mountain Lion 上,“验证磁盘”(卸载前)会将 BSD 名称显示为“/dev/disk2s1”或类似名称。请仔细检查,否则你可能会格式化你不想格式化的磁盘!
  3. 等待。这可能需要 10 分钟左右。
  4. 对所有四张 MicroSD 卡执行此操作。等待时你可以制作你的乐高外壳。

3. 启动并添加 DNS

现在你可以启动第一个树莓派了。默认情况下,使用 **root/hypriot** 登录。你需要为每个树莓派设置 DNS。如果你不想连接显示器和键盘来找出它的 IP 和 MAC 地址,那么你可以使用 nmap。如果你有 DNS 服务,在那里配置它。否则,在 **/etc/hosts** 中命名树莓派。我将我的树莓派命名为 rpi-master、rpi-node-1、rpi-node-2 和 rpi-node-3。在快速重启每个树莓派后,你将在 cmd 提示符中看到反映的名称。请注意,**如果你跳过 DNS 步骤,你的 Kubernetes 集群将无法工作**。我在所有机器的 **/etc/hosts** 文件中添加了以下内容

192.168.1.9     rpi-master
192.168.1.21    rpi-node-1
192.168.1.18    rpi-node-2
192.168.1.23    rpi-node-3

4. 添加交换空间(可选)

我为我的 rpi-master 添加了 1GB 的交换空间,因为它运行更多的 Kubernetes 组件。一些人似乎担心频繁写入 MicroSD 卡会导致其快速失效。因此,我决定设置 **swappiness**,使其仅在万不得已时才使用交换空间。

dd if=/dev/zero of=/swap/swapfile bs=1M count=1024
mkswap /swap/swapfile
swapon /swap/swapfile

现在你可以使用 **top** 命令检查你是否拥有 1GB 的交换空间。

KiB 内存 947468 总计, 913096 已用, 34372 可用, 69884 缓冲区
KiB 交换空间 1048572 总计, 484 已用, 1048088 可用, 667248 已缓存

为了使交换空间在重启后永久生效,添加

/swap/swapfile none swap sw 0 0

到你的 **/etc/fstab** 文件中。最后,在 /etc/sysctl.conf 中,我将 swappiness 设置为 1

vm.swappiness = 1

“1” 表示仅当 RAM 使用率超过 99% 时才会使用交换空间。

5. 安装 Kubernetes

这些说明用于安装来自 Google 的纯粹的 Kubernetes。由于一些 64 位依赖项,我在编译 OpenShift 3 时遇到了一些问题,稍后我会再来处理。我希望同时支持两者。我使用的所有代码都在 https://github.com/Project31 下检入。如果你想编译你自己的 Kubernetes 二进制文件,请查看我的博客文章

5.1. 安装 Kubernetes master

Kubernetes master 运行 Kubernetes REST API、调度器、kubernetes-proxy 和复制控制器。它还使用 etcd 作为键值存储,该存储在其他 Kubernetes master 之间复制。有关更多详细信息,请参阅 Kubernetes 文档


Diagram of Kubernetes master components
Kubernetes master 组件。

要将这些组件安装到 master 上,请登录到 master 节点并运行:

git clone git@github.com:Project31/kubernetes-installer-rpi.git
cd kubernetes-install-rpi
./build-master.sh

使用 **docker ps** 验证正在运行的 Docker 容器

容器 ID 镜像 命令 创建时间 状态 名称
d598e486daf5 hyperkube "/hyperkube proxy --m" ... ... k8s_kube-proxy...
026c19a67f86 hyperkube "/hyperkube scheduler" ... ... k8s_kube-scheduler...
8f615b87cfda hyperkube "/hyperkube controlle" ... ... k8s_kube-controller-manager....
a737d9927c03 hyperkube "/hyperkube apiserver" ... ... k8s_kube-apiserver....
0207a21ce18d etcd "etcd --data-dir=/var" ... ... k8s_etcd...
a4174bf7cb98 .../pause:0.8.0 "/pause" ... ... k8s_POD...

现在设置导出 **KUBERNETES_MASTER=http://rpi-master:8080**,以便你的 **kubectl** 可以连接 master 上的 Kubernetes REST API。现在让我们使用 **kubectl get pods** 查看正在运行的 pod。

名称 就绪 状态 重启次数 运行时间
kube-controller-rpi-master 5/5 正在运行 0 10 秒

我们可以看到 kube-controller-rpi-master pod 包含运行五个 Docker 容器,其中包含上述 Kubernetes 服务。

5.2. 安装 Kubernetes 节点

Kubernetes 节点仅运行 Kubernetes 代理和 pod。


Kubernetes client components diagram
Kubernetes 客户端组件。

要在一个节点上安装这些组件,请登录到该节点并运行:

git clone git@github.com:Project31/kubernetes-installer-rpi.git
cd kubernetes-install-rpi

现在编辑 **kube-procy.yaml** 并将 **--master=http://rpi-master:8080** 设置为你的 Kubernetes master。然后编辑 **kubelet.service** 文件,并在那里也设置你的 master 的 Kubernetes REST 端点(在我的例子中是 http://192.168.1.9:8080)。

现在你可以运行安装

./build-worker.sh

并使用 **docker ps** 验证我们的代理是否已启动

容器 ID 镜像 命令 创建时间 状态 名称
cf4a9a2d7f35 hyperkube "/hyperkube proxy --m" 40 秒前 运行 37 秒 k8s_kube-proxy...
d9f8f937df4d gcr.io/go... "/pause" 43 秒前 运行 40 秒 k8s_POD.e4cc..

代理正在运行!设置导出 **KUBERNETES_MASTER=http://rpi-master:8080**,以便你的 **kubectl** 可以连接 master 上的 Kubernetes REST API。现在验证节点是否都已注册

kubectl get nodes
名称 标签 状态
rpi-master kubernetes.io/hostname=rpi-master 就绪
rpi-node-1 kubernetes.io/hostname=rpi-node-1 就绪
rpi-node-2 kubernetes.io/hostname=rpi-node-2 就绪
rpi-node-3 kubernetes.io/hostname=rpi-node-3 就绪

耶,成功了!

6. 开放 Docker 以进行远程连接

我们需要修复 master 上的 Docker 配置,以便它接受远程连接,并且我们可以向其部署一些内容。打开 **/etc/default/docker** 文件进行编辑并设置 **DOCKER_OPTS**

DOCKER_OPTS="-H tcp://192.168.1.9:2375 -H unix:///var/run/docker.sock --storage-driver=overlay -D"

指定机器的 IP 地址,或者你可以使用 '0.0.0.0' 绑定到所有接口。现在我们可以远程将 Docker 镜像推送到 master。

7. 部署一个简单的服务

让我们部署一个简单的服务并扩展到两个 pod,以确保一切正常运行。

kubectl -s http://localhost:8080 run httpd --image=hypriot/rpi-busybox-httpd --port=80
kubectl scale --replicas=2 rc httpd
kubectl get pods -o wide

我们看到,即使我们在 master 上执行了命令,它也在 node-2 和 node-3 上启动了一个 pod。

名称 就绪 状态 重启次数 运行时间 节点
httpd-4v1qw 1/1 正在运行 0 9 分钟 rpi-node-2
httpd-qxcxu 0/1 待定 0 16 秒 rpi-node-3
kube-controller-rpi-master 5/5 正在运行 0 1 天 rpi-master
kube-system-rpi-node-1 1/1 正在运行 0 33 分钟 rpi-node-1
kube-system-rpi-node-2 1/1 正在运行 0 43 分钟 rpi-node-2
kube-system-rpi-node-3 1/1 正在运行 0 53 分钟 rpi-node-3

8. 结论

首先,它工作了!Kubernetes master 可能没有太多内存来运行服务,但另一方面,节点几乎有完整的 1GB 可用于 Docker 容器。如果将来你需要更多计算能力,你可以简单地添加节点。这个硬件平台的极低价格,结合 Kubernetes 云操作系统和 Fabric8 DevOps 和 iPaaS 功能,使这项技术成为真正的颠覆性技术。它真的是一个仅需 200 美元的盒装云。

Kurt Stam
Kurt Stam 在企业集成领域工作了二十年。他为电信、金融和旅游行业的高容量分布式系统设计并实施了集成解决方案。他是 Red Hat 的核心中间件开发人员,他在那里从事 JBossESB、Apache jUDDI、S-RAMP 和 SOA 治理方面的工作。目前他正在从事 Fabric8 项目。

13 条评论

嗨,Luxas!很高兴收到你的来信。我希望我们能一起做更多工作。我的下一个重点是让 OpenShift 3(k8s 实现)在 ARM 上运行。我迫不及待想要拿到这些 http://www.pine64.com 板,它们是 64 位的,这是 OpenShift 所要求的。

回复 作者 luxas (未验证)

我也在等我的 Pine64。它真的是一款很棒的产品,价格如此低廉。

在我发布了带有 v1.2.0 k8s 的新 Kubernetes on ARM 版本后,我会稍微研究一下 origin。只是快速看了一下 origin,感觉很有希望。让二进制文件工作应该不难。

但另一方面,转换 openshift origin 拥有的所有附加组件/内部服务/程序将需要一些时间。

回复 作者 KurtStam

看起来是一件非常有趣的事情,有实际设置的照片吗?

努力理解这一点。单个容器可以使用来自多个节点的计算资源吗?如果可以,存储部分如何工作?

不可以,但如果你需要处理更多负载,你可以启动多个运行相同服务/应用程序的容器。容器应保持无状态和不可变。如果你需要(共享)存储,可以使用 Kubernetes Volumes。

回复 作者 Zach

树莓派可以是 Pi2 和 Pi3 的混合吗?

如果你在两者上都安装 32 位二进制文件和 RPi docker 镜像,那么是的。但你可能想在 RPi 3 上运行 64 位二进制文件,那样你就不能将它们放在同一个集群中了。

回复 作者 Neil A (未验证)

嗨,Kurt,做得很好!我在 hypriot 镜像上运行了一些 rpis,并想深入研究 k8s。我按照你的描述操作,但在运行和启动 master 时遇到了问题。hyperkube apiserver 和 etcd 容器只启动了一秒钟然后就消失了。使用命令 "kubectl get pods" 我收到错误:无法从服务器读取版本:Get http://rpi-master:8080/api...

是不是我遗漏了什么?
先谢谢了,
Dennis

Creative Commons License本作品根据 Creative Commons Attribution-Share Alike 4.0 International License 许可。
© . All rights reserved.