その1 Jetson TX2でk3s(枯山水)を動かしてみた

2019/03/29
このエントリーをはてなブックマークに追加

どーも、好きな世代はクラウドネイティブ世代の吉海です。今日はJetson TX2にk3s(通称: 枯山水)をインストールして動作検証をしたので、それについてまとめてみました。

k3sとは

40MBの1バイナリの軽量化されたKubernetesで、いくつかのARMのアーキテクチャをサポートしています。1バイナリなため、インストールがかなり簡単なのが個人的に気に入っています。

公式 k3s.io

検証環境

  • k3s v.0.2.0
  • Jetson
    + head -n 1 /etc/nv_tegra_release
    + R28 (release), REVISION: 2.1

k3sのインストール方法

k3sのGithubリポジトリに下記の様な内容のインストール方法が記載されています。

GitHub k3s

  • バイナリをダウンロードして自前で配置して起動する方法
  • 自前でビルドする方法
  • Dockerを使った方法。公式リポジトリにdocker-composeファイルが置いてある
  • install.shを使った方法

ビルドする以外の方法を試して楽だったのがDockerを使う方法とinstall.shを使う方法でした。Dockerを使った方法はマシンの環境を汚さずにインストール出来るのでお試しに使うのであればこの方法がおすすめです。

自分は/sys/devices配下にあるデバイスをPodから触ってLチカをやりたかったので、Dockerを使わずinstall.shでインストールしました。コンテナ in コンテナでデバイスに触るとなるとvolumeオプションを頑張ったりなど手間が増えるためです。

ちなみにk3sのバイナリを自前で配置する方法ですが、k3sをアンインストールする場合にk3sが作ったファイルやディレクリの削除を自前でやる必要があるのが微妙でした。k3sは確かに1バイナリなんですが、動作に必要なファイルをぼちぼち作成するのでアンインストールが手動は辛いです。

install.shを使う方法

install.sh使った方法は下記のコマンドで出来るので楽ちんです。

curl -sfL https://get.k3s.io | sh -

install.shは以下の処理を自動でやってくれます。

  • インストールするマシンに合致するアーキテクチャ用のk3sのダウンロード
  • systemdにk3sをサービスとして登録
  • k3sの起動

インストールするマシンに合致するアーキテクチャ用のk3sのダウンロード

install.sh内で、uname -mコマンドを叩いて、アーキテクチャを検出するようになっています。

setup_verify_arch() {
    ARCH=`uname -m`
    case $ARCH in
        amd64)
            ARCH=amd64
            SUFFIX=
            ;;
        x86_64)
            ARCH=amd64
            SUFFIX=
            ;;
        arm64)
            ARCH=arm64
            SUFFIX=-${ARCH}
            ;;
        aarch64)
            ARCH=arm64
            SUFFIX=-${ARCH}
            ;;
        arm*)
            ARCH=arm
            SUFFIX=-${ARCH}hf
            ;;
        *)
            fatal "Unsupported architecture $ARCH"
    esac
}

Jetson TX2でuname -mコマンドを叩くとaarch64と出力されるので、arm64版のk3sがダウンロードされる仕組みになっています。

k3s serverとk3s agent

k3sは下記の図のような構成になっており、k3s Serverがkubernetes masterに、k3s Agentがkubernetes nodeに相当するようになっています。

k3s Serverはk3s serverコマンドを実行することで起動されます。この時にデフォルトでagentも起動するようになっています。agentを起動させたくない場合は、–disable-agentのフラグを使います。

k3s server 

k3s Agentはk3s agentコマンドで起動します。引数に–serverにk3s Serverのurlを指定、–tokenにk3s Serverのtokenを指定する作りになっています。

k3s agent --server https://myserver:6443 --token ${NODE_TOKEN}

k8s kubectl

k8s kubectlを使うことで、kubectlコマンドのインストールやkubeconfigの設定をせずにkubectlコマンドが叩けるようになっています。地味に便利です。

k3sのディレクトリ構造について

k3sバイナリとアンインストール用のシェル

k3sのバイナリの場所はinstall.shを使うと
/usr/local/bin
に配置され、アンインストール用のシェルスクリプトもそのディレクリ配置されます。

ls /usr/local/bin | grep k3s
k3s
k3s-uninstall.sh

serverやagentのデータ

/var/lib/rancher/k3s配下に配置されており、以下のような構成になっています。

/var/lib/rancher/k3s
├── agent
│   ├── client-ca.pem
│   ├── containerd
│   ├── etc
│   ├── kubeconfig.yaml
│   └── kubelet
├── data
│   └── a76eac31f2b7bd3c07a844671a9405198e33f3c29e3c2f441bc4866bf476421f
└── server
    ├── cred
    ├── db
    ├── manifests
    ├── node-token
    └── tls

ちなみにdataの下にbusyboxになった各バイナリが確認が出来ます。

/var/lib/rancher/k3s/data/
└── a76eac31f2b7bd3c07a844671a9405198e33f3c29e3c2f441bc4866bf476421f
    └── bin
        ├── addgroup -> busybox
        ├── adduser -> busybox
        ├── ar -> busybox
        ├── arch -> busybox
        ├── arp -> busybox
        ├── arping -> busybox
        ├── ash -> busybox
        ├── awk -> busybox

Container Network Interface

k3sで使っているCNIまわりのファイルは/var/lib/cni/配下に配置されます。ちなみにアンインストール用のシェルを実行してもこれらは削除されないので注意してください。k3sの動作がおかしい時に再インストールしても動作が治らないのはこいつらが原因だったりします。

今回起きた不具合

k3s server起動後にkube-systemのネームスペースのcorednsのPodがContainerCreatingから進まない不具合が発生しました。desribeコマンドで調べてみるとIPアドレスの確保に失敗しているようでした。

failed to allocate for range 0: no IP addresses available in range set: 10.42.0.1-10.42.0.254

使用中のIPアドレスはファイルとして/var/lib/cni/networks/cbr0/配下に書き出されるようになっているので、そのディレクリの中を確認してみると10.42.0.1から10.42.0.254のファイルが作られており、これらがfailed to allocateの原因のようだったので、/var/lib/cni/networks/cbr0の中身を全て削除後に再起動してk3s serverを実行したところ問題が解決しました。

k3sの不具合というよりはkubernetesのCNIやFlannelまわりで起こる問題のようです。似たような問題のIssueがkubernetesの方に上がっていました。
kubernetes/issues/39557 Kubernetes-cni issue with 1.9.0 – no ip address available in range

次回記事予告

次回はk3s on JetsonでLEDに明かりを灯す方法についてご紹介します。お楽しみに!!!

最後に

カブクでは工場にIoTエッジデバイスの導入および、それらをKubernetesで管理しようと検証を進めており、IoTやKubernetesをやりたいエンジニアを募集してます。ご興味ありましたら、まずはオフィスに遊びに来てください。IoTやKubernetes話をしたり、コリドール対戦しましょう。

その他の記事

Other Articles

2019/06/25
カブクエンジニア開発合宿に行ってきました 2019夏


Hola! KubeCon Europe 2019の参加レポート

2019/06/19
Clean Resume きれいな環境できれいな履歴書を作成する

2019/05/20
[Web フロントエンド] 状態更新ロジックをフレームワークから独立させる

2019/04/16
C++のenable_shared_from_thisを使う

2019/04/12
OpenAPI 3 ファーストな Web アプリケーション開発(Python で API 編)

2019/04/08
WebGLでレイマーチングを使ったCSGを実現する

2019/04/02
『エンジニア採用最前線』に感化されて2週間でエンジニア主導の求人票更新フローを構築した話

2019/03/27
任意のブラウザ上でJestで書いたテストを実行する

2019/02/08
TypeScript で “radian” と “degree” を間違えないようにする

2019/02/05
Python3でGoogle Cloud ML Engineをローカルで動作する方法

2019/01/18
SIGGRAPH Asia 2018 参加レポート

2019/01/08
お正月だョ!ECMAScript Proposal全員集合!!

2019/01/08
カブクエンジニア開発合宿に行ってきました 2018秋

2018/12/25
OpenAPI 3 ファーストな Web アプリケーション開発(環境編)

2018/12/23
いまMLKitカスタムモデル(TF Lite)は使えるのか

2018/12/21
[IoT] Docker on JetsonでMQTTを使ってCloud IoT Coreと通信する

2018/12/11
TypeScriptで実現する型安全な多言語対応(Angularを例に)

2018/12/05
GASでCompute Engineの時間に応じた自動停止/起動ツールを作成する 〜GASで簡単に好きなGoogle APIを叩く方法〜

2018/12/02
single quotes な Black を vendoring して packaging

2018/11/14
3次元データに2次元データの深層学習の技術(Inception V3, ResNet)を適用

2018/11/04
Node Knockout 2018 に参戦しました

2018/10/24
SIGGRAPH 2018参加レポート-後編(VR/AR)

2018/10/11
Angular 4アプリケーションをAngular 6に移行する

2018/10/05
SIGGRAPH 2018参加レポート-特別編(VR@50)

2018/10/03
Three.jsでVRしたい

2018/10/02
SIGGRAPH 2018参加レポート-前編

2018/09/27
ズーム可能なSVGを実装する方法の解説

2018/09/25
Kerasを用いた複数入力モデル精度向上のためのTips

2018/09/21
競技プログラミングの勉強会を開催している話

2018/09/19
Ladder Netwoksによる半教師あり学習

2018/08/10
「Maker Faire Tokyo 2018」に出展しました

2018/08/02
Kerasを用いた複数時系列データを1つの深層学習モデルで学習させる方法

2018/07/26
Apollo GraphQLでWebサービスを開発してわかったこと

2018/07/19
【深層学習】時系列データに対する1次元畳み込み層の出力を可視化

2018/07/11
きたない requirements.txt から Pipenv への移行

2018/06/26
CSS Houdiniを味見する

2018/06/25
不確実性を考慮した時系列データ予測

2018/06/20
Google Colaboratory を自分のマシンで走らせる

2018/06/18
Go言語でWebAssembly

2018/06/15
カブクエンジニア開発合宿に行ってきました 2018春

2018/06/08
2018 年の tree shaking

2018/06/07
隠れマルコフモデル 入門

2018/05/30
DASKによる探索的データ分析(EDA)

2018/05/10
TensorFlowをソースからビルドする方法とその効果

2018/04/23
EGLとOpenGLを使用するコードのビルド方法〜libGLからlibOpenGLへ

2018/04/23
技術書典4にサークル参加してきました

2018/04/13
Python で Cura をバッチ実行するためには

2018/04/04
ARCoreで3Dプリント風エフェクトを実現する〜呪文による積層造形映像制作の舞台裏〜

2018/04/02
深層学習を用いた時系列データにおける異常検知

2018/04/01
音声ユーザーインターフェースを用いた新方式積層造形装置の提案

2018/03/31
Container builderでコンテナイメージをBuildしてSlackで結果を受け取る開発スタイルが捗る

2018/03/23
ngUpgrade を使って AngularJS から Angular に移行

2018/03/14
Three.jsのパフォーマンスTips

2018/02/14
C++17の新機能を試す〜その1「3次元版hypot」

2018/01/17
時系列データにおける異常検知

2018/01/11
異常検知の基礎

2018/01/09
three.ar.jsを使ったスマホAR入門

2017/12/17
Python OpenAPIライブラリ bravado-core の発展的な使い方

2017/12/15
WebAssembly(wat)を手書きする

2017/12/14
AngularJS を Angular に移行: ng-annotate 相当の機能を TypeScrpt ファイルに適用

2017/12/08
Android Thingsで4足ロボットを作る ~ Android ThingsとPCA9685でサーボ制御)

2017/12/06
Raspberry PIとDialogflow & Google Cloud Platformを利用した、3Dプリンターボット(仮)の開発 (概要編)

2017/11/20
カブクエンジニア開発合宿に行ってきました 2017秋

2017/10/19
Android Thingsを使って3Dプリント戦車を作ろう ① ハードウェア準備編

2017/10/13
第2回 魁!! GPUクラスタ on GKE ~PodからGPUを使う編~

2017/10/05
第1回 魁!! GPUクラスタ on GKE ~GPUクラスタ構築編~

2017/09/13
「Maker Faire Tokyo 2017」に出展しました。

2017/09/11
PyConJP2017に参加しました

2017/09/08
bravado-coreによるOpenAPIを利用したPythonアプリケーション開発

2017/08/23
OpenAPIのご紹介

2017/08/18
EuroPython2017で2名登壇しました。

2017/07/26
3DプリンターでLチカ

2017/07/03
Three.js r86で何が変わったのか

2017/06/21
3次元データへの深層学習の適用

2017/06/01
カブクエンジニア開発合宿に行ってきました 2017春

2017/05/08
Three.js r85で何が変わったのか

2017/04/10
GCPのGPUインスタンスでレンダリングを高速化

2017/02/07
Three.js r84で何が変わったのか

2017/01/27
Google App EngineのFlexible EnvironmentにTmpfsを導入する

2016/12/21
Three.js r83で何が変わったのか

2016/12/02
Three.jsでのクリッピング平面の利用

2016/11/08
Three.js r82で何が変わったのか

2016/12/17
SIGGRAPH 2016 レポート

2016/11/02
カブクエンジニア開発合宿に行ってきました 2016秋

2016/10/28
PyConJP2016 行きました

2016/10/17
EuroPython2016で登壇しました

2016/10/13
Angular 2.0.0ファイナルへのアップグレード

2016/10/04
Three.js r81で何が変わったのか

2016/09/14
カブクのエンジニアインターンシッププログラムについての詩

2016/09/05
カブクのエンジニアインターンとして3ヶ月でやった事 〜高橋知成の場合〜

2016/08/30
Three.js r80で何が変わったのか

2016/07/15
Three.js r79で何が変わったのか

2016/06/02
Vulkanを試してみた

2016/05/20
MakerGoの作り方

2016/05/08
TensorFlow on DockerでGPUを使えるようにする方法

2016/04/27
Blenderの3DデータをMinecraftに送りこむ

2016/04/20
Tensorflowを使ったDeep LearningにおけるGPU性能調査

→
←

関連職種

Recruit

バックエンドエンジニア(Python・Go)

業務内容

当ポジションは弊社Webサービスのバックエンド機能設計及び実装を担当します。 サービス毎の開発チームで2週間スプリントのスクラム開発を実施しています。 週次で開発チームミーティングを実施し、実装設計の相談や工数見積もりを行います。 全ての開発コードはレビューと自動テストによって品質を保っています。 また、リファクタリングやフレームワークのバージョンアップも開発フローに組込み、技術的負債を放置しない開発を目指しています。

フロントエンドエンジニア(TypeScript)

業務内容

当ポジションは弊社Webサービスのフロントエンド機能設計及び実装を担当します。 サービス毎の開発チームで2週間スプリントのスクラム開発を実施しています。 週次で開発チームミーティングを実施し、実装設計の相談や工数見積もりを行います。 全ての開発コードはレビューと自動テストによって品質を保っています。 また、リファクタリングやフレームワークのバージョンアップも開発フローに組込み、技術的負債を放置しない開発を目指しています。

機械学習エンジニア

業務内容

センサーデータの分析モデルの調査・研究・開発。 Kabuku Connectの製造データ(3D、2D)から情報を抽出するモデルの構築。 データの前処理や学習、ハイパーパラメータチューニング、獲得モデルの評価、プロダクションのデータパイプラインとの連携をお願いします。

インターン(Webエンジニア)

業務内容

業務から独立した、調査・研究系のタスクをおまかせしています。コードレビュー、 社内での報告会、 ブログ記事執筆を通して着実にスキルアップしていただくことを目指しています。 (希望があれば、プロダクトの開発業務もおまかせします。)

→
←

お客様のご要望に「Kabuku」はお応えいたします。
ぜひお気軽にご相談ください。

お電話でも受け付けております
03-6380-2750
営業時間:09:30~18:00
※土日祝は除く