Google Colaboratory を自分のマシンで走らせる

Tweet

株式会社カブクで機械学習エンジニアのインターンでお世話になっている杉崎弘明（大学3年）です。今回はGoogle Colaboratoryのローカル実行について書きます。

本記事の目的

　Google Colaboratory（以降、Colaboratory）というサービスをご存知でしょうか。このサービスはGoogle Driveなどを通じてJupyter Notebooksのような環境を管理することができるサービスになります。iPython Notebook（以降ipynb）上のセルを実行するとデフォルトでGoogleが提供してくれているサーバー上で動くことになりますが、今回は手元のPCやリモートサーバ上でColaboratoryを実行していきたいとおもいます。
　ipynbをすぐに共有できるGoogle Colaboratoryは魅力的だけどローカルにあるCPUやGPUパワーを使用したいといった際に活用できます。
　基本的な手法はGoogle公式のページに掲載されています。
　https://research.google.com/colaboratory/local-runtimes.html?hl=ja

実行環境

今回使用したマシンは以下のような構成になっています。

• Ubuntu 16.04 LTS (GPUサーバ)
• Anaconda
  • Python3.5.2
  • TensorFlow 1.8.0 (CPU、GPUバージョンの比較あり)
  • Keras 2.2.0
• ブラウザ : ChromeまたはFirefox

目次

1. ローカルのラップトップPC(Mac)でGoogle Colaboratoryを実行
2. ローカルのGPU搭載デスクトップPC (Ubuntu) でGoogle Colaboratoryを実行
3. GPUマシンにリモートデスクトップで接続する方法
   3.1. ディスプレイ有りGPUマシンをミラーリングで操作
   3.2. ディスプレイ無しGPUマシン（ヘッドレスサーバ）を仮想デスクトップ環境下で操作
4. おまけ1：AnacondaによるPython環境の構築(Ubuntu)
5. おまけ2：【失敗】SSHポートフォーワディングを利用したJupyterとColaboratoryの接続

1. ローカルのラップトップPC(Mac)でGoogle Colaboratoryを実行

　やり方はとっても簡単です。基本的には以下の４ステップです。

1.1. Jupyterを使用したいPCにインストールする
1.2. Colaboratoryが接続できるようになる拡張機能jupyter_http_over_wsをいれる
1.3. Jupyterを起動する
1.4. Colaboratoryを開いてローカルランタイムを選択する

詳しい環境構築を見たい方は「4. おまけ1：AnacondaによるPython環境の構築(Ubuntu)」をご覧ください。

1.4. Jupyterを使用したいPCにインストールする。

Python環境が構築された状態でpip(pip3)コマンドを使用してJupyterをインストールします

$ pip install jupyter

1.2. Colaboratoryが接続できるようになる拡張機能jupyter_http_over_wsをいれる

Jupyterの拡張機能<a href="https://github.com/googlecolab/jupyter_http_over_ws">jupyter_http_over_ws</a>を導入し有効にします。

$ pip install jupyter_http_over_ws
$ jupyter serverextension enable --py jupyter_http_over_ws

1.3. Jupyterを起動する

Jupyterを起動する際にアクセスを通すURLとポートを指定してあげます。
ポートは8888に限らず空いているポートを自由に指定できます。

$ jupyter notebook \
  --NotebookApp.allow_origin='https://colab.research.google.com' \
  --port=8888

このコマンド実行後、デフォルトのブラウザが起動します。

1.4. Colaboratoryを開いてローカルランタイムを選択する

　先ほどデフォルトで開いたブラウザと同じブラウザを用いてColaboratoryのノートブックを開きます。
　右上にある「connect」と表示されているところをクリックし、「Connect to a local runtime…」（「ローカル ランタイムに接続」）を選択します。

ポート番号が先ほど示したものと同じであることを確認して「CONNECT」をクリックします。

1.4.1. Firefoxで使用する場合

　Chromeだと素直につながりますがFirefoxだとデフォルト設定で弾かれるようになっているので以下のように設定してください。
　まずFirefoxブラウザのアドレスバーに「about:config」と入力してEnterを押してください。警告画面がでますので「危険性を承知の上で使用する」をクリックします。

検索欄に「network.websocket.allowInsecureFromHTTPS」と入力して出てきた項目をダブルクリックで「true」に変更します。

　これでFirefoxからのアクセスも通るようになります。

2. ローカルのGPU搭載デスクトップPC (Ubuntu) でGoogle Colaboratoryを実行

　次はGPU搭載のデスクトップPCを使用したいと思います。

2.1. GPUマシンでのColaboratoryの実行

　TensorFlowやKerasで手元のGPUを使いたい場合はColaboratory側でいじる設定は無く、ローカルのマシンにインストールされているTensorFlowに依ります。CPU用のTensorFlowをインストールして入ればCPUが使われますし、GPU用のTensorFlowをインストールして入ればGPUが使われます。

　CPUとGPUの速度の違いを以下に記しておきます。
　実行したコードはKeras-teamが公開しているcifar10のサンプルコードになります。実際にタイムを測定したのは以下の部分にです。
(CPUでの実行が遅すぎたのでサンプルコードに一部変更を加えepochsを5で実行しています。)

%%time

if not data_augmentation:
    print('Not using data augmentation.')
    model.fit(x_train, y_train,
              batch_size=batch_size,
              epochs=epochs,
              validation_data=(x_test, y_test),
              shuffle=True)
else:
    print('Using real-time data augmentation.')
    # This will do preprocessing and realtime data augmentation:
    datagen = ImageDataGenerator(
        featurewise_center=False,  # set input mean to 0 over the dataset
        samplewise_center=False,  # set each sample mean to 0
        featurewise_std_normalization=False,  # divide inputs by std of the dataset
        samplewise_std_normalization=False,  # divide each input by its std
        zca_whitening=False,  # apply ZCA whitening
        zca_epsilon=1e-06,  # epsilon for ZCA whitening
        rotation_range=0,  # randomly rotate images in the range (degrees, 0 to 180)
        width_shift_range=0.1,  # randomly shift images horizontally (fraction of total width)
        height_shift_range=0.1,  # randomly shift images vertically (fraction of total height)
        shear_range=0.,  # set range for random shear
        zoom_range=0.,  # set range for random zoom
        channel_shift_range=0.,  # set range for random channel shifts
        fill_mode='nearest',  # set mode for filling points outside the input boundaries
        cval=0.,  # value used for fill_mode = "constant"
        horizontal_flip=True,  # randomly flip images
        vertical_flip=False,  # randomly flip images
        rescale=None,  # set rescaling factor (applied before any other transformation)
        preprocessing_function=None,  # set function that will be applied on each input
        data_format=None,  # image data format, either "channels_first" or "channels_last"
        validation_split=0.0)  # fraction of images reserved for validation (strictly between 0 and 1)

    # Compute quantities required for feature-wise normalization
    # (std, mean, and principal components if ZCA whitening is applied).
    datagen.fit(x_train)

    # Fit the model on the batches generated by datagen.flow().
    model.fit_generator(datagen.flow(x_train, y_train,
                                     batch_size=batch_size),
                        epochs=epochs,
                        validation_data=(x_test, y_test),
                        workers=4)

の比較を行うと以下のようになります。

　5エポックしかまわしていないので識別精度はそれほど高くないですが、ほぼ７倍の速度で同じレベルの識別精度を達成しています。これでちゃんとGPUが使われていることが確認できました。

3. GPUマシンにリモートデスクトップで接続する方法

　GPUマシンを直接扱う人以外にリモートで扱いたい人もいると思いますので以下にその一手法をまとめておきます。
– 3.1. ディスプレイ有りGPUマシンをミラーリングで操作
– 3.2. ディスプレイ無しGPUマシン（ヘッドレスサーバ）を仮想デスクトップ環境下で操作

※リモートデスクトップで実行しようとしている理由はSSHポートフォワーディングによるJupyterとColaboratoryの接続がうまくいかなかったからです。（後述：「おまけ2：【失敗】SSHポートフォーワディングを利用したColaboratoryの実行」）

3.1. ディスプレイ有りGPUマシンをミラーリングで操作

3.1.1. Ubuntuサーバ側の設定

　まず左上のアイコンをクリックして検索ワードに「desktop sharing」と入力します。すると、「Desktop Sharing」アプリケーションが見つかりますのでクリックします。

　以下のように設定してパスワードを入力し、閉じます。

　次に暗号化をオフにしておかないとMacからの接続ができないので以下のコマンドをターミナルで実行します。

$ gsettings set org.gnome.Vino require-encryption false

ここまで終わったら一度パソコンを再起動し、再びログインしてください。これでUbuntu側の設定は終わりです。

3.1.2. Mac（クライアント）側の設定

　MacからSSHでポートフォーワディング接続をして、5900番ポートをつなぎます。ここではMac側のポートを55900にしていますが、空いていれば何でも構いません。

$ ssh -L localhost:55900:localhost:5900 <user>@<ip>

　この状態のまま手元のMacで「Finder」を開きます（Cmd + Space, "finder"を入力, Enter）。そして写真のように「Connect to Server」をクリックまたは「Cmd + k」を押します。

　今回の場合、アドレス欄に「vnc://localhost:55900」と入力し、Connectをクリックします。

パスワードが求められますので先に決めたパスワードを入力してあげればUbuntu側のディスプレイに映っている画面と同じ画面を操作することができます。

　仮想的なデスクトップである分、ミラーリングのときよりもサクサク動いた印象を受けます。

3.2. ディスプレイ無しGPUマシン（ヘッドレスサーバ）を仮想デスクトップ環境下で操作

　次にディスプレイをつけていないヘッドレスサーバにおけるリモートデスクトップの方法を記述します。tightvncserverを利用します。Ubuntuにはデフォルトで入っているかもしれませんが一応インストール方法も含めて説明します。

3.2.1. サーバ側

　SSHなどを経由してサーバにログインして設定を行います。
　まずは必要なパッケージをインストールします。

$ sudo apt-get update
$ sudo apt-get upgrade
$ sudo apt-get dist-upgrade
$ sudo apt-get install xorg lxde-core
$ sudo apt-get install ubuntu-desktop gnome-panel gnome-settings-daemon metacity nautilus gnome-terminal
$ sudo apt-get install tightvncserver

　次にtightvncserverコマンドを利用してVNCサーバを立ち上げます。初めて起動させると自動で~/.vncディレクトリ下にファイルを生成してくれるので一度以下のコマンドを実行します。

$ tightvncserver -localhost :1

　このときリモートデスクトップする際に用いるパスワードを聞かれますので入力しましょう。

　そして以下のコマンドを実行して終了します。

$ tightvncserver -kill :1

　さて、~/.vnc/xstartupファイルを以下のように書き換えます。既存のものはコメントアウトして以下の内容を追記してください。

##!/bin/sh

[ -x /etc/vnc/xstartup ] && exec /etc/vnc/xstartup
[ -r $HOME/.Xresources ] && xrdb $HOME/.Xresources
xsetroot -solid grey
vncconfig -iconic &
x-terminal-emulator -geometry 80x24+10+10 -ls -title "$VNCDESKTOP Desktop" &
x-window-manager &

gnome-panel &
gnome-settings-daemon &
metacity &
nautilus &

　最後にこの設定の状態で再び起動します。

$ tightvncserver -localhost :1

このとき、5900番から始めて:1の場合は1番目、つまり5901番ポートが空いていることを確認しましょう。

$ netstat -plan | grep Xtightvnc
tcp        0      0 127.0.0.1:5901   0.0.0.0:*       LISTEN      11986/Xtightvnc 
tcp        0      0 0.0.0.0:6001     0.0.0.0:*       LISTEN      11986/Xtightvnc 

　これでサーバ側の設定は終わりです。

3.2.2. クライアント(Mac)側

　　「3.1.2. Mac（クライアント）側の設定」と同様、SSHポートフォワーディングした上でfinderから接続します。

$ ssh -L locahost:55901:localhost:5901 <user>@<ip>

　左上の「アプリケーション > システムツール > Xfce Terminal」を選択すればターミナルを開けます。

　以下のようにGUIからブラウザを起動することもできます。

　これ以降は通常のデスクトップと同様なので、「1. ローカルのラップトップPC(Mac)でGoogle Colaboratoryを実行」で説明した内容と同じ方法でJupyterを起動しColaboratoryと接続してください。

4. おまけ1：AnacondaによるPython環境の構築(Ubuntu)

　今回使用した環境の構築方法を掲載しておきます。

4.1. Anacondaのインストール

　まず下のサイトで自分のインストール環境のOSを選択します。ここではUbuntuへの環境構築なのでLinuxを選択します。

Downloads

Download下の「64-Bit (x86) Installer」を右クリックしてリンクのURLをコピーします。

サーバー環境のターミナルに入り以下のコマンドを実行します。
（ここではコピーしたURLを https://repo.anaconda.com/archive/Anaconda3-5.2.0-Linux-x86_64.sh だとします。）

$ cd ~
$ wget https://repo.anaconda.com/archive/Anaconda3-5.2.0-Linux-x86_64.sh
$ bash Anaconda3-5.2.0-Linux-x86_64.sh

いくつか設定を聞かれるかもしれませんが、デフォルトのままで大丈夫です。
公式のページはこちらであり、

　インストールが完了したら以下のコマンドでpython3.5.2の環境を作ります。

$ cd ~
$ source .bashrc
$ conda create --name py3.5.2 python=3.5.2

このときcondaコマンドが見つからない場合はシェルの設定ファイル内に以下を追記してください。

export PATH="/home/<user>/anaconda3/bin:$PATH"

ここまで上手くいっていれば、以下のコマンドでpython3.5.2の環境下に入ることができます。

$ source activate py3.5.2

4.2. TensorFlow / Keras のインストール

　公式に書いてある通りですが、こちらからバージョンに合うもののURLをコピーしてpipコマンドでインストールします。

$ source activate py3.5.2
$ pip install --ignore-installed --upgrade https://storage.googleapis.com/tensorflow/mac/cpu/tensorflow-1.8.0-py3-none-any.whl

kerasは単にpipでインストールできます。

$ pip install keras

以上で環境構築は完了です。

5. おまけ2：【失敗】SSHポートフォーワディングを利用したJupyterとColaboratoryの接続

　リモートのGPUマシン上で起動したJupyterをSSHポートフォワーディングを使用して、ローカルブラウザ上のColaboratoryと接続を試みたところエラーが出てうまく接続できなかったので記述しておきます。

　例えば以下のような図で表される感じをイメージしています。

　コードで書くと以下のようになります。

pc@local:$ ssh -L localhost:58888:localhost:8888 <user>@<ip>
<user>@server:$ source activate py3.5.2
<user>@server:$ jupyter notebook \
    --NotebookApp.allow_origin='https://colab.research.google.com' \
    --port=8888 ¥
    --no-browser

　最後のコマンド実行時にログにtoken付きのlocalhostのURLが表示されるのでそれをコピーします。lcoalのブラウザに貼り付けた状態でポートを58888に変更しますとちゃんとJupyterへのアクセスが可能になります。

しかし、同じブラウザを使用してColaboratoryの接続ポートを58888に設定しても接続されませんでした。

ずっと「接続中」のままで接続されません。

その際、Jupyterのログには以下のようなコードが出力されていました。

[E 19:21:06.168 NotebookApp] Uncaught error when proxying request
    Traceback (most recent call last):
      File "/home/<user>/anaconda3/envs/py3.5.2/lib/python3.5/site-packages/jupyter_http_over_ws/handlers.py", line 151, in on_message
        response.rethrow()
      File "/home/<user>/anaconda3/envs/py3.5.2/lib/python3.5/site-packages/tornado/httpclient.py", line 611, in rethrow
        raise self.error
    ConnectionRefusedError: [Errno 111] Connection refused

拡張機能jupyter_http_over_wsの対応を待った方が良さそうです。

最後に

　今回はGoogle Colaboratoryのipynbをローカルマシンで実行する方法と、リモートサーバでも扱えるようにリモートデスクトップの方法についても記述しました。アップデートを通じてリモートデスクトップの必要はなくなるかもしれませんが、それまでの間参考にしていただけると幸いです。

参考文献

• Google Colaboratory
  • ローカル ランタイム – Google
  • keras/examples/cifar10_cnn.py keras-team/keras – GitHub
  • Installing on Linux – Conda
• リモートデスクトップ
  • Vino
    • デスクトップUbuntuにVNC接続。ついでにSSHローカルポートフォワードの復習。
  • tightvncserver
    • tightvncserver VNC/Servers – Community Help Wiki – Ubuntu Documentation
    • TightVNC Server on Ubuntu 16.04
    • Install VNC on Ubuntu 16.04
    • vnc – vncserver grey screen ubuntu 16.04 LTS – Ask Ubuntu