たれぱんのびぼーろく

わたしの備忘録、生物学とプログラミングが多いかも

機械学習コードの抽象化/透過処理

Checkpoint

前提: CheckpointのIOは無視できるほど小さい(爆速でCheckpointをread/writeするやつはいない)

学習開始時に pull checkpoint, 学習終了/中断時に push checkpointが必要.
抽象化をしない場合、remote->local checkpointダウウンロード、checkpoint local保存 + remoteアップロードが必要.
ただし、ファイルシステム/fsへのread/writeと見ればダウウンロード/アップロードを抽象化できる.
fsはデータ実体の場所を問わない (c.f. ファイルシステム - Wikipedia).
Checkpointを読みたかったらread, 書き込みたかったらwriteするだけ (透過的remoteアクセス).
remote対応しているfsを使うだけでいい(c.f. fsspec

欠点はIOパフォーマンスだが、前提にあるようにcheckpointはIO-boundにならないので無問題

run argument

コンテナベースの場合:
ENTRYPOINTで["python", "main.py"], CMDで["--arg_a", "A", "--arg_b", "B"]
こうすれば「設定を渡す」に抽象化できる(Pythonかどうか、どのファイルを実行するか、を透過的に)
学習用アプリケーション、的な抽象化になってる(アプリが何の言語で書かれているかUserは不関知)

Google AI Platform training

// Sets up the entry point to invoke the trainer.
ENTRYPOINT ["python", "task.py"]
https://cloud.google.com/ai-platform/training/docs/using-containers#dockerfile-basics

Google AI Platform training

The training service runs your Docker image, passing through any command-line arguments you specify when you create the training job.
https://cloud.google.com/ai-platform/training/docs/containers-overview

認証

学習コンテナからは透過的に扱える
gateway/proxy sidecar、あるいはインスタンスへのAuthZ.