たれぱんのびぼーろく

わたしの備忘録、生物学とプログラミングが多いかも

2020-12-01から1ヶ月間の記事一覧

NeuralArticulatorySynthesis

Welcome to the NeuralArticulatorySynthesis wiki! Past researches before Deep learning Robust Articulatory Speech Synthesis using Deep Neural Networks for BCI Applications (2014) Data driven articulatory synthesis with deep neural networks …

Datasetの保存と圧縮

前提: CorpusとDatasetの分離 Datasetはそんなに長く持つものじゃない Corpusと違って公開するものでもない 何かあればCorpusからいつでも作り直せる 音声にzipで圧縮したら3割くらい減る 10GBのdatasetをzipで持って-3GB 転送量が減るメリットはある <= 日…

統計と機械学習

統計: 確率 機械学習: 手続き 統計 p(x|θ) 機械学習 f(x;θ) & θ ⇦ g(f, X, θ) 統計的機械学習はfがpと関係してるモデル. 確率論に基づいた学習理論が使える (e.g. MLE) 学習ではなく確率モデル汎化誤差の振る舞いに注目する統計学の分野や、確率関係なくヒュ…

fsspecのZipFileSystem速度

素のファイルアクセスと比較して50%くらいのオーバーヘッドあり ただし最適化の余地あり 計測環境 Google Colab 処理 PyTorch.Tensorのload & processing PyTorch.Tensorをファイルに事前保存. load→ Tensor*2.0を数十ファイルに対して処理、これを1000ルー…

Energy-Based Model

Energy-Based Model: "不安定さ"に相当するEnergyを確率変数に割り当てるモデル. エネルギーから確率を得たり、確率変数間のエネルギー比を計算したりして使う. 確率として扱う場合は確率密度関数をボルツマン分布とする. ボルツマン分布はポテンシャル関数…

VQ-VAE audio (Oord, 2017)

4.3節がaudio. official samples Architecture Encoder [Conv1d (k4, s2)] x61 情報量: ±16msecのhalf-overlap Decoder DilatedConv, similar to WaveNet dilated convolutional architecture similar to WaveNet decoder The decoder is conditioned on bot…

確率変数に対する演算の難しさ

given x ~ p(x) y = f(x) E(•): Expectation then E(y) = sum(p(x) * y) xが有限で少数の場合、計算してΣすればいい xが有限で多数の場合、計算量が凄いことになる xが無限個の場合、計算してΣは出せない xが連続の場合、∮の解析解を出しうる (一般には成立…