たれぱんのびぼーろく

わたしの備忘録、生物学とプログラミングが多いかも

2021-09-01から1ヶ月間の記事一覧

BackwardとOptimizer

「誤差はいくつか」と「誤差をどう重みに反映するか」の役割分担. 特定の層だけ学習無しにしたい場合(例: Encoder-FixNet-Decoder)、誤差逆伝播をFixNetで止めるのはNG. なぜならEncoderへ誤差が伝わらないから. Backwardは通常通り計算して、OptimizerをE…

最適化時のNegativeLog処理

Negative: 最大化と最小化の逆転 Log: 単調性は守りつつ分数を差に変換 確率変数の場合、分配関数Zで割ってる場合が多い Zによる正規化で0に張り付くの防止

FairSeqのGSLMレポ解析

gslm/speech2unit: Speech-to-連続unit-to-離散unit. モデルと学習済みパラメータが配布. /pretrained: Speech-to-連続unitの部分 /cpc_feature_reader.py: PCP Speech-to-unitモデルの色々 CPCEncoder: [Conv-CN-ReLU]x5だけ. 超シンプル. CPCAR: ただのLST…

prediction in 機械学習

PredictionとReconstruction prediction: 対応する特徴量無しに対象の観測値を推定すること reconstruction: 対応する特徴量から対象の観測値を生成すること Predictionの場合、contextを基に観測値を推定する. イメージとしては、1枚だけ裏返しで他が全部表…

論文解説: Polyak (2021) Speech Resynthesis from Discrete Disentangled Self-Supervised Representations

ニューラルな音響特徴量(content, fo, speaker)からneural vocoderで音声合成/変換/圧縮できるかなチャレンジ. 表現学習とボコーダ学習は完全分離 (表現モデルをpretraining -> fix). fixされたモデル出力からボコーダ学習. content表現モデルはCPC, HuBER…

UX=クチコミ

AmazonのレビューみればどれもこれもUX. ユーザーが自分の体験を自分の目線で自分の言葉で書いてるんだから.

専門家・キャリア

feature専門家 technical専門家 の2パス 特定分野のUXをポンと渡されたら、実装スタックの候補をガーッと出せるのがfeature専門家 ある技術について、理論から実務、新規研究までできるのがtechnical専門家 組織構造で出てくるfunctional/featureと同じ構造 …

規模と構造

大規模スクラムや階層構造が詰むやつ. 現場の知見を重視して作られる良くある構造: 密なチーム→全チーム共通ヘッド→スケールしない 密なチーム→スケールしない→多チーム自律→feature単位の部分最適化 密なチーム→スケールしない→代議階層構造→チーム密にする…

意思決定の情報源

前提: 1エージェントが捌ける情報量には上限がある 世界でたった1人だけ正解を見出していて、それを拾いたい 「これが正解だ!」って100万人主張してたら、100万件を総当たり精査するしかない? たった1人しか正解を見出していないので、この段階で(精査なし…

アジャイルなやつ

私たちは、価値提供の実践 あるいは実践を手助けをする活動を通じて、 よりよい価値提供方法を見つけだそうとしている。 この活動を通して、私たちは以下の価値観に至った。 作業 (work) よりも価値 (value) を、 予測 (prediction) よりも適応 (adaption) …

マーケティング: 存在を製品に変える

人が絶滅してもリンゴは木になる. 人が絶滅してもiPhoneの在庫はそこにある. 人が絶滅してもビックサンダーマウンテンは走る. それが使われまいがなんだろうが、存在は存在として存在する. 存在は人が利用を認識することで製品/プロダクトと見做され、人に価…

価値提供仮説

「価値提供仮説」 value proposition hypothesis これをユーザーが価値あると感じてくれると思う (valueそのものの仮説) proposition過程 (needs/dissatisfaction-> UX -> value) UXを引き起こす提供方法/ソリューション 3つセットに対する仮説. 仮説は計画…