2022-03-15から1日間の記事一覧
ONNXのquantization/量子化は手探りで進歩中. 負債の部 既に進化の歴史っぽい負債がある. しばらくは残り続ける負債なのでメモ. 表現: QOp vs QDQ ONNXのOperatorはint8を受け付けないのが大半 (しかしint64は受け付ける謎仕様). int8のみを受け付けるQOpera…
ONNXのquantization/量子化は手探りで進歩中. 負債の部 既に進化の歴史っぽい負債がある. しばらくは残り続ける負債なのでメモ. 表現: QOp vs QDQ ONNXのOperatorはint8を受け付けないのが大半 (しかしint64は受け付ける謎仕様). int8のみを受け付けるQOpera…