2020-05-01から1ヶ月間の記事一覧

Anchor-FreeなObject Detection アルゴリズム

はじめに 今回はAnchor-FreeなObject Detectionアルゴリズムについて ソースコードを読みながら理解する。 Anchor-Free なObject Detection SSDなどのObject Detectionアルゴリズムは画像にAnchor-Boxと呼ばれる 矩形領域を敷き詰めて、それぞれのAnchor-Box…

学習済みFlowtronを試してみる

はじめに 前回、 Flowtron (Valle et al. 2020)の内容を理解しようとしたが、 今回は公開されている学習済みFlowtronを動かしてみる。 学習済みモデル Flowtronの学習済みモデルFlowtron LibriTTS を用いた。 複数スピーカーによる音声データセットであるLib…

Flowtronを理解する

はじめに 文章から音声データを生成するタスク Text to Speech (TTS)におけるDeep Learning手法として Tacotron2 (Shen et al. 2017)が有名である。そのTacotron2を拡張して生成する音声データを ある程度調整可能にしたFlowtron (Valle et al. 2020)が最近…

日本語CTRLのFine-tuning

はじめに 前回学習した日本語CTRLをFine-tuningにより制御コードを 追加した結果をまとめる。 追加データ 制御コード「生活」として健康アドバイスデータのライフログを利用した。(10000件) それに加え、制御コード「科学」として、手動で収集したWeb上の科…

Object Detectionアルゴリズム (2020/5)

はじめに Deep LearningによるObject Detectionのアルゴリズム論文をまとめる。 以下を参考にした。 https://engineer.dena.com/posts/2019.07/cv-papers-19-keypoint-object-detection https://www.slideshare.net/pfi/a-brief-history-of-object-detection…

日本語CTRL学習結果まとめ

はじめに これまで学習してきた日本語CTRLの最終モデルをまとめる。 学習曲線 学習は500Kステップ行った。 train loss の学習曲線(span=5000のewmaでスムージング済み) 学習曲線を見る限りはほぼ収束しているように見える。 推論結果 いくつか推論して見た結…

日本語CTRLを1から学習する - 15

はじめに 前処理を修正した学習の途中経過。 オリジナル文章生成 250000ステップの学習結果。 物理学には愛がある。 青空 物理学には愛がある。或る種の物理学はすなわち思慮の機である。空想は恋愛であるという一つの型である。例えば恋愛は内的自由とか内…

日本語CTRLを1から学習する - 14

はじめに 日本語CTRL学習2回目の結果をまとめる。 結論だけ述べると前処理を修正して再学習する必要がある オリジナル文章の生成 600000ステップの結果 物理学には愛がある。 青空 物理学には愛がある。之を見つけるまでには、必ずこの題材を考えなくてはな…