はじめに 今回はTransformerを用いた文章生成について調査・検証する。 GPT-2, CTRL2つのモデルについて触れてみる。 検証ライブラリはtransformersを用い、環境はGoogle Colaboratoryで行う。 GPT-2 GPT-2はOpenAIが提案したTransfomerを用いた言語生成モデ…