注: この記事は2019年4月29日現在のColabとTensorflow(1.13)での話です。 概要 kerasで書かれたtransformerをtf.kerasで書き直してGoogle Colabの無料で使えるTPU上で学習させた。 デモとして「Wikipedia日英京都関連文書対訳コーパス」を使って英→日翻訳を…