2023
2
月号
今月もオブジェクトの広場をどうぞお楽しみください。記事に対する感想は、ぜひ公式Facebookページのコメント欄までお願いいたします。(2023.02.21)
はじめての自然言語処理 第25回 Transformer 系モデルの推論高速化の検証
今回は Transformer 系のモデル、具体的には BERT, T5, GPT の推論を高速化してみます。高速化手法として FasterTransformer, Torch-TensorRT, AWS Neuron を用い、素 の transfomers に比べ、どの程度速くなるか(ならないか)、利点・欠点を確認してみましょう。
3月号は、3月下旬頃の公開予定です。
From Editors
つい先日の2/17(金)に「Women in Agile」の国内初イベント、Women in Agile Tokyo Conference 2023に参加してきました。私はエンタープライズアジャイル勉強会の立場として共同主催でしたので、どのくらい人が集まるかなーと気を揉んでいたのですが、当日は100人近く来場し、男女比は女性が9割弱、男性1割強くらいで、今回のイベントの狙いからちょうどよい具合でした。久しぶりのリアルイベントで、且つ大半の人が初めて会う人だったので、とても新鮮で、新しい発見・学びが得られた一日でした。やっぱりリアルイベントはいいもんですね。(山内亨和)