Transformerとは？
読み方: トランスフォーマー
30秒まとめ
現代のAIモデルの基盤となるニューラルネットワークアーキテクチャ。自己注意機構が核心技術。
Transformerの意味・定義
Transformer（トランスフォーマー）は、2017年にGoogleの研究チームが論文「Attention Is All You Need」で発表したニューラルネットワークアーキテクチャです。自己注意機構（Self-Attention）を中核に据え、入力テキスト内の各単語が他のすべての単語との関係性を並列に計算することで、文脈を効率的に理解します。従来のRNN（再帰型ニューラルネットワーク）やLSTMと比較して、長い文脈の処理と並列計算に優れており、大規模な学習を可能にしました。GPT、BERT、Gemini、Claudeなど、現在の主要なLLMはすべてTransformerアーキテクチャをベースに構築されています。自然言語処理だけでなく、画像認識（Vision Transformer）や音声処理など、幅広い分野に応用が広がっています。