この革命の語彙。

入力の各要素の重要度をモデルが重み付けできるようにする機構。

モデルが文を読むとき、アテンションは各単語を他のすべての単語と結びつけ、続きにとって重要なものを判断させる。これは論文『Attention Is All You Need』（2017年）の重要な革新であり、現在の革命すべての起点である。

モデルが人間の意図に沿って行動するようにすること。

モデルが有用で、誠実で、無害であり続けることを保証するための技術を総称する分野。強化学習、価値の憲章（Constitutional AI）、敵対的評価、利用ポリシーなどを含む。

応答するだけでなく行動できるモデル。

エージェントとは、単に会話するだけではないAIモデルである。コードを実行し、ファイルを読み、ウェブを閲覧し、他のツールを呼び出し、目標を達成するために一連の行動を連鎖させることができる。Claude Code、Cursor、Aiderはコーディングを行うエージェントの例である。

モデルの重みはダウンロード可能だが、データと学習は非公開のまま。

Llama、Mistral、Qwen、DeepSeekは重みを公開している。誰でもモデルをダウンロードして実行できる。しかし、コーパスやすべての方法は公開しない。これが今日のAIにおける「オープンさ」の最も一般的な定義である。

ソースコードと重みが利用可能で、利用と改変に寛容なライセンスが付くもの。

厳密な意味でのオープンソースモデルは、コード、重み、データ、学習方法を自由なライセンスのもとで公開する。より制限的な「オープンウェイト」とは区別すべきである。真の例はOLMo、Pythia。報道ではしばしばオープンウェイトと混同される。

モデルが一度に読めるトークンの最大数。

モデルが同時に処理できる情報量を測る指標である。プロンプト、ドキュメント、会話の履歴など。現代のモデルは8,000から200万トークンに及ぶ。それを超えると、モデルは冒頭を「忘れて」しまう。

画像と動画を扱うAIの分野。

物体認識から画像生成、さらには医療シーンの解析まで、コンピュータビジョンは今日、最も先進的なマルチモーダルLLMに統合されている。

モデルの学習に使われるテキスト（または画像、音声…）の集合。

フロンティアLLMはペタバイトを超えるコーパスで学習される。ウェブのCommon Crawl、書籍、コード、科学論文、会話などである。コーパスの質と構成が、モデルが何を知っているか、そしてそのバイアスを大きく決定する。

モデルの安全装置を回避するための技法。

モデルに自らの規則を破らせる（禁止されたコンテンツを生成させる、システムプロンプトを漏らさせるなど）悪意あるプロンプトやエクスプロイト。ラボは常時の敵対的モードで専任チーム（レッドチーム）をこれに充てている。

モデルのサイズ、データ、計算量と性能との間の経験的な関係。

OpenAI、続いてDeepMind（Chinchilla、2022年）によって発見された。パラメータやデータを倍にすると、モデルが予測可能な形で改善する。この規則性が過去5年間の大規模な投資を正当化してきた。そしてその限界の到来こそが現在の争点である。

行動するために外部の関数を呼び出すモデルの能力。

ツールを備えたモデルは、コードを実行し、ファイルを読み、ウェブ検索を行い、天気APIを呼び出すことを決定できる。これがチャットボットを自律的なエージェントへと変えるレイヤーである。

複数の層を持つニューラルネットワークによる機械学習。

深層ニューラルネットワーク（数十から数千の層）に基づく機械学習のサブ分野。2012年以降AIを支配するパラダイムであり、LLM、現代のコンピュータビジョン、画像生成を可能にした。

LLMが扱う基本単位、単語、断片、記号。

LLMは単語ではなくトークンを見ている。一般に3〜5文字の断片である。「Bonjour」は1トークンになりうるが、「anticonstitutionnellement」は6〜7トークンを要する。これはまたAPIの課金単位でもある。

モデルが自信を持って情報を捏造すること。

LLMは構造上、真の単語ではなく最も確率の高い単語を予測する。情報が不足しているとき、もっともらしく捏造する。架空の引用、でっちあげの日付、存在しない関数など、リスクは現実であり、真剣に受け止めなければならない。

モデルが学習データから受け継ぐ体系的な歪み。

モデルはコーパスに存在するバイアスを再生産し、時に増幅する。ステレオタイプ的な表現、文化的な欠落、特定の言語の過剰表現などである。バイアスの測定と緩和は終わりのない作業である。

学習中に調整される、モデルの内部の数値。

現代のLLMは数十億から数兆のパラメータを含む。各パラメータは学習時に調整される実数である。パラメータが多いほど能力は高まるが、学習と推論のコストも増える。

既存のモデルの学習を特定のデータで継続すること。

事前学習済みのモデルを取り、はるかに小さな専用コーパスで、ある領域（法務、医療、社内用語…）に特化させる。完全な学習よりも安価で、単純なプロンプトよりも効果的である。

多くのアプリケーションの基盤となる、事前学習済みのモデル。

2021年にスタンフォードによって広められた用語で、ファインチューニングやプロンプトによって何千もの専門的なアプリケーションの土台となる、非常に大きく汎用的なモデル（GPT-4、Claude、Gemini、Llama）を指す。

ある時点で最も高性能なモデル群、いわば「最先端」。

能力の最先端に位置するファウンデーションモデルの部分集合で、一般に4〜5社（OpenAI、Anthropic、Google、Meta、xAI、DeepSeek）によって保有される。その潜在的な影響ゆえに、新たな規制の対象となるカテゴリである。

応答を得るためにモデルに与える入力テキスト。

モデルが応答する前に受け取るすべてのもの。あなたの質問、文脈、システム指示、履歴である。プロンプトの質は出力の質に直接影響する。だからこそスキルとしての「プロンプトエンジニアリング」が登場した。

モデルを最大限に活用するため効果的なプロンプトを練り上げる技術。

経験的な技法の集まりである。タスクの分解、挿入された例（few-shot）、思考の連鎖、割り当てられた役割など。それ自体が一つの独立したスキルであり、従来のエンジニアの仕事よりも編集者の仕事に近い。

モデルの性能を測定するための標準化されたテスト。

ラボがモデルを比較する一連の試験（MMLU、HumanEval、GPQA、SWE-bench…）。ベンチマークはマーケティングに不可欠だが、飽和、学習コーパスへの漏れ、現実の有用性との結びつきの弱さなどでしばしば批判される。

テキスト、画像、音声、動画など複数の入力タイプを扱うモデル。

現代のモデル（GPT-4o、Claude 4、Gemini）はもはやテキストに限定されない。画像を読み、音声を聞き、時には画像や動画を生成できる。マルチモーダリティは利用の幅を大きく広げる。

モデルを攻撃してその欠陥を見つけることを任務とする社内チーム。

サイバーセキュリティから借りた手法である。主要なリリースのたびに、あるチームが悪意ある利用（ジェイルブレイク、悪用可能なバイアス、データ漏洩）をシミュレートし、脆弱性を特定して修正する。

一定の規模を超えると突如として現れる能力。

一部の能力（多段階の推論、ゼロショット翻訳）は小さなモデルでは観察されず、サイズや学習の閾値を超えたときに突如として現れる。この現象は部分的に問い直されており、使用される指標に依存する。

単語、文、文書の意味を数値で表現したもの。

モデルは「猫」と「犬」を、意味を共有しているがゆえに、数百次元の空間で近いベクトルに変換する。埋め込みは意味検索とRAGの土台である。

モデルのパラメータが調整される、その学習の段階。

モデルに膨大な量のデータを提示し、期待される出力を生み出すよう、数十億のパラメータを徐々に調整する。これは最もコストのかかる段階であり、フロンティアモデルでは数百万から数億ドルに及ぶ。

モデルが段階ごとに推論を明示する技法。

回答する前にモデルに「声に出して考える」よう促すことで、推論タスク（数学、論理、コード）での性能が劇的に向上する。いわゆる*推論*モデル（o1、o3、extended thinkingを備えたClaude）はこのアプローチを産業化している。

応答を生み出すために、すでに学習済みのモデルを実行すること。

モデルが一度だけ学習されるのに対し、それは数十億回も使われる。推論コスト（リクエストあたり）がAIサービスの収益性を決定する。競争はますます推論の効率性で決まるようになっている。

応答する前に複数の論理的ステップを連鎖させるモデルの能力。

新世代のモデル（o1、o3、Claude *thinking*、Gemini 2.5）は、回答を生み出す前に「考える」時間をとる。分解、検証、後戻りなどである。数学、コード、計画立案での性能が向上する。

機械が書かれた規則ではなくデータから学ぶ分野。

手作業で命令を書く代わりに、機械に多くの例を見せる。機械は観察された振る舞いを再現するために内部のパラメータを調整する。これが現代のAIすべての土台である。

分類するのではなく、新しいコンテンツを生み出すモデルの一群。

テキスト、画像、音声、動画、コードを創造するモデルを指し、純粋に分類する「識別的」モデルと対をなす。2022年以降のメディアの波を引き起こしたのは生成AIである。

大きなモデルを、その出力を模倣する小さなモデルに圧縮すること。

より小さな「生徒」を、より大きな「教師」を模倣するよう訓練する。その結果、実行コストが低く、能力の大部分を保持したモデルが得られる。多くの「コンパクトな」モデル（Haiku、GPT-4o-mini）は蒸留によるものである。

推論を高速化するためパラメータの数値精度を下げること。

各パラメータを32または16ビットで保存する代わりに、8、4、あるいは2ビットにまで落とす。モデルは質を少し失うが、はるかに速く軽くなる。ノートパソコンやスマートフォンでLLMを動かすのに役立つ。

有能な人間と同じくらい汎用的なAI。

Artificial General Intelligence（汎用人工知能）とは、ごく一部のタスクだけでなく、ほとんどの認知タスクで人間に匹敵またはそれを上回ることができる仮説上のシステムを指す。この用語は議論の的であり、その定義は普遍的に共有されておらず、業界ではますますマーケティング目標として使われている。

AIのために投じられる設備（GPU、データセンター）への支出。

Microsoft、Google、Amazon、Metaは2025年末時点で、AIインフラに合計で年間3000億ドル以上を支出した。現在の議論は、このCapExが現在の収益によって正当化されるのか、それとも約束に基づいているのか、という点である。

ソフトウェアがモデルを呼び出せるようにする技術的インターフェース。

APIはモデルの機能を開発者に公開する。これはAIラボが自社のモデルを企業向けに収益化する主要な経路であり、トークン単位の課金、契約、クォータなどが行われる。

SaaS企業の収益を12か月に換算した標準的な指標。

AIラボの商業的な勢いを比較するための中心的な指標。OpenAIとAnthropicのARRは、競争のバロメーターとして金融報道で定期的に報じられている。

あらゆる領域で人間を明確に上回るとされるAI。

AGIを超えた仮説上の水準であり、システムがすべての領域で最高の人間の専門家を凌駕する状態。存在論的リスクやAIガバナンスに関する議論の中心的な概念である。

Anthropicが開発した、原則の憲章によるアラインメント手法。

人間のフィードバックだけから学習する代わりに、モデルは書かれた憲章（「憲法」）に照らして自らを批判するよう訓練される。これはClaudeをアラインするためのAnthropicの代表的なアプローチである。

計算能力を毎秒の演算回数で表す測定単位。

フロンティアモデルは今日、その学習に10²⁵ FLOPS程度を必要とする。欧州の*AI Act*や一部の米国の輸出規制は、それを超えるとモデルが「システミックなリスク」とみなされるFLOPSの閾値を設定している。

プロンプトに挿入したいくつかの例からタスクを学ぶこと。

新しいタスクのためにモデルをファインチューニングする代わりに、プロンプトの中で2、3個の例を与える。モデルはこれらのデモンストレーションから一般化する。これは古いモデルに対するLLMの大きな利点である。

大規模な並列計算のために設計されたプロセッサ、AIの主役。

NVIDIAのGPU（H100、H200、B200）は生成AIの原材料である。その入手可能性が、誰が何を学習できるかを左右する。ラボ間での割り当ては地政学的な問題となっている。

非常に大規模にテキストを予測するよう学習されたAIモデル。

*Large Language Model*とは、膨大なテキストコーパスで次の単語を予測するよう学習されたニューラルネットワーク（一般にTransformer）である。Claude、ChatGPT、Gemini、MistralはすべてLLMである。その規模はパラメータ数（数十億から数兆）で測られる。

モデルをツールやデータに接続するためのオープンなプロトコル。

AIエージェントがファイル、API、データベースにアクセスする方法を標準化するために、Anthropicが2024年末に導入した標準。エコシステムに広く採用されており、Cursor、Continue、そしてほとんどのAIエディタがこれをサポートしている。

リクエストごとにモデルの一部の「エキスパート」だけが活性化するアーキテクチャ。

各トークンですべてのパラメータを活性化する代わりに、MoEはリクエストをいくつかの専門化されたサブネットワークにルーティングする。妥当な推論コストを保ちながら、巨大なモデル（数兆のパラメータ）を学習することを可能にする。GPT-4、Mixtral、DeepSeek-V3がこの技術を使っている。

LLMと文書検索を組み合わせて、その回答を根拠づけること。

回答する前に、システムは文書ベースから関連する箇所を探し、それをプロンプトに注入する。モデルはその後、検証可能な情報源に基づく。ハルシネーションを減らし、社内文書を問い合わせることを可能にする。

人間の好みに基づいてモデルを微調整すること。

人間がモデルの二つの回答を比較し、どちらが優れているかを示す。モデルはより良いと判断される回答を生み出すよう学習する。ChatGPT以降、LLMを人間の期待にアラインさせるための標準的な技術である。

現代のすべての大規模モデルを支えるニューラルネットワークのアーキテクチャ。

2017年にGoogleの論文『Attention Is All You Need』で導入されたTransformerは、再帰型アーキテクチャをアテンション機構に置き換える。LLMの革命全体（GPT、BERT、Claude、Gemini）がそこから生まれる。

事前の例を一切使わず、指示だけからタスクを遂行すること。

LLMの象徴的な能力である。タスクの例をプロンプトで一度も見せることなく、翻訳、要約、分類を直接求める。few-shotの裏返しである。