In a CAPM or Fama-French world, "how many factors?" is decided by theory. In an approximate factor model with latent factors (Chamberlain & Rothschild 1983) the analyst chooses $K$ from data. Pre-2002 this was either ad-hoc (scree plot, eigenvalue threshold) or formally inconsistent (standard AIC/BIC don't work when both panel dimensions grow).
Bai & Ng's contribution is a family of penalised criteria consistently selecting the true $K$ as $N, T \to \infty$ jointly.
The paper assumes you know this term. Worth pinning down. Asset-pricing models come in three flavours of increasing realism:
One observed factor (market return), constant loading $\beta_i$ per stock, constant intercept $\alpha_i$. Classical assumption: $\varepsilon_{it}$ is i.i.d. across stocks and over time — noise covariance $\text{Cov}(\varepsilon)$ is a diagonal matrix, every stock's idiosyncratic shock independent of every other's.
$K$ observed factors (market, size, value, momentum, profitability, …). Still assumes $\varepsilon_{it}$ are cross-sectionally uncorrelated — factors are supposed to capture all the comovement.
Clean on the chalkboard. Doesn't survive real data: even after controlling for FF5, residuals across stocks remain correlated — sector-specific news, supply-chain shocks, fund-flow effects all leak through.
Same equation form, but the noise assumption is relaxed:
$$ X_{it} = \lambda_i'\, F_t + e_{it} $$The word "approximate" refers to this relaxation. Ross's "exact" APT (1976) demanded uncorrelated $e_{it}$; Chamberlain-Rothschild's "approximate" version allows weak correlation but draws the line at the eigenvalue-scaling gap above.
Why finance needs the relaxation. In equity panels, residuals are always weakly correlated — that's just reality. Forcing exact-factor assumptions makes the model unidentifiable because the math says "if residuals are correlated at all, the structure could explain it instead of factors." Approximate-factor relaxes this so identification works.
| Term | Meaning |
|---|---|
| Strong factors | Top-$K$ eigenvalues scale linearly in $N$. Signal grows with universe; PCA picks them out cleanly. |
| Weak factors | Top-$K$ eigenvalues bounded or grow slowly. S/N stays bounded; standard PCA can over-select. (Onatski 2010 handles this regime.) |
| Common component | $\lambda_i' F_t$ — the part factors explain. |
| Idiosyncratic component | $e_{it}$ — the rest. Weak correlation allowed, independence not assumed. |
| Large-$N$, large-$T$ asymptotics | Both panel dimensions grow. Large $N$ identifies factors via cross-section. Large $T$ identifies loadings via time-series. |
Given this setup, Bai-Ng (2002) asks: how do we choose $K$ from data? Pre-2002, methods were either ad-hoc (scree plot — visual eyeballing of where eigenvalues "elbow") or used standard AIC/BIC criteria that don't have the right asymptotic behaviour when both $N$ and $T$ grow. Bai-Ng give the first consistent criteria for this exact regime.
§1.5 still relies on terms (covariance matrix, eigenvalue, AIC/BIC, "consistent") that need their own ground-up explanation. Here is each, with finance-concrete examples.
A covariance matrix for $N$ stocks' noise terms is an $N \times N$ grid:
A diagonal matrix has all off-diagonals = 0 — no two stocks' noises are correlated. Strong claim.
Finance intuition. Are Toyota's and Sony's company-specific shocks truly independent? In real data, no — JPY-USD moves, BoJ policy, global business cycle leak through as "factor-residual" effects. Diagonal breaks. Chamberlain-Rothschild relaxed: no factor-strength correlation, but weak residual correlation is fine.
An eigenvalue of a covariance matrix measures the magnitude of one principal axis of variation. The largest = "how big is the dominant direction of movement".
Why one grows and the other doesn't.
Consequence. The gap between factor and noise eigenvalues grows with $N$. With 10 stocks, can't tell. With 5,000 stocks, top factor eigenvalue is hundreds of times larger. This gap is the PCA-and-eigenvalue-ratio identification source.
Simplest case. Each stock has $\beta_i = 1$, $\text{Var}(F_t) = 1$, $\text{Var}(e_{it}) = 1$, with independent noises across stocks.
The return covariance matrix:
$$ \text{Cov}(r) = \beta\beta' \text{Var}(F) + \text{Cov}(e) = \mathbf{1}_N \mathbf{1}_N' + I_N $$— $N \times N$ with 2 on the diagonal, 1 off-diagonal.
Eigenvalues:
| $N$ | Top eigenvalue | Noise eigenvalues | Top / noise ratio |
|---|---|---|---|
| 5 | 6 | 1 | 6× |
| 50 | 51 | 1 | 51× |
| 500 | 501 | 1 | 501× |
| 5,000 | 5,001 | 1 | 5,001× |
The ratio grows linearly with $N$. CRSP-scale (~5,000 US stocks) is exactly where this makes PCA work.
Stock $i$ loading on factor with coefficient $\beta_i$ contributes $\beta_i^2 \cdot \text{Var}(F)$ to the factor-direction variance. Sum across $N$ stocks:
$$ \text{Total factor-direction variance} = \sum_{i=1}^N \beta_i^2 \cdot \text{Var}(F). $$If $\beta_i$ are bounded away from zero on average, this sum grows like $N$. Adding up $N$ positive numbers — not magic.
Independent noises across stocks can't be summed in any one direction — each lives in its own dimension. Each noise eigenvalue stays bounded at ~$\text{Var}(e)$ regardless of $N$.
In one sentence: factors create aligned loadings (they all point in similar directions in N-space, so they stack); noises create random loadings (they point in unrelated directions, so they don't stack).
★ ← Factor (top) eigenvalue — grows with N
eigenvalue ★
↑ ★
★
| ★
| ● ● ● ● ● ● ● ● ● ● ← Noise eigenvalues — flat
| ● ● ● ● ● ● ● ● ● ●
+───────────────────────────────→ N (universe size)
K = 1 factor → 1 tower visible.
As $N$ grows, the factor "tower" stretches upward while the noise "floor" stays flat. With $K=3$ true factors, there are 3 towers above the floor. The eigenvalue-ratio selector $\hat K$ picks the rank where the jump from tower to floor happens — that's the whole BN / Onatski / CRW story.
$N$ pairs of binoculars all pointing approximately north, each with random jitter → the aggregate line of sight is firmly north, and confidence grows with $N$. That's a factor.
$N$ children doing random unrelated dance moves → no aggregate direction emerges. That's noise.
Factor models work because stocks in a real panel are more like the binoculars than the children.
Strong factor. Market beta. Every stock loads positively. $N$ grows → loadings stack → eigenvalue scales linearly.
Weak factor. 2024 AI-CapEx niche theme. Meaningful for ~50 stocks, ~zero for the other ~4,950. Even at large $N$, eigenvalue stays small. Standard PCA can confuse it with noise.
Common component $\lambda_i' F_t$. Of Toyota's 3% return: market +0.5%, size +0.3%, value −0.1% → 0.7% common.
Idiosyncratic component $e_{it}$. Remaining 2.3% — Toyota-specific news. Not assumed independent of Honda/Nissan; same-industry residual correlation is allowed.
Large-$N$, large-$T$ asymptotics. "Both panel dimensions big enough that asymptotic theorems apply". CRSP US: $N \approx 5{,}000$, $T \approx 700$ — both large. J-Quants JP: $N \approx 4{,}000$, $T \approx 200$ — both large. "S&P 500 over 5 years" ($N = 500$, $T = 60$) is too small for asymptotics.
Scree plot. Chart of eigenvalues in descending order. Eyeball the "elbow" → $\hat K$.
eigenvalue ↑ | * | * | * ← elbow at K=3 | · · · · · · | +─────────→ rank
Problem: subjective. Two analysts can disagree on $K=3$ vs $K=5$. No reproducibility, no formal test.
AIC / BIC. Standard time-series model-selection: error + penalty × parameter-count.
Problem: derived for "$N$ fixed, $T \to \infty$" or fully-parametric. Factor models grow both $N$ and $T$ and tolerate weakly-correlated residuals. Standard penalty rates don't match the asymptotic behaviour of $V(k)$ here. Result: standard AIC/BIC over- or under-selects — not consistent.
"Consistent" criterion. Statistical term: as $N, T \to \infty$, $\Pr(\hat K = K) \to 1$. Bai-Ng (2002) give the first criteria provably satisfying this in the approximate-factor regime. Their innovation: introduce a new rate condition — penalty must shrink slower than $\min(N,T)^{-1}$ — and design $\text{PC}_p$ / $\text{IC}_p$ families to satisfy it. The rest of the paper (the six formulas in §3) makes this concrete.
| Symbol | Meaning |
|---|---|
| $X_{it}$ | observed data (e.g., a macro series, an asset return) |
| $F_t$ | $K \times 1$ vector of common factors |
| $\lambda_i$ | $K \times 1$ vector of factor loadings |
| $e_{it}$ | idiosyncratic component (weakly cross-sectionally / serially correlated allowed) |
This is an approximate factor model — $e_{it}$ does not need to be i.i.d., just well-behaved. The true $K$ is unknown.
After §1.5 / §1.6 you know what an approximate factor model is. Now the operational question: given data, how do you find $K$?
Natural first idea: try $k = 0, 1, 2, \dots$ candidate factor counts, see which fits best. "Fit" here is measured by the residual sum of squares per observation, call it $V(k)$:
$$ V(k) \;=\; \frac{1}{NT} \sum_{i=1}^N \sum_{t=1}^T \bigl(X_{it} - \hat\lambda_i^{k\prime} \hat F^k_t\bigr)^2. $$For each candidate $k$: fit PCA with $k$ factors → get loadings $\hat\lambda_i^k$ and factor estimates $\hat F^k_t$ → compute the average squared difference between actual data and fitted values.
What does $V(k)$ look like as $k$ grows?
| $k$ | What's left in $V(k)$ |
|---|---|
| $k = 0$ | entire cross-sectional variance (no factors fitted, residual = data) |
| $k = 1$ | total variance minus what 1 factor explains |
| $k = K$ (true) | approximately just the idiosyncratic noise variance |
| $k = k_{\max}$ | even smaller — fitting noise as if it were factor |
| $k = N$ | exactly 0 (with $N$ "factors" you can perfectly fit any panel) |
So $V(k)$ monotonically decreases as $k$ grows. If you minimised $V(k)$ alone, you'd always pick $k = k_{\max}$ — pure overfitting.
Same problem as adding more variables to a regression: $R^2$ never decreases, so you can't pick the right number of variables by maximising $R^2$ alone.
Standard model-selection trick: add a penalty proportional to $k$ to discourage extra factors. New objective:
$$ \text{criterion}(k) \;=\; V(k) \;+\; k \cdot \text{penalty}(N, T). $$As $k$ grows:
The minimum sits at the $k$ where marginal fit gain equals marginal tax. Beyond that, extra factors cost more than they help.
The whole game is picking the right penalty rate:
Bai-Ng's contribution is finding the penalty rates that work in the large-$N$-large-$T$ approximate-factor regime and proving the resulting criteria are consistent.
Bai-Ng give two families, named after what they minimise:
Works on $V(k)$ directly:
$$ \text{PC}(k) \;=\; V(k) \;+\; k \cdot \hat\sigma^2 \cdot \text{rate}(N, T) $$The $\hat\sigma^2$ factor (in practice, $V(k_{\max})$) scales the penalty to the variance level of the data — otherwise a panel measured in basis points vs. percentage points would behave differently.
Works on $\ln V(k)$:
$$ \text{IC}(k) \;=\; \ln V(k) \;+\; k \cdot \text{rate}(N, T) $$The log absorbs the scale, so no $\hat\sigma^2$ multiplier needed.
Why two families? Both are asymptotically equivalent — both pick the right $K$ as $N, T \to \infty$. But finite-sample behaviour differs:
Naming follows tradition: AIC and BIC are "Information Criteria" (use $\ln$-likelihood), so Bai-Ng's IC inherits the style. "PC" emphasises the principal-component nature — working directly on residuals from the PCA fit.
Within each family, Bai-Ng propose three penalty rates. All satisfy the consistency conditions; they differ in finite-sample behaviour.
Define $C_{NT}^2 := \min(N, T)$ — the smaller of the two panel dimensions (the binding constraint for asymptotics).
| Variant | Penalty rate | Intuition |
|---|---|---|
| p1 | $\dfrac{N+T}{NT} \ln\!\left(\dfrac{NT}{N+T}\right)$ | Harmonic-mean rate × log of geometric-mean dimension. Slightly faster decay. |
| p2 | $\dfrac{N+T}{NT} \ln C_{NT}^2$ | Same harmonic-mean rate, but log of the smaller dimension. Bai-Ng's recommended default. |
| p3 | $\dfrac{\ln C_{NT}^2}{C_{NT}^2}$ | Pure $\min(N,T)$ rate. Slowest decay → most conservative. |
In the empirical literature, $\text{IC}_{p2}$ is the most commonly used selector.
Putting it together — six concrete criteria to minimise over $k$:
$$ \begin{aligned} \text{PC}_{p1}(k) &= V(k) + k\, \hat\sigma^2 \cdot \tfrac{N+T}{NT} \ln\!\left(\tfrac{NT}{N+T}\right) \\ \text{PC}_{p2}(k) &= V(k) + k\, \hat\sigma^2 \cdot \tfrac{N+T}{NT} \ln C_{NT}^2 \\ \text{PC}_{p3}(k) &= V(k) + k\, \hat\sigma^2 \cdot \tfrac{\ln C_{NT}^2}{C_{NT}^2} \\ \text{IC}_{p1}(k) &= \ln V(k) + k \cdot \tfrac{N+T}{NT} \ln\!\left(\tfrac{NT}{N+T}\right) \\ \text{IC}_{p2}(k) &= \ln V(k) + k \cdot \tfrac{N+T}{NT} \ln C_{NT}^2 \\ \text{IC}_{p3}(k) &= \ln V(k) + k \cdot \tfrac{\ln C_{NT}^2}{C_{NT}^2} \end{aligned} $$Each criterion = [base term] + k × [penalty rate]:
To find $\hat K$ for any of these: compute the criterion for $k = 0, 1, \dots, k_{\max}$ and pick the $k$ that minimises it.
Why these specific rates work. Penalty must satisfy two simultaneous conditions: (i) shrink to zero as $N, T \to \infty$ — else the criterion always picks $k = 0$. (ii) shrink slower than $V(k+1) - V(k)$ does for $k > K$ — else noise variations in $V$ dominate the tax. Bai-Ng prove the three rate variants all satisfy this Goldilocks condition.
Theorem 2 (Bai & Ng). As $N, T \to \infty$ jointly, $\Pr(\hat K = K) \to 1$ for each of the six criteria, under mild assumptions on factor strength and idiosyncratic correlation.
Sketch: for $k < K$, $V(k)$ is bounded away from $V(K)$ — under-fitting penalised. For $k > K$, $V(k) - V(K) \to 0$ at rate $\min(N,T)^{-1}$, while the penalty shrinks more slowly — over-fitting penalised.
Applied to a Stock-Watson US macro panel (215 series, ~39 years monthly), the criteria consistently select 2 factors. Robust to sub-sample stability, different transformations (levels vs. growth), adding/dropping series. Monte Carlo: reliable when $\min(N,T) \geq 40$; unstable below — important caveat for short panels.
For the AOF replication / extension stack, Bai-Ng IC is the default $K$-selector when both panel dimensions are large:
| Scenario | Recommended selector | Reason |
|---|---|---|
| US full panel 1968→today | BN ICp2 | Standard, well-tested, consistent under large $N$, $T$. |
| US rolling 5-year window | CRW eigenvalue ratio | $T \approx 60$ — too small for BN to be reliable. |
| JP full panel 1990→today | BN ICp2, $k_{\max} = 8$ | $T \approx 400$, $N \approx 3{,}500$ — well within BN's comfort zone. |
| JP rolling 5-year window | CRW eigenvalue ratio | Same small-$T$ concern. |
Implementation: 30 lines of NumPy. Compute SVD once with $k_{\max}$ components, get $V(k)$ for all $k \leq k_{\max}$ from cumulative explained variance, minimise the criterion.
CAPM や Fama-French の世界では「何ファクターか?」は理論が決める。近似ファクターモデル(Chamberlain & Rothschild 1983)の場合、$K$ はデータから選ぶしかない。2002 年以前は ad-hoc な方法(スクリープロット、固有値しきい値)か、形式的に非一致な方法(標準 AIC/BIC はパネル両次元が増える場合には機能しない)しかなかった。
Bai & Ng の貢献は、$N, T \to \infty$ で真の $K$ を一致選択するペナルティ付き基準の族を提示したこと。
論文ではこの用語が前提知識として使われる。形式設定に入る前に整理しておく。アセットプライシング・モデルは現実度の段階で 3 つに分けられる:
観測可能なファクター 1 つ(マーケットリターン)、各銘柄に固定ローディング $\beta_i$、固定の切片 $\alpha_i$。古典的仮定:$\varepsilon_{it}$ は銘柄間でも時間軸でも i.i.d. — ノイズ共分散 $\text{Cov}(\varepsilon)$ は対角行列で、各銘柄の個別ショックは他のあらゆる銘柄から独立。
観測可能なファクター $K$ 個(マーケット、規模、バリュー、モメンタム、収益性、…)。依然として $\varepsilon_{it}$ は銘柄間で無相関と仮定 — ファクターが共動のすべてを捉えていることが前提。
教科書では綺麗。実データには通用しない:FF5 を控除しても残差は銘柄間で相関する — 業種ニュース、サプライチェーンショック、ファンドフロー効果などが残る。
式の形は同じ、しかしノイズの仮定を緩める:
$$ X_{it} = \lambda_i'\, F_t + e_{it} $$「近似」という言葉はこの緩和を指す。Ross の「厳密」APT (1976) は $e_{it}$ の無相関を要求した;Chamberlain-Rothschild の「近似」版は弱い相関を許すが、上の固有値スケーリングのギャップで線を引く。
なぜファイナンスでこの緩和が必要か。株式パネルでは残差は常に弱く相関している — それが現実。厳密ファクター仮定を強制すると、「残差が少しでも相関するなら、その構造がファクターの代わりに説明してしまう」とモデルがデータから識別不能になる。近似ファクターはこれを緩めて識別を可能にする。
| 用語 | 意味 |
|---|---|
| 強い因子 | 上位 $K$ 固有値が $N$ に線形成長。ユニバースとともにシグナルが成長し、PCA がクリーンに拾える。 |
| 弱い因子 | 上位 $K$ 固有値が有界 or 緩慢な成長。S/N が有界に留まり、標準 PCA は過大選択しうる。(Onatski 2010 が対応。) |
| 共通成分 | $\lambda_i' F_t$ — ファクターが説明する分。 |
| 個別成分 | $e_{it}$ — 残り。弱相関は許容、独立は仮定しない。 |
| 大 $N$・大 $T$ 漸近 | パネル両次元が成長。大 $N$ がクロスセクションでファクターを識別。大 $T$ が時系列でローディングを識別。 |
この設定の下で Bai-Ng (2002) が答える問い:$K$ をデータからどう選ぶか? 2002 年以前は、ad-hoc 手法(スクリープロット — 固有値が「肘」になる箇所を視覚で見る)か、標準 AIC/BIC($N, T$ 両方が増える領域では正しい漸近的振る舞いを持たない)しかなかった。Bai-Ng はこの領域用に最初の一致性ある基準を与えた。
§1.5 はまだ用語(共分散行列、固有値、AIC/BIC、「一致性」)に依存している。それぞれを底から、ファイナンスの具体例で展開する。
$N$ 銘柄のノイズの共分散行列は $N \times N$ の格子状の表:
対角行列とは非対角成分がすべて 0 — つまりどの 2 銘柄のノイズも互いに無相関という強い主張。
ファイナンスの直感。 トヨタとソニーの「企業特有のショック」は本当に独立か?実データでは違う — 円ドル、日銀政策、グローバル景気サイクルが「ファクター残差」効果として両方に同時に効く。対角は破綻する。Chamberlain-Rothschild はこれを緩めた:ファクター強度の相関は NG だが、残差間の弱い相関は OK。
固有値とは、共分散行列の主要な変動方向の大きさを測る数値。最大固有値 = 「データが最も大きく振れる方向の振幅」。
なぜ片方は成長し片方は留まるか。
帰結。 ファクター固有値とノイズ固有値のギャップが $N$ とともに広がる。$N = 10$ では区別ほぼ不能。$N = 5{,}000$ ではトップ固有値はノイズの数百倍。このギャップが PCA と固有値比セレクター $\hat K$ の識別の根拠。
最もシンプルな設定。各銘柄について $\beta_i = 1$、$\text{Var}(F_t) = 1$、$\text{Var}(e_{it}) = 1$、銘柄間のノイズは独立。
リターンの共分散行列:
$$ \text{Cov}(r) = \beta\beta' \text{Var}(F) + \text{Cov}(e) = \mathbf{1}_N \mathbf{1}_N' + I_N $$— $N \times N$ で対角が 2、非対角が 1。
固有値は:
| $N$ | 最大固有値 | ノイズ固有値 | 最大/ノイズ比 |
|---|---|---|---|
| 5 | 6 | 1 | 6× |
| 50 | 51 | 1 | 51× |
| 500 | 501 | 1 | 501× |
| 5,000 | 5,001 | 1 | 5,001× |
比は $N$ に比例して成長。CRSP 規模(米国約 5,000 銘柄)がまさに PCA を機能させる領域。
銘柄 $i$ がファクターに係数 $\beta_i$ でロードするとき、ファクター方向分散への寄与は $\beta_i^2 \cdot \text{Var}(F)$。$N$ 銘柄合計:
$$ \text{ファクター方向の合計分散} = \sum_{i=1}^N \beta_i^2 \cdot \text{Var}(F). $$平均的にベータが 0 から離れていれば、合計は $N$ に比例。$N$ 個の正の数を足しているだけ — マジックではない。
銘柄間で独立なノイズは、どの単一方向にも合算できない — それぞれが自分の次元に単独で居る。各ノイズ固有値は $N$ に関わらず ~$\text{Var}(e)$ のまま。
一言で言うと:ファクターは揃ったロード(N 次元空間で似た方向を向くので積み重なる);ノイズはランダムなロード(無関係な方向を向くので積み重ならない)。
★ ← ファクター(最大)固有値 — N とともに成長
固有値 ★
↑ ★
★
| ★
| ● ● ● ● ● ● ● ● ● ● ← ノイズ固有値 — 平坦
| ● ● ● ● ● ● ● ● ● ●
+───────────────────────────────→ N(ユニバースサイズ)
K = 1 ファクター → 1 本のタワー。
ユニバースが広がると、ファクターの「タワー」が上に伸び、ノイズの「床」は平坦なまま。真の $K = 3$ なら床の上に 3 本のタワーが立つ。固有値比セレクター $\hat K$ はタワーから床への跳躍点を選ぶ — これが BN / Onatski / CRW の物語全体の核。
$N$ 組の双眼鏡が概ね北を向き、それぞれにランダムなブレ → 集合した視線は確実に「北」、$N$ が増えるほど確信が増す。これがファクター。
$N$ 人の子どもがそれぞれランダムで無関係なダンス → 集合に方向はなく、$N$ を増やしても featureless。これがノイズ。
ファクターモデルが機能するのは、実データの株式パネルが子どもよりも双眼鏡の集まりに近いから。
強い因子。 マーケットベータ。全銘柄が大なり小なり正にロード。$N$ を増やすと同方向のロードが積み重なる → 固有値が $N$ に線形成長。
弱い因子。 2024 年 AI CapEx ナラティブのようなニッチセクターテーマ。50 銘柄程度には効くが、残り 4,950 銘柄ではほぼゼロ。$N$ を増やしても固有値は伸びない。標準 PCA はノイズと取り違えうる。
共通成分 $\lambda_i' F_t$。 トヨタの今月リターン 3% のうち、マーケット +0.5%、規模 +0.3%、バリュー −0.1% → 合計 0.7% が共通成分。
個別成分 $e_{it}$。 残り 2.3% — トヨタ固有のニュース。ホンダや日産のノイズと完全独立とは仮定しない;同業残差相関は許容。
大 $N$・大 $T$ 漸近。 「パネル両次元が漸近定理が効く程度に十分大きい」状態。CRSP 米国:$N \approx 5{,}000$、$T \approx 700$ — 両方大。J-Quants JP:$N \approx 4{,}000$、$T \approx 200$ — 両方大。「S&P 500 × 5 年」だと $N = 500$、$T = 60$ — 両方小、漸近は効かない。
スクリープロット (scree plot)。 固有値を大きい順にプロットしたグラフ。視覚的に「肘 (elbow)」がある場所を $\hat K$ とする。
固有値 ↑ | * | * | * ← elbow at K=3 | · · · · · · | +─────────→ 順位
問題:主観的。同じスクリープロットで $K=3$ か $K=5$ かで分析者が割れる。再現性なし、形式的検定なし。
AIC / BIC。 時系列計量経済学の標準モデル選択基準。誤差 + ペナルティ × パラメータ数 の形。
問題:「$N$ 固定、$T \to \infty$」または完全パラメトリック前提で導出された。ファクターモデルでは $N$ も $T$ も増え、残差が弱相関を許す。標準ペナルティ速度はこの領域の $V(k)$ 漸近と合わない。結果、標準 AIC/BIC は $k = k_{\max}$ を常に選ぶか $k = 0$ を常に選ぶかで、一致性がない。
「一致性ある (consistent) 基準」。 統計用語で「サンプルサイズ $N, T$ が ∞ に発散すると $\Pr(\hat K = K) \to 1$」。Bai-Ng (2002) は近似ファクター設定でこれを満たす最初の基準を与えた。技術的貢献:「ペナルティは $\min(N,T)^{-1}$ より遅く 0 に収束する必要がある」という新しい速度条件を導入し、$\text{PC}_p$ / $\text{IC}_p$ 族を設計してこれを満たした。後続の §3 にある 6 つの式がこれを具体化する。
§1.5 と §1.6 を通読してもなお抽象的に感じる 8 つの概念を、具体例で深掘りする。
$N = 5$ 銘柄(トヨタ、ホンダ、ソニー、任天堂、KDDI)として、$\varepsilon_t = (\varepsilon_{1t}, \dots, \varepsilon_{5t})'$ の共分散行列を書き下す:
古典 CAPM の対角仮定の場合:
$$ \text{Cov}(\varepsilon_t) = \begin{pmatrix} \sigma_1^2 & 0 & 0 & 0 & 0 \\ 0 & \sigma_2^2 & 0 & 0 & 0 \\ 0 & 0 & \sigma_3^2 & 0 & 0 \\ 0 & 0 & 0 & \sigma_4^2 & 0 \\ 0 & 0 & 0 & 0 & \sigma_5^2 \end{pmatrix} = \begin{pmatrix} 0.04 & 0 & 0 & 0 & 0 \\ 0 & 0.05 & 0 & 0 & 0 \\ 0 & 0 & 0.06 & 0 & 0 \\ 0 & 0 & 0 & 0.03 & 0 \\ 0 & 0 & 0 & 0 & 0.04 \end{pmatrix} $$つまり「トヨタの月次ノイズの分散は 4%、ソニーは 6%、…」が対角に並ぶだけ。非対角はすべて 0 — トヨタのノイズとソニーのノイズの共分散はゼロ=完全独立、ということ。
近似ファクターの場合(Chamberlain-Rothschild):
$$ \text{Cov}(e_t) = \begin{pmatrix} 0.04 & \color{#b8651e}{0.012} & \color{#b8651e}{0.003} & 0 & 0 \\ \color{#b8651e}{0.012} & 0.05 & \color{#b8651e}{0.004} & 0 & 0 \\ \color{#b8651e}{0.003} & \color{#b8651e}{0.004} & 0.06 & 0 & 0 \\ 0 & 0 & 0 & 0.03 & 0 \\ 0 & 0 & 0 & 0 & 0.04 \end{pmatrix} $$非対角に小さな正の値が入っている(自動車業界 — トヨタ・ホンダ・ソニー間で残差が連動)。一方、KDDI とは無関係。これが「非対角の数値が完全にゼロではないが「ほぼゼロ」」の意味。技術的な強度条件は (5) と (8) で。
i.i.d. = independent and identically distributed(独立同分布)。2 つの主張を同時にしている:
| 用語 | 意味 | 株式リターン例 |
|---|---|---|
| independent(独立) | ある観測値が、別の観測値について何の情報も持たない。$P(X_1 = a, X_2 = b) = P(X_1 = a) \cdot P(X_2 = b)$ が任意の $a, b$ で成り立つ。 | コインの 1 投目と 2 投目の結果 — 1 投目が表だったからといって 2 投目の確率は変わらない |
| identically distributed(同分布) | すべての観測値が同じ確率法則に従う。$X_1, X_2, \dots$ の各々の分布関数 $F_i(\cdot)$ がすべて一致:$F_1 = F_2 = \dots$ | 同じコインを毎回投げる — どの投擲も表確率 0.5 |
株式リターンは i.i.d. か? — まったく違反する:
だから古典 CAPM の「$\varepsilon_{it}$ は時間と銘柄で i.i.d.」は、株式リターン分析に使うには相当強引な仮定 — 教科書では便利だが現実とは乖離する。
「同じファクターを引いたあと、残るのは銘柄個別のノイズだけ — 銘柄間ではゼロ相関」と主張するが、実データでは必ず違反する。違反するパターン:
| 残差相関の源 | 具体例 |
|---|---|
| 業種ニュース | EV ブームでテスラ・トヨタ・BYD が同時に動く(マーケット・サイズ・バリュー factor では拾いきれない自動車セクター固有成分) |
| サプライチェーン | 台湾 TSMC の供給制約でアップル・ソニー・任天堂が同時に下落 |
| ファクター抜け | 5 ファクターモデルが「クオリティ」や「低ボラ」を拾えていない → 残差にその構造が残る |
| ファンドフロー | 大手 ETF のリバランスで似た特性の銘柄群が同時に動く |
| マクロショック | 円ドル急変で輸出企業(トヨタ、ソニー、村田)の残差が同時に正 |
これらがすべてゼロ相関、というのは経験的にあり得ない。だから古典 CAPM/FF はテスト統計量が歪み、実用上は「t 値を信用するな」と言われる。
$X_{it} = \lambda_i' F_t + e_{it}$ には $\alpha_i$ が見当たらない。3 つの理解:
緩めるのは「残差 $e_{it}$ の振る舞い」だけ:
$\alpha_i$ は最初から脇に置いておく(標本平均で除く)。
確かに直感的には程度問題に聞こえるが、Chamberlain-Rothschild は形式的に定義する:
定義:「弱い相関」とは、$\text{Cov}(e_t) \in \mathbb{R}^{N \times N}$ の最大固有値 $\mu_{\max}(\text{Cov}(e_t))$ が、$N \to \infty$ にしても有界に留まる」こと。
形式的:$\exists M < \infty$ such that $\mu_{\max}(\text{Cov}(e_t)) \le M$ for all $N$.
これは「銘柄数を増やしても、残差のどの方向にも分散が積み上がらない」という意味。具体的に何が許され、何が許されないか:
| 許される(弱) | 許されない(強) |
|---|---|
| 同業種 50 銘柄の残差ペア相関が 0.05〜0.15 程度の中央値 | すべての銘柄ペアの残差相関が一律 0.3(→ 最大固有値 ≈ $0.3 N$ で発散) |
| 残差の自己相関が AR(1) で $\rho = 0.1$ 程度(指数減衰) | 長期記憶過程(自己相関が冪減衰 $t^{-0.3}$ — 和が発散) |
| 50 銘柄クラスタ × 数十個(クラスタ間は独立) | 共通の小ファクターが全銘柄に均等に効く(→ それは「もう 1 つのファクター」、$K$ を増やすべき) |
同様に「緩やかな自己相関」とは:残差の自己共分散 $\gamma(h) = \text{Cov}(e_{i,t}, e_{i,t+h})$ が $h \to \infty$ で十分速く 0 に収束(典型的に指数減衰)。ARMA 程度ならOK、長期記憶過程は NG。
覚え方:残差に「もう 1 つのファクターが隠れている」レベルの相関は強すぎる(その共通方向がファクター固有値として現れて、ノイズ床から飛び出してしまう)。共通方向にならない散らばったペア相関なら OK。これが「弱い」の操作的な意味。
正方行列 $A \in \mathbb{R}^{N \times N}$ について、$A v = \lambda v$($v \neq 0$)を満たすスカラー $\lambda$ を固有値、ベクトル $v$ を固有ベクトルと呼ぶ。
幾何学的意味:「行列 $A$ がベクトル $v$ に作用しても、方向は変わらず長さだけ $\lambda$ 倍になる」 — 方向が保存される特別な軸。
これは「$x$ 軸方向に 3 倍、$y$ 軸方向に 1 倍する変換」。
変換前 ● 変換後
│ ●●● ← x 軸方向には 3 倍に伸びた
● │ ● │
│ │ ← y 軸方向は変わらない
───●───●───●─── ───●●●───●●●───
│ │
● │ ● │
● ●
データの共分散行列 $\Sigma$ について:
2 銘柄(トヨタ・ホンダ)のリターン散布図を想像する:
ホンダ ↑ ● ● │ ● ● ● ● ←最大固有値の方向(45° 線、両社が一緒に動く=マーケット) │ ● ● ● ● ● │● ● ● ● ● │ ● ● ● ● ←第 2 固有値の方向(−45°、片方上がってもう片方下がる=個別差) │ ● ● └─────────────→ トヨタ
散布図の「長軸」が PC1(最大固有値 = マーケット方向の分散)、それに直交する「短軸」が PC2(第 2 固有値 = 個別差の分散)。
§1.6(b) の数値例を再度確認しつつ、「なぜ線形か」を明示する:
$N$ 銘柄、すべて $\beta_i = 1$、$\text{Var}(F) = 1$、ノイズ独立。リターンを並べたベクトル $r = (r_1, \dots, r_N)'$ の共分散:
$$ \text{Cov}(r) = \beta \beta' \text{Var}(F) + \text{Cov}(e) = \mathbf{1}_N \mathbf{1}_N' + I_N $$これは $N \times N$ の行列で、対角 = 2、非対角 = 1:
$$ \begin{pmatrix} 2 & 1 & 1 & \cdots & 1 \\ 1 & 2 & 1 & \cdots & 1 \\ 1 & 1 & 2 & \cdots & 1 \\ \vdots & & & \ddots & \vdots \\ 1 & 1 & 1 & \cdots & 2 \end{pmatrix} $$固有値分解すると:
なぜ「線形」と呼ぶか:$N$ を 10 倍にすると、最大固有値も約 10 倍。$N$ の 1 次関数(線形)として大きくなる。$N^2$ なら「二次」、$\sqrt{N}$ なら「平方根」。線形は中間ではなく$N$ の 1 乗そのもの。
| $N$ | 最大固有値 | $N + 1$ との比較 |
|---|---|---|
| 10 | 11 | = $N + 1$ ✓ |
| 100 | 101 | = $N + 1$ ✓ |
| 1000 | 1001 | = $N + 1$ ✓ |
「足し算で増える」のが線形の本質:$N$ 個のベクトルが全部同じ方向を向いていれば、長さは $N$ 倍。それを 2 乗したのが分散 = $N^2$ ?ではなく、ベクトル長さ = $\sqrt{N}$、その方向の分散 = $N \cdot \text{Var}(F)$ になる(共分散行列の固有値 = その方向の分散)。$N$ 個の独立ベクトルの合計は$\sqrt N$ で増える(中心極限定理)— だから方向が散っていれば積み上がらない、揃っていれば $N$ で積み上がる。
(7) と §1.6(b) で見たとおり、$N$ が大きいパネルでは:
| 順位 | 固有値の挙動($N$ 大) | 由来 |
|---|---|---|
| 1〜$K$ | $O(N)$($N$ に比例して大きい) | 真のファクター方向 — ロードが揃って積み上がる |
| $K+1$ 以降 | $O(1)$($N$ に依らず有界) | 残差 — どの方向にも積み上がらない |
固有値を降順にプロットすると、$K$ 番目と $K+1$ 番目の間に巨大な落差が生じる:
固有値
↑
$O(N) ─── ●
●
● ←← K 個目(ファクター最後)
│
│ ← ★ 巨大なジャンプ ★
│
● ←← K+1 個目(ノイズ最初)
$O(1) ─── ● ● ● ● ● ● ● ● ● ● ●
↑
「ここに線を引く」 = $\hat K = K$
└──────────────────────────────────→ 固有値順位
「線を引く」の意味:固有値順位の軸に縦の境界線を入れること。境界の左側が「ファクター」、右側が「ノイズ」と判定。境界位置 = $\hat K$。これが因子数の推定値。
| 手法 | 線を引く根拠 |
|---|---|
| スクリープロット(人手) | 視覚で「肘 (elbow)」を判定。再現性なし |
| Bai-Ng (2002)(PC/IC) | 「観測あたり残差二乗和 $V(k)$ + 罰金項 $k \cdot g(N,T)$」を最小化する $k$。罰金が大きすぎず・小さすぎない速度に設定 → $N, T \to \infty$ で $\hat K \to K$ に一致収束 |
| Onatski (2010)(固有値比) | 連続する固有値の比 $\lambda_k / \lambda_{k+1}$ を最大化する $k$。ギャップが最大の場所=そこで線を引く |
本質:3 つの手法とも「$O(N)$ と $O(1)$ の固有値スケーリングのギャップを検出する」点で同じ。違いは検出基準の数学的厳密さだけ。Bai-Ng は「線が漸近的に正しい場所に引かれる」ことを最初に証明した論文。$\hat K = K$ となる確率が $N, T$ とともに 1 に収束する。
AOF 実装での意味:J-Quants 日本パネル($N \approx 4{,}000$)なら、ファクター固有値はノイズの数百〜数千倍のオーダーに出る。ギャップは肉眼でも明白。$\hat K$ を Bai-Ng/Onatski の両方で計算してクロスチェックすれば、CRW のステップ 2 で使う $K$ が頑健に決まる。
| 記号 | 意味 |
|---|---|
| $X_{it}$ | 観測データ(例:マクロ系列、資産リターン) |
| $F_t$ | $K \times 1$ の共通ファクター |
| $\lambda_i$ | $K \times 1$ のファクターローディング |
| $e_{it}$ | 個別成分(クロス・系列で弱相関は許容) |
これは近似ファクターモデル — $e_{it}$ は i.i.d. である必要はなく、十分に弱い相関構造があれば良い。$K$ は未知。
§1.5 / §1.6 で近似ファクターモデルとは何かを掴んだ。次の実務的な問い:データから $K$ をどう見つけるか?
素朴なアイデア:候補数 $k = 0, 1, 2, \dots$ を試して、どれが最もよく fit するかを見る。ここでの「fit」は観測あたりの残差二乗和で測る。これを $V(k)$ と呼ぶ:
$$ V(k) \;=\; \frac{1}{NT} \sum_{i=1}^N \sum_{t=1}^T \bigl(X_{it} - \hat\lambda_i^{k\prime} \hat F^k_t\bigr)^2. $$各候補 $k$ について:$k$ ファクターで PCA → ローディング $\hat\lambda_i^k$ とファクター推定値 $\hat F^k_t$ → 実際のデータと当てはめ値の平均二乗誤差を計算。
$k$ が増えるにつれて $V(k)$ はどう振る舞うか?
| $k$ | $V(k)$ に残るもの |
|---|---|
| $k = 0$ | クロスセクション分散全体(ファクター fit なし、残差 = データ) |
| $k = 1$ | 全分散から 1 ファクターが説明する分を引いた残り |
| $k = K$(真) | ほぼ個別ノイズの分散のみ |
| $k = k_{\max}$ | さらに小さい — ノイズをファクターのように fit |
| $k = N$ | ちょうど 0($N$ 個の「ファクター」なら任意のパネルを完全 fit 可能) |
つまり $V(k)$ は $k$ について 単調減少。$V(k)$ だけを最小化したら、常に $k = k_{\max}$ を選んでしまう — 純粋な過学習。
回帰に変数を追加していくのと同じ問題:$R^2$ は変数を加えると下がらないので、$R^2$ を最大化するだけでは正しい変数数を選べない。
標準的なモデル選択の技:$k$ に比例するペナルティを足して余計なファクターを抑制する。新しい目的関数:
$$ \text{基準}(k) \;=\; V(k) \;+\; k \cdot \text{ペナルティ}(N, T). $$$k$ が増えると:
限界 fit 改善が限界税と等しくなる $k$ で最小値。それ以降、ファクターを加えるほど損。
ゲーム全体は正しいペナルティレートを選ぶこと:
Bai-Ng の貢献は大 $N$・大 $T$ 近似ファクターレジームで機能する正しいペナルティレートを見つけ、結果として得られる基準が一致性を持つことを証明したこと。
Bai-Ng は 2 つの族を提案:それぞれ何を最小化するかから命名されている。
$V(k)$ を直接扱う:
$$ \text{PC}(k) \;=\; V(k) \;+\; k \cdot \hat\sigma^2 \cdot \text{レート}(N, T) $$$\hat\sigma^2$ 倍率(実務では $V(k_{\max})$ で代用)はペナルティをデータの分散水準に合わせる役割 — でないと、ベーシスポイントで測ったパネルとパーセントで測ったパネルで挙動が変わってしまう。
$\ln V(k)$ を扱う:
$$ \text{IC}(k) \;=\; \ln V(k) \;+\; k \cdot \text{レート}(N, T) $$対数がスケールを吸収するので $\hat\sigma^2$ 倍は不要。
なぜ 2 族あるのか? 両者は漸近的には同等 — $N, T \to \infty$ で正しい $K$ を選ぶ。だが有限サンプルでの挙動は異なる:
命名は伝統に従う:AIC・BIC は "Information Criteria" で $\ln$(尤度)を使うので、Bai-Ng の IC もこのスタイル。"PC" は主成分分析的な性質(残差を直接扱う)を強調。
各族の中で、Bai-Ng は 3 つのペナルティレートを提案。すべて一致性条件を満たすが、有限サンプルでの挙動が異なる。
$C_{NT}^2 := \min(N, T)$ と定義 — パネル両次元の小さい方(漸近で binding な制約)。
| 変種 | ペナルティレート | 直感 |
|---|---|---|
| p1 | $\dfrac{N+T}{NT} \ln\!\left(\dfrac{NT}{N+T}\right)$ | 調和平均レート × 幾何平均次元の対数。やや速い減衰。 |
| p2 | $\dfrac{N+T}{NT} \ln C_{NT}^2$ | 同じ調和平均レート、対数は小さい次元のもの。Bai-Ng 推奨のデフォルト。 |
| p3 | $\dfrac{\ln C_{NT}^2}{C_{NT}^2}$ | 純粋な $\min(N,T)$ レート。最も遅い減衰 → 最も保守的。 |
実証文献で最も使われるのは $\text{IC}_{p2}$。
すべて合わせると、$k$ について最小化する 6 つの具体的基準:
$$ \begin{aligned} \text{PC}_{p1}(k) &= V(k) + k\, \hat\sigma^2 \cdot \tfrac{N+T}{NT} \ln\!\left(\tfrac{NT}{N+T}\right) \\ \text{PC}_{p2}(k) &= V(k) + k\, \hat\sigma^2 \cdot \tfrac{N+T}{NT} \ln C_{NT}^2 \\ \text{PC}_{p3}(k) &= V(k) + k\, \hat\sigma^2 \cdot \tfrac{\ln C_{NT}^2}{C_{NT}^2} \\ \text{IC}_{p1}(k) &= \ln V(k) + k \cdot \tfrac{N+T}{NT} \ln\!\left(\tfrac{NT}{N+T}\right) \\ \text{IC}_{p2}(k) &= \ln V(k) + k \cdot \tfrac{N+T}{NT} \ln C_{NT}^2 \\ \text{IC}_{p3}(k) &= \ln V(k) + k \cdot \tfrac{\ln C_{NT}^2}{C_{NT}^2} \end{aligned} $$各基準 = [ベース項] + k × [ペナルティレート]:
任意の基準で $\hat K$ を見つける:$k = 0, 1, \dots, k_{\max}$ で基準値を計算し、最小化する $k$ を選ぶ。
このレートでなぜ機能するか。 ペナルティは 2 つの同時条件を満たす必要がある:(i) $N, T \to \infty$ で 0 に縮む — でないと常に $k = 0$ を選ぶ。(ii) $k > K$ で $V(k+1) - V(k)$ が消える速度より遅く縮む — でないとノイズ変動が税を圧倒する。Bai-Ng は 3 つのレート変種がいずれもこの Goldilocks 条件を満たすことを証明した。
定理 2(Bai & Ng)。$N, T \to \infty$ で同時に発散する場合、6 基準すべてについて $\Pr(\hat K = K) \to 1$(穏当な仮定のもと)。
概略:$k < K$ では $V(k)$ は $V(K)$ から有界に離れている(過小選択にペナルティ)。$k > K$ では $V(k) - V(K) \to 0$ が $\min(N,T)^{-1}$ のオーダーで起きるが、ペナルティはそれより遅く収束(過大選択にペナルティ)。
Stock-Watson 型の米国マクロパネル(215 系列、約 39 年・月次)に適用すると、6 基準のほとんどが2 ファクターを選択。サブサンプル安定性、変換(水準 vs. 成長率)、系列の追加・削除に対しロバスト。モンテカルロ:$\min(N,T) \geq 40$ で信頼可能。それ以下では不安定 — 短パネル応用での重要な注意点。
AOF のレプリケーション・拡張スタックにおいて、Bai-Ng IC は両次元が大きい場合のデフォルト $K$ セレクター:
| シナリオ | 推奨セレクター | 理由 |
|---|---|---|
| 米国フルパネル 1968→現在 | BN ICp2 | 標準的、十分にテスト済、大 $N$・大 $T$ で一致性。 |
| 米国 5 年ローリング窓 | CRW 固有値比 | $T \approx 60$ — BN には小さすぎる。 |
| 日本フルパネル 1990→現在 | BN ICp2, $k_{\max} = 8$ | $T \approx 400$、$N \approx 3{,}500$ — BN の comfort zone 内。 |
| 日本 5 年ローリング窓 | CRW 固有値比 | 同じく小 $T$ への配慮。 |
実装:NumPy で 30 行程度。$k_{\max}$ 成分で一度 SVD を計算し、累積寄与率から $V(k)$ を得て、基準を最小化。