Lavaanの独立モデル

Lavaanの独立モデル#

\(\chi^2\)検定における独立モデル（Baseline Model）の自由度がsemopyとlavaanで一致しないことがある。

どういうことなのか？

（確認）\(\chi^2\)検定と自由度#

最尤法で母数を推定した場合、自由度

\[ df = \frac{1}{2} p (p + 1) - q \]

の\(\chi^2\)分布に近似的に従う統計量が得られるので、これを用いて検定を行うことができる（豊田 2012）

ここで\(p\)は観測変数の数、\(q\)は自由母数の数

\(\chi^2\)検定自体はサンプルサイズへの依存性が高くて不正確だが、CFIなど他の指標の算出に用いられる。

semopyの自由度の計算#

Pythonのsemopyパッケージでの自由度の推定方法も豊田同様

def calc_dof(model):
    p = len(model.vars['observed'])
    return p * (p + 1) // 2 - len(model.param_vals)

ref.: georgy.m/semopy/-/blob/fa9f3e0bd2bdacac377c8ee339255b27f4ca22f8/semopy/stats.py#L187

lavaanの自由度の推定#

Rの{lavaan}パッケージでの自由度の推定。こちらも概ね同様な様子

ソースコードを見ると

# degrees of freedom
df <- ndat - npar

nparは（自由母数の数 “total number of free parameters”）

ndatは（ブロックごとの標本母数の数 “number of sample statistics per block”）

つまり

\[ 標本母数 - 自由母数 \]

とのこと。標本母数のコードは複雑すぎてよくわからなかったが、いくつかのモデルで確認した感じでは基本的に \(p (p + 1) / 2\) と一致する

独立モデル#

独立モデル（independent model, baseline model, null model) は、すべての観測変数間に一切のパスを引かず、各変数の分散のみを自由推定するモデルのこと

すべての観測変数間に一切のパスを引かず、各変数の分散のみを自由推定するモデルを独立モデルと考えることが一般的です。（豊田 2014, p.193）

semopyでの確認方法#

get_baseline_model()で具体的なモデルの状況を確認することができる

from semopy.stats import get_baseline_model
baseline = get_baseline_model(model)
baseline.inspect()

import statsmodels.api as sm
trees = sm.datasets.get_rdataset("trees", "datasets").data

import semopy
desc = """
    Volume ~ Height + Girth
    Height ~~ Height
    Girth ~~ Girth
    Height ~~ Girth
"""
model = semopy.Model(desc)
model.fit(trees)

from semopy.stats import get_baseline_model
baseline = get_baseline_model(model)
baseline.inspect()

	lval	op	rval	Estimate	Std. Err	z-value	p-value
0	Height	~~	Height	39.290323	9.979752	3.937004	0.000083
1	Girth	~~	Girth	9.530239	2.420683	3.937004	0.000083
2	Volume	~~	Volume	130.743288	33.208828	3.937004	0.000083

lavaanでの確認方法#

独立モデルはlav_partable_independence()（source）で取得できる

lav <- lav_partable_independence(fit)
data.frame(lav)

また、lav_partable_npar()で自由母数の数を調べることができる

# 自由母数の数
lav_partable_npar(lav)

> library(lavaan)
> model <- 'Volume ~ Height + Girth'
> fit <- sem(model, data = trees, fixed.x=FALSE)
> lav <- lav_partable_independence(fit)
> data.frame(lav) |> dplyr::filter(free > 0L)
  id    lhs op    rhs user block group free     ustart exo
1  1 Volume ~~ Volume    1     1     1    1 261.486576   0
2  2 Height ~~ Height    1     1     1    2  39.290323   0
3  3  Girth ~~  Girth    1     1     1    3   9.530239   0
4  4 Height ~~  Girth    1     1     1    4         NA   0

両者の差異#

lavaanにて、豊田（2014）のコードを実行したとき、独立モデルにて共分散も自由母数となっていた。

豊田のコードはfixed.x=FALSEという引数を指定している

> fit4_P <- sem(model4_PLS, data=data4, fixed.x=F)
> lav <- lav_partable_independence(fit4_P)
> data.frame(lav)
   id lhs op rhs user block group free    ustart exo
 1  x5 ~~  x5    1     1     1    1 1.9928182   0
 2  x6 ~~  x6    1     1     1    2 1.7437518   0
 3  x7 ~~  x7    1     1     1    3 0.8440103   0
 4  x1 ~~  x1    1     1     1    4 1.0494829   0
 5  x2 ~~  x2    1     1     1    5 0.8159293   0
 6  x3 ~~  x3    1     1     1    6 1.4174088   0
 7  x4 ~~  x4    1     1     1    7 1.2734846   0
 8  x1 ~~  x2    1     1     1    8        NA   0
 9  x1 ~~  x3    1     1     1    9        NA   0
10  x1 ~~  x4    1     1     1   10        NA   0
11  x2 ~~  x3    1     1     1   11        NA   0
12  x2 ~~  x4    1     1     1   12        NA   0
13  x3 ~~  x4    1     1     1   13        NA   0

`fixed.x`とは#

R: lavaan Optionsを見ると

fixed.x:

If TRUE, the exogenous ‘x’ covariates are considered fixed variables and the means, variances and covariances of these variables are fixed to their sample values. If FALSE, they are considered random, and the means, variances and covariances are free parameters. If “default”, the value is set depending on the mimic option.

fixed.x=TRUEだと外生変数は平均・分散・共分散がサンプルの値に固定される。FALSEだと平均・分散・共分散が自由母数として扱われる。デフォルトだとmimicのオプション（こちらのデフォルトはmimic="lavaan"）に依存する

→ User Modelのほうで共分散を自由母数にするように指定していたため独立モデルもそれに引っ張られて共分散を自由母数にしている様子

fixed.x = Fにするのではなく自分で分散共分散も指定すれば共分散は自由母数にならず、semopyと一致する

# fixed.x = Fにするのではなく自分で分散共分散も指定
model4_PLS_2 <- '
  f1 ~ x1 + x2 + x3 + x4
  f2 =~ x5 + x6 + x7
  f1 =~ f2
  f1 ~~ 0*f1
  f2 ~~ f2
  x1 ~~ x1
  x2 ~~ x2
  x3 ~~ x3
  x4 ~~ x4
  x1 ~~ x2
  x1 ~~ x3
  x1 ~~ x4
  x2 ~~ x3
  x2 ~~ x4
  x3 ~~ x4
'
fit4_P <- sem(model4_PLS_2, data=data4, fixed.x=T)
summary(fit4_P, standardized=T, fit.measures=T)

lav <- lav_partable_independence(fit4_P)

> data.frame(lav)
  id lhs op rhs user block group free    ustart exo
1  x5 ~~  x5    1     1     1    1 1.9928182   0
2  x6 ~~  x6    1     1     1    2 1.7437518   0
3  x7 ~~  x7    1     1     1    3 0.8440103   0
4  x1 ~~  x1    1     1     1    4 1.0494829   0
5  x2 ~~  x2    1     1     1    5 0.8159293   0
6  x3 ~~  x3    1     1     1    6 1.4174088   0
7  x4 ~~  x4    1     1     1    7 1.2734846   0

外生変数の共分散も推定するBaseline Modelの定義もある#

a model which includes the means and variances of all observed variables plus the covariances of all observed exogenous variables.

What are the saturated and baseline models in sem? | Stata FAQ

fixed.x=Fなので外生変数の分散や共分散も推定する → なのでBaseline Modelに入る、ということ？

他のBaseline Modelの説明#

baseline modelsには2つのモデルが含まれる

unrestricted model: saturated model
independence model: モデルの変数の平均と分散をfitする。共分散は0に固定される

The baseline models are an unrestricted model and an independence model.

The unrestricted model is a fully saturated model, which fits all means, variances, and covariances of the specified Model Variables without imposing any structure on the data.

The independence model fits all means and variances of the specified Model Variables. All covariances among the specified Model Variables are fixed to zero, which leads to a highly restrictive model.

Overview of Structural Equation Models

UCLAのLavaanのセミナーにおける説明#

Introduction to Structural Equation Modeling (SEM) in R with lavaan

The baseline model can be thought of as the “worst-fitting” model and simply assumes that there is absolutely no covariance between variables.

essentially estimating only the variances. Since there is are no regression paths, there are no endogenous variables in our model

変数間の共分散がまったくなく、パスがないため分散だけを推定する、という豊田と同じ定義

MplusにおけるBaseline Model#

What is the baseline model in Mplus? | Mplus FAQ

The baseline model Mplus prints the chi-square statistic for is a model where all of the structural (regression) paths are assumed to be zero (i.e., a null model). For the measurement model, all measurement paths from the latent variable to the observed indicator are 1, and the variance of the latent variable is 0 (since setting the path coefficients to one makes the latent variable just a linear composite of the indicator variables). Only the intercepts and residual variances of the observed endogenous (dependent) variables (i.e., read, math, science, and socst ) are estimated.

構造方程式のパス係数はゼロと仮定（Null model）
測定方程式では因子負荷量が1で潜在変数の分散は0と仮定
観測された内生変数の切片と残差分散のみが推定される

参考文献#

豊田秀樹（2012）『因子分析入門』
豊田秀樹（2014）『共分散構造分析［Ｒ編］―構造方程式モデリング―』

Lavaanの独立モデル

Contents

Lavaanの独立モデル#

（確認）\(\chi^2\)検定と自由度#

semopyの自由度の計算#

lavaanの自由度の推定#

独立モデル#

semopyでの確認方法#

lavaanでの確認方法#

両者の差異#

`fixed.x`とは#

外生変数の共分散も推定するBaseline Modelの定義もある#

他のBaseline Modelの説明#

UCLAのLavaanのセミナーにおける説明#

MplusにおけるBaseline Model#

関連するlavaanのメーリングリストのスレッド#

参考文献#

例：semopyのbaseline models#

Lavaanの独立モデル

Contents

Lavaanの独立モデル#

（確認）\(\chi^2\)検定と自由度#

semopyの自由度の計算#

lavaanの自由度の推定#

独立モデル#

semopyでの確認方法#

lavaanでの確認方法#

両者の差異#

fixed.xとは#

外生変数の共分散も推定するBaseline Modelの定義もある#

他のBaseline Modelの説明#

UCLAのLavaanのセミナーにおける説明#

MplusにおけるBaseline Model#

関連するlavaanのメーリングリストのスレッド#

参考文献#

例：semopyのbaseline models#

`fixed.x`とは#