Skip to main content

Table 5 Distributions of \(\beta\) with no variance scaling on y and \(c=-0.15\).\(N=200\)

From: On the choice of TLS versus OLS in climate signal detection regression

  Low SNRx High SNRx
Bias CI width Frac > 1 Bias CI width Frac > 1
\(\varvec{\beta }=0.0\)
OLS-1
− 0.06 0.13 0.00 − 0.02 0.14 0.00
OLS-q1 − 0.06 0.15 0.00 − 0.02 0.16 0.00
OLS-q2 0.14 0.15 0.00 0.22 0.16 0.00
TLS-1 0.46 0.72 0.05 0.59 0.51 0.04
TLS-q1 0.67 1.05 0.16 0.79 0.70 0.21
TLS-q2 0.93 0.92 0.36 1.06 0.64 0.55
\(\varvec{\beta }=0.5\)
OLS-1
− 0.16 0.13 0.00 − 0.04 0.14 0.00
OLS-q1 − 0.16 0.15 0.00 − 0.04 0.16 0.00
OLS-q2 0.05 0.15 0.00 0.20 0.16 0.00
TLS-1 0.49 0.57 0.43 0.62 0.42 0.73
TLS-q1 0.68 0.80 0.70 0.80 0.56 0.91
TLS-q2 0.91 0.71 0.95 1.04 0.51 1.00
\(\varvec{\beta }=1.0\)
OLS-1
− 0.25 0.14 0.00 − 0.06 0.15 0.22
OLS-q1 − 0.25 0.16 0.00 − 0.06 0.16 0.24
OLS-q2 − 0.05 0.16 0.26 0.18 0.16 0.99
TLS-1 0.47 0.46 1.00 0.59 0.34 1.00
TLS-q1 0.64 0.62 1.00 0.76 0.44 1.00
TLS-q2 0.85 0.55 1.00 0.97 0.40 1.00