Skip to main content

Table 1 Distributions of \(\beta\) with no variance scaling on y.\(N=200\)

From: On the choice of TLS versus OLS in climate signal detection regression

  Low SNRx High SNRx
Bias CI width Frac > 1 Bias CI width Frac > 1
\(\varvec{\beta }=0.0\)
OLS-1
0.00 0.13 0.00 0.00 0.13 0.00
OLS-q1 0.00 0.14 0.00 0.00 0.15 0.00
OLS-q2 0.20 0.14 0.00 0.24 0.15 0.00
TLS-1 0.00 0.44 0.00 0.00 0.35 0.00
TLS-q1 0.00 0.58 0.00 0.00 0.45 0.00
TLS-q2 0.29 0.55 0.01 0.30 0.44 0.00
\(\varvec{\beta }=0.5\)
OLS-1
– 0.09 0.13 0.00 -0.02 0.13 0.00
OLS-q1 − 0.09 0.14 0.00 − 0.02 0.15 0.00
OLS-q2 0.11 0.15 0.00 0.22 0.15 0.00
TLS-1 0.08 0.39 0.02 0.10 0.32 0.01
TLS-q1 0.09 0.52 0.06 0.11 0.42 0.03
TLS-q2 0.41 0.47 0.34 0.41 0.39 0.32
\(\varvec{\beta }=1.0\)
OLS-1
− 0.19 0.14 0.00 − 0.04 0.14 0.31
OLS-q1 − 0.19 0.15 0.01 − 0.04 0.15 0.33
OLS-q2 0.02 0.15 0.58 0.21 0.15 1.00
TLS-1 0.16 0.33 0.82 0.19 0.27 0.91
TLS-q1 0.17 0.43 0.79 0.21 0.35 0.87
TLS-q2 0.46 0.39 0.97 0.50 0.31 1.00