---
fontsize: 8pt
bibliography: 11_Referenzen.bib
citation_package: natbib
output:
  beamer_presentation:
    keep_tex: true
    includes:
      in_header: 11_header.tex
---


```{r, include = F}
source("11_R_common.R")
fdir        = file.path(getwd(), "11_Abbildungen")                               # Abbildungsverzeichnis
```


#  {.plain}
\center
```{r, echo = FALSE, out.width = "20%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_otto.png")
```

\vspace{2mm}

\Large
Wahrscheinlichkeitstheorie und Frequentistische Inferenz
\vspace{6mm}

\large
BSc Psychologie WiSe 2021/22

\vspace{6mm}
\normalsize
Prof. Dr. Dirk Ostwald


#  {.plain}
\vfill
\center
\huge
\textcolor{black}{(11) Konfidenzintervalle}
\vfill


# Wahrscheinlichkeitstheorie und Frequentistische Inferenz
\vspace{1mm}

\small
\center
\footnotesize
\renewcommand{\arraystretch}{1.1}
\begin{tabular}{lll}
Datum        & Einheit                       & Thema					                      \\\hline
14.10.2021   & Einführung                    & (1)  Einführung 				                  \\
21.10.2021   & Wahrscheinlichkeitstheorie    & (2)  Wahrscheinlichkeitsräume                  \\
28.10.2021   & Wahrscheinlichkeitstheorie    & (3)  Elementare Wahrscheinlichkeiten           \\
04.11.2021   & Wahrscheinlichkeitstheorie    & (4)  Zufallsvariablen                          \\
11.11.2021   & Wahrscheinlichkeitstheorie    & (5)  Multivariate Verteilungen                 \\
18.11.2021   & Wahrscheinlichkeitstheorie    & (6)  Erwartungswert, Varianz, Kovarianz        \\
25.11.2021   & Wahrscheinlichkeitstheorie    & (7)  Ungleichungen und Grenzwerte              \\
02.12.2021   & Wahrscheinlichkeitstheorie    & (8)  Transformationen der Normalverteilung     \\
09.12.2021   & Frequentistische Inferenz     & (9) Grundbegriffe Frequentistischer Inferenz   \\
16.12.2021   & Frequentistische Inferenz     & (10) Parameterschätzung                        \\
             & \textcolor{gray}{Weihnachtspause}                                              \\
13.01.2022   & Frequentistische Inferenz     & (11) Konfidenzintervalle                       \\
20.01.2022   & Frequentistische Inferenz     & (12) Hypothesentests $|$ Frage-Antwort-Session \\
27.01.2022   & Frequentistische Inferenz     & Frage-Antwort-Session                          \\\hline
31.01.2022   & Klausur                       & 16 - 17 Uhr, G44 - H6                          \\
Jul 2022     & Klausurwiederholungstermin    &
\end{tabular}
\vspace{2mm}
\flushleft
\setstretch{1}
\noindent (12) Hypothesentests ist als Online Vorlesung verfügbar, der Termin dient als Frage-Antwort-Session. 

\noindent (13) Einstichproben-T-Tests ist als **nicht klausurrelevante** Online Vorlesung verfügbar.

\noindent (14) Zweistichproben-T-Tests ist als **nicht klausurrelevante** Online Vorlesung verfügbar.

# Modell und Standardprobleme Frequentistischer Inferenz
```{r, echo = FALSE, out.width = "100%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_frequentistische_inferenz.pdf")
```

# Standardprobleme Frequentistischer Inferenz
\small
\noindent (1) **Parameterschätzung**

Ziel der Parameterschätzung ist es, einen möglichst guten Tipp für den wahren,
aber unbekannten, Parameterwert (oder eine Funktion dessen) abzugeben,
typischerweise basierend auf der Beobachtung einer Realisierung von
$X_1,...,X_n \sim p_\theta$.
\vspace{2mm}


\noindent (2) **Konfidenzintervalle**

Das Ziel der Bestimmung von Konfidenzintervallen ist es, basierend auf der
Verteilung möglicher Parameterschätzwerte eine quantitative Aussage über die
mit dem Schätzwert assoziierte Unsicherheit zu treffen.
\vspace{2mm}

\noindent (3) **Hypothesentests**

Das Ziel der Auswertung von Hypothesentests ist es, basierend auf der angenommenen
Verteilung der Beobachtungen $X_1,...,X_n$ in einer möglichst sinnvollen Form
zu entscheiden, ob der wahre, aber unbekannte Parameterwert, in einer von zwei
sich gegenseitig ausschließenden Untermengen des Parameterraumes, welche man als
Hypothesen bezeichnet, liegt.


# Standardannahmen Frequentistischer Inferenz
\footnotesize
$\mathcal{M}$ sei ein statistisches Modell mit $X_1,...,X_n \sim \mathbb{P}_\theta$. Es
wird angenommen, dass ein vorliegender Datensatz eine der möglichen Realisierungen
von $X_1,...,X_n \sim \mathbb{P}_\theta$ ist. Aus frequentistischer Sicht kann man die Erhebung
von Datensätzen unendlich oft wiederholen und zu jedem Datensatz Statistiken auswerten.

\footnotesize
\begin{itemize}
\item[] Datensatz (1) : $x^{(1)} = \left(x_1^{(1)}, x_2^{(1)}, ...,x_n^{(1)}\right)$, Statistik (1): $S : \mathbb{R}^n \to \Sigma, x^{(1)} \mapsto S\left(x^{(1)}\right)$
\item[] Datensatz (2) : $x^{(2)} = \left(x_1^{(2)}, x_2^{(2)}, ...,x_n^{(2)}\right)$, Statistik (2): $S : \mathbb{R}^n \to \Sigma, x^{(2)} \mapsto S\left(x^{(2)}\right)$
\item[] Datensatz (3) : $x^{(3)} = \left(x_1^{(3)}, x_2^{(3)}, ...,x_n^{(3)}\right)$, Statistik (3): $S : \mathbb{R}^n \to \Sigma, x^{(3)} \mapsto S\left(x^{(3)}\right)$
\item[] Datensatz (4) : $x^{(4)} = \left(x_1^{(4)}, x_2^{(4)}, ...,x_n^{(4)}\right)$, Statistik (4): $S : \mathbb{R}^n \to \Sigma, x^{(4)} \mapsto S\left(x^{(4)}\right)$
\item[] ...
\end{itemize}

Um die Qualität statistischer Methoden zu beurteilen betrachtet die frequentistische
Statistik deshalb die Wahrscheinlichkeitsverteilungen von Statistiken und Schätzern
unter der Annahme von $X_1,...,X_n \sim p_\theta$.

Wenn eine statistische Methode im Sinne der frequentitischen Standardannahmen "gut" ist,
dann heißt das also, dass sie bei häufiger Anwendung "im Mittel gut" ist. Im Einzelfall,
also im realen Normalfall nur eines vorliegenden Datensatzes, kann sie auch "schlecht" sein.


# Modell und Standardprobleme Frequentistischer Inferenz
```{r, echo = FALSE, out.width = "100%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_konfidenzintervalle.pdf")
```

#
\setstretch{2.4}
\large
Definition

Beispiele

Selbstkontrollfragen

Appendix

#
\setstretch{2.4}
\large
**Definition**

Beispiele

Selbstkontrollfragen

Appendix


# Definition
\small
\begin{definition}[$\delta$-Konfidenzintervall]
\justifying
Es sei $X = X_1,...,X_n \sim p_\theta$ eine Stichprobe, $\delta \in \,]0,1[$,
und $G_u(X)$ und $G_o(X)$ seien zwei Statistiken. Dann ist ein  $\delta$-\textit{Konfidenzintervall}
ein Interval der Form $K_n := [G_u, G_o]$, so dass
\begin{equation}
\mathbb{P}_\theta\left(K_n \ni \theta\right) =
\mathbb{P}_\theta\left(G_u(X) \le \theta \le G_o(X) \right) =
\delta \mbox{ für alle } \theta \in \Theta \mbox{ gilt}.
\end{equation}
$\delta$ heißt das \textit{Konfidenzniveau} oder die \textit{Überdeckungswahrscheinlichkeit}
des Konfidenzintervalls. Die Statistiken $G_u(X)$ und $G_o(X)$ sind die unteren
und oberen Grenzen des Konfidenzintervalls.
\end{definition}

\footnotesize
Bemerkungen

* $\theta$ ist fest, nicht zufällig, und unbekannt.
* $K_n$ ist ein zufälliges Intervall, weil $G_u(X)$ und $G_o(X)$ Zufallsvariablen sind.
* $K_n \ni \theta$ bedeutet $\theta \in K_n$, aber $K_n$ ist zufällig und steht deshalb vorn (cf. $\mathbb{P}(X = x)$).
* Ein $\delta$-Konfidenzintervall überdeckt den wahren Wert $\theta$ mit Wahrscheinlichkeit $\delta$.
* Oft wird $\delta = 0.95$ gewählt, also \textit{$95\%$-Konfidenzintervalle} betrachtet.



# Definition
Zwei Interpretationen von $\delta$-Konfidenzintervallen

\small
\begin{itemize}
\justifying
\item[(1)] Wird ein Zufallsvorgang unter gleichen Umständen häufig wiederholt, so überdeckt
das zugehörige $\delta$-Konfidenzintervall den wahren, aber unbekannten Parameterwert
in $\delta\cdot 100 \%$ der Fälle. Technischer ausgedrückt, für unabhängig gezogene
Stichproben einer Verteilung mit wahrem, aber unbekannten, Parameter
$\theta$ überdeckt ein entsprechendes $\delta$- Konfidenzintervall $\theta$ in
$\delta\cdot 100 \%$ aller Fälle.
\item[(2)] Man betrachte eine Folge von Zufallsvorgängen mit wahren, aber unbekannten,
Parametern $\theta_1,\theta_2,...$ und stelle sich vor $\delta$-Konfidenzintervalle für 
eben jene von Folge von wahren, aber unbekannten Parametern $\theta_1,\theta_2,...$
zu konstruieren. Dann überdecken $\delta\cdot 100 \%$ der Konfidenzintervalle
den wahren, aber unbekannten, Wert $\theta_i, i = 1,2,...$.
\end{itemize}


# Definition
\small
\begin{definition}[Pivot]
\justifying
Ein \textit{Pivot} ist eine Funktion einer Stichprobe $X_1,...,X_n$ (also eine Statistik)
und eines wahren, aber unbekannten, Parameters $\theta$, deren Verteilung nicht
von $\theta$ abhängt.
\end{definition}

Bemerkung

* \justifying Ein Pivot ist eine Statistik, die vom wahren, aber unbekannten Parameter $\theta$ abhängt,
deren Verteilung aber nicht von vom wahren, aber unbekannten Parameter $\theta$ abhängt. Mithilfe von
Pivots kann man Konfidenzintervalle für alle Werte von $\theta$ konstruieren.


# Definition
\setstretch{1.6}

Allgemeine Konstruktion von Konfidenzintervallen

(1) Definition des statistischen Modells
(2) Definition der Konfidenzintervallstatistik
(3) Analyse der Verteilung der Konfidenzintervallstatistik
(4) Etablierung der Konfidenzbedingung
(5) Definition des Konfidenzintervalls

\normalsize
Beispiele

(1) Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
(2) Varianzparameter bei Normalverteilung
(3) Erwartungswertparamter bei Normalverteilung mit unbekannter Varianz

#
\setstretch{2.4}
\large
Definition

**Beispiele**

Selbstkontrollfragen

Appendix


# Beispiele
\setstretch{1.6}

Allgemeine Konstruktion von Konfidenzintervallen

(1) Definition des statistischen Modells
(2) Definition der Konfidenzintervallstatistik
(3) Analyse der Verteilung der Konfidenzintervallstatistik
(4) Etablierung der Konfidenzbedingung
(5) Definition des Konfidenzintervalls

\normalsize
**Beispiele**

(1) **Erwartungswertparameter bei Normalverteilung mit bekannter Varianz**
(2) Varianzparameter bei Normalverteilung
(3) Erwartungswertparamter bei Normalverteilung mit unbekannter Varianz

# \small Beispiel (1) Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
\noindent (1) Definition des statistischen Modells

\small
Es sei $X_1,...,X_n \sim N(\mu,\sigma^2)$  eine Stichprobe, wobei  $\mu$
unbekannt sei und $\sigma^2 > 0$ bekannt sei. Wir entwickeln ein $\delta$-Konfidenzintervall
für den Erwartungswertparameter $\mu$.
\vspace{2mm}

\normalsize
\noindent (2) Definition der Statistik

\small
Wir betrachten die \textit{$Z$-Konfidenzintervallstatistik}
\begin{equation}
Z := \frac{\sqrt{n}}{\sigma}\left(\bar{X}_n - \mu\right) \mbox{ mit } \bar{X}_n := \frac{1}{n}\sum_{i=1}^n X_i.
\end{equation}

\normalsize
\noindent (3) Analyse der Verteilung der Statistik

\small
Für die $Z$-Konfindenzintervallstatistik gilt $Z \sim N(0,1)$. Für einen Beweis
verweisen wir auf den Appendix. Die $Z$-Konfindenzintervallstatistik ist eine Funktion
der Stichprobe $X_1,...,X_n$ (via $\bar{X}_n$) und $\mu$, während ihre Verteilung
also nicht von $\mu$ abhängt. Die $Z$-Konfindenzintervallstatistik ist damit  ein Pivot.
Wir erinnern daran, dass wir die WDF einer $Z$-Zufallsvariable  mit
$\phi$, die KVF einer $Z$-Zufallsvariable mit $\Phi$ und die inverse KVF einer
$Z$-Zufallsvariable mit $\Phi^{-1}$ bezeichnen.


# \small Beispiel (1)  Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
\normalsize
\noindent (3) Analyse der Verteilung der Statistik (fortgeführt)
\vspace{2mm}

\tiny
\setstretch{1}
```{r, }
# Modellformulierung
mu      = 10                				      # w.a.u. Erwartungswertparameter
sigsqr  = 4                      					# wahrer bekannter Varianzparameter
n       = 12                             			# Stichprobengroesse
ns      = 1e4                               		# Anzahl Stichprobenrealisierungen
res     = 1e3                             			# Ausgangsraumaufloesung

# analytische Definitionen und Resultate
x_i     = seq(3,17,len = res)      				    # x_1 Raum
x_bar   = seq(3,17,len = res)       				# x_bar Raum
z       = seq(-4,4,len = res)            			# z Raum
p_x_i   = dnorm(x_i,mu,sqrt(sigsqr))                # x_1 WDF
p_x_bar = dnorm(x_bar,mu,sqrt(sigsqr/n))    		# x_bar WDF
p_z     = dnorm(z,0,1)                       		# z WDF

# Simulation
X_i     = rep(NaN,ns)                   			# X_i Array
X_bar   = rep(NaN,ns)                				# \bar{X}_{12} Array
Z       = rep(NaN,ns)                      			# Z Array

for(s in 1:ns){                              	 	# Simulationsiterationen
  X         = rnorm(n,mu,sqrt(sigsqr))         	    # Stichprobenrealisierung
  X_i[s]    = X[1]                             	    # X_i
  X_bar[s]  = mean(X)                        		# Stichprobenmittelrealisierung

  # Z-Statistik Realisation
  Z[s]      = sqrt(n)*((X_bar[s] - mu)/sqrt(sigsqr))
}
```


# \small Beispiel (1)  Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
\normalsize
\noindent (3) Analyse der Verteilung der Statistik (fortgeführt)
\vspace{1cm}

```{r, eval = F, echo = F}
# Visualisierung
dev.new()                                                                        # new figure
par(                                                                             # figure parameters
family      = "sans",                                                            # font family
mfcol       = c(1,3),                                                            # subplot grid
pty         = "m",                                                               # plot hsape
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.2,                                                               # font magnification factor
cex.main    = 1.3)                                                                # title magnification factor

# X_i
hist(
X_i,                                                                             # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(x_i[1],x_i[length(x_i)]),                                        # x-axis limits
ylim        = c(0,.5),                                                           # y-axis limits
xlab        = expression("x"[1]),                                                # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$X_i \\sim N(10,4), \\, i = 1,...,12$"))                          # title label

lines(
x_i,                                                                             # density support
p_x_i,                                                                           # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color

# X_bar
hist(
X_bar,                                                                           # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(x_bar[1],x_i[length(x_bar)]),                                    # x-axis limits
ylim        = c(0,.7),                                                           # y-axis limits
xlab        = TeX("$\\bar{x}_{12}$"),                                               # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$\\bar{X}_{12} \\sim N(10,1/3)"))                                # title label

lines(                                                                           # density
x_bar,                                                                           # density support
p_x_bar,                                                                         # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color

# Z
hist(
Z,                                                                               # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(z[1],z[length(z)]),                                              # x-axis limits
ylim        = c(0,.5),                                                           # y-axis limits
xlab        = TeX("$z$"),                                                        # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$Z \\sim N(0,1)"))                                            # title label

lines(                                                                           # density
z,                                                                               # density support
p_z,                                                                             # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color

dev.copy2pdf(                                                                    # export to PDF
file        = file.path(fdir, "wtfi_11_z_statistik.pdf"),                          # filename
width       = 15,                                                                # PDF width
height      = 5)                                                                 # PDF height
```


```{r, echo = FALSE, out.width = "100%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_z_statistik.pdf")
```


# \small Beispiel (1)  Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
\noindent (4) Etablierung der Konfidenzbedingung

\small
Für $\delta \in ]0,1[$, seien
\begin{equation}
z_1 := \Phi^{-1}\left(\frac{1 - \delta}{2}\right)
\mbox{ und }
z_2 := \Phi^{-1}\left(\frac{1 + \delta}{2}\right)
\end{equation}
Es gilt dann $(1 + \delta)/2 - (1 - \delta)/2 = \delta$ und zum Beispiel gilt für $\delta = 0.95$,
dass $z_1 = \Phi^{-1}(0.025) = - 1.96$ und $z_2 = \Phi^{-1}(0.975) = 1.96$. Weiterhin
gilt mit der Symmetrie von $N(0,1)$, dass $z_1 = - z_2$.  Es gilt hier also per Definition
$\mathbb{P}\left(-z_2 \le Z \le z_2 \right) = \delta$.
\vspace{2mm}

```{r, eval = F, echo = F}
delta       = 0.95                                                               # Konfidenznivea
z_2         = qnorm((1+delta)/2)                                                 # z_2
z           = seq(-4,4,length=1e4)                                               # support
pz          = dnorm(z)                                                           # density
Pz          = pnorm(z)                                                           # cmulative density
dev.new()                                                                        # new figure
par(                                                                             # figure parameters
family      = "sans",                                                            # font family
mfcol       = c(1,2),                                                            # subplot grid
pty         = "m",                                                               # plot hsape
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.2,                                                               # font magnification factor
cex.main    = 1.3)                                                                # title magnification factor

# WDF Perspektive
plot(                                                                            # original density function
z,
pz,
type        = "l",
ylab        = " ",
ylim        = c(0,.4),
main        = TeX("$\\phi$")
)
polygon(                                                                         # gray shading of AUC >= - z_2
c(z[z  >= -z_2], max(z), -z_2),
c(pz[z >= -z_2],      0, 0),
col = "gray90",
border = NA)
polygon(                                                                         # white shading of AUC >= z_2
c(z[z  >= z_2] , max(z), z_2),
c(pz[z >= z_2],       0, 0),
col = "white",
border = NA)
lines(                                                                           # density redraw for finish
z,
pz,
type        = "l",
)
lines(                                                                           # density redraw for finish
c(-z_2,z_2),
c(0,0),
type        = "p",
pch         = 18,
xpd         = TRUE,
)
abline(z,0,0)                                                                    # x Achse
text(0,.15, TeX("$\\delta$"), cex = 1.2)
text(-z_2,.02, TeX("$\\-z_2$"))
text( z_2,.02, TeX("$\\z_2$"))

# KDF Perspektive
plot(                                                                            # original density function
z,
Pz,
type        = "l",
ylab        = " ",
ylim        = c(0,1),
main        = TeX("$\\Phi$")
)
lines(
c(-z_2,z_2),
c(0,0),
type        = "p",
pch         = 18,
xpd         = TRUE,
)
text(-z_2,.10, TeX("$\\-z_2$"), xpd = TRUE)
text( z_2,.10, TeX("$\\z_2$") , xpd = TRUE)
lines(
c(-4,-4),
c((1+delta)/2,(1-delta)/2),
type        = "p",
pch         = 15,
xpd         = TRUE,
)
text(-5.0, 0.9, TeX("$(1+\\delta)/2$"), xpd = TRUE)
text(-5.0, 0.1, TeX("$(1-\\delta)/2$"), xpd = TRUE)

# Inverse KDF Perspektive
arrows(
x0 = min(z),
y0 = (1-delta)/2,
x1 = -z_2,
y1 = (1-delta)/2,
col         = "darkorange",
angle = 45,
length = .08)
arrows(
x0 = min(z),
y0 = (1+delta)/2,
x1 =  z_2,
y1 = (1+delta)/2,
col         = "darkorange",
angle = 45,
length = .08)

arrows(
x0 = -z_2,
y0 = (1-delta)/2,
x1 = -z_2,
y1 = 0,
col         = "darkorange",
angle = 45,
length = .08)
arrows(
x0 = z_2,
y0 = (1+delta)/2,
x1 = z_2,
y1 = 0,
col         = "darkorange",
angle = 45,
length = .08)


# PDF Speicherung
dev.copy2pdf(
file     = file.path(fdir, "wtif_11_ki_z_konfidenzbedingung.pdf"),
width    = 10,
height   = 5)
```

```{r, echo = FALSE, out.width = "80%"}
knitr::include_graphics("11_Abbildungen/wtif_11_ki_z_konfidenzbedingung.pdf")
```

# \small Beispiel (1)  Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
\noindent (4) Etablierung der Konfidenzbedingung (fortgeführt)
\small

Mit der Definition von $z_2$ wie oben folgt dann aber
\footnotesize
\begin{align}
\begin{split}
\delta & = \mathbb{P}\left(-z_2 \le Z \le z_2 \right) 																			\\
& =
\mathbb{P}\left(-z_2 \le \frac{\sqrt{n}}{\sigma}(\bar{X}_n - \mu) \le z_2 \right) 												\\
& =
\mathbb{P}\left(-\frac{\sigma}{\sqrt{n}}z_2 \le \bar{X}_n - \mu \le \frac{\sigma}{\sqrt{n}}z_2 \right) 							\\
& =
\mathbb{P}\left(-\bar{X}_n -\frac{\sigma}{\sqrt{n}}z_2 \le - \mu \le - \bar{X}_n + \frac{\sigma}{\sqrt{n}}z_2 \right) 			\\
& =
\mathbb{P}\left(\bar{X}_n + \frac{\sigma}{\sqrt{n}}z_2 \ge \mu \ge \bar{X}_n - \frac{\sigma}{\sqrt{n}}z_2 \right) 				\\
& =
\mathbb{P}\left(\bar{X}_n - \frac{\sigma}{\sqrt{n}}z_2 \le \mu \le \bar{X}_n + \frac{\sigma}{\sqrt{n}}z_2 \right) 				\\
& =
\mathbb{P}\left(\left[\bar{X}_n - \frac{\sigma}{\sqrt{n}}z_2,\bar{X}_n + \frac{\sigma}{\sqrt{n}}z_2\right] \ni \mu \right). 	\\
\end{split}
\end{align}
\small
Wir können nun das gesuchte Konfidenzintervall definieren.

# \small Beispiel (1)  Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
\noindent(5) Definition des Konfidenzintervalls

\small
Es sei $X_1,...,X_n \sim N(\mu,\sigma^2)$ eine Stichprobe bei bekanntem Varianzparameter
$\sigma^2$ und unbekanntem Erwartungswertparameter $\mu$, es sei $\delta \in ]0,1[$
und es sei $z_\delta := \Phi^{-1}\left(\frac{1 + \delta}{2}\right)$. Definiere
\begin{equation}
K_n :=
\left[\bar{X}_n - \frac{\sigma}{\sqrt{n}}z_\delta,
\bar{X}_n + \frac{\sigma}{\sqrt{n}}z_\delta\right].
\end{equation}
Dann gilt wie oben gezeigt, dass
\begin{equation}
\mathbb{P}(K_n \ni \mu) = \delta.
\end{equation}
Damit ist $K_n$ ein $\delta$-Konfidenzintervall für $\mu$. Man beachte, dass $K_n$ ein zufälliges Intervall ist,
weil $\bar{X}_n$ eine Zufallsvariable ist.


# \small Beispiel (1) Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
\noindent(5) Definition des Konfidenzintervalls (fortgeführt)

\small
Simulation
\vspace{2mm}

\setstretch{1}
\footnotesize
```{r}
# Modellformulierung
mu      = 2                                         # w.a.u. Erwartungswertparameter
sigsqr  = 1                                         # w.a.u. Varianzparameter
sigma   = sqrt(sigsqr)                              # w.a.u. St.Abweichungsparameter
n       = 12                                        # Stichprobengroesse
delta   = 0.95                                      # Konfidenzbedingung
phi_inv = qnorm((1+delta)/2)                        #\Phi^{-1}((\delta + 1)/2)

# Simulation
ns      = 1e2                                       # Anzahl Simulationen
X_bar   = rep(NaN,ns)                               # Stichprobenmittelarray
C       = matrix(rep(NaN,2*ns), ncol = 2)           # Konfidenzintervallarray
for(i in 1:ns){
   X        = rnorm(n,mu,sigma)                     # Stichprobenrealisierung
   X_bar[i] = mean(X)                               # Stichprobenmittel
   C[i,1]   = X_bar[i] - (sigma/sqrt(n))*phi_inv    # untere KI Grenze
   C[i,2]   = X_bar[i] + (sigma/sqrt(n))*phi_inv 	  # obere  KI Grenze
}
```

# \small Beispiel (1) Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
\noindent(5) Definition des Konfidenzintervalls (fortgeführt)

\small
Simulation

\vspace{3mm}

```{r, eval = F, echo = F}
# Visualisierung
P_idx                            = rep(NaN,ns)                                   # Nicht überdeckende KIs für Visualisierung
P_idx[mu < C[,1] | mu > C[,2]]   = 3.5                                           # Markerpositions
dev.new()
fig  = par(
family      = "sans",
bty         = "l",
lwd         = 1,
las         = 1,
mgp         = c(2,1,0),
xaxs        = "i",
yaxs        = "i",
font.main   = 1,
cex         = 1.1,
cex.main    = 1.2)

# Errorbarplot
plot(
1:ns,
X_bar,
type    = "p",
ylim    = c(0,4),
xlim    = c(0,102),
xlab    = "Simulationen",
ylab    = "",
pch     =  19,
cex     =  .5,
main    = TeX("$\\mu = 2,\\, \\sigma^2 = 2,\\, n = 12,\\, \\delta = 0.95"))
arrows(
x0      = 1:ns,
y0      = C[,1],
x1      = 1:ns,
y1      = C[,2],
code    = 3,
angle   = 90,
length  = 0.01,
lwd     = .7)
abline(
mu,
0,
col      = "gray80",
lty      = 1)
lines(
1:ns,
P_idx,
type    = "p",
pch     = 13,
col     = "darkorange")
dev.copy2pdf(
file     = file.path(fdir, "wtfi_11_ki_normal_sigsqr_bekannt.pdf"),
width    = 8,
height   = 5)
```

```{r, echo = FALSE, out.width = "90%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_ki_normal_sigsqr_bekannt.pdf")
```


# Beispiele
\setstretch{1.6}

Allgemeine Konstruktion von Konfidenzintervallen

(1) Definition des statistischen Modells
(2) Definition der Konfidenzintervallstatistik
(3) Analyse der Verteilung der Konfidenzintervallstatistik
(4) Etablierung der Konfidenzbedingung
(5) Definition des Konfidenzintervalls

\normalsize
**Beispiele**

(1) Erwartungswertparameter bei Normalverteilung mit bekannter Varianz 
(2) **Varianzparameter bei Normalverteilung**
(3) Erwartungswertparamter bei Normalverteilung mit unbekannter Varianz


# \small Beispiel (2) Varianzparameter bei Normalverteilung

\noindent (1) Definition des statistischen Modells

\small
Es sei $X_1,...,X_n \sim N(\mu,\sigma^2)$ eine Stichprobe mit unbekanntem 
Varianzparameter $\sigma^2 > 0$ und bekanntem oder unbekanntem 
Erwartungswertparameter $\mu$. Wir entwickeln ein $\delta$-Konfidenzintervall für 
den Varianzparameter $\sigma^2$. 

\normalsize
\noindent (2) Definition der Statistik

\small
Wir betrachten die $U$-Konfidenzintervallstatistik
\begin{equation}
U := \frac{n-1}{\sigma^2}S^2_n \mbox{ mit } S^2_n := \frac{1}{n-1}\sum_{i=1}^n \left(X_i - \bar{X}_n\right)^2.
\end{equation}

\normalsize
\noindent (3) Analyse der Verteilung der Statistik 

\small
Für die  $U$-Konfidenzintervallstatistik gilt $U \sim \chi^2(n-1)$. Für einen Beweis
dieser Tatsache verweisen wir auf @casella_2012, Abschnitt 5.3. Die $U$-Konfidenzintervallstatistik 
ist eine Funktion von $X_1,...,X_n$ (via $S^2_n$) und $\sigma^2$, während ihre Verteilung nicht von 
$\sigma^2$ abhängt. Die $U$-Konfidenzintervallstatistik ist also ein Pivot.
Wir erinnern daran, dass wir WDF einer $\chi^2$-verteilten Zufallvariable mit $\chi^2$, 
die KVF einer $\chi^2$-verteilten Zufallvariable mit $\Xi$ und die inverse KVF einer
$\chi^2$-verteilten Zufallvariable mit $\Xi^{-1}$ bezeichnen.


# \small Beispiel (2) Varianzparameter bei Normalverteilung
\normalsize
\noindent (3) Analyse der Verteilung der Statistik (fortgeführt)
\vspace{2mm}

\tiny
\setstretch{1}

```{r}
# Modellformulierung
mu      = 10                                    # wahrer Erwartungswertparameter
sigsqr  = 4                                     # wahrer bekannter Varianzparameter
n       = 12                                    # Stichprobengroesse
ns      = 1e4                                   # Anzahl Stichprobenrealisierungen
res     = 1e3                                   # Ausgangsraumaufloesung

# analytische Definitionen und Resultate
x_i     = seq(3,17,len = res)                   # x_1 Raum
x_bar   = seq(3,17,len = res)                   # x_bar Raum
u       = seq(0,30,len = res)                   # normalisierte S_n^2 Raum
p_x_i   = dnorm(x_i,mu,sqrt(sigsqr))            # x_1 WDF
p_x_bar = dnorm(x_bar,mu,sqrt(sigsqr/n))        # x_bar WDF
p_u     = dchisq(u,n-1)                         # u WDF

# Simulation
X_i     = rep(NaN,ns)                           # X_1 Array
X_bar   = rep(NaN,ns)                           # \bar{X} Array
S_sqr   = rep(NaN,ns)                          	# S^2 Array
U       = rep(NaN,ns)                           # U Array

for(s in 1:ns){                                 # Simulationsiterationen
  X         = rnorm(n,mu,sqrt(sigsqr))        	# Stichprobenrealisierung
  X_i[s]    = X[1]                              # X_i
  X_bar[s]  = mean(X)                           # Stichprobenmittelrealisierung
  S_sqr[s]  = var(X)                            # Stichprobenvarianzrealisierung

  # U-Statistik Realisiation
  U[s]      = ((n-1)/sigsqr)*S_sqr[s]
}
```

# \small Beispiel (2) Varianzparameter bei Normalverteilung
\normalsize
\noindent (3) Analyse der Verteilung der Statistik (fortgeführt)

\vspace{1mm}
```{r, eval = F, echo = F}
# Visualisierung
dev.new()                                                                        # new figure
par(                                                                             # figure parameters
family      = "sans",                                                            # font family
mfcol       = c(2,2),                                                            # subplot grid
pty         = "m",                                                               # plot hsape
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.3,                                                               # font magnification factor
cex.main    = 1.3)                                                               # title magnification factor

# X_i
hist(
X_i,                                                                             # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(x_i[1],x_i[length(x_i)]),                                        # x-axis limits
ylim        = c(0,.5),                                                           # y-axis limits
xlab        = expression("x"[1]),                                                # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$X_i \\sim N(10,4), \\, i = 1,...,12$"))                      # title label

lines(
x_i,                                                                             # density support
p_x_i,                                                                           # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color


# S^2
hist(
S_sqr,                                                                           # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(u[1],u[length(u)]),                                  # x-axis limits
ylim        = c(0,.4),                                                           # y-axis limits
xlab        = TeX("$S_{12}^2$"),                                                    # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
mgp         = c(3.5,1,0),                                                        # margin line in mex unit
main        = TeX("$S_{12}^2$"))                                                    # title label

# X_bar
hist(
X_bar,                                                                           # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(x_bar[1],x_bar[length(x_bar)]),                                  # x-axis limits
ylim        = c(0,.8),                                                           # y-axis limits
xlab        = TeX("$\\bar{x}_{12}$"),                                               # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$\\bar{X}_{12} \\sim N(10,1/3)"))                                # title label

lines(                                                                           # density
x_bar,                                                                           # density support
p_x_bar,                                                                         # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color



# U
hist(
(n-1)/sigsqr*S_sqr,                                                                           # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(u[1],u[length(u)]),                                               # x-axis limits
ylim        = c(0,.4),                                                           # y-axis limits
xlab        = TeX("$u$"),                                                        # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
mgp         = c(3.5,1,0),                                                          # margin line in mex unit
main        = TeX("$U \\sim \\frac{11}{4}S_{12}^2$"))                                                    # title label

lines(                                                                           # density
u,                                                                           # density support
p_u,                                                                         # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color



dev.copy2pdf(                                                                    # export to PDF
file        = file.path(fdir, "wtfi_11_u_statistik.pdf"),                          # filename
width       = 13,                                                                # PDF width
height      = 10)

```


```{r, echo = FALSE, out.width = "80%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_u_statistik.pdf")
```


# \small Beispiel (2) Varianzparameter bei Normalverteilung
\noindent (4) Etablierung der Konfidenzbedingung

\small
Für $\delta \in ]0,1[$ seien 
\begin{equation}
\xi_1 := \Xi^{2^{-1}}\left(\frac{1 - \delta}{2}; n -1  \right)
\mbox{ und }
\xi_2 := \Xi^{2^{-1}}\left(\frac{1 + \delta}{2};n-1 \right)
\end{equation}
Es gilt dann $(1 + \delta)/2 - (1 - \delta)/2 = \delta$ gilt und zum Beispiel 
gilt für $n = 10$ und $\delta = 0.95$, $\xi_1 := \Xi^{2^{-1}}\left(0.025;9 \right) = 2.70$ 
und $\xi_2 := \Xi^{2^{-1}}\left(0.975; 9 \right) = 19.0$. Es gilt hier also per Definition
$\mathbb{P}\left(\xi_1 \le U \le \xi_2 \right) = \delta$.


\vspace{2mm}

```{r, eval = F, echo = F}
delta       = 0.95                                                               # Konfidenzniveau
n           = 10                                                                 # Freiheitsgrade
xi_1        = qchisq((1-delta)/2, n-1)                                           # xi_1
xi_2        = qchisq((1+delta)/2, n-1)                                           # xi_2
u           = seq(0,30,length=1e4)                                               # support
pu          = dchisq(u, n)                                                       # density
Pu          = pchisq(u, n)                                                       # cmulative density
dev.new()                                                                        # new figure
par(                                                                             # figure parameters
family      = "sans",                                                            # font family
mfcol       = c(1,2),                                                            # subplot grid
pty         = "m",                                                               # plot hsape
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.2,                                                               # font magnification factor
cex.main    = 1.3)                                                                # title magnification factor

# WDF Perspektive
plot(                                                                            # original density function
u,
pu,
type        = "l",
ylab        = " ",
xlab        = "u",# delta       = 0.95                                                               # Konfidenzniveau
ylim        = c(0,.1),
main        = TeX("$\\chi^2$")
)
polygon(                                                                         # gray shading of AUC >= - t_2
c(u[u >= xi_1], max(u), xi_1),
c(pu[u >= xi_1],      0, 0),
col = "gray90",
border = NA)
polygon(                                                                         # white shading of AUC >= t_2
c(u[u  >= xi_2] , max(u), xi_2),
c(pu[u >= xi_2],       0, 0),
col = "white",
border = NA)
lines(                                                                           # density redraw for finish
u,
pu,
type        = "l",
)
lines(                                                                           # density redraw for finish
c(xi_1,xi_2),
c(0,0),
type        = "p",
pch         = 18,
xpd         = TRUE,
)
abline(u,0,0)                                                                    # x Achse
text(0,.15, TeX("$\\delta$"), cex = 1.2)
text(xi_1,.01, TeX("$\\xi_1$"))
text(xi_2,.01, TeX("$\\xi_2$"))

# KDF Perspektive
plot(                                                                            # original density function
u,
Pu,
type        = "l",
ylab        = " ",
ylim        = c(0,1),
main        = TeX("$\\Xi$")
)
lines(
c(xi_1,xi_2),
c(0,0),
type        = "p",
pch         = 18,
xpd         = TRUE,
)
text(xi_1,.10, TeX("$\\xi_1$"), xpd = TRUE)
text(xi_2,.10, TeX("$\\xi_2$") , xpd = TRUE)
lines(
c(0,0),
c((1+delta)/2,(1-delta)/2),
type        = "p",
pch         = 15,
xpd         = TRUE,
)
text(-5.0, 0.9, TeX("$(1+\\delta)/2$"), xpd = TRUE)
text(-5.0, 0.1, TeX("$(1-\\delta)/2$"), xpd = TRUE)


# Inverse KDF Perspektive
arrows(
x0      = min(u),
y0      = (1-delta)/2,
x1      = xi_1,
y1      = (1-delta)/2,
col     = "darkorange",
angle   = 45,
length  = .08)
arrows(
x0      = min(u),
y0      = (1+delta)/2,
x1      = xi_2,
y1      = (1+delta)/2,
col     = "darkorange",
angle   = 45,
length  = .08)
arrows(
x0      = xi_1,
y0      = (1-delta)/2,
x1      = xi_1,
y1      = 0,
col     = "darkorange",
angle   = 45,
length  = .08)
arrows(
x0      = xi_2,
y0      = (1+delta)/2,
x1      = xi_2,
y1      = 0,
col     = "darkorange",
angle   = 45,
length  = .08)

# PDF Speicherung
dev.copy2pdf(
file     = file.path(fdir, "wtfi_11_ki_u_konfidenzbedingung.pdf"),
width    = 10,
height   = 5)
```

```{r, echo = FALSE, out.width = "80%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_ki_u_konfidenzbedingung.pdf")
```

# \small Beispiel (2) Varianzparameter bei Normalverteilung
\noindent (4) Etablierung der Konfidenzbedingung (fortgeführt)

\small
Mit der Definition von $\xi_1$ und $\xi_2$ wie oben folgt dann aber
\footnotesize
\begin{align}
\begin{split}
\delta
& = \mathbb{P}\left(\xi_1 \le U \le \xi_2 \right)															\\
& = \mathbb{P}\left(\xi_1 \le \frac{n-1}{\sigma^2}S^2_n  \le \xi_2 \right) 									\\
& = \mathbb{P}\left(\xi_1^{-1} \ge \frac{\sigma^2}{(n-1)S^2_n} \ge \xi_2^{-1} \right) 						\\
& = \mathbb{P}\left(\frac{(n-1)S^2_n}{\xi_1} \ge \sigma^2 \ge \frac{(n-1)S^2_n}{\xi_2} \right) 				\\
& = \mathbb{P}\left(\frac{(n-1)S^2_n}{\xi_2} \le \sigma^2 \le \frac{(n-1)S^2_n)}{\xi_1} \right) 			\\
& = \mathbb{P}\left(\left[\frac{(n-1)S^2_n}{\xi_2}, \frac{(n-1)S^2_n)}{\xi_1}\right] \ni \sigma^2 \right). 	\\
\end{split}
\end{align}

\small
Wir können nun das gesuchte Konfidenzintervall definieren.

# \small Beispiel (2) Varianzparameter bei Normalverteilung
\noindent(5) Definition des Konfidenzintervalls
\small

Es sei $X_1,...,X_n \sim N(\mu,\sigma^2)$ eine Stichprobe mit unbekanntem 
Varianzparameter $\sigma^2$ und bekanntem oder unbekanntem Erwartungswertparamter
$\mu$, und es seien weiterhin $\delta \in ]0,1[$,  $\xi_1 := \Xi^{2^{-1}}\left(\frac{1 - \delta}{2};n-1 \right)$ 
und $\xi_2 := \Xi^{2^{-1}}\left(\frac{1 + \delta}{2};n-1 \right)$. Definiere
\begin{equation}
K_n := \left[\frac{(n-1)S^2_n}{\xi_2}, \frac{(n-1)S^2_n}{\xi_1}\right].
\end{equation}
Dann gilt wie oben gezeigt
\begin{equation}
\mathbb{P}(K_n \ni \sigma^2) = \delta.
\end{equation}
Damit ist $K_n$ ein $\delta$-Konfidenzintervall für $\sigma^2$. Man beachte, dass
$K_n$ ein zufälliges Intervall ist, weil $S^2_n$ eine Zufallsvariable ist. 

# \small Beispiel (2) Varianzparameter bei Normalverteilung
\noindent(5) Definition des Konfidenzintervalls (fortgeführt)

\small
Simulation
\vspace{2mm}

\setstretch{1}
\footnotesize
```{r}
# Modellformulierung
mu      = 2                                 # w.a.u. Erwartungswertparameter
sigsqr  = 2                                 # w.a.u. Varianzparameter
n       = 12                                # Stichprobengroesse
delta   = 0.95                              # Konfidenzbedingung
xi_1    = qchisq((1-delta)/2, n - 1)        # \Xi^2((1-\delta)/2; n - 1)
xi_2    = qchisq((1+delta)/2, n - 1)        # \Xi^2((1+\delta)/2; n - 1)

# Simulation
ns      = 1e2                               # Anzahl Simulationen
X_bar   = rep(NaN,ns)                       # Stichprobenmittelarray
S2      = rep(NaN,ns)                       # Stichprobenvarianzarray
C       = matrix(rep(NaN,2*ns), ncol = 2)   # Konfidenzintervallarray
for(i in 1:ns){                             # Simulationsiterationen
   X        = rnorm(n,mu,sqrt(sigsqr))      # Stichprobenrealisierung
   S2[i]    = var(X)                        # Stichprobenvarianz
   C[i,1]   = (n-1)*S2[i]/xi_2              # untere KI Grenze
   C[i,2]   = (n-1)*S2[i]/xi_1              # obere KI Grenze
}
```


# \small Beispiel (2) Varianzparameter bei Normalverteilung
\noindent(5) Definition des Konfidenzintervalls (fortgeführt)

\small
Simulation

\vspace{3mm}

```{r, eval = F, echo = F}
P_idx                                    = rep(NaN,ns)                           # Nicht überdeckende KIs für Visualisierung
P_idx[sigsqr < C[,1] | sigsqr > C[,2]]   = 15                                    # Markerpositions
dev.new()                                                                        # new figure
fig  = par(                                                                      # figure parameters
family      = "sans",                                                            # font family
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.1,                                                               # font magnification factor
cex.main    = 1.2                                                                # title magnification factor
)

# Errorbarplot
plot(
1:ns,
S2,
type    = "p",
ylim    = c(0,16),
xlim    = c(0,102),
xlab    = "Simulationen",
ylab    = "",
pch     =  19,
cex     =  .5,
main    = TeX("$\\mu = 2,\\, \\sigma^2 = 2, \\, n = 12,\\, \\delta = 0.95"))
arrows(
x0      = 1:ns,
y0      = C[,1],
x1      = 1:ns,
y1      = C[,2],
code    = 3,
angle   = 90,
length  = 0.01,
lwd     = .7)
abline(
sigsqr,
0,
col      = "gray80",
lty      = 1)
lines(
1:ns,
P_idx,
type    = "p",
pch     = 13,
col     = "darkorange"
)

# PDF Speicherung
dev.copy2pdf(
file     = file.path(fdir, "wtfi_11_ki_sigsqr.pdf"),
width    = 8,
height   = 5)
``` 


```{r, echo = FALSE, out.width = "90%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_ki_sigsqr.pdf")
```



# Beispiele
\setstretch{1.6}

Allgemeine Konstruktion von Konfidenzintervallen

(1) Definition des statistischen Modells
(2) Definition der Konfidenzintervallstatistik
(3) Analyse der Verteilung der Konfidenzintervallstatistik
(4) Etablierung der Konfidenzbedingung
(5) Definition des Konfidenzintervalls

\normalsize
**Beispiele**

(1) Erwartungswertparameter bei Normalverteilung mit bekannter Varianz
(2) Varianzparameter bei Normalverteilung
(3) **Erwartungswertparamter bei Normalverteilung mit unbekannter Varianz**


# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\noindent (1) Definition des statistischen Modells

\small
Es sei $X_1,...,X_n \sim N(\mu,\sigma^2)$ eine Stichprobe, wobei $\mu$ und $\sigma^2 > 0$ unbekannt seien.
Wir entwickeln ein $\delta$-Konfidenzintervall für den Erwartungswertparameter $\mu$.
\vspace{2mm}

\normalsize
\noindent (2) Definition der Statistik
\small

Wir betrachten die $T$-Konfidenzintervallstatistik
\begin{equation}
T := \frac{\sqrt{n}}{S_n}(\bar{X}_n - \mu) \mbox{ mit } \bar{X}_n := \frac{1}{n}\sum_{i=1}^n X_i \mbox{  und } S_n := \sqrt{\frac{1}{n-1}\sum_{i=1}^n(X_i - \bar{X}_n)^2}.
\end{equation}

\normalsize
\noindent (3) Analyse der Verteilung der Statistik

\small
Für die $T$-Konfidenzintervallstatistik gilt $T \sim t(n - 1)$, die $T$-Konfidenzintervallstatistik
ist also eine $t$-verteilte Zufallsvariable mit Freiheitsgradparameter $n-1$.
Für einen Beweis verweisen wir auf den Appendix. Die $T$-Konfidenzintervallstatistik
ist eine Funktion der Stichprobe $X_1,...,X_n$ (via $\bar{X}_n$ und $S_n$),
während ihre Verteilung also weder von $\mu$ noch von $\sigma^2$ abhängt.
Die $T$-Konfidenzintervallstatistik ist also ein Pivot. Wir erinnern daran,
dass wir die WDF einer $t$-verteilten Zufallvariable mit $t$, die KVF einer $t$-verteilten Zufallvariable
mit $\psi$ und die inverse KVF einer $t$-verteilten Zufallvariable mit $\psi^{-1}$ bezeichnen.


# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\normalsize
\noindent (3) Analyse der Verteilung der Statistik (fortgeführt)
\vspace{2mm}

\tiny
\setstretch{1}
```{r}
# Modellformulierung
mu      = 10                                    # w.a.u. Erwartungswertparameter
sigsqr  = 4                                     # wahrer bekannter Varianzparameter
n       = 12                                    # Stichprobengroesse
ns      = 1e4                                   # Anzahl Stichprobenrealisierungen
res     = 1e3                                   # Ausgangsraumaufloesung

# analytische Definitionen und Resultate
x_i     = seq(3,17,len = res)                   # x_1 Raum
x_bar   = seq(3,17,len = res)                   # x_bar Raum
u       = seq(0,30,len = res)                   # normalisierte s_{12}^2 Raum
t       = seq(-4,4,len = res)                   # t Raum
p_x_i   = dnorm(x_i,mu,sqrt(sigsqr))            # x_1 WDF
p_x_bar = dnorm(x_bar,mu,sqrt(sigsqr/n))        # x_bar WDF
p_u     = dchisq(u,n-1)                         # u WDF
p_t     = dt(t,n-1)                             # t WDF

# Simulation
X_i     = rep(NaN,ns)                           # X_1 Array
X_bar   = rep(NaN,ns)                           # \bar{X} Array
U       = rep(NaN,ns)                           # U Array
Tee     = rep(NaN,ns)                           # T Array
for(s in 1:ns){                              	 	# Simulationsiterationen
  X         = rnorm(n,mu,sqrt(sigsqr))          # Stichprobenrealisierung
  X_i[s]    = X[1]                              # X_i
  X_bar[s]  = mean(X)                           # Stichprobenmittelrealisierung
  U[s]      = (n-1)/(sigsqr)*var(X)             # U Statistik Realisierung

  # T-Statistik Realisierung
  Tee[s]    = sqrt(n)*((X_bar[s] - mu)/sqrt(var(X)))
}
```


# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\normalsize
\noindent (3) Analyse der Verteilung der Statistik (fortgeführt)


```{r, eval = F, echo = F}
# Modellformulierung
mu      = 10                                                                     # w.a.u. Erwartungswertparameter
sigsqr  = 4                                                                      # wahrer bekannter Varianzparameter
n       = 12                                                                     # Stichprobengröße
ns      = 2e4                                                                    # Anzahl Simulationen/Stichprobenrealisierungen
res     = 1e3                                                                    # Ausgangsraumauflösung

# analytische Definitionen und Resultate
x_i     = seq(3 ,17, len = res)                                                  # x_1 Raum
x_bar   = seq(3 ,17, len = res)                                                  # x_bar Raum
u        = seq(0 ,30, len = res)                                                 # u Raum
t       = seq(-4,4 , len = res)                                                  # t Raum
p_x_i   = dnorm(x_i,mu, sqrt(sigsqr))                                            # x_1 WDF
p_x_bar = dnorm(x_bar,mu, sqrt(sigsqr/n))                                        # x_bar WDF
p_u     = dchisq(u,n-1)                                                          # u WDF
p_t     = dt(t,n-1)                                                              # t WDF

# Simulation
X_i     = rep(NaN,ns)                                                            # X_1 Array
X_bar   = rep(NaN,ns)                                                            # \bar{X}_n Array
U       = rep(NaN,ns)                                                            # normalized S_n^2
Tee     = rep(NaN,ns)                                                            # T Array

for(s in 1:ns){                                                                  # Simulationsiterationen
  X         = rnorm(n,mu,sqrt(sigsqr))                                           # Stichprobenrealisierung
  X_i[s]    = X[1]                                                               # X_i
  X_bar[s]  = mean(X)                                                            # Stichprobenmittelrealisierung
  U[s]      = (n-1)/(sigsqr)*var(X)                                             # Stichprobenvarianzrealisierung
  Tee[s]    = sqrt(n)*((X_bar[s] - mu)/sqrt(var(X)))                             # T-Statistik
}

# Visualisierung
dev.new()                                                                        # new figure
par(                                                                             # figure parameters
family      = "sans",                                                            # font family
mfcol       = c(2,2),                                                            # subplot grid
pty         = "m",                                                               # plot hsape
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.3,                                                               # font magnification factor
cex.main    = 1.3)                                                               # title magnification factor

# X_i
hist(
X_i,                                                                             # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(x_i[1],x_i[length(x_i)]),                                        # x-axis limits
ylim        = c(0,.5),                                                           # y-axis limits
xlab        = expression("x"[1]),                                                # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$X_i \\sim N(10,4), \\, i = 1,...,12$"))                      # title label

lines(
x_i,                                                                             # density support
p_x_i,                                                                           # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color

# U
hist(
U,                                                                               # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(u[1],u[length(u)]),                                              # x-axis limits
ylim        = c(0,.1),                                                           # y-axis limits
xlab        = TeX("$u$"),                                                        # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$U\\sim \\chi^2(11)"))                                        # title label

lines(                                                                           # density
u,                                                                               # density support
p_u,                                                                             # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color

# X_bar
hist(
X_bar,                                                                           # data
breaks      = 50,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(x_bar[1],x_bar[length(x_bar)]),                                    # x-axis limits
ylim        = c(0,.8),                                                           # y-axis limits
xlab        = TeX("$\\bar{x}_n$"),                                               # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$\\bar{X}_n \\sim N(10,1/3)"))                                # title label

lines(                                                                           # density
x_bar,                                                                           # density support
p_x_bar,                                                                         # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color

# T
hist(
Tee,                                                                             # data
breaks      = 100,                                                                # number of histogram bins
col         = "gray90",                                                          # bar color
prob        = TRUE,                                                              # density estimate
xlim        = c(t[1],t[length(t)]),                                              # x-axis limits
ylim        = c(0,.4),                                                           # y-axis limits
xlab        = TeX("$t$"),                                                        # x-axis label
ylab        = "",                                                                # y-axis label
cex         = 1.1,                                                               # font magnification factor
main        = TeX("$T \\sim t(11)"))                                             # title label

lines(                                                                           # density
t,                                                                               # density support
p_t,                                                                             # density values
lwd         = 2,                                                                 # line width
col         = "darkorange")                                                      # line color


dev.copy2pdf(                                                                    # export to PDF
file        = file.path(fdir, "wtfi_11_t_statistik.pdf"),                          # filename
width       = 13,                                                                # PDF width
height      = 10)

```


```{r, echo = FALSE, out.width = "80%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_t_statistik.pdf")
```


# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\noindent (4) Etablierung der Konfidenzbedingung

\small
Für $\delta \in ]0,1[$ seien
\begin{equation}
t_1 := \psi^{-1}\left(\frac{1 - \delta}{2}; n - 1\right)
\mbox{ und }
t_2 := \psi^{-1}\left(\frac{1 + \delta}{2}; n-1\right)
\end{equation}
Es gilt dann $(1 + \delta)/2 - (1 - \delta)/2 = \delta$ und zum Beispiel gilt für $n = 5$ und
$\delta = 0.95$, $t_1 = \psi^{-1}(0.025;4) = -2.57$ und $t_2 = \psi^{-1}(0.975;4) = 2.57$.
Weiterhin gilt mit der Symmetrie von $t(n-1)$, $t_1 = - t_2$. Es gilt hier also
per Definition $\mathbb{P}\left(-t_2 \le T \le t_2 \right) = \delta$.

\vspace{2mm}

```{r, eval = F, echo = F}
delta       = 0.95                                                               # Konfidenzniveau
n           = 5                                                                  # Freiheitsgrade
t_2         = qt((1+delta)/2, n-1)                                               # t_2
tee         = seq(-4,4,length=1e4)                                               # support
ptee        = dt(tee, n-1)                                                       # density
Ptee        = pt(tee, n-1)                                                       # cmulative density
dev.new()                                                                        # new figure
par(                                                                             # figure parameters
family      = "sans",                                                            # font family
mfcol       = c(1,2),                                                            # subplot grid
pty         = "m",                                                               # plot hsape
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.2,                                                               # font magnification factor
cex.main    = 1.3)                                                                # title magnification factor

# WDF Perspektive
plot(                                                                            # original density function
tee,
ptee,
type        = "l",
ylab        = " ",
xlab        = "t",
ylim        = c(0,.4),
main        = TeX("$t$")
)
polygon(                                                                         # gray shading of AUC >= - t_2
c(tee[tee  >= -t_2], max(tee), -t_2),
c(ptee[tee >= -t_2],      0, 0),
col = "gray90",
border = NA)
polygon(                                                                         # white shading of AUC >= t_2
c(tee[tee  >= t_2] , max(tee), t_2),
c(ptee[tee >= t_2],       0, 0),
col = "white",
border = NA)
lines(                                                                           # density redraw for finish
tee,
ptee,
type        = "l",
)
lines(                                                                           # density redraw for finish
c(-t_2,t_2),
c(0,0),
type        = "p",
pch         = 18,
xpd         = TRUE,
)
abline(tee,0,0)                                                                    # x Achse
text(0,.15, TeX("$\\delta$"), cex = 1.2)
text(-t_2,.06, TeX("$\\-t_2$"))
text( t_2,.06, TeX("$\\t_2$"))

# KDF Perspektive
plot(                                                                            # original density function
tee,
Ptee,
type        = "l",
ylab        = " ",
xlab        = "t",
ylim        = c(0,1),
main        = TeX("$\\psi$")
)
lines(
c(-t_2,t_2),
c(0,0),
type        = "p",
pch         = 18,
xpd         = TRUE,
)
text(-t_2,.10, TeX("$\\-t_2$"), xpd = TRUE)
text( t_2,.10, TeX("$\\t_2$") , xpd = TRUE)
lines(
c(-4,-4),
c((1+delta)/2,(1-delta)/2),
type        = "p",
pch         = 15,
xpd         = TRUE,
)
text(-5.0, 0.9, TeX("$(1+\\delta)/2$"), xpd = TRUE)
text(-5.0, 0.1, TeX("$(1-\\delta)/2$"), xpd = TRUE)


# Inverse KDF Perspektive
arrows(
x0      = min(tee),
y0      = (1-delta)/2,
x1      = -t_2,
y1      = (1-delta)/2,
col     = "darkorange",
angle   = 45,
length  = .08)
arrows(
x0      = min(tee),
y0      = (1+delta)/2,
x1      = t_2,
y1      = (1+delta)/2,
col     = "darkorange",
angle   = 45,
length  = .08)
arrows(
x0      = -t_2,
y0      = (1-delta)/2,
x1      = -t_2,
y1      = 0,
col     = "darkorange",
angle   = 45,
length  = .08)
arrows(
x0      = t_2,
y0      = (1+delta)/2,
x1      = t_2,
y1      = 0,
col     = "darkorange",
angle   = 45,
length  = .08)

# PDF Speicherung
dev.copy2pdf(
file     = file.path(fdir, "wtfi_11_ki_t_konfidenzbedingung.pdf"),
width    = 10,
height   = 5)
```

```{r, echo = FALSE, out.width = "80%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_ki_t_konfidenzbedingung.pdf")
```

# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\noindent (4) Etablierung der Konfidenzbedingung (fortgeführt)

\small
Mit der definition von $t_2$ wie oben folgt dann aber
\footnotesize
\begin{align}
\begin{split}
\delta
& =
\mathbb{P}\left(-t_2 \le T \le t_2 \right) 																			\\
& =
\mathbb{P}\left(-t_2 \le \frac{\sqrt{n}}{S_n}(\bar{X}_n - \mu) \le t_2 \right) 										\\
& =
\mathbb{P}\left(-\frac{S_n}{\sqrt{n}}t_2 \le \bar{X}_n - \mu \le \frac{S_n}{\sqrt{n}}t_2 \right) 					\\
& =
\mathbb{P}\left(-\bar{X}_n -\frac{S_n}{\sqrt{n}}t_2 \le - \mu \le - \bar{X}_n + \frac{S_n}{\sqrt{n}}t_2 \right) 	\\
& =
\mathbb{P}\left(\bar{X}_n + \frac{S_n}{\sqrt{n}}t_2 \ge \mu \ge \bar{X}_n - \frac{S_n}{\sqrt{n}}t_2 \right) 		\\
& =
\mathbb{P}\left(\bar{X}_n - \frac{S_n}{\sqrt{n}}t_2 \le \mu \le \bar{X}_n + \frac{S_n}{\sqrt{n}}t_2 \right) 		\\
& =
\mathbb{P}\left(\left[\bar{X}_n - \frac{S_n}{\sqrt{n}}t_2, \bar{X}_n + \frac{S_n}{\sqrt{n}}t_2\right] \ni \mu \right). 		\\
\end{split}
\end{align}
\small
Wir können nun das gesuchte Konfidenzintervall definieren.

# \small Beispiele | Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\noindent(5) Definition des Konfidenzintervalls
\small

Es sei $X_1,...,X_n \sim N(\mu,\sigma^2)$ mit unbekannten Parametern $\mu$ und $\sigma^2$,
es sei $\delta \in ]0,1[$, und es sei $t_\delta := \psi^{-1}\left(\frac{1 + \delta}{2}; n - 1\right)$.
Definiere
\begin{equation}
K_n :=
\left[\bar{X}_n - \frac{S_n}{\sqrt{n}}t_\delta,
\bar{X}_n + \frac{S_n}{\sqrt{n}}t_\delta\right].
\end{equation}
Dann gilt wie oben gezeigt
\begin{equation}
\mathbb{P}(K_n \ni \mu) = \delta.
\end{equation}
Damit ist $K_n$ ein $\delta$-Konfidenzintervall für $\mu$. Man beachte, dass $K_n$
ein zufälliges Intervall ist, weil $\bar{X}_n$ und $S_n$ Zufallsvariablen sind.


# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\noindent(5) Definition des Konfidenzintervalls (fortgeführt)

\small
Simulation
\vspace{2mm}

\setstretch{1}
\footnotesize
```{r}
# Modellformulierung
mu      = 2                                      # w.a.u. Erwartungswertparameter
sigsqr  = 1                                      # w.a.u. Varianzparameter
sigma   = sqrt(sigsqr)                           # w.a.u. St.Abweichungsparameter
n       = 12                                     # Stichprobengroesse
delta   = 0.95                                   # Konfidenzbedingung
psi_inv = qt((1+delta)/2,n-1)                    # \psi^-1((\delta + 1)/2, n-1)

# Simulation
ns      = 1e2                                    # Anzahl Simulationen
X_bar   = rep(NaN,ns)                            # Stichprobenmittelarray
S       = rep(NaN,ns)                            # St.Abweichungsarray
C       = matrix(rep(NaN,2*ns), ncol = 2)        # Konfidenzintervallarray
for(i in 1:ns){
   X        = rnorm(n,mu,sigma)                  # Stichprobenrealisierung
   X_bar[i] = mean(X)                            # Stichprobenmittel
   S[i]     = sd(X)                              # Stichprobenstandardabweichung
   C[i,1]   = X_bar[i] - (S[i]/sqrt(n))*psi_inv  # untere KI Grenze
   C[i,2]   = X_bar[i] + (S[i]/sqrt(n))*psi_inv  # obere KI Grenze
}
```

# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\noindent(5) Definition des Konfidenzintervalls (fortgeführt)

\small
Simulation

\vspace{3mm}

```{r, eval = F, echo = F}
# Visualisierung
print(mean(mu >= C[,1] & mu <= C[,2]))
P_idx                            = rep(NaN,ns)                                   # Nicht überdeckende KIs für Visualisierung
P_idx[mu < C[,1] | mu > C[,2]]   = 3.5                                           # Markerpositions
dev.new()                                                                        # new figure
fig  = par(                                                                      # figure parameters
family      = "sans",                                                            # font family
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.1,                                                               # font magnification factor
cex.main    = 1.2                                                                # title magnification factor
)

# Errorbarplot
plot(
1:ns,
X_bar,
type    = "p",
ylim    = c(0,4),
xlim    = c(0,102),
xlab    = "Simulationen",
ylab    = "",
pch     =  19,
cex     =  .5,
main    = TeX("$\\mu = 2\\,\\, \\sigma^2 = 2, \\, n = 12,\\, \\delta = 0.95"))
arrows(
x0      = 1:ns,
y0      = C[,1],
x1      = 1:ns,
y1      = C[,2],
code    = 3,
angle   = 90,
length  = 0.01,
lwd     = .7)
lines(
1:ns,
rep(mu,ns),
col      = "gray80",
lty      = 1)
lines(
1:ns,
P_idx,
type    = "p",
pch     = 13,
col     = "darkorange"
)

# PDF Speicherung
dev.copy2pdf(
file     = file.path(fdir, "wtfi_11_ki_normal_sigsqr_unbekannt.pdf"),
width    = 8,
height   = 5)
```


```{r, echo = FALSE, out.width = "90%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_ki_normal_sigsqr_unbekannt.pdf")
```


# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\noindent(5) Definition des Konfidenzintervalls (fortgeführt)

\small
Simulation der zweiten Interpretation eines Konfidenzintervalls
\vspace{2mm}

\setstretch{1}
\footnotesize
```{r}
# Anzahl Simulationen mit \theta_1, \theta_2,...
ns      = 1e2                                    # Anzahl Simulationen

# Modellformulierung
mu      = 2 * seq(0,1,len = ns)                  # w.a.u. Erwartungswertparameter
sigsqr  = 1                                      # w.a.u. Varianzparameter
sigma   = sqrt(sigsqr)                           # w.a.u. St.Abweichungsparameter
n       = 12                                     # Stichprobengroesse
delta   = 0.95                                   # Konfidenzbedingung
psi_inv = qt((1+delta)/2,n-1)                    # \psi^-1((\delta + 1)/2, n-1)

# Simulation

X_bar   = rep(NaN,ns)                            # Stichprobenmittelarray
S       = rep(NaN,ns)                            # St.Abweichungsarray
C       = matrix(rep(NaN,2*ns), ncol = 2)        # Konfidenzintervallarray
for(i in 1:ns){
   X        = rnorm(n,mu[i],sigma)               # Stichprobenrealisierung
   X_bar[i] = mean(X)                            # Stichprobenmittel
   S[i]     = sd(X)                              # Stichprobenstandardabweichung
   C[i,1]   = X_bar[i] - (S[i]/sqrt(n))*psi_inv  # untere KI Grenze
   C[i,2]   = X_bar[i] + (S[i]/sqrt(n))*psi_inv  # obere KI Grenze
}
```

# \small Beispiel (3) Erwartungswertparameter bei Normalverteilung mit unbekannter Varianz
\noindent(5) Definition des Konfidenzintervalls (fortgeführt)

\small
Simulation der zweiten Interpretation eines Konfidenzintervalls

\vspace{3mm}

```{r, eval = F, echo = F}
# Visualisierung
print(mean(mu >= C[,1] & mu <= C[,2]))
P_idx                            = rep(NaN,ns)                                   # Nicht überdeckende KIs für Visualisierung
P_idx[mu < C[,1] | mu > C[,2]]   = 3.5                                           # Markerpositions
dev.new()                                                                        # new figure
fig  = par(                                                                      # figure parameters
family      = "sans",                                                            # font family
bty         = "l",                                                               # plot box, o, l, 7, c, or ]
lwd         = 1,                                                                 # line width
las         = 1,                                                                 # 0: axis parallel, 1: horizontal, 2: axis perpendicular, 3: vertical
mgp         = c(2,1,0),                                                          # margin line in mex unit
xaxs        = "i",                                                               # "internal" (tight) x-axis style
yaxs        = "i",                                                               # "internal" (tight) y-axis style
font.main   = 1,                                                                 # title font type
cex         = 1.1,                                                               # font magnification factor
cex.main    = 1.2                                                                # title magnification factor
)

# Errorbarplot
plot(
1:ns,
X_bar,
type    = "p",
ylim    = c(-2,4),
xlim    = c(0,102),
xlab    = "Simulationen",
ylab    = "",
pch     =  19,
cex     =  .5,
main    = TeX("$\\mu = 2\\,\\, \\sigma^2 = 2, \\, n = 12,\\, \\delta = 0.95"))
arrows(
x0      = 1:ns,
y0      = C[,1],
x1      = 1:ns,
y1      = C[,2],
code    = 3,
angle   = 90,
length  = 0.01,
lwd     = .7)
lines(
1:ns,
mu,
col      = "gray80",
lty      = 1)
lines(
1:ns,
P_idx,
type    = "p",
pch     = 13,
col     = "darkorange")

# PDF Speicherung
dev.copy2pdf(
file     = file.path(fdir, "wtfi_11_ki_normal_sigsqr_unbekannt_mu_variabel.pdf"),
width    = 8,
height   = 5)
```


```{r, echo = FALSE, out.width = "90%"}
knitr::include_graphics("11_Abbildungen/wtfi_11_ki_normal_sigsqr_unbekannt_mu_variabel.pdf")
```


#
\setstretch{2.4}
\large
Definition

Beispiele

Selbstkontrollfragen

Appendix



#
\setstretch{2.4}
\large
Definition

Beispiele

**Selbstkontrollfragen**

Appendix



# Selbstkontrollfragen
\small
\setstretch{2}
\begin{enumerate}
\justifying
\item Definieren Sie den Begriff des $\delta$-Konfidenzintervalls ($\delta$-KIs).
\item Geben Sie zwei Interpretationen eines $\delta$-KIs.
\item Erläutern Sie die typischen Schritte zur Konstruktion eines $\delta$-KIs.
\item Definieren Sie die $Z$-Konfidenzintervallstatistik und geben Sie ihre Verteilung an.
\item Geben Sie das $\delta$-KI für den Erwartungswert einer Normalverteilung bei bekannter Varianz an.
\item Definieren Sie die $U$-Statistik und geben Sie ihre Verteilung an.
\item Geben Sie das $\delta$-KI für den Varianzparameter einer Normalverteilung an.
\item Definieren Sie die $T$-Konfidenzintervallstatistik und geben Sie ihre Verteilung an.
\item Geben Sie das $\delta$-KI für den Erwartungswert einer Normalverteilung bei unbekannter Varianz an.
\end{enumerate}


#
\setstretch{2.4}
\large
Definition

Beispiele

Selbstkontrollfragen

**Appendix**


# Appendix
\footnotesize
\underline{Beweis der Verteilung der $Z$-Konfidenzintervallstatistik}
\vspace{1mm}

Wir halten zunächst fest, dass mit der Mittelwertstransformation für unabhängig 
und identisch normalverteilte Zufallsvariablen gilt, dass $\bar{X}_n \sim N(\mu, \frac{\sigma^2}{n})$ 
(cf. (7) Transformationen der Normalverteilungen). Die Verteilung der $Z$-Konfidenzintervallsstatistik 
folgt dann mit dem WDF Transformationstheorem bei linear-affinen Abbildungen (cf. ibid.) 
durch Transformation von $\bar{X}_n$ mit der Funktion
\begin{equation}
f : \mathbb{R} \to \mathbb{R}, \bar{x}_n \mapsto f(\bar{x}_n) :=
\frac{\sqrt{n}}{\sigma}\bar{x}_n - \frac{\sqrt{n}}{\sigma}\mu
\end{equation}
Für die WDF von $Z$ gilt also
\begin{align}
\begin{split}
p_Z(z)
& =  \frac{\sigma}{\sqrt{n}}
     N\left(\frac{\sigma}{\sqrt{n}}\left(z + \frac{\sqrt{n}}{\sigma}\mu\right);
     \mu, \frac{\sigma^2}{n} \right) \\
& =  \frac{\sigma}{\sqrt{n}}
     \frac{1}{\sqrt{2\pi\frac{\sigma^2}{n}}}
     \exp\left(-\frac{1}{2\frac{\sigma^2}{n}}
     \left(\frac{\sigma}{\sqrt{n}}\left(z + \frac{\sqrt{n}}{\sigma}\mu\right) - \mu\right)^2\right) \\
& =  \frac{\sigma}{\sqrt{n}}\frac{\sqrt{n}}{\sigma}
     \frac{1}{\sqrt{2\pi}}
     \exp\left(-\frac{1}{2}\frac{n}{\sigma^2}
     \left(\frac{\sigma}{\sqrt{n}}z + \mu - \mu\right)^2\right) \\
& =  \frac{1}{\sqrt{2\pi}}\exp\left(-\frac{1}{2}z^2\right) \\
& = N(z;0,1)
\end{split}
\end{align}
$\hfill\Box$

# Appendix
\footnotesize
\underline{Beweis der Verteilung der $T$-Konfidenzintervallstatistik}

Wir halten zunächst fest, dass
\begin{align}
\begin{split}
T
= \sqrt{n}\left(\frac{\bar{X}_n - \mu}{S_n}\right)
= \frac{\bar{X}_n - \mu}{S_n/\sqrt{n}}
= \frac{\sigma}{\sigma}\frac{\sqrt{n}(\bar{X}_n - \mu)}{S_n}
= \frac{\frac{\sqrt{n}}{\sigma}(\bar{X}_n - \mu)}{S_n/\sigma}
= \frac{\frac{\sqrt{n}}{\sigma}(\bar{X}_n - \mu)}{\sqrt{\frac{1}{\sigma^2}S_n^2}}
\end{split}
\end{align}
An der rechten Seite obiger Gleichung sehen wir also, dass die $T$-Konfidenzintervallstatistik als Quotient der Zufallsvariablen
\begin{equation}
\frac{\sqrt{n}}{\sigma}(\bar{X}_n - \mu) \mbox{ und } \sqrt{\frac{1}{\sigma^2}S_n^2}
\end{equation}
geschrieben werden kann. Dabei hat die Zufallsvariable im Zähler die Form der $Z$-Konfidenzintervallstatistik, 
kann also als
\begin{equation}
\frac{\sqrt{n}}{\sigma}(\bar{X}_n - \mu) =: Z
\end{equation}
geschrieben werden. Die Zufallsvariable im Nenner dagegen hat die Form der 
Quadratwurzel einer mit $n-1$ multiplizierten $U$-Konfidenzintervallstatistik, 
kann also als \begin{equation}
\sqrt{\frac{1}{\sigma^2}S_n^2}
= \sqrt{\frac{1}{n-1}\frac{n-1}{\sigma^2}S_n^2}
:= \sqrt{\frac{1}{n-1}U}
\end{equation}
geschrieben werden.

# Appendix
\footnotesize
\underline{Beweis der Verteilung der $T$-Konfidenzintervallstatistik (fortgeführt)}

Insgesamt kann die $T$ Konfidenzintervallstatistik also als
\begin{equation}
T = \frac{Z}{\sqrt{\frac{U}{n-1}}}
\mbox{ mit } Z \sim N(0,1) \mbox{ und } U \sim \chi^2(n-1)
\end{equation}
geschrieben werden.
@casella_2012 zeigen in Abschnitt 5.3, dass die Zufallsvariablen im Zähler und 
Nenner dieser Formulierung der $T$-Konfidenzintervallstatistik unabhängig sind.

Es ergibt sich also, dass die  $T$-Konfidenzintervallstatistik als Quotient 
zweier unabhängiger Zufallsvariablen geschrieben werden kann, wobei die 
Zählerzufallsvariable eine standardnormalverteilte Zufallsvariable ist und 
die Nennerzufallsvariable die Quadratwurzel einer durch die Anzahl ihrer 
Freiheitsgrade geteilten $\chi^2$-verteilten Zufallsvariable ist.

Dann aber folgt mit dem $T$-Transformationstheorem (cf. (8) Transformationen 
der Normalverteilung), dass die $T$-Konfidenzintervallstatistik eine $t$-verteilte
Zufallsvariable mit Freiheitsgradparameter entsprechend dem Freiheitsgradparamter
der $\chi^2$-verteilten Zufallsvariable, hier also $n-1$, ist. 
Es folgt demnach $T \sim t(n-1)$.

$\hfill\Box$

# References
\footnotesize


