close
Warning:
Can't synchronize with repository "(default)" (/var/svn/mms does not appear to be a Subversion repository.). Look in the Trac log for more information.
- Timestamp:
-
Sep 20, 2010, 5:02:59 PM (14 years ago)
- Author:
-
Pedro Gea
- Comment:
-
--
Legend:
- Unmodified
- Added
- Removed
- Modified
-
v1
|
v2
|
|
27 | 27 | |
28 | 28 | De manera general podríamos expresar la ecuación de un submodelo como: |
29 | | {{{ |
30 | | //#!latex |
31 | | Y=\sum_{i}{\beta_i X_i} +N |
32 | | }}} |
33 | 29 | |
34 | | {{{ |
35 | | Y = Sum_i(β_i X_i) + N |
36 | | }}} |
37 | | donde {{{Y}}} es el output, {{{E_i = β_i X_i}}} son los términos explicativos y {{{N}}} es el ruido. |
| 30 | [[LatexEquation(Y=\sum_{i}{\beta_i X_i} +N)]] |
| 31 | |
| 32 | donde [[LatexEquation(Y)]] es el output, [[LatexEquation(E_i = \beta_i X_i)]] son los términos explicativos y [[LatexEquation(N)]] es el ruido. |
38 | 33 | |
39 | 34 | === El output === |
… |
… |
|
44 | 39 | |
45 | 40 | Con la aparición de la transformación aparece una cierta ambigüedad en el concepto de output, ya que hay dos variables, la variable original sin transformar y la variable transformada. En MMS adoptamos el criterio de llamar observaciones a la primera y output a la segunda, de modo que el output continua siendo el término explicado (situado a la izquierda de la ecuación): |
46 | | {{{ |
47 | | Y = T(V) |
48 | | }}} |
49 | | donde {{{Y}}} continua siendo el output, {{{T}}} es la transformación y {{{V}}} son las observaciones. |
| 41 | |
| 42 | [[LatexEquation(Y = T(V))]] |
| 43 | |
| 44 | donde [[LatexEquation(Y)]] continua siendo el output, [[LatexEquation(T)]] es la transformación y [[LatexEquation(V)]] son las observaciones. |
50 | 45 | |
51 | 46 | === Los términos explicativos === |
52 | 47 | |
53 | 48 | El output en un modelo lineal es explicado como una suma de términos que denominamos términos explicativos. Los términos explicativos tienen la forma de un producto de un coeficiente, el parámetro, por una variable comúnmente denominada variable explicativa o input. El término explicativo se puede expresar como: |
54 | | {{{ |
55 | | E_i = β_i X_i |
56 | | }}} |
57 | | donde {{{E_i}}} es el término explicativo {{{i}}}-ésimo, {{{β_i}}} su parámetro y {{{X_i}}} su input. |
| 49 | |
| 50 | [[LatexEquation(E_i = \beta_i X_i)]] |
| 51 | |
| 52 | donde [[LatexEquation(E_i)]] es el término explicativo [[LatexEquation(i)]]-ésimo, [[LatexEquation(\beta_i)]] su parámetro y [[LatexEquation(X_i)]] su input. |
58 | 53 | |
59 | 54 | Los términos explicativos se pueden generalizar y así introducir relaciones no lineales como una función de varias variables explicativas y varios parámetros, que en general podemos denominar no-lineales: |
60 | | {{{ |
61 | | E_i = β_i f_i(U_j; δ_k) |
62 | | }}} |
63 | | donde {{{U_j}}} representa al conjunto de variables explicativas o inputs y {{{δ_k}}} al conjunto de parámetros no-lineales. Al factor {{{f_i(U_j; δ_k)}}} que sustituye al input {{{X_i}}} lo denominamos filtro del término explicativo. |
| 55 | |
| 56 | [[LatexEquation(E_i = \beta_i f_i(U_j; \delta_k))]] |
| 57 | |
| 58 | donde [[LatexEquation(U_j)]] representa al conjunto de variables explicativas o inputs y [[LatexEquation(\delta_k)]] al conjunto de parámetros no-lineales. Al factor [[LatexEquation(f_i(U_j; \delta_k))]] que sustituye al input [[LatexEquation(X_i)]] lo denominamos filtro del término explicativo. |
64 | 59 | |
65 | 60 | === El ruido === |
66 | 61 | |
67 | 62 | En un modelo lineal el término que recoge la parte no explicada del output se conoce como error, ruido o perturbación. Comúnmente este término admite las hipótesis de normalidad con media cero, varianza constante e independencia de las perturbaciones: |
68 | | {{{ |
69 | | E[N_i] = 0 |
70 | | Var(N_i) = σ^2 |
71 | | E[N_i N_(j≠i)] = 0 |
72 | | }}} |
| 63 | |
| 64 | [[LatexEquation(\begin{align} & E[N_i] = 0 \\ & Var(N_i) = \sigma^2 \\ & E[N_i N_{(j \neq i)}] = 0 \end{align})]] |
| 65 | |
73 | 66 | es decir: |
74 | | {{{ |
75 | | N ~ Normal(0, σ^2 I) |
76 | | }}} |
| 67 | |
| 68 | [[LatexEquation(N \sim Normal(0, \sigma^2 I))]] |
77 | 69 | |
78 | 70 | Los modelos lineales descritos se pueden extender si consideramos que el ruido tiene la estructura de un proceso ARIMA: |
79 | | {{{ |
80 | | N ~ ARIMA(R; ϕ_i, θ_j) |
81 | | }}} |
82 | | donde {{{ϕ_i}}} y {{{θ_j}}} son los parámetros de ruido ARIMA y {{{R}}} sus residuos que ahora representan a las perturbaciones que admiten la hipótesis de normalidad anterior: |
83 | | {{{ |
84 | | R ~ Normal(0, σ^2 I) |
85 | | }}} |
| 71 | |
| 72 | [[LatexEquation(N \sim ARIMA(R; \phi_i, \theta_j))]] |
| 73 | |
| 74 | donde [[LatexEquation(\phi_i)]] y [[LatexEquation(\theta_j)]] son los parámetros de ruido ARIMA y [[LatexEquation(R)]] sus residuos que ahora representan a las perturbaciones que admiten la hipótesis de normalidad anterior: |
| 75 | |
| 76 | [[LatexEquation(R \sim Normal(0, \sigma^2 I))]] |
86 | 77 | |
87 | 78 | == La jerarquía == |
… |
… |
|
97 | 88 | |
98 | 89 | Una jerarquía puede expresarse en forma de ecuación como: |
99 | | {{{ |
100 | | ζ = Sum_i(γ_i Z_i) + N |
101 | | }}} |
102 | | donde {{{ζ}}} representa al conjunto de parámetros explicados o output de la jerarquía, {{{H_i = γ_i Z_i}}} a cada uno de los términos explicativos de la jerarquía y {{{N}}} al ruido. |
| 90 | |
| 91 | [[LatexEquation(\zeta = \sum_i{\gamma_i Z_i} + N)]] |
| 92 | |
| 93 | donde [[LatexEquation(\zeta)]] representa al conjunto de parámetros explicados o output de la jerarquía, [[LatexEquation(H_i = \gamma_i Z_i)]] a cada uno de los términos explicativos de la jerarquía y [[LatexEquation(N)]] al ruido. |
103 | 94 | |
104 | 95 | === Output de la jerarquía === |
105 | 96 | |
106 | 97 | El output de la jerarquía es el conjunto o la selección de parámetros que va a expresarse como una regresión de los nuevos parámetros: |
107 | | {{{ |
108 | | ζ = {β_h} |
109 | | }}} |
110 | 98 | |
111 | | Este conjunto de parámetros {{{ {β_h} }}} no está limitado a los parámetros de los submodelos sino que puede estar formado por cualquier parámetro de un submodelo o de una jerarquía ya definida. |
| 99 | [[LatexEquation(\zeta = {\beta_h})]] |
| 100 | |
| 101 | Este conjunto de parámetros [[LatexEquation( {\beta_h} )]] no está limitado a los parámetros de los submodelos sino que puede estar formado por cualquier parámetro de un submodelo o de una jerarquía ya definida. |
112 | 102 | |
113 | 103 | Aún más, el output de una jerarquía puede estar formado por combinaciones lineales de parámetros, de modo que un elemento del output puede ser (i) un parámetro de un submodelo, (ii) un parámetro de una jerarquía o (iii) una combinación lineal de parámetros. |
114 | 104 | |
115 | 105 | De manera general podemos expresar cada elemento del output como: |
116 | | {{{ |
117 | | ζ_h = Sum_(i∈C_h)(α_(h,i) β_i) |
118 | | }}} |
119 | | donde {{{ζ_h}}} es el elemento {{{h}}}-ésimo del output y {{{α_(h,i)}}} son los coeficientes de la combinación lineal {{{C_h}}} de parámetros {{{β_i}}}. |
| 106 | |
| 107 | [[LatexEquation(\zeta_h = \sum_{i \in C_h}{\alpha_(h,i) \beta_i})]] |
| 108 | |
| 109 | donde [[LatexEquation(\zeta_h)]] es el elemento [[LatexEquation(h)]]-ésimo del output y [[LatexEquation(\alpha_(h,i))]] son los coeficientes de la combinación lineal [[LatexEquation(C_h)]] de parámetros [[LatexEquation(\beta_i)]]. |
120 | 110 | |
121 | 111 | === Términos de la jerarquía === |
122 | 112 | |
123 | 113 | El output de la jerarquía, como en otro modelo lineal, es explicado como una suma de términos que aquí denominamos términos de la jerarquía. Éstos tienen la forma de un producto de un coeficiente, el hiperparámetro, por un conjunto de coeficientes que hacen las veces de inputs de la jerarquía y que dan significado a los hiperparámetros. El término de una jerarquía se puede expresar como: |
124 | | {{{ |
125 | | H_i = γ_i Z_i |
126 | | }}} |
127 | | donde {{{H_i}}} es el término {{{i}}}-ésimo, {{{γ_i}}} su hiperparámetro y {{{Z_i}}} el “hiperinput” que expresa las posibles relaciones lineales entre los parámetros explicados en la jerarquía. |
| 114 | |
| 115 | [[LatexEquation(H_i = \gamma_i Z_i)]] |
| 116 | |
| 117 | donde [[LatexEquation(H_i)]] es el término [[LatexEquation(i)]]-ésimo, [[LatexEquation(\gamma_i)]] su hiperparámetro y [[LatexEquation(Z_i)]] el “hiperinput” que expresa las posibles relaciones lineales entre los parámetros explicados en la jerarquía. |
128 | 118 | |
129 | 119 | === Ruido === |
130 | 120 | |
131 | 121 | El término de ruido o perturbaciones de una jerarquía es similar al de un submodelo y comúnmente admite las hipótesis de normalidad con media cero, varianza constante e independencia: |
132 | | {{{ |
133 | | N ~ Normal(0, σ^2 I) |
134 | | }}} |
| 122 | |
| 123 | [[LatexEquation(N \sim Normal(0, \sigma^2 I))]] |
| 124 | |
135 | 125 | Este término puede extenderse eliminando la hipótesis de varianza constante e independencia entre las perturbaciones e introduciendo en general una matriz de covarianza de forma que: |
136 | | {{{ |
137 | | N ~ Normal(0, Σ) |
138 | | }}} |
139 | | donde {{{Σ}}} es la matriz de covarianza. |
| 126 | |
| 127 | [[LatexEquation(N \sim Normal(0, \Sigma))]] |
| 128 | |
| 129 | donde [[LatexEquation(\Sigma)]] es la matriz de covarianza. |
140 | 130 | |
141 | 131 | == Información a priori == |
… |
… |
|
143 | 133 | El modelo en MMS dispone de la posibilidad de añadir información a priori sobre los parámetros o sobre combinaciones lineales de ellos. |
144 | 134 | Esta información a priori puede ser de dos tipos: una distribución de probabilidad normal a priori y una restricción de dominio. Éstas pueden expresarse como: |
145 | | {{{ |
146 | | ζ_h^((0)) ~ Normal(μ_h, σ_h^2) |
147 | | ζ_(h,min) < ζ_h < ζ_(h,max) |
148 | | }}} |
149 | | donde {{{ζ_h}}} es un parámetro o combinación de parámetros cualquiera del modelo, {{{μ_h}}} y {{{σ_h^2}}} son los parámetros de su distribución normal a priori, y {{{ζ_(h,min)}}} y {{{ζ_(h,max)}}} los extremos de su intervalo de dominio. |
| 135 | |
| 136 | [[LatexEquation(\zeta_h^{(0)} \sim Normal(\mu_h, \sigma_h^2))]] |
| 137 | |
| 138 | [[LatexEquation(\zeta_{h,min} < \zeta_h < \zeta_{h,max} )]] |
| 139 | |
| 140 | donde [[LatexEquation(\zeta_h)]] es un parámetro o combinación de parámetros cualquiera del modelo, [[LatexEquation(\mu_h)]] y [[LatexEquation(\sigma_h^2)]] son los parámetros de su distribución normal a priori, y [[LatexEquation(\zeta_{h,min})]] y [[LatexEquation(\zeta_{h,max})]] los extremos de su intervalo de dominio. |
150 | 141 | |
151 | 142 | |