The Applied Statistics Workshop 2020

東京大学大学院経済学研究科 学術交流棟 （小島ホール）1階 第1セミナー室 [地図]
in Seminar Room 1 on the 1st floor of the Economics Research Annex (Kojima Hall) [Map]

中島上智（日本銀行）
"High-frequency stochastic volatility models with daily realized volatility"

This paper proposes new high-frequency stochastic volatility (SV) models. Apart from the standard daily-frequency SV models, the high-frequency SV models are fit to intraday returns by extensively incorporating intraday volatility patterns. The volatility of intraday returns is assumed to consist of long- and short-lived factors. Daily realized volatility is used as the long-lived volatility factor, which is assumed to follow the heterogeneous autoregressive (HAR) model. The short-lived volatility factor consists of the autoregressive process, the seasonal component of the intraday volatility pattern, and the announcement component responding to macroeconomic announcements. Stochastic jumps are included in returns. The empirical analysis using the 5-minute returns of Nikkei225 index indicates that the high-frequency SV model together with the HAR-RV improves in-sample model fit and volatility forecasting performance over the existing high-frequency SV models and commonly-used RV forecasts. （渡部敏明氏（一橋大学経済研究所）との共著） 　

東京大学大学院経済学研究科 学術交流棟 （小島ホール）1階 第1セミナー室 [地図]
in Seminar Room 1 on the 1st floor of the Economics Research Annex (Kojima Hall) [Map]

Dan Ben-Moshe (Hebrew University of Jerusalem)

東京大学大学院経済学研究科 学術交流棟 （小島ホール）1階 第1セミナー室 [地図]
in Seminar Room 1 on the 1st floor of the Economics Research Annex (Kojima Hall) [Map]

Tevfik Aktekin (University of New Hampshire)

東京大学大学院経済学研究科 学術交流棟 （小島ホール）1階 第1セミナー室 [地図]
in Seminar Room 1 on the 1st floor of the Economics Research Annex (Kojima Hall) [Map]

Takumi Saegusa (University of Maryland)

東京大学大学院経済学研究科 学術交流棟 （小島ホール）1階 第1セミナー室 [地図]
in Seminar Room 1 on the 1st floor of the Economics Research Annex (Kojima Hall) [Map]

今井晋 (北海道大学経済学研究院）

東京大学大学院経済学研究科 学術交流棟 （小島ホール）1階 第1セミナー室 [地図]
in Seminar Room 1 on the 1st floor of the Economics Research Annex (Kojima Hall) [Map]

片山翔太（慶応大学経済学部）

東京大学大学院経済学研究科 学術交流棟 （小島ホール）1階 第1セミナー室 [地図]
in Seminar Room 1 on the 1st floor of the Economics Research Annex (Kojima Hall) [Map]

Igor Pruenster (Bocconi University)

栗栖大輔（東京工業大学）
"Bootstrap for spatio-temporal data"

In this talk, we introduce a novel bootstrap method for spatial and spatio-temporal data. For this, we derive Gaussian approximations and propose the spatial wild bootstrap (SWB) for sample means of a random field $\{\bm{Y}(\bm{s}):\bm{s} \in \mathbb{R}^{d}\}$ in $\mathbb{R}^{p}$ which is approximated by a strictly stationary random field and is observed at a finite number of locations in the sampling region $R_{n}$ with the volume $O(\lambda_{n}^{d})$. In particular, we give Gaussian and bootstrap approximations for probabilities that the normalized sample means of discretely observed random field of the form $\sqrt{\lambda_{n}^{d}}\bar{\bm{Y}}_{n}=(n^{2}\lambda_{n}^{-d})^{-1/2}\sum_{j=1}^{n}\bm{Y}(\bm{s}_{j})$ hit hyperrectangles even if $p = p_{n} \to \infty$ and $p \gg n$ as $n \to \infty$, where the locations $\bm{s}_{j}$'s are specified by a stochastic spatial sampling design with $\lim_{n \to \infty}n\lambda_{n}^{-d} = \kappa \in (0, \infty]$. Since random fields include (irregularly spaced) time series as special cases, the SWB methods also can be applied to inference on (irregularly spaced) high-dimensional time series. Additionally, we show that our results can be applied to a wide class of multivariate Levy driven moving average random fields such as continuous autoregressive moving average (CARMA) random fields and discuss multiple temporal change point tests for spatio-temporal data.　

高梨耕作（理化学研究所）
"PREDICTIVE PROPERTIES AND MINIMAXITY OF BAYESIAN PREDICTIVE SYNTHESIS"

We examine and compare the predictive properties of classes of ensemble methods, including the recently developed Bayesian predictive synthesis(BPS). We develop a novel strategy based on stochastic processes, where the predictive processes are expressed as stochastic differential equations, evaluated using Ito's lemma. Using this strategy, we identify two main classes of ensemble methods: linear combination and nonlinear synthesis, and show that a subclass of BPS is the latter. With regard to expected squared forecast error, we identify the conditions and mechanism for which non-linear synthesis improves over linear combinations; conditions that are commonly met in real world applications. We further show that a specific form of nonlinear BPS (as in McAlinn and West, 2019) produces exact minimax predictive distributions for Kullback-Leibler risk and, under certain conditions, quadratic risk. A finite sample simulation study is presented to illustrate our results.

藤森洸（信州大学）
"The Dantzig selector for statistical models of stochastic processes in high-dimensional and sparse settings"

The Dantzig selector, which was proposed by Candes and Tao in 2007, is an estimation procedure for regression models in high-dimensional and sparse settings. In this talk, the Dantzig selectors for some statistical models of stochastic processes are discussed. We apply this procedure to Cox's proportional hazards model and some specific models of diffusion processes and prove the consistency and the variable selection consistencies of the estimators. Based on partial likelihood and quasi-likelihood methods which were studied intensively in low-dimensional settings, we study these statistical models of stochastic processes in high-dimensional and sparse settings, which need some mathematically challenging tasks. The consistency of the estimators are proved by using stochastic maximal inequalities which are derived from Bernstein's inequalities for martingales and conditions on Hessian matrices of likelihood which are known as the restricted eigenvalue conditions. We prove that consistency of the estimator implies the variable selection consistency which enables us to reduce the dimension. Using the dimension reduction, asymptotically normal estimators can be constructed.

入江薫（東京大学）
"Bayesian Dynamic Fused LASSO"

The new class of Markov processes is proposed to realize the flexible shrinkage effects for the dynamic models. The transition density of the new process consists of two penalty functions, similarly to Bayesian fused LASSO in its functional form, that shrink the current state variable to its previous value and zero. The normalizing constant of the density, which is not ignorable in posterior computation, is shown to be essentially the log-geometric mixture of double-exponential densities. This process comprises the state equation of the dynamic regression models, which is shown to be conditionally Gaussian and linear in state variables and utilizes the forward filtering and backward sampling in posterior computation by Gibbs sampler. The problem of overshrinkage that is inherent in lasso is moderated by considering the hierarchical extension, which can even realize the shrinkage of horseshoe priors marginally. The new prior is compared with the standard double-exponential prior in the estimation of and prediction by the dynamic linear models for illustration. It is also applied to the time-varying vector autoregressive models for the US macroeconomic data, where we examine the (dis)similarity of the additional shrinkage effect to dynamic variable selection or, specifically, the latent threshold models.

加藤昇吾（統計数理研究所）
「方向データのための統計的手法」

風向や分子のねじれ角のように観測値が方向として表されるデータを方向データという．方向データに実数値データのための統計的手法をそのまま応用すると，誤った解析結果を導いてしまう問題が知られている．そこで本講演では，方向データのための統計的手法に関する２つの話題を提供する．１つめの話題は，方向データの統計解析における基本的な統計量および確率分布の紹介である．具体的には，方向データの「平均」に相当する統計量や，フォン・ミーゼス・フィッシャー分布およびそれに関連した確率分布などを概観する．また，２つめの話題では講演者の共同研究として，方向データのためのコーシー分布を提案し，その統計的性質を議論する．この分布には，正規化定数が簡潔に表現できることやパラメータ推定が容易であることなどの扱いやすい統計的性質が成り立つ．そして，提案された分布のいくつかの性質が解析学におけるメビウス変換および立体射影との関連から導かれることを示す．

今泉允聡（東京大学）
「深層学習の原理解明に向けた汎化誤差解析」

深層学習は大変良い性能を発揮するデータ解析手法として知られているが、その原理は未だ未解明の部分が多い。本研究では、統計・機械学習理論を用いた深層学習の汎化誤差解析により、その原理を明らかにすることを試みる。本研究では、(i)ノンパラメトリック回帰に基づくニューラルネットワークの関数近似性能の解析、(ii)機械学習理論に基づく損失関数の形状を用いた学習アルゴリズムの複雑性誤差の解析、の二点を紹介する。(i)のノンパラメトリック回帰の解析では、深層学習がどのような場合に従来の非深層法を上回る性能を持つかを模索する。この研究では、推定対象となる関数が特異性（非滑らかさ）を持つときや、共変量の分布がフラクタルなどの複雑な低次元集合に集中している場合に、深層ニューラルネットワークが理論的な優越を持つことを示した。(ii)の複雑性誤差解析では、膨大なパラメータを持つニューラルネットワークでも過学習（過適合）をしない状況の特定を試みる。この研究では、損失関数が複雑な形状を持つときに、損失関数の勾配に基づく学習アルゴリズムが暗黙的な正則化により過適合を回避することを示した。これらの結果に基づいて、モデルの近似性能と学習アルゴリズムの特徴の両面から深層学習の成功の要因を探る。

松田安昌（東北大学）
「時空間ARMAモデル」

自己回帰移動平均(ARMA)モデルは、定常時系列の分析モデルとして1970年に提案されてより、時系列分析の基本モデルとして広く応用されている。本セミナーは、ARMAモデルを時系列から時空間データへ拡張することを目的とする。時空間データとは空間データを時系列観測したデータのことで、ここでは特に不規則に位置する空間データを離散時点で観測するものを対象とする。関数を値としてとる時系列を関数時系列とよぶ。時空間データを2次元平面上の2乗可積分関数を値としてとる関数時系列と捉え、自己回帰作用素、移動平均作用素を定義することで時空間ARMAモデルを提案する。本モデルはBrockwell and Matsuda (2017)によるCARMA確率場の時系列拡張ともみなすことができる。本セミナーでは、時空間ARMAモデルの提案に加えて、定常条件、Whittle推定、予測法を論じる。さらに、アメリカ降雨量データ、東京公示地価に応用して、時空間データ分析の実際を紹介する。

川久保友超（千葉大学）
「線形混合モデルの変数選択問題」

線形混合モデルは，クラスターデータや経時データ・パネルデータ，空間データなどのデータ構造に対して柔軟なモデリングが可能であり，理論的にも応用上も盛んに研究がなされてきた。本講演では線形混合モデルにおける変数選択問題について講演を行う。線形混合モデルにおける変数選択には様々なアプローチがあるが，本講演では条件付尤度にもとづいた条件付AIC（conditional AIC）と呼ばれる手法と，平均二乗予測誤差（mean squared prediction error）にもとづいた手法における研究成果を報告する。そして特に，提案手法を小地域推定に応用する際の有用性を示す。

丸山祐造（神戸大学）
「平均ベクトルの推定における分散未知のもとでの許容的でミニマクスな推定量」

多変量正規分布の平均ベクトルの推定における，一般化ベイズ推定量の許容性，ミニマクス性に関する結果を紹介する．X~N_p(θ,σ^2I_p), で損失関数 ||δ-θ||^2/σ^2 のもとでθの推定問題を考える．σ^2も未知であると仮定し，関連する統計量S/σ^2~χ_2^n も得られているとする．この設定は，正規線形回帰モデルの正準形であり，平均ベクトルθは回帰係数に，Xは最小二乗推定量に，Sは残差平方和に対応する．平均ベクトルの推定問題に関して，σ^2が既知の設定では許容的な推定量のクラスが十分研究されてきた．Brown (1971)がその代表例である．しかし，分散未知の設定では，対応する結果が得られていなかった．許容性の証明に必要な事前分布列の構成が難しかったからである．今回，Strawderman型の広義事前分布に対して有効な列を提案して，その広義事前分布のもとでの一般化ベイズ推定量の許容性を示す．またその中にミニマクス性を併せ持つ推定量が存在することも確認する． 今回紹介する結果の特別な場合は，次の通りである．「James-Stein 推定量の縮小係数を少し修正した [1-{(p-2)/(n+2)}/{||x||^2/s+(p-2)/(n+2)+1}]xが，ある広義事前分布のもとで一般化ベイズ推定量である．さらにこの推定量は，許容的であり，またミニマクスでもある．」　

Shosei Sakaguchi　(University College London)
"Estimation of Optimal Dynamic Treatment Assignment Rule under Policy Constraint"

This paper studies statistical decision for dynamic treatment assignment problems. Many policies involve dynamics in their treatment assignments where treatments are sequentially assigned to individuals across multiple stages and the effect of treatment at each stage is usually heterogeneous with respect to the prior treatments, past outcomes, and observed covariates. We consider estimating an optimal dynamic treatment rule that guides the optimal treatment assignment for each individual at each stage based on the individual's history information. This paper proposes the empirical welfare maximization approach in the dynamic framework, which estimates the optimal dynamic treatment rule from panel data from an experimental or quasi-experimental study. The paper proposes two estimation methods: one solves the treatment assignment problem at each stage through backward induction, and the other solves the whole dynamic treatment assignment problem simultaneously across all stages. I derive nite-sample upper bounds on the worst- case average welfare-regrets for the proposed methods and show n^{-1/2}minimax convergence rates. I also modify the simultaneous estimation method to incorporate inter-temporal budget/capacity constraints.