Gene-environment (G×E) interaction plays a pivotal role in understanding the genetic basis of complex disease. When environmental factors are measured continuously, one can assess the genetic sensitivity over different environmental conditions on a disease trait. Motivated by the increasing awareness of gene set based association analysis over single variant based approaches, we proposed an additive varying-coefficient model to jointly model variants in a genetic system. The model allows us to examine how variants in a gene set are moderated by an environment factor to affect a disease phenotype. We approached the problem from a variable selection perspective. In particular, we select variants with varying, constant and zero coefficients, which correspond to cases of G×E interaction, no G×E interaction and no genetic effect, respectively. The procedure was implemented through a two-stage iterative estimation algorithm via the smoothly clipped absolute deviation penalty function. Under certain regularity conditions, we established the consistency property in variable selection as well as effect separation of the two stage iterative estimators, and showed the optimal convergence rates of the estimates for varying effects. In addition, we showed that the estimate of non-zero constant coefficients enjoy the oracle property. The utility of our procedure was demonstrated through simulation studies and real data analysis.

中文翻译：

---

非线性基因-环境相互作用的加性变系数模型

基因-环境（G×E）相互作用在理解复杂疾病的遗传基础方面发挥着关键作用。当环境因素被连续测量时，人们可以评估不同环境条件下对疾病性状的遗传敏感性。受基于基因集的关联分析对基于单一变体的方法的认识不断提高的启发，我们提出了一种加性变化系数模型来联合建模遗传系统中的变体。该模型使我们能够检查基因集中的变异如何被环境因素调节以影响疾病表型。我们从变量选择的角度来处理这个问题。特别是，我们选择了具有变化、恒定和零系数的变体，它们分别对应于 G×E 相互作用、没有 G×E 相互作用和没有遗传效应的情况。该过程是通过平滑裁剪的绝对偏差惩罚函数通过两阶段迭代估计算法实现的。在一定的规律性条件下，我们建立了变量选择的一致性属性以及两阶段迭代估计器的效果分离，并展示了不同效果的估计的最佳收敛速度。此外，我们证明了非零常数系数的估计具有预言性质。通过模拟研究和真实数据分析证明了我们程序的实用性。我们建立了变量选择的一致性属性以及两阶段迭代估计器的效果分离，并展示了不同效果的估计的最佳收敛速度。此外，我们证明了非零常数系数的估计具有预言性质。通过模拟研究和真实数据分析证明了我们程序的实用性。我们建立了变量选择的一致性属性以及两阶段迭代估计器的效果分离，并展示了不同效果的估计的最佳收敛速度。此外，我们证明了非零常数系数的估计具有预言性质。通过模拟研究和真实数据分析证明了我们程序的实用性。