Progressive growing generative adversarial networks using conditioning ratio for facies modeling in complex aquifers

Abstract

Groundwater-flow and contaminant-transport modeling rely on methods of converting a set of field observations into geologic models that represent the subsurface structure. These geologic models also must replicate important geologic features such as connectivity. Recently, researchers have begun to use machine learning methods such as generative adversarial networks (GANs). This study focuses on a progressive growing GAN (PGGAN) to condition on measured data. Given a latent variable and an array that provides field observations, the generators of the conditioned PGGAN are tasked to produce geologically realistic images of channel aquifers that match field observations. Although largely successful, the conditioning behavior of these networks still has some issues, and how the model performs the conditioning task across its layers is not yet fully understood. To better understand this conditioning mechanism, the behavior of these networks was measured using the conditioning ratio, which is a novel metric that determines the magnitude of the influence of the conditioning data. The conditioning ratio was measured across multiple layers within the generator during training, as well as with various modifications to the network architecture. The results revealed two distinct conditioning behaviors that are based on the number of conditioning arrays injected into the generator. Results also showed that decreasing the starting resolution for the generator can slow down the learning process. Overall, the numerical experiments prove the value of measuring the conditioning ratio of layers within the generator. These approaches can be used as diagnostic tools to assist in the design of future PGGAN architectures.

Résumé

La modélisation de l'écoulement des eaux souterraines et du transport des contaminants repose sur des méthodes permettant de convertir un ensemble d'observations de terrain en modèles géologiques représentant la structure du sous-sol. Ces modèles géologiques doivent également reproduire des caractéristiques géologiques importantes telles que la connectivité. Récemment, les chercheurs ont commencé à utiliser des méthodes d'apprentissage automatique telles que les réseaux adversaires génératifs (GANs). Cette étude se concentre sur un GAN à croissance progressive (PGGAN) pour conditionner les données mesurées. Compte tenu d'une variable latente et d'un tableau qui fournit des observations de terrain, les générateurs du PGGAN conditionné ont pour tâche de produire des images géologiquement réalistes d'aquifères chenalisés qui correspondent aux observations de terrain. Bien que largement réussi, le comportement du conditionnement de ces réseaux présente encore quelques problèmes, et la façon dont le modèle effectue la tâche de conditionnement à travers ses couches n'est pas encore entièrement comprise. Pour mieux comprendre ce mécanisme de conditionnement, le comportement de ces réseaux a été mesuré à l'aide du rapport de conditionnement, une nouvelle mesure qui détermine l'ampleur de l'influence des données de conditionnement. Le taux de conditionnement a été mesuré sur plusieurs couches du générateur pendant la phase d’apprentissage, ainsi qu'avec diverses modifications de l'architecture du réseau. Les résultats ont révélé deux comportements de conditionnement distincts basés sur le nombre de réseaux de conditionnement injectés dans le générateur. Les résultats ont également montré que la diminution de la résolution de départ du générateur peut ralentir le processus d'apprentissage. Dans l'ensemble, les expériences numériques prouvent l'intérêt de mesurer le rapport de conditionnement des couches au sein du générateur. Ces approches peuvent être utilisées comme outils de diagnostic pour aider à la conception de futures architectures PGGAN.

Resumen

El modelado del flujo de aguas subterráneas y del transporte de contaminantes se basa en métodos para convertir un conjunto de observaciones de campo en modelos geológicos que representen la estructura del subsuelo. Estos modelos también deben reproducir características geológicas importantes, como la conectividad. Recientemente, los investigadores han empezado a utilizar métodos de aprendizaje automático como las redes generativas antagónicas (GANs). Este estudio se centra en una GAN de crecimiento progresivo (PGGAN) para condicionar los datos medidos. Dada una variable latente y una matriz que proporciona observaciones de campo, los generadores del PGGAN condicionado tienen la tarea de producir imágenes geológicamente realistas de acuíferos de cauces que coincidan con las observaciones de campo. Aunque en gran medida con éxito, el comportamiento de condicionamiento de estas redes todavía tiene algunos problemas, y la forma en que el modelo realiza la tarea de condicionamiento a través de sus capas aún no se entiende completamente. Para comprender mejor este mecanismo de condicionamiento, el comportamiento de estas redes se midió utilizando el coeficiente que determina la magnitud de la influencia de los datos de condicionamiento. Se midió el coeficiente y se introdujo en varias capas del generador durante el entrenamiento, así como con diversas modificaciones en la arquitectura de la red. Los resultados revelaron dos comportamientos de condicionamiento distintos que se basan en el número de matrices que se inyectan en el generador. Los resultados también mostraron que disminuir la resolución inicial del generador puede retrasar el proceso de aprendizaje. En general, los experimentos numéricos demuestran el valor de medir la relación de condicionamiento de las capas dentro del generador. Estos enfoques pueden utilizarse como herramientas de diagnóstico para ayudar en el diseño de futuras arquitecturas PGGAN.

摘要

地下水流和污染物运移建模依赖于将一系列野外观测转换为代表地下结构的地质模型的方法。这些地质模型还必须复制重要的地质特征，如连通性。最近，研究人员开始使用机器学习方法，例如生成对抗网络（GANs）。本研究重点研究了一种渐进增长的PGGAN（Progressive Growing GAN），以对测量数据进行条件设置。在给定潜在的变量和提供现场观测数据的情况下，受条件的PGGAN的生成器的任务是产生与现场观测相匹配的通道含水层的真实地质的图像。尽管在很大程度上取得了成功，但这些网络的条件行为仍然存在一些问题，而模型如何在其层次上执行条件任务尚未完全理解。为了更好地了解这种条件机制，使用条件比率测量了这些网络的行为，该比率是一种新颖的度量方法，可确定条件数据的影响程度。在训练期间测量了生成器内多个层中的条件比率，以及对网络架构进行了各种修改。结果揭示了基于注入到生成器中的条件数组数量的两种不同的调节行为。结果还表明，降低生成器的起始分辨率可能会减慢学习过程。总体而言，数值实验证明了测量生成器内层的条件比率的价值。这些方法可以用作诊断工具，以协助设计未来的PGGAN架构。

Resumo

Modelagem de fluxo de águas subterrâneas e transporte de contaminante se baseiam em métodos de conversão de uma série de observações de campo em modelos geológicos que representam a estrutura da subsuperfície. Esses modelos geológicos também devem replicar características geológicas importantes como a conectividade. Recentemente, pesquisadores começaram a usar métodos de aprendizado de máquinas como redes adversarias generativas (RAGs). Esse estudo foca em uma RAG de crescimento progressivo (RAGCP) para o condicionamento de dados medidos. Dado uma variável latente e uma variedade que fornecem observações de campo, os geradores de RAGCP condicionados são atarefados para produzir imagens geologicamente realista de aquífero-canal que correspondessem observações de campo. Mesmo amplamente bem sucedido, o comportamento condicionante dessas redes ainda possui algumas questões, e como o modelo performa a tarefa condicionante através das camadas não foi completamente entendido. Para melhor entendimento desse mecanismo de condicionamento, o comportamento dessas redes foi medido utilizando a razão condicionante, que é uma métrica inovadora que determina a magnitude da influência dos dados condicionantes. A razão condicionante foi medida através das camadas-múltiplas com o gerador durante o treino, assim como com modificações variadas para a arquitetura das redes. Os resultados revelaram dois comportamentos condicionantes distintos que foram baseados no número de variedades condicionantes injetadas no gerador. Resultados também mostram que diminuir a resolução inicial para o gerador pode retardar o processo de aprendizado. Em geral, os experimentos numéricos provam o valor de se medir a razão condicionante das camadas com o gerador. Essas abordagens pode ser utilizados como ferramenta diagnostica para auxiliar no design de arquiteturas RAGCP futuras.