When Accuracy Misleads Geological Interpretation: A Data-Driven Illusion

Öz

: In recent years, artificial intelligence (AI) models have become routine in geoscience applications ranging from earthquake early warning systems to landslide susceptibility mapping, subsurface resource modeling, and stratigraphic classification. Outperforming traditional methods for predictive accuracy, these models increasingly mediate between observation and inference. However, this technical success raises a critical question: does high predictive accuracy reflect true geological understanding? This paper draws attention to the risk that the growing predictive capacity of data-driven models may overshadow the interpretive nature of geoscience and the elucidation of actual geological conditions. In domains where observations are sparse, uncertainty is structural, and ground truth is limited—such as subsurface interpretation and hazard assessment—models can achieve seemingly high classification accuracy by relying on mechanistically irrelevant proxies. This undermines model transferability and geological consistency under changing environmental or tectonic conditions. Without rejecting predictive modeling, this perspective aims to propose a conceptual and semi-formalized “assistant” framework— not introducing a new algorithm but rather a guiding structure—that integrates geological constraints, interpretable modeling, and post-hoc geological validation to ensure that predictive performance does not override geological reasoning.

Anahtar Kelimeler

• Artificial intelligence
• explainable AI
• geological interpretation
• physics-informed machine learning
• predictive models

Yapay Zeka Destekli Araştırmalarda, Tahminin Yorumlamayı Gölgede Bıraktığı Durumlar: Jeolojide Veri Odaklı Yanılsama / When Accuracy Misleads Geological Interpretation: A Data-Driven Illusion

Öz

Son yıllarda yapay zeka (YZ) modelleri; deprem erken uyarı sistemlerinden heyelan duyarlılık haritalarına, yeraltı kaynaklarının modellenmesinden stratigrafik sınıflandırmaya kadar yer bilimlerinin hemen her alanında rutin olarak kullanılmaktadır. Geleneksel yöntemleri tahmin doğruluğu açısından geride bırakan bu modeller, gözlem ile çıkarım arasında giderek daha fazla arabuluculuk rolü üstlenmektedir. Ancak bu teknik başarı, kritik bir soruyu gündeme getirmektedir: Yüksek tahmin doğruluğu, gerçek jeolojik anlayışı yansıtmakta mıdır? Bu yazı, veri odaklı modellerin artan tahmin kapasitesinin, yerbilimlerinin yorumlayıcı doğasını ve gerçek jeolojik koşulların ortaya konulmasını gölgeleme riskine dikkat çekmektedir. Gözlemlerin seyrek, belirsizliğin yapısal nitelikte ve doğruluğu kanıtlanmış bilginin sınırlı olduğu alanlarda —örneğin yeraltı yorumlaması ve afet değerlendirmesi— modeller, fiziksel süreç temelli olarak ilgisiz proksiler (vekil değişkenler) aracılığıyla görünürde yüksek sınıflandırma doğruluğuna ulaşabilmektedir. Bu durum, değişen çevresel veya tektonik koşullar altında modellerin taşınabilirliğini ve jeolojik tutarlılığını zayıflatmaktadır. Tahmine dayalı modellemeyi reddetmeksizin, bu perspektif çalışma, yeni bir algoritma önermekten ziyade yol gösterici bir yapı niteliğindeki kavramsal ve yarı-biçimsel bir “asistan” çerçevesi sunmayı amaçlamaktadır. Bu çerçeve, jeolojik kısıtlamaları, yorumlanabilir modellemeyi ve model sonrası jeolojik doğrulamayı bütünleştirerek tahmin performansının jeolojik akıl yürütmenin önüne geçmesini engellemeyi hedeflemektedir.

Anahtar Kelimeler

• Açıklanabilir yapay zeka
• fizik bilgili makine öğrenmesi
• jeolojik yorum
• tahmin modelleri
• yapay zeka

Kaynakça

1. Bergen, K. J., Johnson, P. A., de Hoop, M. V., Beroza, G. C. (2019). Machine learning for data-driven discovery in solid Earth geoscience. Science, 363, Article eaau0323. https://doi.org/10.1126/science.aau0323
2. Breiman, L. (2001). Statistical modeling: the two cultures. Statistical Science, 16(3), 199-231.
3. Karpatne, A., Atluri, G., Faghmous, J. H., Steinbach, M., Banerjee, A., Ganguly, A., Shekhar, S., Samatova, N., Kumar, V. (2017). Theory-Guided Data Science: A New Paradigm for Scientific Discovery from Data. IEEE Transactions on Knowledge and Data Engineering, 29(10), 2318-2331. https://doi.org/10.1109/TKDE.2017.2720168
4. Lary, D. J., Alavi, A. H., Gandomi, A. H., Walker, A. L. (2016). Machine learning in geosciences and remote sensing. Geoscience Frontiers, 7(1), 3-10. https://doi.org/10.1016/j.gsf.2015.07.003
5. Lundberg, S.M., Lee, S.-I. (2017). A unified approach to interpreting model predictions. Advances in Neural Information Processing Systems, 30, 4765-4774.
6. Molnar, C. (2022). Interpretable Machine Learning: A Guide for Making Black Box Models Explainable. https://christophm.github.io/interpretable-ml-book/
7. Raissi, M., Perdikaris, P., Karniadakis, G. E. (2019). Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations. Journal of Computational Physics, 378, 686-707. https://doi.org/10.1016/j.jcp.2018.10.045
8. Reichstein, M., Camps-Valls, G., Stevens, B., Jung, M., Denzler, J., Carvalhais, N., Prabhat, (2019). Deep learning and process understanding for data-driven Earth system science. Nature, 566, 195-204. https://doi.org/10.1038/s41586-019-0912-1

9. Ribeiro, M. T., Singh, S., Guestrin, C. (2016). “Why Should I Trust You?”: Explaining the Predictions of Any Classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 1135-1144. https://doi.org/10.1145/2939672.2939778
10. Rolnick, D., Donti, P. L., Kaack, L. H., Kochanski, K., Lacoste, A., Sankaran, K., Ross, A. S., Milojevic-Dupont, N., Jaques, N., Waldman-Brown, A., Luccioni, A., Maharaj, T., Sherwin, E. D., Mukkavilli, S. K., Kording, K. P., Gomes, C., Ng, A. Y., Hassabis, D., Platt, J. C., Bengio, Y. (2019). Tackling Climate Change with Machine Learning. arXiv:1906.05433. https://doi.org/10.48550/arXiv.1906.05433
11. Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1, 206-215. https://doi.org/10.1038/s42256-019-0048-x