Exascale Astrophysics: Frontier Supercomputer ile Daha Ayrıntılı Bir Evrenin Simülasyonu

Exascale Astrophysics: Frontier Supercomputer ile Daha Ayrıntılı Bir Evrenin Simülasyonu
Exascale Astrophysics: Frontier Supercomputer ile Daha Ayrıntılı Bir Evrenin Simülasyonu
Cosmological Hydrodynamic Simulation Produced by CRK-HACC

CRK-HACC tarafından üretilen bu kozmolojik hidrodinamik simülasyon, aslında evrenin anlık bir görüntüsüdür. Büyük bir küme yakınlaştırılmıştır. Frontier’de hedeflenen simülasyon, yüzbinlerce kümeyle 140 kat daha büyük olacaktır. Kredi: Argonne Ulusal Laboratuvarı

Cholla, HACC ve Parthenon’daki HACC ekibinden Michael Buehlmann, hesaplamalı astrofiziğin büyük ölçekli çağını başlatmaya hazır.

{6 }Üçlü yeni ve geliştirilmiş kozmolojik simülasyon kodları, Minneapolis, MN’deki Amerikan Fizik Derneği’nin yıllık Nisan Toplantısında bir dizi sunumla tanıtıldı. Oak Ridge Liderlik Bilgi İşlem Tesisi’nin (OLCF) Bilim Direktörü Bronson Messer’in başkanlık ettiği bu yeni nesil kodları kapsayan oturum, evren anlayışımızı benzeri görülmemiş ölçek ve çözünürlükteki modellerle ilerletmeyi vaat eden yeni bir büyük ölçekli hesaplamalı astrofizik çağını müjdeliyor. .

Yeni nesil exascale (saniyede bir milyar milyar kayan nokta işlemi) süper bilgisayarlarla desteklenen HACC, Cholla ve Parthenon’un güncellenmiş sürümleri, geliştiricilerin kodlarını hazırlamak için yıllarca süren çalışmalarının sonucudur. exascale’in petascale bilgi işlem hızından bin kat artması için. ABD Enerji Bakanlığı’nın (DOE’nin) Oak Ridge Ulusal Laboratuvarı’nda (ORNL) bulunan OLCF’nin Frontier süper bilgisayarında başarılı erken çalıştırmalarıyla, kodlar, daha önce bilimin erişiminin ötesinde olan kozmosun sanal alanlarını keşfetmeye hazır.

{ 6}Hesaplamalı astrofizikçi, ORNL’de seçkin bir bilim adamı ve 2022 Ar-Ge 100 Ödülü kazanan ekibin bir üyesi olan Messer, “Bu yeni geliştirilmiş astrofiziksel kodlar, bilim için büyük ölçekli hesaplamanın en güçlendirici özelliklerinin en net gösterilerinden bazılarını sağlıyor” dedi. Flash-X yazılımı için. “Bütün bu ekipler, bir fizik kümesi arasındaki geri bildirimi diğerlerine dahil ederken yıldızların boyutundan evrenin boyutuna kadar pek çok büyüklükteki ölçeklerde meydana gelen bir dizi fiziksel süreci simüle ediyor ve bunun tersi de geçerli. Frontier’de saldırıya uğrayacak en zorlu sorunlardan bazılarını temsil ediyorlar ve sonuçların oldukça etkili olmasını bekliyorum.”

HACC/CRK-HACC

HACC (Donanım/Hibrit Hızlandırılmış Kozmoloji Kodu), karanlık enerji, karanlık madde, nötrinolar ve ilkel dalgalanmaların kökenlerini içeren karanlık sektördeki büyük ölçekli yapı oluşumuna odaklanan eski bir kozmos simülatörüdür.

{6 }HACC’nin kökenleri, 2008’de petaflop bariyerini (saniyede 1 milyon kayan nokta işlemi) aşan ilk makine olan Los Alamos Ulusal Laboratuvarı’ndaki Roadrunner süper bilgisayarına kadar uzanır. Şu anda Argonne National’daki araştırmacılar tarafından geliştirilmektedir. DOE’nin Exascale Computing Project (ECP) desteğiyle laboratuvar olan HACC, Frontier’in AMD Instinct™ GPU hızlandırıcıları için optimize edildi ve Argonne’nin Aurora süper bilgisayarı ve Intel GPU’ları için optimizasyonlar yapılıyor.

{ 6}GPU’lar, 2012’de OLCF’nin Titan’ı ve CPU’lar görevleri verimli bir şekilde yönlendirirken hesaplama açısından yoğun matematik problemlerini çözen NVIDIA Kepler işlemcileri ile süper bilgisayarlara tanıtıldı. 10 yıldan uzun bir süre sonra, GPU’lar, karmaşık hesaplamaları hızlandırmada giderek daha önemli hale geldi.

“GPU makineleri için eski mantra, ‘GPU hızlandırma’ idi; Argonne’de bir hesaplama bilimcisi ve hidrodinamik modelleme ekleyen CRK (Koruyucu Çoğaltma Çekirdeği)-HACC geliştirme ekip lideri Nicholas Frontiere, GPU’yu alıp götürürdü – orada bir şeyler saklardınız,” dedi. “Yaklaşımın değiştiğini hissediyorum. Bugün amaç, benim ‘GPU’da yerleşik’ olarak adlandırmayı sevdiğim şey; yani GPU, ana bilgisayar tarafınızdaki bellek alanı kadar büyük.”

ECP’nin ExaSky geliştirme desteğiyle projesinde HACC, orijinal kodun yerçekimi çözücüsünden daha fazla fizik modelini bir araya getirerek exascale’in artırılmış bilgi işlem yeteneklerinden yararlanır. Evrenin anket verileri daha ayrıntılı ve karmaşık hale geldikçe, bu tür simülasyon araçlarının ayak uydurması için daha karmaşık hale gelmesi gerekir.Frontiere, “Ve bunların hiçbiri önceki nesil süper bilgisayarlarla elde edilemez” dedi. “Bu tür anketler için gereken hacimleri gerçekten yalnızca exascale rejiminde simüle etmeye başlayabilirsiniz.”

HACC’nin geleceği kulağa oldukça basit geliyor: ne kadar çok olursa o kadar iyidir.

“Bir sonraki bizim için ufuk, aynı hacim ve simülasyonlarla bile daha iyi çözünürlük elde edebilmeniz için simülasyonlarımıza daha fazla ve daha ayrıntılı astrofizik dahil etmektir,” dedi Frontiere. “Dolayısıyla, araştırmalarımızın çoğu gerçekten daha fazla fizik ekliyor; bu, şu anda bulunduğumuz ölçeklerde çalışmadan asla düşünemeyeceğimiz bir şey.”

Galactic Wind Outflow

Bir görselleştirme Cholla kullanılarak zamanda tek bir noktada galaktik rüzgar çıkışı. Kredi: Evan Schneider, University of Pittsburgh

Cholla

İlk olarak 2014 yılında Arizona Üniversitesi’nde bir astrofizik doktora öğrencisi tarafından geliştirilen GPU hızlandırmalı akışkanlar dinamiği çözücü Cholla (Paralel Mimarilerde Hesaplamalı Hidrodinamik), kullanıcıların evrendeki gazların zaman içinde nasıl geliştiğini daha iyi anlamalarına yardımcı olmayı amaçlıyordu. O öğrenci, Evan Schneider, şu anda Pittsburgh Üniversitesi Fizik ve Astronomi Bölümü’nde yardımcı doçenttir ve Cholla bir astrofizik güç merkezi haline gelmiştir.

Schneider, Cholla’yı, Dünya büyüklüğünde bir galaksinin tamamını simüle etmek için kullanmayı planlıyor. Tek bir yıldız kümesi ölçeğinde Samanyolu – bu çözünürlükte büyük bir gökada modellemek, hesaplamalı astrofizik için bir ilk olacaktır. Bunu yapmak, Frontier Center for Accelerated Application Readiness (CAAR) programı tarafından desteklenen bir çalışma olan Frontier üzerinde çalışacak şekilde kodu optimize etmekten daha fazlasını gerektirecektir.

“İlgileniyorum modelleme galaksilerinde. Ve birçok astrofizik simülasyonu, özellikle kozmolojik simülasyonlar, periyodik sınır koşullarına sahip olacak şekilde tasarlanmıştır. Bunun kodu nispeten basit, “dedi Schneider. “Fakat bu büyük galaksi simülasyonları için, bir galaksinin kenarına benzeyen sınırlara ihtiyacımız var. Ve bu periyodik değil, değil mi? Simülasyon alanımızın ucundaki yerçekimi ile nasıl başa çıkacağımızı bulmak için orada bazı yoğun algoritmik çalışmalar yapmak zorunda kaldık.”

Ayrıca, Cholla’nın hidrodinamik köklerinin çok ötesine geçerek gerekli fiziği içermesi gerekiyordu. tüm bir galaksiyi modelleyin. Neyse ki, bir açık kaynak kodu olarak Cholla, genişleme yolunda yardımcı elleri de cezbetti; özellikle de California Üniversitesi, Santa Cruz’da doktora öğrencisi olarak karanlık madde üzerine çalışan Bruno Villasenor’unkileri. O ve doktora danışmanı Brant Robertson, uzak kuasarlardan gelen ışığın Dünya’ya olan yolculuğu sırasında malzemeyle karşılaşmasıyla oluşan bir dizi soğurma özelliği olan Lyman-Alpha Ormanı simülasyonları için Cholla’yı kullanmaya karar verdiler. Ancak bunu yapmak için birkaç fizik modeli daha gerekiyordu. Böylece Villasenor, doktora tezi için 3 yıl boyunca bunları Cholla’ya entegre etti.

“Bruno, bu büyük kozmolojik kutuları yapabilmemiz için yerçekimi, parçacıklar ve kozmoloji ekledi. Ve bu, Cholla’yı gerçekten bir saf akışkan dinamiği kodundan bir astrofizik koduna dönüştürdü,” dedi Schneider.

Şimdi, Frontier’in aşırı ölçek hızından güç alan yeni yetenekleriyle Cholla, üzerinde hayal bile edilemeyecek çığır açan işler başarmaya hazır. önceki sistemler.

“Çözüm, oyunun adıdır. Benim için kutsal kâse, bireysel süpernova patlamalarının çözülmüş olduğu Samanyolu büyüklüğünde bir galaksinin simülasyonunu çalıştırabilmektir. Ve şimdiye kadar, insanlar bunu yalnızca küçük galaksiler için yapabildiler çünkü parsek ölçeği gibi bir şeyde tüm diski kaplayacak kadar yüksek bir çözünürlüğe sahip olmalısınız,” dedi Schneider. “Kulağa basit geliyor, çünkü 4.0003 hücreli bir simülasyon ile 10.0003 hücreli bir simülasyon çalıştırmak arasındaki fark sadece bu, ama bu toplamda kabaca 60 milyar hücreye 1 trilyon hücre demek. Bunu yapabilmek için exascale sıçramasına gerçekten ihtiyacınız var.”

Bu sıçrama gerçekleşmek üzere ve Schneider ve ekibi başlamak için sabırsızlanıyor.

“Gerçekten Bir şeyi inşa etmek için uzun süre çalışmak ve ardından onu geniş ölçekte görebilmek heyecan verici. Herkes neler yapabileceğimizi görmekten heyecan duyuyor,” dedi Schneider.

AthenaPK Dense Plasma Cloud

AthenaPK (Partenon çerçevesiyle), bu soğuk, yoğun plazma bulutu simülasyonunu yarattı dağınık, sıcak, süpersonik bir rüzgarın çarptığı: (sol üstte) bulut yoğunluğu, bulutun etrafında daha ince olan simülasyon ağıyla kaplanmıştır; (sol altta) güçlü girdaplı (turuncu) alanlarla rüzgarın akış çizgileri (beyaz), ardından türbülansa yol açar; (sağ altta) manyetik alan çizgileri bulutun etrafını sararak onu rüzgardan koruyor; ve (sağ üstte) benzer davranış sergileyen denizanası galaksisi ESO 137-001’in gözlemi.Kredi: Philipp Grete/AthenaPK

Parthenon

2018’de, Michigan Eyalet Üniversitesi doktora sonrası araştırmacısı Philipp Grete ve yüksek lisans öğrencisi Forrest Glines, Kokkos için bir eğitim kampına katılıyordu. Programlama Modeli ve düşünceleri hesaplamalı astrofiziğin yakın geleceğine odaklanmıştı. Exascale sınıfı süper bilgisayarların çok yakında kullanıma sunulmasıyla birlikte, mevcut simülasyon kodları henüz kesinleştirilmemiş donanımlarda nasıl düzgün bir şekilde çalışabilir?

Farklı bilgisayar platformlarında performans taşınabilirliği vaat eden Kokkos programlama ekosistemi, tek çözüm olsun Glines (artık Los Alamos Ulusal Laboratuvarı’nda Metropolis Doktora Sonrası Araştırmacısı) ve Grete (şimdi Hamburg Gözlemevi’nde Marie Skłodowska-Curie Actions Doktora Sonrası Araştırmacısı) Kokkos’un yapıp yapamayacağını görmek için modern, açık kaynaklı Athena++ manyetohidrodinamik kodunu eğitim kampına getirdi. taşınabilirlik vaadini yerine getirmek.

“Aslında doğru olduğu ortaya çıktı. Nispeten kısa bir süre içinde, kod tabanının bir kısmını GPU’lar üzerinde çalıştırabildik – özellikle sabit, statik tekdüze ızgaraya sahip simülasyonlar için,” dedi Grete. “Sonunda daha büyük, kurumlar arası Parthenon projesini ateşledi.”

Açık kaynak kodlu Parthenon, özünde, ızgara tabanlı simülasyonlar için uyarlanabilir bir ağ geliştirme kodudur. hesaplamalarının hızını ve doğruluğunu artırmak için bir simülasyon ızgarasının yalnızca belirli bir bölgesinde çözünürlüğü iyileştirin. Ekip, artık AthenaPK olarak adlandırılan kodunda Parthenon’u farklı astrofiziksel sistemleri (esas olarak türbülans ve aktif galaktik çekirdek (AGN) jetlerinden gelen geri bildirim) simüle etmek için kullanıyor.

Ancak Parthenon’u exascale’de benzersiz kılan nedir? birinci sınıf hesaplamalı astrofizik, Kokkos üzerinden performans taşınabilirliğidir; bu, Parthenon’un diğer akışkan dinamiği kodları için, hangi mimari üzerinde çalışırlarsa çalışsınlar—NVIDIA GPU’lar, AMD GPU’lar, Intel GPU’lar, Arm CPU’lar, ağ iyileştirmesinden yararlanmak için bir çerçeve olarak hizmet etmesine olanak tanır. veya sadece geleneksel CPU’lar.

“Partenon’un performans taşınabilirliği, araştırmacıların temel Kokkos çerçevesinin desteklediği herhangi bir süper bilgisayar platformunda çalışmasına olanak tanır. Glines, geliştiricilerin simülasyon kodlarını her yeni platform için yeniden uygulama konusunda endişelenmelerine gerek olmadığını söyledi. “Parthenon tarafından yürütülen daha hızlı kodlar, üzerinde çalıştıkları fiziksel sistemlerin daha yüksek çözünürlükte ve dolayısıyla daha yüksek doğrulukta modelleriyle daha fazla simülasyona olanak tanır.”

Partenon, dahil olmak üzere çeşitli kodlarda halihazırda kullanılmaktadır. Los Alamos Ulusal Laboratuvarı’nda geliştirilmekte olan bir genel göreli manyetohidrodinamik (GRMHD) kodu olan Phoebus ve Illinois Üniversitesi Urbana-Champaign’de geliştirilmekte olan başka bir GRMHD kodu olan KHARMA. KHARMA, geçen yıl Innovative and Novel Computational Impact on Theory and Experiment (INCITE) projesinde zaten kullanılmıştı.

Bu arada, ekibin AthenaPK yazılımı, Frontier’deki 2023 INCITE projesinde kullanılıyor. “galaksi grupları ve kümelerindeki manyetize AGN jetlerinden gelen geri bildirim ve enerjileri” incelemek.

“Kendi projemiz için özellikle heyecanlıyız çünkü Parthenon ve AthenaPK olmadan, hesaplamalı fizik zorluğu; jet ve çevredeki dağınık plazmayı kendi kendini düzenlemeyi incelemek için yeterince yüksek çözünürlükte – başka bir makinede veya şu anda farkında olduğumuz başka bir kodla mümkün olmazdı,” dedi Grete.

.