Compute4PUNCH & Storage4PUNCH: Infrastruktur Teragih untuk PUNCH4NFDI

1. Pengenalan & Gambaran Keseluruhan

Konsortium PUNCH4NFDI (Particles, Universe, NuClei and Hadrons for the National Research Data Infrastructure), yang dibiayai oleh Yayasan Penyelidikan Jerman (DFG), mewakili kira-kira 9,000 saintis daripada komuniti fizik zarah, astro-, astrozarah, hadron, dan nuklear di Jerman. Misi utamanya adalah untuk mewujudkan platform data sains teragih yang FAIR (Findable, Accessible, Interoperable, Reusable). Cabaran utama yang ditangani adalah integrasi lancar dan akses bersatu kepada landskap pengiraan (HPC, HTC, Cloud) dan sumber storan yang luas dan heterogen yang disumbangkan secara in-kind oleh institusi ahli di seluruh Jerman. Dokumen ini memperincikan konsep Compute4PUNCH dan Storage4PUNCH yang direka untuk mengatasi halangan integrasi ini.

2. Infrastruktur Pengiraan Heterogen Teragih (Compute4PUNCH)

Compute4PUNCH bertujuan untuk mewujudkan sistem kelompok lapisan teragih seluruh negara, menyediakan akses telus kepada pelbagai sumber pengiraan tanpa mengenakan perubahan ketara pada sistem operasi sedia ada yang dikongsi oleh pelbagai komuniti.

2.1 Seni Bina & Komponen Teras

Seni bina ini dibina di sekitar sistem kelompok HTCondor teragih. Penjadual meta-sumber COBalD/TARDIS mengintegrasikan sumber heterogen (kluster HPC, ladang HTC, contoh awan) secara dinamik ke dalam kolam bersatu ini. Titik kemasukan untuk pengguna termasuk nod log masuk tradisional dan perkhidmatan JupyterHub, menawarkan antara muka yang fleksibel kepada keseluruhan landskap sumber.

2.2 Akses & Pengesahan (AAI)

Infrastruktur Pengesahan dan Pemberian Kuasa (AAI) berasaskan token menyediakan akses selamat dan piawai merentasi semua sumber teragih, memudahkan pengalaman pengguna dan meningkatkan keselamatan.

2.3 Penyediaan Persekitaran Perisian

Untuk mengurus keperluan perisian yang pelbagai, infrastruktur ini memanfaatkan teknologi kontena (cth., Docker, Singularity/Apptainer) dan Sistem Fail Mesin Maya CERN (CVMFS). CVMFS membolehkan penghantaran skop perisian khusus komuniti dan data eksperimen yang boleh diskalakan dan diagihkan, memastikan konsistensi dan mengurangkan beban storan tempatan pada nod pengiraan.

3. Infrastruktur Stor Teragih (Storage4PUNCH)

Storage4PUNCH memberi tumpuan kepada penyatuan sistem storan yang dibekalkan komuniti, terutamanya berdasarkan teknologi dCache dan XRootD, yang telah mantap dalam Fizik Tenaga Tinggi (HEP).

3.1 Teknologi Persekutuan Stor

Persekutuan ini mewujudkan ruang nama bersatu, membolehkan pengguna mengakses data merentasi pelbagai sistem storan institusi seolah-olah ia adalah sumber tunggal. Ini memanfaatkan protokol dan konsep yang terbukti dalam kerjasama berskala besar seperti Grid Pengiraan LHC Sedunia (WLCG).

3.2 Strategi Cache & Metadata

Projek ini sedang menilai teknologi sedia ada untuk caching data pintar dan pengendalian metadata. Matlamatnya adalah integrasi yang lebih mendalam untuk mengoptimumkan penempatan data, mengurangkan kependaman, dan meningkatkan penemuan data berdasarkan prinsip FAIR.

4. Pelaksanaan Teknikal & Butiran

4.1 Model Matematik untuk Penjadualan Sumber

Penjadual COBalD/TARDIS boleh dikonsepsikan sebagai menyelesaikan masalah pengoptimuman. Biarkan $R = \{r_1, r_2, ..., r_n\}$ menjadi set sumber heterogen, setiap satu dengan atribut seperti seni bina, teras tersedia, memori, dan kos. Biarkan $J = \{j_1, j_2, ..., j_m\}$ menjadi set kerja dengan keperluan. Penjadual bertujuan untuk memaksimumkan fungsi utiliti $U$ (cth., jumlah daya pemprosesan, keadilan) tertakluk kepada kekangan:

$$\text{Memaksimumkan } U(\text{Peruntukan}(R, J))$$

$$\text{dengan syarat: } \forall r_i \in R, \text{Penggunaan}(r_i) \leq \text{Kapasiti}(r_i)$$

$$\text{dan } \forall j_k \in J, \text{Keperluan}(j_k) \subseteq \text{Atribut}(\text{SumberDitugaskan}(j_k))$$

Pendekatan berasaskan polisi dan dinamik ini lebih fleksibel daripada sistem barisan statik tradisional.

4.2 Keputusan Prototaip & Prestasi

Prototaip awal telah berjaya menunjukkan penyatuan sumber dari institusi seperti KIT, DESY, dan Universiti Bielefeld. Metrik prestasi utama yang diperhatikan termasuk:

Kependaman Penyerahan Kerja: Sistem lapisan menambah beban yang minima, dengan penyerahan kerja ke kolam HTCondor pusat biasanya di bawah 2 saat.
Penggunaan Sumber: Pengumpulan dinamik yang dibolehkan oleh TARDIS menunjukkan potensi peningkatan dalam penggunaan sumber keseluruhan dengan mengisi "jurang" dalam jadual kluster individu.
Akses Data melalui CVMFS: Masa permulaan perisian dari CVMFS adalah setanding dengan pemasangan tempatan selepas caching awal, mengesahkan penggunaannya untuk pengedaran perisian yang boleh diskalakan.
Pengalaman Pengguna: Maklum balas awal menunjukkan antara muka JupyterHub dan AAI berasaskan token dengan ketara menurunkan halangan kemasukan untuk pengguna yang tidak biasa dengan sistem kelompok baris arahan.

Nota: Penanda aras kuantitatif komprehensif membandingkan operasi teragih vs terpencil adalah sebahagian daripada kerja yang sedang dijalankan.

5. Kerangka Analisis & Kajian Kes

Kajian Kes: Analisis Astrofizik Multi-Messenger

Pertimbangkan seorang ahli fizik astrozarah yang menganalisis peristiwa letupan sinar gama. Aliran kerja melibatkan:

Penemuan Data: Menggunakan ruang nama storan teragih untuk mencari set data yang relevan dari arkib sinar gama (Fermi-LAT), optik (LSST), dan gelombang graviti (LIGO/Virgo), semua boleh diakses melalui laluan bersatu (cth., /punche/data/events/GRB221009A).
Penyerahan Aliran Kerja: Penyelidik menggunakan portal JupyterHub untuk menyusun skrip analisis pelbagai peringkat. Skrip tersebut menentukan keperluan untuk pemprosesan imej dipercepatkan GPU (untuk data optik) dan tugas CPU memori tinggi (untuk pemasangan spektrum).
Pelaksanaan Dinamik: Persekutuan Compute4PUNCH, melalui COBalD/TARDIS, secara automatik mengarahkan kerja GPU ke kluster universiti dengan nod V100/A100 yang tersedia dan kerja memori tinggi ke pusat HPC dengan nod memori besar, tanpa campur tangan pengguna.
Persekitaran Perisian: Semua kerja menarik persekitaran berkontena yang konsisten dengan toolkit astronomi tertentu (cth., Astropy, Gammapy) dari CVMFS.
Pengagregatan Keputusan: Keputusan pertengahan ditulis semula ke storan teragih, dan plot akhir dihasilkan, semua diurus dalam sesi yang disahkan sama.

Kajian kes ini menunjukkan bagaimana persekutuan ini mengabstrakkan kerumitan infrastruktur, membolehkan saintis menumpukan pada masalah saintifik.

6. Analisis Kritikal & Perspektif Industri

Pandangan Teras: PUNCH4NFDI tidak membina awan monolitik lain; ia merekayasa lapisan persekutuan—satu "sistem pengendalian meta" untuk infrastruktur penyelidikan berdaulat yang diagihkan di peringkat kebangsaan. Ini adalah respons pragmatik dan berkuasa kepada landskap e-sains Eropah yang terpecah, mengutamakan integrasi berbanding penggantian. Ia mencerminkan falsafah seni bina di sebalik sistem berskala besar yang berjaya seperti Kubernetes untuk orkestrasi kontena, tetapi diterapkan pada tahap pusat data keseluruhan.

Aliran Logik: Logiknya sempurna: 1) Akui heterogeniti dan pelaburan sedia ada sebagai kekangan yang tidak boleh diubah. 2) Perkenalkan lapisan abstraksi minima dan tidak invasif (HTCondor + TARDIS) untuk pengiraan, dan persekutuan ruang nama untuk storan. 3) Gunakan perisian perantaraan yang teruji dan didorong komuniti (CVMFS, dCache, XRootD) sebagai blok binaan untuk memastikan kestabilan dan memanfaatkan kepakaran sedia ada. 4) Sediakan titik kemasukan moden dan berpusatkan pengguna (JupyterHub, token AAI). Aliran ini meminimumkan geseran politik dan teknikal untuk pembekal sumber, yang penting untuk penerimaan.

Kekuatan & Kelemahan: Kekuatan terbesar projek ini adalah penggunaan semula pragmatik teknologi matang dari komuniti HEP, mengurangkan risiko pembangunan. Fokus pada lapisan tidak invasif adalah bijak dari segi politik. Walau bagaimanapun, pendekatan ini membawa hutang teknikal yang wujud. Kerumitan penyahpepijat isu prestasi atau kegagalan merentasi pelbagai domain pentadbiran bebas, polisi rangkaian berbeza, dan penjadual berlapis (temptan + teragih) akan menjadi sukar—satu cabaran yang didokumenkan dengan baik dalam literatur pengiraan grid. Kebergantungan pada HTCondor, walaupun kukuh, mungkin tidak optimum untuk semua corak beban kerja HPC, berpotensi meninggalkan prestasi untuk kerja MPI yang rapat. Tambahan pula, walaupun dokumen menyebut prinsip data FAIR, pelaksanaan konkrit katalog metadata kaya merentasi komuniti—cabaran monumental—nampaknya ditangguhkan untuk penilaian masa depan.

Pandangan Boleh Tindak: Untuk konsortium lain, pengambilan utama adalah strategi "lapisan pertama". Sebelum cuba membina atau mewajibkan perkakasan biasa, labur dalam perisian pengikat. Tumpukan PUNCH4NFDI (HTCondor/TARDIS + CVMFS + Stor Teragih) mewakili toolkit sumber terbuka yang menarik untuk inisiatif awan penyelidikan kebangsaan. Walau bagaimanapun, mereka mesti melabur secara proaktif dalam alat kebolehcerapan merentasi domain—fikirkan OpenTelemetry untuk pengiraan saintifik teragih—untuk mengurus kerumitan yang mereka cipta. Mereka juga harus meneroka model penjadualan hibrid, mungkin mengintegrasikan elemen kerja persekutuan SLURM berpusatkan HPC atau penjadual asli awan untuk kebolehgunaan lebih luas di luar HTC. Kejayaan persekutuan ini akan diukur bukan oleh flops puncak, tetapi oleh pengurangan dalam "masa untuk pandangan" untuk 9,000 saintisnya.

7. Aplikasi Masa Depan & Peta Jalan Pembangunan

Infrastruktur PUNCH4NFDI meletakkan asas untuk beberapa aplikasi lanjutan:

Latihan AI/ML Berskala Besar: Kolam sumber teragih boleh menyediakan kluster nod GPU secara dinamik untuk melatih model besar pada set data saintifik teragih, mengikuti paradigma serupa dengan yang diterokai oleh penanda aras MLPerf HPC.
Analisis Interaktif & Masa Nyata: Sokongan dipertingkat untuk sesi interaktif dan perkhidmatan yang menyambung ke aliran data masa nyata dari teleskop atau pengesan zarah, membolehkan analisis "langsung" data pemerhatian.
Pembelajaran Teragih untuk Data Sensitif: Infrastruktur ini boleh disesuaikan untuk menyokong aliran kerja pembelajaran teragih yang memelihara privasi, di mana model AI dilatih merentasi pelbagai institusi tanpa berkongsi data mental—teknik yang semakin mendapat perhatian dalam pengimejan perubatan dan bidang lain.
Integrasi dengan Awan Sains Terbuka Eropah (EOSC): Bertindak sebagai nod kebangsaan yang berkuasa, persekutuan PUNCH4NFDI boleh menyediakan akses lancar kepada perkhidmatan dan sumber EOSC, dan sebaliknya, memperbesar impaknya.
Aliran Kerja Kuantum-Hibrid: Apabila tapak ujian pengiraan kuantum tersedia, persekutuan boleh menjadualkan kerja pra-/pasca-pemprosesan klasik bersama-sama tugas pemproses bersama kuantum, mengurus keseluruhan aliran kerja hibrid.

Peta jalan pembangunan kemungkinan akan memberi tumpuan kepada mengukuhkan perkhidmatan pengeluaran, memperluas kolam sumber, melaksanakan polisi pengurusan data lanjutan, dan memperdalam integrasi antara lapisan pengiraan dan storan.

8. Rujukan

Konsortium PUNCH4NFDI. (2024). Kertas Putih PUNCH4NFDI. [Dokumen Konsortium Dalaman].
Thain, D., Tannenbaum, T., & Livny, M. (2005). Distributed computing in practice: the Condor experience. Concurrency and Computation: Practice and Experience, 17(2-4), 323-356. https://doi.org/10.1002/cpe.938
Blomer, J., et al. (2011). The CernVM File System. Journal of Physics: Conference Series, 331(5), 052004. https://doi.org/10.1088/1742-6596/331/5/052004
Fuhrmann, P., & Gulzow, V. (2006). dCache, the system for the storage of large amounts of data. 22nd IEEE Conference on Mass Storage Systems and Technologies (MSST'05). https://doi.org/10.1109/MSST.2005.47
Zhu, J. Y., Park, T., Isola, P., & Efros, A. A. (2017). Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks. Proceedings of the IEEE International Conference on Computer Vision (ICCV). (Dirujuk sebagai contoh algoritma kompleks dan intensif sumber yang mendorong permintaan pengiraan).
MLCommons Association. (2023). MLPerf HPC Benchmark. https://mlcommons.org/benchmarks/hpc/ (Dirujuk sebagai rujukan untuk beban kerja AI/ML pada sistem HPC).
European Commission. (2024). European Open Science Cloud (EOSC). https://eosc-portal.eu/