Skip to main content
European Commission logo
polski polski
CORDIS - Wyniki badań wspieranych przez UE
CORDIS
CORDIS Web 30th anniversary CORDIS Web 30th anniversary

Adaptive multi-tier intelligent data manager for Exascale

Opis projektu

Inteligentna, adaptacyjna pamięć masowa zwiększająca wydajność obliczeń

Coraz większa potrzeba przetwarzania bardzo dużych zbiorów danych wymusza skutecznie przejście na obliczenia o wysokiej wydajności, jednak płaska hierarchia przechowywania danych ze scentralizowanym równoległym systemem plików okazuje się w tym przypadku niewystarczająca. Powstające wielowarstwowe hierarchie pamięci masowej dają nadzieję na zaspokojenie potrzeb aplikacji korzystających z dużych ilości danych, ale nadal brakuje im odpowiednich mechanizmów kontroli dostępnych zasobów. Finansowany ze środków UE projekt ADMIRE ma doprowadzić do opracowania adaptacyjnego systemu pamięci masowej, który powinien umożliwić wysokowydajnym systemom obliczeniowym zapewnianie bardzo wysokiej przepustowości i zwiększanie wydajności aplikacji. Celem jest skrócenie czasu obliczeń w dziedzinach takich jak prognozowanie pogody, teledetekcja i głębokie uczenie się.

Cel

The growing need to process extremely large data sets is one of the main drivers for building exascale HPC systems today. However, the flat storage hierarchies found in classic HPC architectures no longer satisfy the performance requirements of data-processing applications. Uncoordinated file access in combination with limited bandwidth make the centralised back-end parallel file system a serious bottleneck. At the same time, emerging multi-tier storage hierarchies come with the potential to remove this barrier. But maximising performance still requires careful control to avoid congestion and balance computational with storage performance. Unfortunately, appropriate interfaces and policies for managing such an enhanced I/O stack are still lacking.

The main objective of the ADMIRE project is to establish this control by creating an active I/O stack that dynamically adjusts computation and storage requirements through intelligent global coordination, malleability of computation and I/O, and the scheduling of storage resources along all levels of the storage hierarchy. To achieve this, we will develop a software-defined framework based on the principles of scalable monitoring and control, separated control and data paths, and the orchestration of key system components and applications through embedded control points.

Our software-only solution will allow the throughput of HPC systems and the performance of individual applications to be substantially increased – and consequently energy consumption to be decreased – by taking advantage of fast and power-efficient node-local storage tiers using novel, European ad-hoc storage systems and in-transit/in-situ processing facilities. Furthermore, our enhanced I/O stack will offer quality-of-service (QoS) and resilience. An integrated and operational prototype will be validated with several use cases from various domains, including climate/weather, life sciences, physics, remote sensing, and deep learning.

Koordynator

UNIVERSIDAD CARLOS III DE MADRID
Wkład UE netto
€ 383 937,50
Adres
CALLE MADRID 126
28903 Getafe (Madrid)
Hiszpania

Zobacz na mapie

Region
Comunidad de Madrid Comunidad de Madrid Madrid
Rodzaj działalności
Higher or Secondary Education Establishments
Linki
Koszt całkowity
€ 767 875,00

Uczestnicy (16)