DEEPGREEN Plateforme de deep learning ouverte et souveraine pour l'embarqué 05 2022 - ANR
←
→
Transcription du contenu de la page
Si votre navigateur ne rend pas la page correctement, lisez s'il vous plaît le contenu de la page ci-dessous
DE LA RECHERCHE À L’INDUSTRIE
DEEPGREEN Plateforme de deep learning ouverte et souveraine
pour l’embarqué
05 2022
Commissariat à l’énergie atomique et aux énergies alternatives - www.cea.fr
|1
Deep Green LE PROJET
Une plateforme bâtie sur une expertise double
en IA Embarquée et conception hardware TRANSPORT DEFENSE AEROSPATIAL
USINE DU
ENERGIE SANTE
FUTUR
Un groupe de hardware providers français Plateforme indépendante
représentatif du edge computing pour le DeepLearning Embarqué
Un groupe d’industriels représentatifs des
secteurs clefs de l’IA Embarquée
Une communauté qui travaille
ENSEMBLE Multi-cibles hardware, sans exclusion
sur une même plateforme de référence
Pour le deep learning embarqué
Composants sur étagère Marché des circuits intégrés (et systèmes…)
DEEP GREEN …
Commissariat à l’énergie atomique et aux énergies alternatives 2
Open-source repository:
Deep Green Plateforme N2D2
https://github.com/CEA-LIST/N2D2/
Documentation :
https://cea-list.github.io/N2D2-docs/
Gain full control on tools and generated code for competitive embedded AI solutions
Considered criteria Software DNN libraries COTS
• Applicative performance metrics • C/OpenMP (+ custom SIMD) • MPU (STM32)
• Memory requirement • C++/TensorRT (+ CUDA/CuDNN) • GPU (Nvidia)
• Computational complexity • C++/OpenCL • CPU (Intel, RiscV)
• C/C++ (+ custom API) • NPUs (Renesas,
• Assembly Kalray, Dolphin, …)
Learning & Optimization Hardware DNN libraries FPGA
Test • C/HLS • Dneuro (CEA)
databases • Custom RTL • HLS
Quantization Aware • NANOXPLORE
Training
Trained
DNN
Data Post-training Code cross- Code execution
Modeling Learning Test
conditioning quantization generation on target
ONNX model
Futur AI accelerators
2 to 8 bit integers • In-memory
+ rescaling computing
• Neuromorphic HW
3
Commissariat à l’énergie atomique et aux énergies alternatives
Deep Green N2D2 outputs
Dataflow visualization Layer-wise detailed memory and
Design assistance for embedded NN computing requirements
Results visualization:
- Pixel-wise segmentation
- ROI bounding box extraction and
classification
N2D2 INI network description file
; Database
[database] [sp.Transformation-4]
Type=ILSVRC2012_Database Type=RangeAffineTransformation
RandomPartitioning=0 FirstOperator=Minus
Learn=1.0 FirstValue=127.5
BackgroundClass=1 SecondOperator=Divides
SecondValue=127.5
; Environment
[sp] ; Here, we insert an ONNX
SizeX=224 graph in the N2D2 flow the
SizeY=224 same way as a regular Cell
NbChannels=3 [onnx]
BatchSize=${BATCH_SIZE} Input=sp
Type=ONNX
[sp.Transformation-1] File=mobilenet_v1_1.0_224.onnx
Type=RescaleTransformation
Width=256 ; We can add targets to ONNX
Height=256 cells
[MobilenetV1/Predictions/Softm
[sp.Transformation-2] ax:0.Target-Top5]
Type=PadCropTransformation TopN=5
Width=224
Height=224
[sp.Transformation-3]
Type=ColorSpaceTransformation
ColorSpace=RGB
Layer-wise weights and kernels Pixel-wise and object wise
visualization, distribution and data- Layer-wise output visualization and confusion matrix reporting
range analysis data-range analysis
Commissariat à l’énergie atomique et aux énergies alternatives
Deep Green N2D2 exports
Optimized, independent code for industry relevant hardware platforms
GPU generic
GPU (NVidia) HLS FPGA (Intel) HLS FPGA (Xilinx)
C++/OpenCL
C++/TensorRT C++/OpenCL C/HLS
(+ CUDA/CuDNN)
Support SSD and Dataflow
DNeuro ( ) configurable
Faster-RCNN RTL RTL library
MPPA ( )
C++/OpenCL A unified tool for multiple
KaNN API hardware targets
CPU x86 / ARM / DSP DSP-like
C++/OpenMP PNeuro ( ) programmable
C++/OpenCL RTL/ASM SIMD processor
R-Car ( )
ASMP ( ) NeuroSpike ( ) CNN-IP C API
C++/OpenMP/CVA8 RTL
Generic / not optimized STM32 ( ) Generic spike
for a specific product
C++/DSP intrinsics SystemC
Commissariat à l’énergie atomique et aux énergies alternatives
Deep Green AXES DE TRAVAUX DU PROJET
LOT 1 : DEVELOPPEMENT DE LA LOT 2 : INTEGRATION DE COMPOSANTS LOT 3 : APPLICATIFS A FORT POTENTIEL ET
PLATEFORME CŒUR STRATEGIQUES ET SOUVERAINS DEMONSTRATEURS TECHNOLOGIQUES
LOT 1.1 : Optimisation robuste des LOT 2.1 : Intégration de composants COTS LOT 3.1 : Cas d’usage aéronautique/défense
graphes profonds MCU/GPU
LOT 1.2 : Conception et analyse
LOT 2.2 : Intégration de composants LOT 3.2 : Cas d’usage santé
comparative de haut niveau du
hautes performances
matériel
LOT 1.3 : Confiance embarquée LOT 2.3 : Intégration de composants FPGA LOT 3.3 : Cas d’usage transport
LOT 1.4 : Algorithmes innovants LOT 2.4 : Intégration composants ultra LOT 3.4 : Cas d’usage médias numériques
dédiés aux cas d’usage embarqué faible consommation
LOT 1.5 : Performances, intégration LOT 2.5 : Intégration composants et LOT 3.5 : Cas d’usage inspection /maintanance
continue et interopérabilité concepts matérielles nouveaux prédictive
LOT 1.6 : Robustesse et résistance
LOT 3.x : D’autres cas d’usage représentatifs
aux défaillances matérielles
Commissariat à l’énergie atomique et aux énergies alternatives 6Deep Green PHASAGE
DEEEPGREEN
• Montée en maturité rapide sur 3 ans – avec une livraison par an - consolidation démonstration sur 4 ans
• Réalisations concrètes rapides avec la mise à disposition d’une 1ère version de plateforme dès la fin de la 1ère année
• Démonstrations des fonctionnalités sur différentes cas d’usage au fil du temps
• Mises à jour régulières de la plateforme open-source
2022 2023 2024 2025
Q1 Q2 Q3 Q4 Q1 Q2 Q3 Q4 Q1 Q2 Q3 Q4 Q1
AMI
Projet DeepGreen
Démarrage de Mise à disposition de la Présentation des Plateforme V2 avec
DEEPGREEN Plateforme V1 démonstrateurs aspects confiance
Commissariat à l’énergie atomique et aux énergies alternatives 7Vous pouvez aussi lire
