Innov Systems
Big Data : développement, langages et NOSQL

Apache Spark : développer des applications pour le Big Data

Référence

BSI19

Durée

4 jours

Objectifs pédagogiques

  • Comprendre le fonctionnement de Spark
  • Intégrer Spark dans un environnement Hadoop
  • Manipuler des données structurées avec Spark sql
  • Faire de la programmation parallèle avec Spark sur un cluster

Public cible

  • Développeurs
  • Architectes

Prochaines Sessions

Inscrivez-vous dès maintenant

Présentiel
Casablanca

21 au 24 Juil. 2026

Inscription avant le 30 Juin 2026

À distance

15 au 18 Sep. 2026

Inscription avant le 25 Août 2026

À distance

10 au 13 Nov. 2026

Inscription avant le 20 Oct. 2026

Besoin urgent ? Demandez une session personnalisée (délai min. 15-20 jours ouvrés)

Devis personnalisé

Programme Détaillé

  • Introduction au Big Data
  • Les challenges du Big Data
  • Batch vs le temps réel dans le Big Data Analytics
  • Vue d'ensemble de l'écosystème
  • Les options de l'analyse en temps réel
  • Quelles solutions apportent Spark au Big Data ?
  • Historique du Framework
  • Origine du projet
  • Streaming Data - Spark
  • In-memory Data - Spark
  • Présentation de Spark
  • Principes de base du fonctionnement de Spark
  • Environnement et outils de Spark
  • Comparaison avec l'environnement Apache Hadoop
  • Les différents modules de Spark
  • Langages supportés
  • Ecosystème Spark
  • Les modes de Spark
  • Installation de Spark
  • Vue d'ensemble de Spark en cluster
  • Spark Standalone cluster
  • Spark Web UI
  • Utilisation de Spark Shell
  • Création d'un contexte Spark
  • Chargement d'un fichier en Shell
  • Réalisation d'opérations basiques sur un fichier avec Spark Shell
  • Présentation de l'environnement de développement SBT
  • Créer un projet Spark avec SBT
  • Exécuter un projet Spark avec SBT
  • Le mode local
  • Le mode Spark
  • Le caching sur Spark
  • Persistance distribuée
  • Mise en pratique en Java, Scala et Python
  • Notion de contexte Spark
  • Présentation des RDD (Resilient Distributed Dataset)
  • Différentes méthodes de création des RDD : depuis un fichier texte, un stockage externe
  • Manipuler et réutiliser des RDD
  • Accumulateurs et variables broadcastées
  • Utiliser des partitions
  • Fonctions, gestion de la persistance
  • RDD et MapReduce
  • Requêter des DataFrames avec des expressions sur les colonnes nommées
  • Les requêtes de groupement et d’aggrégation
  • Les jointures
  • Introduction aux RDD
  • Les sources de données de RDD
  • Créer et sauvegarder des RDD
  • Les opérations sur les RDD
  • Écrire et passer des fonctions de transformation
  • Fonctionnement des transformations de Spark
  • Conversion entre RDD et DataFrames
  • Les RDD clé-valeur
  • Map-Reduce : principe et usage dans Spark
  • Autres opérations sur les RDD de paires
  • Lecture/écriture de données : texte, JSon, Parquet, HDFS, fichiers séquentiels
  • Filtrage de données, enrichissement
  • Calculs distribués de base
  • Travail sur les RDDs
  • Lazy execution
  • Impact du shuffle sur les performances
  • RDD de base, key-pair RDDs
  • Spark et SQL
  • L'API Dataset et DataFrames
  • Optimisation des requêtes
  • Mise en oeuvre des Dataframes et DataSet
  • Les différents types de sources de données
  • Interopérabilité avec les RDD
  • Performance de Spark SQL
  • JDBC/ODBC server et Spark SQL CLI
  • Requêter des fichiers et des vues
  • L’API catalogue de Spark
  • Comptabilité Hive
  • Différents cluster managers : Spark en autonome, avec Mesos, avec Yarn, avec Amazon EC2
  • Architecture : SparkContext, Cluster Manager, Executor sur chaque noeud
  • Définitions : Driver program, Cluster manager, deploy mode, Executor, Task, Job
  • Mise en oeuvre avec Spark et Amazon EC2
  • Soumission de jobs, supervision depuis l'interface web
  • Configurer un cluster en mode Standalone
  • Packager une application avec ses dépendances
  • Déployer des applications avec Spark-submit
  • Dimensionner un cluster
  • Localiser les données du HDFS
  • Partitionner les RDD
  • Programmer et exécuter les opérations parallèles
  • Mettre en cache le partitionnement des données
  • Gérer la persistance des données
  • Présentation et configuration des propriétés de Spark
  • Prototypage d’opérations avec Spark Shell
  • Compilation et génération d’une application
  • Notion de Streaming
  • Objectifs , principe de fonctionnement : stream processing
  • Présentation des Discretized Streams (DStreams)
  • Source de données : HDFS, Flume, Kafka, …
  • Manipulation de l'API
  • Comparaison avec Apache Storm
  • Présentation de GraphX
  • Les différentes opérations
  • Créer des graphes
  • Vertex and Edge RDD
  • Présentation de différents algorithmes
  • Introduction au Machine Learning
  • Fonctionnalités : Machine Learning avec Spark, gestion de la persistance
  • Les fonctionnalités d'extraction et les statistiques basiques
  • Les différentes classes d'algorithmes
  • Présentation de SparkML et MLlib
  • Implémentations des différents algorithmes dans MLlib
  • Support de RDD
  • Mise en oeuvre avec les DataFrames
  • Algorithmes itératifs et résolution de problèmes
  • Opérations sur les données graphiques
  • Les terminologies communes au Machine Learning
  • Applications du Machine Learning
  • Spark ML API
  • Transformateurs et estimateurs
  • Les pipelines
  • Travailler avec un pipeline
  • DAG Pipelines
  • La vérification pendant l'exécution
  • Passage de paramètres
  • Sélection de modèles via une validation croisée
  • Les types de données
  • Mettre en place le Clustering en utilisant K-Means
  • Gaussian Mixture
  • Power Iteration Clustering (PIC)
  • Latent Dirichlet Allocation (LDA)
  • Le filtrage collaboratif
  • Classification
  • Régression
  • Exemple de régression
  • Linéaire
  • Gestion des variables partagées
  • Données broadcastées
  • Accumulateurs
  • Méthodes et outils d’optimisation des performances

Approche pédagogique

Support Ecrit et Projection
Exposés Interactifs, Podcasts et Vidéos
Brainstorming et Jeux de Rôle
Cas Pratiques et Labs inclus pour leur impact opérationnel
Test de Validation des Acquis des Connaissances

✨ Formations Recommandées

Perfectionnez vos compétences avec ces formations complémentaires

Dimension, analyse de puissance & taille d’échantillon

Réf. BSI420

3 jours 15 Juil. 2026
Voir le programme

Maîtriser ChatGPT et l’IA Générative pour Transformer Votre Organisation

Réf. BSI504

3 jours 15 Juil. 2026
Voir le programme
Questions fréquentes

Vous trouverez ici les réponses aux questions les plus fréquentes que nous recevons de la part de nos clients. Notre objectif : vous éclairer et vous accompagner au mieux dans le développement des compétences de vos équipes.

Partie 1 : Nos Formations et Notre Approche Pédagogique

Les deux, mais notre véritable valeur ajoutée réside dans le sur-mesure. Nous partons du principe que chaque entreprise a un contexte, une culture et des défis uniques. Notre processus commence toujours par une phase d'écoute et de diagnostic pour co-construire avec vous le programme qui aura le plus d'impact.

Nos formateurs sont des experts seniors dotés d'une double compétence :

  1. Une expertise métier solide : Ils ont tous une expérience significative en entreprise au Maroc et comprennent les réalités du terrain.
  2. Une expertise pédagogique confirmée : Ils sont formés aux techniques d'animation pour adultes, favorisant l'interactivité et la pratique.

Nous nous adaptons à vos contraintes et objectifs avec plusieurs formats :

  • Présentiel Intra-entreprise : Chez vous, pour une immersion totale.
  • Présentiel Inter-entreprises : Pour favoriser le partage d'expériences.
  • Distanciel : Des sessions live, interactives et dynamiques.

Partie 2 : Financement et Aspects Administratifs (Spécificités Marocaines)

Oui, absolument. En tant qu'organisme de formation agréé, nos actions sont éligibles au remboursement via les Contrats Spéciaux de Formation (CSF) gérés par l'OFPPT et les GIAC. C'est un levier essentiel pour optimiser votre budget formation.

Oui, c'est un service clé que nous proposons. Nous vous accompagnons de A à Z dans le montage de votre dossier d'ingénierie financière. Notre expertise du système marocain vous garantit la constitution d'un dossier conforme et le suivi jusqu'au remboursement, transformant cette contrainte administrative en une simple formalité pour vous.

Nos tarifs sont transparents et dépendent de la durée, du niveau de personnalisation, du nombre de participants et du format. Le meilleur moyen d'avoir une idée précise est de nous demander un devis personnalisé et gratuit, qui sera accompagné d'une proposition pédagogique détaillée.

Partie 3 : Processus, Logistique et Suivi

Notre processus est simple et centré sur vos besoins :

  1. Prise de Contact & Analyse : Échange pour comprendre vos enjeux.
  2. Proposition sur-mesure : Envoi d'une proposition pédagogique et financière.
  3. Validation & Planification : Ajustements et fixation du calendrier.
  4. Réalisation de la Formation.
  5. Évaluation & Suivi : Mesure de la satisfaction et bilan complet.

Oui. Notre réseau de formateurs nous permet d'intervenir sur l'ensemble du territoire marocain, que vos locaux soient à Casablanca, Rabat, Tanger, Marrakech, Agadir ou dans toute autre ville du Royaume.

Oui, la formation ne s'arrête pas à la fin de la session. Nous assurons un suivi rigoureux : remise des attestations, envoi d'un rapport de synthèse, et mise en place d'une évaluation à froid (quelques semaines après) pour mesurer le transfert des compétences. Des sessions de coaching de suivi sont également possibles.

Partie 4 : Impact et Retour sur Investissement (ROI)

Nous utilisons une approche à plusieurs niveaux (inspirée du modèle de Kirkpatrick) :

  • Niveau 1 (Satisfaction) : Évaluation à chaud.
  • Niveau 2 (Apprentissage) : Quizz et mises en situation.
  • Niveau 3 (Comportement) : Évaluation à froid et entretiens avec les managers.
  • Niveau 4 (Résultats) : Analyse de l'impact sur vos indicateurs de performance (KPIs).

Pour trois raisons principales :

  1. Notre Expertise Locale : Nous sommes des spécialistes du marché marocain et africain, de sa culture et de ses mécanismes administratifs (CSF).
  2. Notre Approche Sur-Mesure : Nous ne vendons pas de formations, nous construisons des solutions adaptées à votre besoin.
  3. Notre Engagement sur l'Impact : Nous sommes focalisés sur le retour sur investissement tangible de votre budget formation.

Des questions sur cette formation ?

Notre équipe pédagogique est à votre disposition pour répondre à toutes vos questions et vous accompagner dans votre projet de formation.

Ils nous font déjà confiance

Alstom
Ost
Arcelor Mittal
Carf
Lafarge
Onem
Aircelle
Cnssap
Dell
Cica Re
Jcop Delafon
Cnps
Credit Agricole
Dgi
Oncf
Arpce
Akwagroup
Avis
Cdg
Bmw
Holcim
Ald Automotive
Cdg Capital
Kromberg
Centrale Laitiere
Cfao Motors
Cgi
Bdu Bank
Dufry
Bgfi Bank
Bmce
Bcrg Bank
Celliers Meknes
Ecobank
Ciment Du Maroc
Bridge Bank
Axa
Ora Bank
Fresenius Medical
Cdc Bank
Inwi
Bhs Bank
Hyatt
Git Industriel
Attijari Bank
Sonasid Industriel
Wafasalaf
Unilever Industriel
Tectra
Eaton Towers It
Chronopost
Idemia
Banque Populaire
Arpt It
Basf
Mtn It
Arval
Orange It
Les Eaux Minerales De Oulmes
Senergys It
Cegelec
Air Liquide
Merck
Areva Energie
Onhym
Sonabel Energie
Sgmb
Sne Energie
Radeema
Snel Energie
Somfy
Veolia Energie
Vitogaz
P And G
Anp
Richbound
Atos
Johnson Consommation
Cim Equipement
Marjane
Fiat
Kitia Consommation
Lesieur
Sotravo Immo
Managem
Vinci Immo
Onep
Omnidior Immo
Renault
Kettani Immobilier
Sacem
Bouygues Immo
Sofac
Guineo Labo
Maersk
Novopharma Labo
Maroc Export
Bayer Labo
Marsa Maroc
Allied Rh
Meditel
Barrick Rh
Mascir
Kinross Rh
Medz
Cominak Rh
Novartis
Cbg Rh
Novec
Snpc
Pfizer
Bet2africa Services
Poste Maroc
Sofitel Services
Rekrute
Rma Watanya
Salafin Company
Sicpa
Sigmatel
Somed
Sothema
Spie
St microel ectronics
Total
Ups
Zurich
Abcd
Afinis
Cimat
Conseil Ingeniere Developpement
Dyar Al Mansour
Gm Equipement
Gsm Almaghreb
Hps Optima
Jetalu
Abb
Akka
Almageo
Aufait
Electroplanet
Jlec
Ocp
Sofitel
Tangerois
2m
Isma wood
Sofrecom
Maroc Assistance Internationale
Mondi Packaging
Plastex
Ubisoft
Veolia Transdev
Vivalis
Laboratoire Lca

Plus de 800 Références au Maroc et dans le Monde

Discuter sur WhatsApp