HAVING en MDX, une clause méconnue et pourtant performante

Le MDX a une clause HAVING. Je sais ça peut paraître une nouveauté pour certains – je ne l’ai pas appris immédiatement loin s’en faut alors qu’elle existe depuis 2005. La seule documentation réellement utilisable sur cette clause est un papier de William Pearson datant de 2007 dans lequel celui-ci détaille une équivalence fonctionnelle entre HAVING et Filter().

Dit autrement, HAVING peut – pour lui – se voir comme un Filter() appliqué sur un Axis, ces deux notations étant alors interchangeables

{
   Filter
   (
      [Dimension].[Level].Members,
      [Measures].[Measure] > 42
   )
} ON 0
{
   [Dimension].[Level].Members
}
HAVING [Measures].[Measure] > 42
ON 0

Si HAVING est effectivement utile pour réaliser des filtrages, elle présente un intérêt évident par rapport à un Filter(). Non qu’elle soit “block-computationable” , ce n’est pas le cas. En revanche elle s’exécute après l’auto-existence des axes et des NON EMPTY. Et ça ça peut être intéressant.

Prenons un exemple bidon: je souhaite afficher la liste des ventes par jour de plus de 10000$. Ecrivons d’abord la requête de base.

SELECT
{
   [Measures].[Internet Sales Amount]
} ON 0
,
NON EMPTY
{
   [Product].[Product].[Product] 
   * 
   [Date].[Date].[Date]
} ON 1
FROM [Adventure Works];

Cette requête MDX, passée au MDX Studio, s’exécute en 200ms et affiche un Cells Calculated de 23797 avec 1 NON EMPTY, et 1 Sonar Subcube. En gros on a appliqué NON EMPTY sur l’Axe, ce qui a renvoyé 23000 cellules, et généré une requête au Storage Engine.

Si on passe l’Axis 1 sous un Filter() pour les fameux 10000$, le Cells Calculated passe à… 869965, et le temps d’exécution explose. Normal, vous connaissez le fonctionnement du Filter: il a itéré sur toutes les combinaisons – produit cartésien oblige – des dates et des produits sans « Exister » avant le Set sur la mesure.

Time              : 2 sec 307 ms
Calc covers       : 0
Cells calculated  : 869965
Sonar subcubes    : 1
NON EMPTYs        : 1

Tout à fait logiquement, en appliquant un NonEmpty() sur le set avant d’appliquer le Filter, on retombe sur 23000 cellules, et on a cette fois ci 2 Sonar Subcubes et 2 NON EMPTY (Celui de la fonction NonEmpty(), et celui du NON EMPTY sur l’axe).

SELECT
{
   [Measures].[Internet Sales Amount]
} ON 0,
NON EMPTY
{
   Filter
   (
      NonEmpty
      (
         [Product].[Product].[Product]
         * [Date].[Date].[Date]
         ,[Measures].[Internet Sales Amount]
      )
      ,[Measures].[Internet Sales Amount]>10000
   )
} ON 1
FROM [Adventure Works]

Time : 135 ms
Calc covers : 0
Cells calculated : 23935
Sonar subcubes : 2
NON EMPTYs : 2

Alors quel est l’intérêt du HAVING? Il vous permet de filtrer l’axe après l’application de l’ordre NON EMPTY sur les Axis, et donc de vous éviter un NonEmpty (Exists) supplémentaire et inutile dans la clause Filter. Pas le truc de l’année, mais si ça permet d’économiser du temps de cerveau disponible…

SELECT
{
   [Measures].[Internet Sales Amount]
} ON 0
,NON EMPTY
{
   [Product].[Product].[Product] 
   * 
   [Date].[Date].[Date]
}
HAVING [Measures].[Internet Sales Amount] > 10000 
ON 1
FROM [Adventure Works];

HAVING peut donc se révéler très utile et rapide pour faire un filtrage (type Filter) post-application des NON EMPTY des axes, dans un rapport RS par exemple, et sans vouloir s’embêter à écrire soi-même la logique d’Exists/NonEmpty spécifique à ceux-ci.

A bientôt!

Agilité et BI: venez en parler le 17 avril!

Le prochain Afterwork du GUSS aura lieu le mercredi 17 avril à 19h. Le sujet cette fois ci ne sera pas technique, mais plus méthodologique puisque nous vous invitons à venir échanger sur la Gestion de projet et l’agilité autour de SQL Server – et surtout de la BI parce que c’est quand même plus mon sujet^^.

Quels outils, quelles méthodologies, vos retours d’expérience: on discutera de tout ça autour d’une bière au:

Charly Birdy
1 place Etienne Pernet, Paris 15ème
Métro Commerce

A la semaine prochaine!

Vider une entité Master Data Services

Bon un petit post rapide pour un truc tout bête: comment vider une entité dans MDS. La technique la plus simple que je connaisse est de déverser le contenu d’une vue de souscription dans la table de staging, avec un marqueur de suppression.

Lorsque l’on insère dans la table de staging feuille d’une entité – en général pour ajouter de nouveaux membres dedans – on doit renseigner plusieurs choses obligatoiremement (dans la table Entity Based, ce qui est une nouveauté 2012 rappelons le, ces champs sont marqués NOT NULL):

  • Le statut d’import ImportStatus_ID (généralement 0, qui signifie « à traiter »)
  • Le Code du membre à traiter
  • Le marqueur ImportType qui détermine ce que le processus doit faire avec cette ligne. Ses valeurs vont de 0 à 6 et signifient:
    • O : « Créer un nouveau membre si le Code n’existe pas, mettre à jour le membre s’il existe mais uniquement si les valeur de propriétés ne sont pas nulles »
    • 1 : « Créer un nouveau membre si le Code n’existe pas, lever une erreur s’il existe. »
    • 2 : « Créer un nouveau membre si le Code n’existe pas,  mettre à jour le membre s’il existe. »
    • 3 : « Désactiver le membre, lever une erreur s’il est référencé par un membre d’une autre entité. »
    • 4 : « Supprimer le membre, lever une erreur s’il est référencé par un membre d’une autre entité. »
    • 5 : « Désactiver le membre. Les colonnes de référence passent à NULL s’il est référencé par une autre entité. »
    • 6 : « Supprimer le membre. Les colonnes de référence passent à NULL s’il est référencé par une autre entité. »
  • Un nom de Batch pour la ligne, nommé BatchTag

Pour supprimer un membre de manière définitive, il suffit de le réinsérer dans le Staging avec un ImportType à 4 ou 6 et d’envoyer la procédure de staging:


DECLARE @VersionName NVARCHAR(50) = 'VERSION_1'
DECLARE @BatchTag NVARCHAR(50) = 'Deletion'

INSERT stg.Entity_Leaf
(
   ImportStatus_ID,
   ImportType,
   Code,
   BatchTag
)
SELECT 0, 6, Code, @BatchTag
FROM mdm.SubscriptionView

EXECUTE stg.udp_Entity_Leaf
      @VersionName = @VersionName,
      @LogFlag = 1,
      @BatchTag = @BatchTag

Voilà un truc simple et rapide :)!
A bientôt!

Questions/Réponses: le futur d’Analysis Services

La question a encore été posée par notre session, et force est de constater que formation après formation, conférence après conférence, on me la pose systématiquement: quel est le futur d’Analysis Services, voire même de l’OLAP en général?

Panneau-AttentionNote importante: Je tiens à rappeler que bien qu’étant quelque peu « identifié » à Microsoft par mon statut de MVP, ce billet ne reflète que ma vision personnelle de la situation, et pas celle de l’éditeur, comme tout le reste de ce blog d’ailleurs.

Le futur: tabular ou multidimensional?

Cette question ne se pose pas que chez Microsoft. Elle est valable chez tous les éditeurs et peut même être étendue à l’alternative Columnar ou MOLAP. Sur ce dernier point j’en suis persuadé, l’avenir pour le moment, en ce mois de Février 2013, est dans le stockage en colonnes.

Hein? Mais vous recommandez de faire du MOLAP dans beaucoup de cas pourtant?

Oui. Pour le moment. Mais je sais aussi que les moteurs MOLAP, apparus au début des années 1990 (PowerPlay, Express, Essbase), en 1998 chez Microsoft (OLAP 7.0) possèdent un certain nombre de faiblesses conceptuelles:

  • Un stockage dimensionnel qui répond bien à la représentation intellectuelle des scénarii d’analyse, mais entraîne un phénomène de matrice creuse (data sparsity) qui donne généralement, et c’est valable pour la plupart des moteurs, de mauvaises performances au niveau fin. D’où le développement du ROLAP, du HOLAP… et au final de schémas d’architecture quelque peu complexes, et difficiles à maintenir.
  • De plus, les volumétries de ces bases sont limitées à quelques TB au plus, ce qui paraît minuscule au vu des exigences de la mouvance Big Data. Sans parler du partitionnement mis en jeu.
  • Des temps de process prohibitifs dus à un changement total de paradigme par rapport au monde relationnel, et ce peu importe les moteurs. Le Proactive Caching ça marche bien mais avec peu de données, ou un schéma de partitionnement très complexe.
  • Un monde « à part » et une courbe d’apprentissage très raide.

Le stockage en colonnes, plus récent, répond à beaucoup de ces problématiques (principalement les problèmes issus du côté sparse du storage, et du monde multidimensionnel). xVelocity (Vertipaq), le moteur de Tabular et de PowerPivot (Excel 2013 Data Model) c’est du in-memory columnar storage.

Génial, on abandonne les cubes et on fait du tabulaire: mais je croyais que vous étiez accroché à votre multidimensionnel?

Non et non. Je ne suis pas « accroché » au moteur OLAP: je dis simplement que fonctionnellement, et à date, il adresse aujourd’hui des scénarios que le mode tabulaire ne permet pas ou difficilement de traiter (volumétries, localisation, modélisations étranges). Le modèle tabulaire aujourd’hui a deux problèmes vus de ma fenêtre:

  • Un mode de stockage uniquement InMemory, qui empêche de traiter de gros projets (Pour rappel un tabulaire c’est 20% de la taille de la BdD relationnelle de chaque base en RAM, et des développeurs qui bossent connectés à un serveur et donc partagent cette RAM sur les infras de dev. A vos calculettes.). On peut certes parler de DirectQuery. Ou pas. Si vous voulez savoir pourquoi « ou pas » lisez ceci
  • Des fonctionnalités limitées liées à la jeunesse du moteur essentiellement autour de l’internationalisation et des relations gérées.

Donc aujourd’hui beaucoup de projets doivent encore être faits en multidimensionnel. Ce n’est pas moi qui le dit, c’est T.K.  Anand.

Que va faire Microsoft demain?

Pas de communication officielle, mais la discrète survey de l’équipe produit envoyée fin d’année dernière donne des billes: pas une seule fois le moteur OLAP n’est mentionné. On s’oriente donc à mon sens vers un rattrapage fonctionnel et technique du moteur OLAP par le moteur Tabulaire. 

D’accord… alors pourquoi DaxMD?

A mon avis, DaxMD (PowerView for Multidimensional Models CTP, disponible ici) est un patch sur le moteur OLAP qui a deux buts:

  • La version officielle: lui permettre de supporter les frontaux mis en place  (ex: PowerView) et à venir, le moteur OLAP n’étant pas déprécié.
  • Ce que je lis derrière les lignes: permettre au moteur OLAP d’adresser une bonne partie des projets – ces fameux projet à haute volumétrie, localisés, ou utilisant des fonctionnalités avancées – le temps que Tabular arrive à sa pleine maturité, quitte à le déprécier à horizon très lointain.

D’accord, donc si on se résume: la solution idéale aujourd’hui (ou plutôt demain matin) ce serait DaxMD? Et demain un tabulaire vNext dans lequel on met quoi?

Sur le même modèle de notre wishlist avec le grand Romu en session, j’isolerais deux priorités:

  1. Urgemment, des fonctionnalités supportées par le moteur OLAP depuis longtemps (SCOPE, Traductions, Actions, Currency Conversion, Calculated Members…)
  2. A plus long terme, un mode de stockage en buffer cache. Il est important que passé une certaine volumétrie on puisse travailler avec le couple HDD (SSD?)+ InMemory. Microsoft pousse autour d’Hadoop, avec HDInsight dans le Cloud et quelques POCs intéressant sur du OnPremises utilisant les technos BI existantes,  il serait bête de ne pas s’engager sur le chemin de bases ad-hoc de nouvelle génération permettant de traiter ces très grosses volumétries.

La faisabilité technique de la dernière étant… comment dire, pas triviale je ne me fais pas trop d’illusions à brève échéance. Sur le premier point en revanche, on a montré en session que presque tout est déjà là techniquement pour que ce soit réalisable dans des délais assez brefs.

Et le langage? DAX ou MDX?

Ce n’est pas le plus important à mon sens même si j’adore le MDX dans sa manière d’exprimer une query de manière géométrique. DAX – sur sa partie requête – n’est à mon sens qu’un genre de SQL imbuvable original aux relations explicitées par un modèle CSDL, et présente donc les mêmes inconvénients que le SQL pour exprimer des requêtes analytiques. (Et là dessus je rejoins pas mal Steven Bolton…)

Mais quel choix va faire Microsoft? Est ce qu’il y en aura même un? No clue, même si le développement uniquement en DAX de PowerView peut donner une idée…

Vous n’êtes pas d’accord? Vous vous posez d’autres questions? N’hésitez pas à commenter!

Techdays 2013, épilogue

TD13

Bonjour à tous, un petit peu crevé après cette préparation éreintante de session qui, d’après les premiers retours, vous a pas mal plu! Je vous rassure on s’est bien amusés avec le grand – autant par les New Rock que par le talent – Romu aussi. Sur un plan plus perso la préparation quelque peu tardive m’a empêché de venir aux sessions qui m’intéressaient mais avec Romuald nous avions des slides à finir à la force du poignet (oui je sais Aurélien ceci est une trèèès mauvaise blague, et sache que toute la salle était avec toi, bon rétablissement mon poulet!).

Merci en tous les cas aux présents, je pense à Pascale, Flo, David, Fab, Rom,  Dominique et j’en oublie, ainsi qu’à tous ceux qui sont venus nous faire leur retours à la sortie, ça fait chaud au coeur, vraiment!

Démos, Director’s Cut

Bon comme on a été un petit peu à la bourre je voulais revenir sur quelques démos histoire que les passages peu clairs le soient un peu moins. On va faire ça dans l’ordre, et ça concerne surtout la partie DaxMD, aussi connu sous le nom de PowerView for Multidimensional Models, CTP publique d’une version du moteur OLAP supportant le DAX, disponible ici. Au passage et ce depuis la session, David Joubert a posté un excellent test de la conversion de modèles tabulaires vers du MD qui fait un peu le même job que certaines de nos démos.

CSDL Metadata

On vous l’a dit, la raison pour laquelle on peut envoyer du DAX à un modèle multidimensionnel – qui permet à PowerView de s’y connecter – dans cette CTP tient en deux raisons

  • Un Formula Engine DAX côté multidimensionnel, capable d’interroger un SE MOLAP
  • Des métadonnées au format CSDL, le format normé de Microsoft introduit avec Entity Framework qui permet de décrire un modèle de données. Pour étendre le CSDL aux données d’analyse, Microsoft a publié une extension au CSDL nommée CSDL-BI.

Pour requêter les métadonnées CSDL, un Rowset XMLA (ou une DMV) existe. Il suffit de passer le nom de la base, du cube (oui car en multidimensionnel on peut avoir plusieurs cubes!) dans le champ… PERSPECTIVE_NAME (Oui bon c’est une CTP hein), et un champ non documenté, VERSION, qui dit que… qui dit 2.0. (Je vous ai déjà dit que c’est une CTP?) Voilà.

<Envelope xmlns=”http://schemas.xmlsoap.org/soap/envelope/”>
       <Body>
              <Discover xmlns=”urn:schemas-microsoft-com:xml-analysis”>
                     <RequestType>DISCOVER_CSDL_METADATA</RequestType>
                     <Restrictions>
                           <RestrictionList>
                                 <CATALOG_NAME>AdventureWorksDW2012Multidimensional-EE<CATALOG_NAME>
                                 <VERSION>2.0</VERSION>
                                 <PERSPECTIVE_NAME>Adventure Works</PERSPECTIVE_NAME>
                           </RestrictionList>
                     </Restrictions>
                     <Properties>
                           <PropertyList>
                                 <FORMAT>Tabular</FORMAT>
                           </PropertyList>
                     </Properties>
              </Discover>
       </Body>

PowerView comprend ça. Pas vous. C’est normal. Mais ça vous montre qu’on a dorénavant une couche de métadonnées dans SSAS (ce qui n’était pas le cas avant Tabular).

Drill-through en MDX, en DRILLTHROUGH ou en DAX?

Pour faire des extractions de détail en MDX, on a basiquement deux solutions. Faire des requêtes MDX bien barbares, ce qui est assez lent, mais pas compliqué à écrire (et au passage ce que génère Excel PivotTable ou SSRS au Designer).

SELECT
{
	[Measures].[Reseller Sales Amount]
}
ON 0
,
NON EMPTY
{
	[Date].[Date].[Date]
	*[Geography].[City].[City]
	*[Product].[Product].[Product]
	*[Reseller].[Reseller].[Reseller]
	*[Sales Territory].[Sales Territory Region].[Sales Territory Region]
}
DIMENSION PROPERTIES [Reseller].[Reseller].[Bank Name]
ON 1
FROM [Adventure Works]

Quand on est bon, on peut faire des requêtes de DRILLTHROUGH sur une cellule. Les vieux de la vieille du RS 2000 faisaient ça avec de l’OLE DB for OLAP dans SSRS (c’est faisable aussi avec le provider AS, mais en mode mining, éditeur coupé). Avantage: lent à la première exécution, mais monte bien en cache.

DRILLTHROUGH
SELECT
{
 [Measures].[Reseller Sales Amount]
}
ON 0
FROM [Adventure Works]
RETURN
 [$Date].[Date]
 ,[$Geography].[City]
 ,[$Product].[Product]
 ,[$Reseller].[Reseller]
 ,[$Sales Territory].[Sales Territory Region]
 ,[Reseller Sales].[Reseller Sales Amount]

Dans la session on vous a montré qu’on peut aussi faire ça en DAX. pour de l’extraction de détail, ça envoie sacrément (les temps de réponse sont en moyenne 10 fois meilleurs sur notre petite base d’exemple).

En plus cela semble constant au vu de nos tests contrairement aux autres modes d’accès.

Evaluate
(
	Summarize
	(
		'Reseller Sales'
		,'Date'[Date.Key0]
		,'Date'[Date]
		,'Geography'[City.Key1]
		,'Geography'[City.Key0]
		,'Product'[Product.Key0]
		,'Product'[Product]
		,'Reseller'[Reseller.Key0]
		,'Reseller'[Reseller]
		,'Reseller'[Bank Name]
		,'Sales Territory'[Sales Territory Region.Key0]
		,'Sales Territory'[Sales Territory Region]
		,"Sales Amount",'Reseller Sales'[Reseller Sales Amount]
	)
)
Order By
	'Date'[Date]
	,'Geography'[City.Key0]
	,'Product'[Product]
	,'Reseller'[Reseller]
	,'Reseller'[Bank Name]
	,'Sales Territory'[Sales Territory Region]

Vous noterez au passage les splendides Key0, Key1 dans la requête. Kézako? Et bien si vous vous y connaissez en member properties vous savez que les Key0…KeyN en MDX sont les KeyColumns d’un attribut. Pour développer DaxMD – de la même manière qu’il a du être difficile de faire rentrer le concept de DefaultMember dans un PowerPivot – cela n’a pas du être une mince affaire pour les équipes de Redmond de faire comprendre l’idée de clés composites et de NameColumn à du DAX . Moyennant quoi dès que la NameColumn est différente de la KeyColumn dans la Dimension, on doit spécifier cette dernière, sans quoi on prend un beau message d’erreur:

Column [Truc] is part of composite key, but not all columns of the composite key are included in the expression or its dependent expression.

Bon à savoir…

Rapport de drill en SSRS

Pour la suite de la démo, Romu a montré l’inclusion de ce code dans un Rapport SSRS  pour lequel il faut utiliser le mode DMX pour taper la requête (comme dans ce vieux post sur le Drillthrough). Les paramètres quant à eux sont évidemment gérés (Syntaxe @Paramètre) et le sous rapport envoyé grâce à un JumpToReport sur le camemb… l’histogramme.

DAX DrillThrough Action dans SSAS

Enfin la cerise sur le gâteau concernait l’exécution de ce code dans une action de type Rowset côté AS. L’idée étant d’avoir un Drill en DAX sur un cube. Une action de Rowset a une expression de type chaîne de caractère qui va être évaluée dans un bloc XMLA <Command>… qui contient normalement du MDX. Mais dans DaxMD, les Command peuvent être en DAX (oui c’est le principe), donc on peut y mettre la requête DAX précédente.

Problème: comme pour le DrillThrough on Calculated Members de Mosha on doit contextualiser la cellule (si je clique sur une cellule, la requête DAX doit être filtrée sur les dimensions autour). Dans son post, Mosha explique que:

In order for drillthrough to address the correct cell, we need to put current cell coordinates into the SELECT clause. One way of doing it would be to write long MDX string concatenation, using <hierarchy>.CurrentMember.UniqueName subexpression for every hierarchy in the cube. However, this is tedious and error-prone approach. There are hundreds of hierarchies, new ones can be added, old ones removed or renamed etc. Instead, we can just call stored procedure which will enumerate all the current coordinates (note that we could’ve done the same with the RETURN clause too).

Procédure que l’on ne possède pas ici (Mosha utilise celle de ASSP qui renvoie du… MDX). Ce que j’ai montré pendant la session c’est le principe de la chose appliqué sur une seule hiérarchie que les plus courageux d’entre vous finiront. (mais si un candidat se présente pour écrire une stored proc… :)). La partie importante de la requête est dans le Filter, qui va désactiver le filtre si on est au niveau All en générant une clause en DAX depuis du MDX. Oui je sais c’est tordu:

"Evaluate
(
	CalculateTable
	(
		Summarize
		(
			'Reseller Sales'
			,'Date'[Date.Key0]
			,...
		)
		,'Sales Territory'[Sales Territory Region.Key0] = "+[Sales Territory].[Sales Territory Region].CurrentMember.Properties('Key0')+"
        ||"""+[Sales Territory].[Sales Territory Region].CurrentMember.Name+"""="""+[Sales Territory].[Sales Territory Region].DefaultMember.Name+"""
    )
)"

Conclusion

Voilà c’était à peu près tout. Merci à tous pour votre présence, à vos commentaires si vous voyez une erreur. Quant au contenu, ce sera avant Vendredi sur mon SkyDrive, j’éditerai le post.

A bientôt!

Master Data Services 2012, toutes les raisons de l’implémenter

Une petite discussion de la semaine dernière avec mon excellent petit collègue Charles-Henri amène ce post sur MDS, l’outil de MDM (Master Data Management, gestion de référentiel) de Microsoft, qui est sorti en mars dernier dans sa seconde version (qui a dit « première version utilisable? » :)). Pour résumer:

  • Je pense que non seulement nous allons être amenés à en mettre de plus en plus en place dans le cadre de projets décisionnels,
  • Mais en plus  que le produit répond à une problématique décorrélée de la BI qui peut elle même être génératrice de projets

Un bref historique

Le terme MDM, vous l’entendez depuis quelques temps – probablement depuis les années 2006-2007 je n’ai pas vérifié mon Décidéo. Ce vocable en vogue à l’époque – et toujours aujourd’hui d’ailleurs – verbalise simplement le fait que les applications d’une entreprise ont potentiellement vocation à partager un certain volume de référentiels.

Diantre la belle affaire.

On parle à cette époque déjà depuis longtemps d’outils de CDI (pas les contrats, la Customer Data Integration, le fait de disposer d’un seul référentiel client), et de PIM (pas l’onomatopée, Product Information Management, pour les produits). Le MDM est simplement la mise sous le même chapeau de ces deux domaines, en considérant que l’intégration des référentiels d’une entreprise se doit d’aller plus loin que le traditionnel diptyque Client-Produit.

Quel rapport avec la BI et le Data Warehousing en particulier?

Je suis moins bon en schémas que le pote Florian Eiden mais je vais m’y coller. Quand on parle d’alimentation d’entrepôt et spécifiquement de dimension, on désigne les opérations réalisées par les environnements de stockage.

  • On procède d’abord à un Staging des données: l’intégration dans un environnement technologique unique de données hétérogènes.
  • Puis on rapproche et on nettoie ces données dans un Operational Data Store non historisé.
  • Très schématiquement l’historisation de l’ODS donne la dimension du Data Warehouse.

<Flagellez moi si vous êtes en désaccord hein>

Si on enlève ces barbarismes technologiques, et sachant qu’un certain nombre de transformations peuvent s’effectuer dans un environnement ou un autre selon le doigt mouillé l’expérience (i.e. le nettoyage des données…), j’ai tendance à plutôt voir le boulot comme ça, indépendamment de l’emplacement où les tâches se font, et ce bien avant l’apparition du terme MDM

Flux

Pour un produit par exemple on va intégrer des « référentiels » hétérogènes (Excel, Access, SGBD loufoques), que l’on va rapprocher au moyen de méthodes floues et de règles métier.  A ce stade, on dispose de Master Data (données de référence). Une dimension sur ces Master Data en est simplement une potentielle historisation (SCD) en plus de modification structurelles liées au frontal ou aux principes de Ralph.

Dit autrement: la BI s’occupe de Master Data depuis un petit bout de temps, mais uniquement pour son petit besoin analytique.

Comment partager le travail réalisé sur un projet BI avec les application métier?

Un ancien chef de produit SQL Server, très bon en MDX, fondateur de l’ex-Winsight et inventeur d’expressions célèbres comme « la première année de souris » décrivait ce genre d’usage par l’anaphore « boucler la boucle analytique ».

C’est joli et cela sied bien à l’usage présent je trouve: en effet pourquoi vouloir tenir à l’écart le reste de l’entreprise des efforts de normalisation effectués en aval dans la BI? On le fait bien parfois en ouvrant les ODS à certaines applis non décisionnelles. Aller plus loin est donc possible technologiquement.

Bon pour être honnête, rien de ne l’a jamais empêché dans l’absolu, sauf à mon humble avis des besoins fonctionnels assez peu conciliables entre la BI et les utilisateurs des référentiels.

– Les utilisateurs ont besoin d’outil intuitifs pour modifier un faible volume de données, réaliser des insertions, avec une restitution compréhensible: en gros ils font de l’Access ou achètent un outil de PIM.

L’IT et la BI en particulier de solution industrialisables, permettant du chargement en bloc de données de référence depuis des systèmes tiers: ils font de l’ETL.

Mettre sous le même chapeau ETL et PIM étendu à tout le spectre des référentiels: c’est ce que fait MDS en 2012.

Principe de Master Data Services 2012

Master Data Services, comme en 2008R2, s’installe avec une base de données dédiée sur laquelle tourne un jeu de services WCF. Un site Web permet la configuration, la création de modèles de données (Client, Produit…), des règles métier associées en utilisant ces services… Il est installé et sa base créée un peu comme RS via un Configuration Manager.

D’un point de vue process, les données sont exposées entité par entité via des vues SQL, donc facilement interrogeables. Le CRUD sur les entités peut se faire directement à travers SQL via des tables de staging SQL Server ou à travers l’API de services WCF.

7840.MDS Architecture

Deux principales choses changent par rapport à 2008R2:

  1. La modification côté utilisateur se base sur Excel. WCF – qui n’est en effet pas le moyen le plus facile d’intéragir de manière graphique avec un client final sans développement tiers – a été utilisé pour proposer un addin Excel en VSTO très choupi. Cet addin, destiné aux clients qui maintenaient leur référentiel local de manière autonome, va leur permettre de modifier le référentiel central que vous mettez en place, tout en respectant de potentielles règles métier (celles-ci étant définies dans le client Web). Cet addin est téléchargeable depuis le site MDS (comme Report Builder depuis Report Manager, tiens tiens). Il est puissant puisqu’il permet de créer des entités et de modifier intégralement leur structure et/ou leur contenu si on possède les droits ad-hoc.  (NB: Pour Office 2013, bien télécharger la toute dernière version sur le site de Microsoft en revanche, sinon vous aurez un bug d’affichage assez rédhibitoire )
  2. L’import des données en bloc se fait désormais par des tables de staging par entité (dit autrement une table pour les Produits, les Couleurs de Produit, les Catégories… avec une colonne par information à renseigner, un truc normal quoi), plutôt qu’avec les inutilisables tables clé/valeur de 2008R2 (vous pouvez regarder le tutorial en 2008R2 de l’équpe produit, c’était à vomir original). En plus, les codes des entités sont maintenant auto-générés (oui pour les fans de SSAS Multidim dans MDS on a un code et un libellé par entité). C’est fini, plus de script dans SSIS pour faire de la surrogate. Une fois ces tables remplies de données source, on peut déclencher le processus de chargement en WCF, via une procédure stockée SQL, ou depuis le frontal Silverlight. En cas de présence de l’entité considérée dans le référentiel, c’est la propriété ImportType de la ligne de l’entité dans la table de staging qui gouverne la mise à jour ou pas des données, avec ou sans erreur levée. En fin de chargement, il est bien sûr possible de consulter le résultat de l’import, comme depuis l’addin Excel (et donc les raisons d’un éventuel échec: infraction vis à vis d’une règle métier… etc…).

Excel Conclusion: l’avenir des projets BI?

Un certain volume d’ETL sur les phases amont des projets BI a, à mon avis, vocation à disparaître tant il est anormal que seule la mise en place de solutions décisionnelles  entraîne un effort d’intégration/standardisation de données.

La qualité de données commence dès sa saisie et l’analyse n’est que le sommet de la pyramide. Donc la prochaine fois que vous constituerez un référentiel juste pour la BI en vous alimentant depuis des bases Access/DBase/MySQL gérées par les métier en local, demandez vous si par hasard votre référentiel ne leur serait pas utile, et testez MDS 🙂

Techdays 2013: une petite dose d’Analysis Services pour démarrer l’année!

Bonjour à tous!

Cette année si vous n’aviez pas assez vu de MDX, de DAX avec David Joubert aux JSS, vous allez pouvoir venir aux Techdays 2013, voir ce que valent nos deux moteurs de Redmond au banc d’essai! Nous animerons en effet avec l’exceptionnel Romuald Coutaud et le non moins exceptionnel Aurélien Koppel de Microsoft une session qui vise à pousser les deux moteurs dans leurs retranchements fonctionnels et techniques afin que vous soyez sûr en repartant:

  1. De faire votre prochain projet avec Analysis Services
  2. De choisir le moteur qui satisfera vos utilisateurs.

Alors on vous attend, préparez des questions qui piquent, potassez votre MDX Cookbook, on se voit le mardi 12 à l’heure du gouter (ou de l’apéro, comme vous préférez!)

Allez vous inscrire, c’est par ici!