http://ordregrandeur.blog2geek.com Blog specialise; geek et geek attitude. fr-FR http://ordregrandeur.blog2geek.com/ordre-de-grandeurs-et-notation-theta-707.html ATTENTION: La mise en page de ce billet pose problème, veuillez vous référer aux liens donnés dans le billet précédent pour consulter l'article sous une meilleure forme. Complexité structurelle: ordre de grandeur et notation Julien BIBOLLET, Dimitri BISOO, Benjamin GANDON   Résumé: Lorsque l'on doit choisir parmis plusieurs algorithmes celui qui est le plus performant, on a besoin d'exprimer une approximation de sa complexité ou de son temps d'exécution. Pour ce faire, on utilise la notation d'une fonction de base. Cet article a pour but d'introduire quelques unes de ces fonctions de base, ainsi que de présenter la notation .     Table des matières Ordre de grandeurs Ordres de grandeurs courants Tableaux comparatifs Notation Définitions mathématique Utilisation Exemple d'application: QuickSort Bibliographie   Ordre de grandeurs En général, un algorithme possède un paramètre qui affecte de manière significative son temps d'exécution. Ce paramètre est proportionnel à la taille de l'ensemble de données à traiter (taille de la chaîne de caractères, nombre de noeuds de l'arbre, nombre d'éléments dans la liste, ...). L'objectif est d'estimer le temps d'exécution de l'algorithme en fonction de ce paramètre, en le ramenant à l'une des fonctions de base qui sont définies dans la section suivante.   Ordres de grandeurs courants La majorité des instructions n'est exécutée qu'une seule fois, ou un petit nombre de fois; le temps d'exécution du programme est donc considéré constant. Un temps d'exécution logarithmique signifie que l'algorithme va aller très légèrement plus lentement à mesure que augmente. Typiquement, les programmes qui résolvent de grands problèmes en les divisant en de plus petits de complexité moindre font parties de cette catégorie. La base du logarithme change simplement quelque peu la constante: par exemple, pour 1000$" width="72" height="14" align="bottom" />, 3$" width="81" height="32" align="middle" /> si la base est et si la base est . A chaque fois que double de valeur, augmente d'une constante, mais il ne double pas tant que n'augmente pas jusqu'à . Le temps d'exécution est linéaire lorsque quelques opérations sont appliquées à chaque élément en entrée. Le temps d'exécution double chaque fois que double. Un temps de est optimal pour un algorithme ayant entrées à traiter, ou sorties à produire. Cette classe est typique des programmes algorithmes qui résolvent un problème en le découpant en de plus petits, en les traitant indépendamment puis en combinant ensuite les solutions. Quand double, vaut légèrement plus du double, mais tout en restant largement acceptable. Un temps d'exécution quadratique est surtout adapté à la résolution de petits problèmes et traite tous les couples d'éléments (d'où le N \\times N$" width="96" height="34" align="middle" />). Dans un tel cas, quand double, le temps d'exécution est multiplié par 4. Similairement au précédent, un temps d'exécution polynomiale ou géométrique va traiter tous les -uplets d'éléments. Quand double, le temps d'exécution se voit multiplier par , ce qui limite l'utilisation de tels algorithmes à de très petits problèmes. Un algorithme en temps d'exécution exponentiel est quasiment inutilisable dans la pratique: quand double, le temps d'exécution est élevé au carré. Un algorithme en temps d'exécution factoriel n'est même pas envisageable, tant le temps d'exécution va grandir pour chaque unité de supplémentaire.   . Dans la pratique, le temps d'exécution d'un algorithme n'est pas rigoureusement exact à l'une des fonctions précédentes, mais plutôt à une constante multiplée par l'une de ces fonctions plus quelques petits termes. Les valeurs de cette constante et de ces termes supplémentaires dépendent des détails de l'implémentation et nécessitent une analyse plus précise de l'algorithme pour être déterminés. Pour faire simple, la constante est très liée au nombre d'instructions dans la boucle interne de l'algorithme. Toutefois, dans la plupart des cas, on dit simplement d'un algorithme que son temps d'exécution est logarithmique, linéaire, quadratique, ...via l'utilisation de la notation comme nous le verrons dans la section suivante.   Tableaux comparatifs   Tableau: Résultats de quelques fonctions utilisées dans l'analyse des algorithmes. 3 10 33 110 32 100 7 100 664 4 414 1 000 10 000 10 1 000 9 966 99 317 31 623 1 000 000 13 10 000 132 877 1 765 633 1 000 000 100 000 000 17 100 000 1 660 964 27 588 016 31 622 777 10 000 000 000 20 1 000 000 19 931 569 397 267 426 1 000 000 000 1 000 000 000 000   En étudiant le tableau 1, on peut, par exemple, se rendre compte de la grande différence qu'il existe entre et . Par ailleurs, on remarque que pour de petites valeurs de , se comporte mieux que , mais la situation s'inverse dès lors que est assez grand. De ce fait, l'analyse précise d'un algorithme nécessite également de savoir dans quelles conditions il sera utilisé.     Tableau: Temps de résolution en fonction de la complexité. Opérations Taille du problème de 1 million Taille du problème de 1 milliard par seconde Secondes Secondes Semaines Heures Heures Jamais Immédiat Immédiat Heures Secondes Secondes Décennies Immédiat Immédiat Secondes Immédiat Immédiat Semaines   Le tableau 2 montre le temps moyen de résolution d'un problème avec 1 million et 1 milliard d'éléments, en fonction de sa complexité et de la capacité de calcul de la machine. Ce tableau permet de se rendre compte qu'un algorithme rapide sera à même de résoudre un gros problème, même sur une machine lente, mais que l'inverse n'est pas vrai: une machine, même très performante, ne sera pas en mesure de résoudre un problème avec un algorithme en par exemple.   Notation En théorie de la complexité, on s'intéresse à l'équivalence asymptotique de fonctions positives à variables entières. Pour ce faire, on utilise la notation .   Définitions mathématique Avant de définir la notation , nous avons besoin de définir la notation . Cette dernière, aussi appelée symbole de Landau (du nom du mathématicien allemand qui l'introduisit), est le symbole utilisé en mathématique pour décrire la dominance asymptotique de fonctions. On utilise la lettre car on parle de l'ordre de la fonction. Mathématiquement, on la définie comme suit:   Notation O(g(x))$" width="111" height="32" align="middle" /> quand \\forall x > N_0 \\mid f(x) \\mid \\leq C_0 \\mid g(x) \\mid$" width="340" height="32" align="middle" /> (autrement dit, on est simplement en train de définir le fait que ne croît pas plus vite que ).   Notation En théorie de la complexité, on va surtout utiliser l'équivalence asymptotique, notée et définie par: et avec \\mid f(x) \\mid \\geq M \\mid g(x) \\mid \\forall x > x_0$" width="428" height="32" align="middle" />.   Utilisation On peut voir la notation comme un artifice mathématique permettant de s'affranchir des détails lorsque l'on analyse des algorithmes. Cette notation permet d'écrire, en toute rigueur mathématique, le comportement d'une fonction, ou, dans notre cas, la complexité approximée d'un algorithme. En effet, si l'on prend l'exemple d'un algorithme de complexité 3 \\times N^2 + 2 \\times N - 3$" width="202" height="34" align="middle" />, on l'associe à la classe . La notation permet donc de s'affranchir des constantes (ce qui est fondé puisque l'on peut dire qu'elles dépendent de l'implémentation de l'algorithme) et des termes plus faibles (puisqu'ils sont 'dominés'). Les constantes et de la définition de la notation servent à masquer les détails d'implémentation. Ainsi, en écrivant 3 \\times N^2 + 2 \\times N - 3 = \\theta(N^2)$" width="265" height="34" align="middle" />, on reste rigoureux au niveau mathématique (la notation se chargeant de contenir les termes négligeables afin d'obtenir une égalité), et cela donne une approximation de la complexité de l'algorithme permettant de rapidement comparer différents algorithmes entre eux pour déterminer le plus performant.   . Pour résumer, on peut dire que la notation est utilisée dans trois buts: borner les erreurs faites lorsque l'on ignore les petits termes dans les formules mathématiques borner les erreurs faites lorsque l'on ignore des morceaux de l'algorithme qui influencent très peu le temps total dans le cadre de l'analyse en cours classer les algorithmes selon les bornes supérieures de leur temps total d'exécution   Exemple d'application: QuickSort Nous allons expliquer comment calculer la complexité d'un algorithme à travers un exemple: l'algorithme de QuickSort.   Principe de QuickSort: Le principe consiste à séparer l'ensemble des éléments en deux parties. Pour effectuer la séparation, une valeur pivot est choisie. Ensuite les deux ensembles sont séparés par rapport à la valeur du pivot : ceux qui sont plus petits vont à gauche et ceux qui sont plus grand vont à droite, le pivot étant intercalé entre les deux.   Problème: Le problème de cet algorithme est la recherche du pivot. En effet, l'idéal consiste à prendre un pivot permettant de séparer les deux ensembles en deux parties de taille sensiblement égales. Dans la pratique, le pivot est le premier élément ou le dernier élément de l'ensemble à fractionner. En moyenne, les deux ensembles seront de taille sensiblement égale.   Complexité: La complexité du tri rapide pour trier une liste de éléments est égale à la complexité pour le tri de et de éléments ou . Soit (avec une constante). Dans le meilleur des cas, , soit . Dans ce cas, la complexité de l'algorithme est en . Cependant, dans le pire cas, c'est-à-dire dans le cas où la liste est déjà triée, la complexité tombe alors dans . Pour contrer cet effet là, on effectue un mélange de la liste avant d'effectuer QuickSort (en s'assurant que la temps passé à effectuer ce mélange n'est pas trop important).   Bibliographie   1 Robert Sedgewick. Algorithmes en C++. Pearson Education, troisième edition, 2004.   2 wikipedia. http://fr.wikipedia.org/wiki/Notation_O.   À propos de ce document... Complexité structurelle: ordre de grandeur et notation This document was generated using the LaTeX2HTML translator Version 2002-2-1 (1.71) Copyright © 1993, 1994, 1995, 1996, Nikos Drakos, Computer Based Learning Unit, University of Leeds. Copyright © 1997, 1998, 1999, Ross Moore, Mathematics Department, Macquarie University, Sydney. The command line arguments were: latex2html complexite_structurelle.tex -dir website -split 0 The translation was initiated by on 2007-05-17 Thu, 17 May 2007 18:25:00 GMT http://ordregrandeur.blog2geek.com/ordre-de-grandeur-et-notation-theta-resume-704.html Lorsque l'on doit choisir parmis plusieurs algorithmes celui qui est le plus performant, on a besoin d'exprimer une approximation de sa complexité ou de son temps d'exécution. Pour ce faire, on utilise la notation d'une fonction de base. Cet article a pour but d'introduire quelques unes de ces fonctions de base, ainsi que de présenter la notation . ** ** ** ** ** Le rapport complet est consultable http://scia.homelinux.org/complexite_structurelle ou téléchargeable ici. Thu, 17 May 2007 17:21:00 GMT