Fonction continue nulle part dérivable

En mathématiques, une fonction continue nulle part dérivable est une fonction numérique qui est régulière du point de vue topologique (c'est-à-dire continue) mais ne l'est pas du tout du point de vue du calcul différentiel (c'est-à-dire qu'elle n'est dérivable en aucun point).

Sismogramme du Tremblement de terre de 1906 à San Francisco : bien que continue, cette courbe n'est pas « arrondie ».

La continuité d'une fonction signifie que sa courbe représentative n'admet pas de « trou ». La dérivabilité assure qu'elle est bien « arrondie ». Il est assez aisé de démontrer que toute fonction dérivable sur un intervalle est continue sur ce même intervalle. Les mathématiciens ont cru jusqu'au XIX^e siècle que la réciproque était en partie vraie, que les points où une fonction continue n'est pas dérivable sont rares. Il n'en est rien. De nombreux contre-exemples furent découverts.

Depuis, l'étude de ces fonctions a montré qu'elles étaient importantes, non seulement du point de vue de la logique interne aux mathématiques, pour comprendre le concept de fonction, mais également pour fournir des modèles utiles aux autres sciences. Les fractales donnent également des exemples de courbes continues sans tangentes.

Histoire

Le concept même de fonction ne s'est clarifié qu'au XIX^e siècle, lorsqu'en 1837, Dirichlet pose une définition moderne du concept de fonction.

Définition — Une quantité y est une fonction (univoque) d'une quantité x, dans un intervalle donné quand à chaque valeur attribuée à x dans cet intervalle correspond une valeur unique et déterminée de y, sans rien spécifier sur la façon dont les diverses valeurs de y s'enchaînent les unes aux autres^[1].

À cette époque, les mathématiciens pensaient que toute fonction continue est dérivable, sauf éventuellement en quelques points particuliers, cette opinion n'étant pas contredite par leur pratique du calcul différentiel^[2]. Par exemple, en 1806, Ampère^[3] essaya de prouver que toute fonction est dérivable « à l'exception de certaines valeurs particulières et isolées », sans cependant clarifier ce qu'il entendait par fonction^[4].

Processus itératif de construction de la courbe de Bolzano (version croissante).

Processus itératif de construction de la courbe de Bolzano (version décroissante).

Dès 1833-1834^[5], Bernard Bolzano présente le premier exemple d'une fonction continue partout et nulle part dérivable. Il construit la courbe de Bolzano, de manière itérative, en partant d'un segment quelconque, et en remplaçant tout segment par 4 segments construits à l'aide d'un quadrillage au huitième illustré dans l'image ci-contre^[6]. Pour lui, une limite de fonctions continues est une fonction continue^[7]. Il démontre que la fonction obtenue n'est monotone dans aucun intervalle et qu'elle n'a pas de dérivée dans un ensemble dense. Cet exemple est en fait plus riche car on peut prouver que sa fonction n'a pas de dérivée ni même de dérivée infinie à signe déterminé en tout point de l'intervalle d'étude sauf à droite à l'origine où la limite du taux d'accroissement est +∞^[6]. Mais les manuscrits de ses travaux sur cette fonction, dite fonction de Bolzano, ne sont redécouverts qu'en 1920 et publiés qu'en 1922^[8]. Charles Cellérier découvre aussi, vers 1860, un autre exemple de fonction continue nulle part dérivable sans connaître celle de Bolzano. Son travail reste aussi inédit jusqu'à sa mort en 1890^[9].

C'est pourquoi Bernhard Riemann étonna la communauté mathématique quand il exhiba, lors d'une conférence en 1861, un exemple de fonction qui est continue sur ${\displaystyle \mathbb {R} }$ mais dérivable seulement en de rares points^[4]. Cette fonction est définie par

${\displaystyle f(x)=\sum _{k=1}^{+\infty }{\frac {1}{k^{2}}}\sin(k^{2}x)}$

et n'est dérivable en x que lorsque x = pπ/q où p et q sont des entiers impairs.

En 1872, Karl Weierstrass fut le premier à publier non seulement une, mais toute une famille de fonctions continues et nulle part dérivables. Elles sont définies par

${\displaystyle f(x)=\sum _{k=0}^{+\infty }a^{k}\cos(b^{k}\pi x)}$

où a et b sont des constantes réelles, a étant dans ]0 ; 1[ , b entier impair et le produit ab strictement supérieur à 1 + ^3π⁄₂ (Godfrey Harold Hardy la généralisera de façon optimale en 1916 en montrant que ab ≥ 1 suffit^[10]). Après cette découverte, des mathématiciens en trouvèrent d'autres^[4].

On est allé même plus loin en prouvant que pour une fonction continue arbitraire, il existe une fonction continue partout et nulle part dérivable aussi proche d'elle que l'on désire. Cela signifie que ces fonctions particulières sont particulièrement nombreuses et forment un « gros » ensemble d'un point de vue topologique.

Perception

L'intérêt d'introduire ces fonctions, que l'on qualifie parfois de pathologiques, fut parfois rejeté par les mathématiciens. Citons par exemple Charles Hermite qui déclara en 1893 :

« Je me détourne avec effroi et horreur de cette plaie lamentable des fonctions continues qui n'ont point de dérivées^[11]. »

ou encore Henri Poincaré qui qualifie ces fonctions de « monstres »^{[Note 1]}.

Dans La Valeur de la Science, lorsqu'il faut donner des exemples pour lesquels l'intuition est mise en défaut en mathématiques, Poincaré donne ces fonctions en premier^{[Note 2]}.

La découverte de l'existence de ces fonctions a profondément modifié la vision qu'avaient les mathématiciens du concept de fonction et de celui de courbe. Les fonctions numériques réelles continues sont parfois présentées comme étant celles dont on peut tracer la courbe « sans lever le crayon »^[12]. Or, le graphe d'une fonction continue nulle part dérivable ne peut pas être tracé.

Ces fonctions sont encore considérées, au tournant des années 2000, comme contre-intuitives et comme un facteur bloquant pour l'apprentissage des mathématiques :

« Bien entendu, on sait maintenant qu’il existe des fonctions continues nulle part dérivables, mais, au niveau de l’enseignement secondaire, il n’y a aucun inconvénient à s'appuyer sur l’intuition contraire^[13]. »

Mandelbrot, célèbre pour avoir popularisé les fractales^{[Note 3]}, soutenait au contraire que les courbes continues sans tangentes sont intuitives, mais reconnaissait n'avoir trouvé, parmi ses prédécesseurs, que deux mathématiciens partageant cette opinion^[14].

Un exemple

L'article fonction de Weierstrass présente un exemple historique d'une classe de fonctions continues partout nulle part dérivables. Nous allons en donner une autre.

On définit une fonction par

${\displaystyle g(x):={\begin{cases}1+x&{\text{si }}x\in [-2;0]\\1-x&{\text{si }}x\in [0;2].\end{cases}}}$

Représentations graphiques de ${\displaystyle \color {Red}f_{1}}$,${\displaystyle \color {Blue}f_{2}}$ et${\displaystyle f_{3}\,}$ dont f est la limite.

On peut la prolonger par périodicité sur tous les réels en posant pour tout x réel

${\displaystyle g(x+4)=g(x)}$

On pose alors

${\displaystyle f(x):=\sum _{k=1}^{+\infty }{\frac {1}{2^{k}}}g(2^{2^{k}}x).}$

Cette fonction est continue sur ${\displaystyle \mathbb {R} }$, mais n'est dérivable en aucun point de ${\displaystyle \mathbb {R} }$.

Principe de la construction. La fonction f est limite uniforme de fonctions f_n définies par :

${\displaystyle f_{n}(x):=\sum _{k=1}^{n}{\frac {1}{2^{k}}}g(2^{2^{k}}x).}$

Ces fonctions f_n sont continues, affines par morceaux, mais leurs représentations graphiques sont formées de segments de droites dont les pentes sont de plus en plus raides.

Démonstration

Continuité

Par définition de g, on a

${\displaystyle \sup _{x\in \mathbb {R} }\left|{\frac {1}{2^{k}}}g(2^{2^{k}}x)\right|={\frac {1}{2^{k}}}}$

Or la série géométrique ${\displaystyle \sum _{k}2^{-k}}$ est convergente, si bien que la suite (f_n) converge normalement donc uniformément vers f. Comme de plus ${\displaystyle x\mapsto 2^{-k}g(2^{2^{k}}x)}$ est continue sur ${\displaystyle \mathbb {R} }$, il en est de même de f_n et de sa limite uniforme f.

Dérivabilité

Soit ${\displaystyle x\in \mathbb {R} }$. On va construire une suite de réels (h_n) convergeant vers 0 et telle que

${\displaystyle \lim _{n\to +\infty }\left|{\frac {f(x+h_{n})-f(x)}{h_{n}}}\right|=+\infty }$

ce qui assurera que f n'est pas dérivable en x.

Pour ce x fixé et pour tout ${\displaystyle n\in \mathbb {N} ^{*}}$, on choisit ε_n = ±1 tel que 2²ⁿx et 2²ⁿx + ε_n soient dans le même intervalle de la forme [2N ; 2N+2]. On pose alors ${\displaystyle h_{n}:=\varepsilon _{n}2^{-2^{n}}}$.

• Pour k > n, on sait que 2^2kh_n est un multiple de 4, et comme g est de période 4, on a

  ${\displaystyle g(2^{2^{k}}(x+h_{n}))-g(2^{2^{k}}x)=0.}$

• Pour k = n, on a

  ${\displaystyle |g(2^{2^{n}}(x+h_{n}))-g(2^{2^{n}}x)|=|g(\varepsilon _{n}+2^{2^{n}}x)-g(2^{2^{n}}x)|=1.}$

• Pour k < n, comme on sait, par construction de la fonction g que

  ${\displaystyle |g(b)-g(a)|\leq |b-a|}$

  (la pente de la droite joignant deux points de C_g est toujours comprise entre -1 et 1). On a en particulier

  ${\displaystyle |g(2^{2^{k}}(x+h_{n}))-g(2^{2^{k}}x)|\leq |2^{2^{k}}h_{n}|\leq 2^{2^{n-1}}2^{-2^{n}}=2^{-2^{n-1}}}$

  donc

  ${\displaystyle \left|\sum _{k=1}^{n-1}2^{-k}\left(g(2^{2^{k}}(x+h_{n}))-g(2^{2^{k}}x)\right)\right|\leq \left(\sum _{k=1}^{n-1}2^{-k}\right)2^{-2^{n-1}}\leq 2^{-2^{n-1}}.}$

On peut donc minorer le taux d'accroissement de f en x :

${\displaystyle {\begin{aligned}\left|{\frac {f(x+h_{n})-f(x)}{h_{n}}}\right|&=2^{2^{n}}\left|\sum _{k=1}^{+\infty }2^{-k}\left(g(2^{2^{k}}(x+h_{n}))-g(2^{2^{k}}x)\right)\right|\\&=2^{2^{n}}\left|\sum _{k=1}^{n}2^{-k}\left(g(2^{2^{k}}(x+h_{n}))-g(2^{2^{k}}x)\right)\right|\\&\geq 2^{2^{n}}\left(2^{-n}-\left|\sum _{k=1}^{n-1}2^{-k}\left(g(2^{2^{k}}(x+h_{n}))-g(2^{2^{k}}x)\right)\right|\right)\\&\geq 2^{2^{n}}(2^{-n}-2^{-2^{n-1}})=2^{2^{n}-n}(1-2^{n-2^{n-1}})\\&\longrightarrow +\infty {\text{ quand }}n\to +\infty \end{aligned}}}$

Ceci montre que f n'est pas dérivable en x, or ce point est arbitraire, donc f n'est dérivable en aucun point de ${\displaystyle \mathbb {R} }$.

Densité

Théorème — Toute fonction continue sur [0, 1] est limite uniforme de fonctions continues et nulle part dérivables sur [0, 1].

Cela signifie que pour une fonction ${\displaystyle f:[0,1]\rightarrow \mathbb {R} }$ continue fixée et pour un ${\displaystyle \varepsilon >0}$ arbitraire, il existe une fonction ${\displaystyle g:[0,1]\rightarrow \mathbb {R} }$ continue nulle part dérivable telle que

${\displaystyle \sup _{t\in [0,1]}|f(t)-g(t)|<\varepsilon .}$

En d'autres termes, cela signifie que l'ensemble des fonctions continues et nulle part dérivable est dense dans l'ensemble des fonctions continues, pour la topologie de la convergence uniforme.

On peut énoncer un résultat analogue sur ${\displaystyle \mathbb {R} }$ : toute fonction continue sur ${\displaystyle \mathbb {R} }$ est localement limite uniforme de fonctions continues et nulle part dérivables.

Démonstration

Soit ${\displaystyle f:[0,1]\rightarrow \mathbb {R} }$ continue. On a vu d'après la section précédente qu'il existe au moins une fonction ${\displaystyle g:[0,1]\rightarrow \mathbb {R} }$ continue partout nulle part dérivable. On sait alors que ${\displaystyle f-g}$ est une fonction continue de [0, 1] dans ${\displaystyle \mathbb {R} }$, donc d'après le théorème de Stone-Weierstrass, elle est limite uniforme sur [0, 1] d'une suite ${\displaystyle (P_{n})_{n\in \mathbb {N} }}$ de fonctions polynomiales. La fonction ${\displaystyle f}$ est alors limite uniforme sur [0, 1] des fonctions ${\displaystyle g+P_{n}}$, qui sont continues (comme sommes de deux fonctions continues) mais nulle part dérivables (comme sommes d'une fonction nulle part dérivable et d'une fonction polynomiale donc partout dérivable).

On peut également fournir une démonstration non constructive (c'est-à-dire ne nécessitant pas d'exhiber un exemple de fonction continue nulle part dérivable) utilisant le lemme de Baire^{[15],[16],[17]}.

Démonstration

Si une fonction f est continue sur [0, 1] et dérivable en un point x, la fonction y ↦ (f(y) – f(x))/(y – x), définie ailleurs qu'en x, se prolonge en une fonction continue sur [0, 1] donc bornée. Dans l'espace C([0, 1]) des fonctions continues de [0, 1] dans ℝ, le sous-espace F des fonctions dérivables en au moins un point est donc inclus dans la réunion, pour n ∈ ℕ, des

${\displaystyle F_{n}{:=}\{f\in C([0,1])\mid \exists x\in [0,1]~\forall y\in [0,1]~|f(y)-f(x)|\leq n|y-x|\}.}$

Pour la topologie de la convergence uniforme, chacun de ces F_n est :

• fermé car si f_k ∈ F_n et f_k → f alors f ∈ F_n. En effet, soit, pour chaque k, un témoin x_k de l'appartenance de f_k à F_n. Alors, toute valeur d'adhérence de (x_k) est un témoin de l'appartenance de f à F_n.
• d'intérieur vide car il contiendrait sinon une boule de rayon positif, centrée en un polynôme P (d'après le théorème de Stone-Weierstrass). Or pour toute constante M, on construit facilement une fonction g (par exemple affine par morceaux) telle que P + g appartienne à cette boule et telle que pour tout x, |g(y) – g(x)| > (M + n)|y – x| pour au moins un y donc, en ayant choisi pour M un majorant de |P ' |, |(P + g)(y) – (P + g)(x)| > n|y – x|, d'où une contradiction.

Ainsi, F est maigre. D'après le lemme de Baire, son intérieur est donc vide. Autrement dit : son complémentaire — l'ensemble des fonctions de C([0, 1]) nulle part dérivables — est dense.

Il est même possible d'obtenir un résultat beaucoup plus fort : « presque toute » fonction continue sur [0,1] est nulle part dérivable. Le sens de « presque toute » dans cet énoncé doit être un peu affaibli, car il n'existe pas de mesure de Lebesgue en dimension infinie ; une description précise de la mesure utilisée figure dans l'article espace de Wiener^[18].

Mouvement brownien

Presque toute réalisation du mouvement brownien est continue et nulle part dérivable^[18]. Ceci a fait dire à Jean Perrin, prix Nobel de physique :

« C’est un cas où il est vraiment naturel de penser à ces fonctions continues sans dérivées que les mathématiciens ont imaginées, et que l’on regardait à tort comme de simples curiosités mathématiques, puisque l’expérience peut les suggérer. »

— Jean Perrin