Symmetric decreasing rearrangement is sometimes continuous

<p>This paper deals with the operation<inline-formula content-type="math/mathml"><mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" alttext="script upper R"><mml:semantics><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi class="MJX-tex-caligraphic" mathvariant="script">R</mml:mi></mml:mrow><mml:annotation encoding="application/x-tex">\mathcal {R}</mml:annotation></mml:semantics></mml:math></inline-formula>of symmetric decreasing rearrangement which maps<inline-formula content-type="math/mathml"><mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" alttext="bold upper W Superscript 1 comma p Baseline left-parenthesis bold upper R Superscript n Baseline right-parenthesis"><mml:semantics><mml:mrow><mml:mrow class="MJX-TeXAtom-ORD"><mml:msup><mml:mrow class="MJX-TeXAtom-ORD"><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi mathvariant="bold">W</mml:mi></mml:mrow></mml:mrow><mml:mrow class="MJX-TeXAtom-ORD"><mml:mn>1</mml:mn><mml:mo>,</mml:mo><mml:mi>p</mml:mi></mml:mrow></mml:msup></mml:mrow><mml:mo stretchy="false">(</mml:mo><mml:mrow class="MJX-TeXAtom-ORD"><mml:msup><mml:mrow class="MJX-TeXAtom-ORD"><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi mathvariant="bold">R</mml:mi></mml:mrow></mml:mrow><mml:mi>n</mml:mi></mml:msup></mml:mrow><mml:mo stretchy="false">)</mml:mo></mml:mrow><mml:annotation encoding="application/x-tex">{{\mathbf {W}}^{1,p}}({{\mathbf {R}}^n})</mml:annotation></mml:semantics></mml:math></inline-formula>to<inline-formula content-type="math/mathml"><mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" alttext="bold upper W Superscript 1 comma p Baseline left-parenthesis bold upper R Superscript n Baseline right-parenthesis"><mml:semantics><mml:mrow><mml:mrow class="MJX-TeXAtom-ORD"><mml:msup><mml:mrow class="MJX-TeXAtom-ORD"><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi mathvariant="bold">W</mml:mi></mml:mrow></mml:mrow><mml:mrow class="MJX-TeXAtom-ORD"><mml:mn>1</mml:mn><mml:mo>,</mml:mo><mml:mi>p</mml:mi></mml:mrow></mml:msup></mml:mrow><mml:mo stretchy="false">(</mml:mo><mml:mrow class="MJX-TeXAtom-ORD"><mml:msup><mml:mrow class="MJX-TeXAtom-ORD"><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi mathvariant="bold">R</mml:mi></mml:mrow></mml:mrow><mml:mi>n</mml:mi></mml:msup></mml:mrow><mml:mo stretchy="false">)</mml:mo></mml:mrow><mml:annotation encoding="application/x-tex">{{\mathbf {W}}^{1,p}}({{\mathbf {R}}^n})</mml:annotation></mml:semantics></mml:math></inline-formula>. We show that even though it is norm decreasing,<inline-formula content-type="math/mathml"><mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" alttext="script upper R"><mml:semantics><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi class="MJX-tex-caligraphic" mathvariant="script">R</mml:mi></mml:mrow><mml:annotation encoding="application/x-tex">\mathcal {R}</mml:annotation></mml:semantics></mml:math></inline-formula>is not continuous for<inline-formula content-type="math/mathml"><mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" alttext="n greater-than-or-equal-to 2"><mml:semantics><mml:mrow><mml:mi>n</mml:mi><mml:mo>≥<!-- ≥ --></mml:mo><mml:mn>2</mml:mn></mml:mrow><mml:annotation encoding="application/x-tex">n \geq 2</mml:annotation></mml:semantics></mml:math></inline-formula>. The functions at which<inline-formula content-type="math/mathml"><mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" alttext="script upper R"><mml:semantics><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi class="MJX-tex-caligraphic" mathvariant="script">R</mml:mi></mml:mrow><mml:annotation encoding="application/x-tex">\mathcal {R}</mml:annotation></mml:semantics></mml:math></inline-formula>is continuous are precisely characterized by a new property called<italic>co-area regularity</italic>. Every sufficiently differentiable function is co-area regular, and both the regular and the irregular functions are dense in<inline-formula content-type="math/mathml"><mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" alttext="bold upper W Superscript 1 comma p Baseline left-parenthesis bold upper R Superscript n Baseline right-parenthesis"><mml:semantics><mml:mrow><mml:mrow class="MJX-TeXAtom-ORD"><mml:msup><mml:mrow class="MJX-TeXAtom-ORD"><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi mathvariant="bold">W</mml:mi></mml:mrow></mml:mrow><mml:mrow class="MJX-TeXAtom-ORD"><mml:mn>1</mml:mn><mml:mo>,</mml:mo><mml:mi>p</mml:mi></mml:mrow></mml:msup></mml:mrow><mml:mo stretchy="false">(</mml:mo><mml:mrow class="MJX-TeXAtom-ORD"><mml:msup><mml:mrow class="MJX-TeXAtom-ORD"><mml:mrow class="MJX-TeXAtom-ORD"><mml:mi mathvariant="bold">R</mml:mi></mml:mrow></mml:mrow><mml:mi>n</mml:mi></mml:msup></mml:mrow><mml:mo stretchy="false">)</mml:mo></mml:mrow><mml:annotation encoding="application/x-tex">{{\mathbf {W}}^{1,p}}({{\mathbf {R}}^n})</mml:annotation></mml:semantics></mml:math></inline-formula>. Curiously,<inline-formula content-type="math/mathml"><mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" alttext="script upper R"><mml:semantics><mml:mrow class="MJX-TeXAtom-ORD"><m ...