Qu'il s'agisse d'une règle de conduite mise en pratique par plusieurs membres d'un groupe ou d'une habitude ancrée dans le temps, la coutume, dont la durée de l'usage est variable, est transmise de génération en génération. Cette pratique forme un droit qui est nommé « le droit coutumier ». D'abord, pour qu'une coutume soit reconnue comme telle, elle doit remplir le critère matériel, c'est-à-dire ne pas être écrite. Ensuite, la coutume s'appuie également sur le fait que les habitants sont persuadés que cette règle est obligatoire. Il s'agit du critère psychologique. Incluant obligatoirement ces deux critères matériel et psychologique, un autre aspect doit être pris en compte. En effet, c'est également un système juridique qui repose sur un ensemble de règles qui doivent absolument être répétées dans le temps.

Le Bhoutan, le Sri Lanka et la Mongolie sont aujourd'hui les uniques pays pratiquant le droit coutumier de façon générale. Et pour cause, de nombreux débats prennent vie autour de la place de la coutume en droit. Les écoles s'affrontent, certaines refusant classiquement toute place à la coutume tandis que d'autres constatent l'existence effective de telles coutumes en droit français.

Le droit français est par ailleurs composé de sources formelles du droit avec entre autres la loi, la jurisprudence, la doctrine, les principes généraux. L'ensemble de ses sources ont leur place à part entière dans la hiérarchie de normes. Mais le droit est aussi constitué grâce à des sources juridiques informelles avec par exemple les sources non écrites telles que les coutumes, justement, ou la doctrine.

Nous nous interrogeons alors : la coutume est-elle une source première de droit ?

Dans un premier temps, nous étudierons la coutume en tant qu'intruse dans la pyramide de Kelsen et presque inexistante du droit, à travers l'exemple de l'école du normativisme. Cependant, l'école réaliste affirme que ce droit a tout de même une place dans le système juridique française, ce que nous décrirons dans une seconde partie.

I) La coutume seule, intruse dans la pyramide de Kelsen

A. L'interaction de la coutume avec l'ordre juridique

À l'heure actuelle, la place laissée à la coutume dans le droit français dépend du rôle que les juridictions lui confient. Dans la majorité des cas, la coutume interagit avec la loi. Nous pouvons par ailleurs distinguer plusieurs formes d'interaction entre la coutume et la loi.

La première, dite « secundum legem », signifie que la coutume est établie conformément au texte de la loi.  Nous pouvons par exemple citer l'interprétation des contrats, matière au sein de laquelle le juge interprète un contrat en fonction de ce qui est d'usage dans un pays.

Ensuite, la coutume peut venir compléter la loi, même s'il s'agit d'un cas relativement rare. On parlera alors de « coutume praeer legem ». L'exemple principal est celui du nom de la femme mariée, qui se voit attribuer automatiquement le nom de son mari. Cette tradition date du 19e siècle, lorsque les femmes n'avaient aucun pouvoir d'un point de vue juridique. Cette puissance maritale a disparu, mais la coutume, pour sa part, est restée.

Enfin, la loi peut rendre la coutume inapplicable et dans ce cas, sa pratique ne sera pas autorisée. Par exemple, nous pouvons citer la transmission d'un objet de façon manuel en échange d'un gain pécuniaire. En effet, c'est une pratique coutumière et admise par la majorité des citoyens. Pourtant, cette pratique n'est pas conforme au Code civil.

Ces différentes interactions de la coutume avec l'ordre juridique sont analysées différemment, selon les écoles de pensée, et notamment celle du normativisme, qui est à l'origine de l'existence de la hiérarchie des normes.

B. La vision de la coutume à travers le prisme du normativisme

Le normativisme, développé par Hans KELSEN (1881-1973), est une théorie qui met en avant le fait que les règles de droit forment un ensemble cohérent, hiérarchisé, et au sommet duquel se trouve une norme supérieure : la Constitution. Cette norme suprême est, dans l'esprit de chaque citoyen, un texte très stable, un socle qui ne peut pas être modifié en fonction des habitudes et pratiques d'un groupe de personne données. En effet, les principes constitutionnels demeurent toujours, malgré les changements politiques, économiques, sociologiques ou environnementaux qui peuvent provoquer des évolutions dans les pratiques des membres de la société.

Au sein de la pyramide des normes, chaque source de droit va tirer ainsi sa validité de la norme supérieure : la loi de la Constitution et des traités, les arrêtés de la loi, les circulaires des décrets, etc. Logiquement et dans cet esprit, la coutume est donc contestée comme norme à part entière de l'ordre juridique.

Pour certains pourtant, cette approche ne semble pas correspondre au système juridique français actuel et au rôle que les juridictions laissent à la coutume.

II) La coutume, sa place comme source minoritaire du droit

A. La pratique du droit coutumier en France

En France, la coutume ne produit pas de normes constitutionnelles, desquelles découle l'ensemble des normes juridiques en France. Par ailleurs, le Conseil constitutionnel ne s'est jamais basé sur une coutume pour édicter une règle, quelle que soit cette dernière.

À l'époque actuelle et depuis la Révolution française, la France dispose d'assemblées constituantes et législatives par la création, par exemple, des communes et des départements et la naissance de la Déclaration des Droits de l'Homme et du Citoyen du 26 août 1789. De cette déclaration émane des principes généraux du droit (principe général du droit à l'égalité), mais qui ne s'apparentent pas à des coutumes. En effet, contrairement à la coutume, les PGD ont une place reconnue par le juge dans la hiérarchie des normes.

De plus, au contraire des Principes Généraux du Droit, la validation du juge n'est pas nécessaire pour que la coutume existe.

La coutume occupe alors une place restreinte en droit français. Pourtant, des exemples d'usages peuvent être relevés. Mayotte, à titre d'illustration, dispose d'une justice partagée entre la tradition locale et le droit national. Le département, par exemple, se base sur des coutumes africaines et malgaches. Ainsi, la société mahoraise traditionnelle fonctionne sur les principes de la prééminence du groupe sur l'individu, de la matrilinéarité (filiation définie dans la lignée maternelle) et de la matrilocalité (résidence de la famille chez la mère).

Certains courants de pensée, dont celui du réalisme, se basent sur l'existence et la pratique de la coutume en France.

B. La vision de la coutume à travers le prisme du réalisme

Le réalisme juridique a pris naissance aux États-Unis, il y a plus d'un siècle. Il s'agit d'un courant de pensée qui se veut comme définissant le droit « réel », c'est-à-dire tel qu'il est vraiment, en dehors de toute influence philosophique, politique ou morale. Le droit et les coutumes ne doivent pas être compris en dehors de leur application. L'accent est porté sur ce qui existe à l'instant existant et non sur ce que le droit devrait être.

Oliver Wendell Holmes (1841-1935) résume parfaitement cette approche lorsqu'il écrit que « la vie du droit ne réside pas dans la logique ; elle tient dans l'expérience ». Et comme l'expérience, les coutumes peuvent évoluer en fonction des différentes préoccupations de la société : égalité femmes-hommes, écologie, pratiques des services publics français, etc.

Cependant, nous pouvons reprocher à la coutume de ne pas résulter d'un choix mûrement réfléchi et rationnel. La coutume est imprécise et ne répond pas à des situations nouvelles ou exceptionnelles, ce qui explique que malgré la constatation de l'existence effective de telles coutumes en droit français, cette dernière ne s'applique que d'une façon seconde. Elle ne se suffit pas à elle-même en tant que norme juridique. C'est une source minoritaire du droit.

Aujourd'hui, la coutume est en train de disparaître peu à peu, puisqu'elle n'a de valeur que s'il n'existe pas de loi contraire à celle-ci et que l'ordre juridique s'étoffe chaque jour de nouvelles législations. Dans la hiérarchie des normes, cette dernière prend sa force à travers la loi et non à travers sa seule existence.