La création de prévôts chargés de l'exercice de la justice au sein des armées, fut ordonnée en 1534 par François I^er. Ils furent appelés "prévôts de l'armée". Le Roi leur assigna quinze livres par mois de gages, et aux archers sept livres, dix sous. Outre leur solde, ils jouissaient de certains droits particuliers, et avaient les mêmes libertés, privilèges et franchises que les prévôts des maréchaux.
Pour exercer leur office, ils recevait du Roi une lettre de Provision et de Commission. Ces officiers aidés de leurs archers, devaient instruire les affaires de vol, de meurtres ou de violences qui se commettaient en garnison ou à l'occasion des déplacements de la troupe. Il était de leurs devoirs de chasser et châtier les filles de joie, et les goujats qui étaient à la suite des compagnies. Ils pouvaient proposer aux généraux commandant les armées, des règlements et ordonnances de police. Ils devaient empêcher dans les armées, les duels et les jeux de hasard. Les capitaines et soldats étaient tenus de leur obéir en tout ce qu'ils leur ordonnaient pour la justice. L'auteur d'injures, d'outrages en parole ou par geste à leur égard était puni de mort.
Tout délit qui avait lieu aux armées ou dans les troupes était tenu pour délit flagrant et prévôtal. Aux armées, la cour prévôtale était composée du prévôt, d'intendants et de capitaines, à la suite des compagnies, avec les juges du lieu.

Depuis la campagne de 1744, la prévôté générale était en charge de fournir des détachements en campagne pour la police des camps. Ces derniers étaient aidés dans leur tâche, par la maréchaussée provinciale. Lorsque la loi du 6, 7 et 11 septembre 1790 supprima le siège de la Connétablie, l'assemblée organisa des détachements de gendarmerie chargés de la police des armées. Renouant avec la tradition, la loi du 18-23 mai 1792 institua une force publique pour l'exécution des jugements des Cours Martiales et pour veiller au maintien de l'ordre dans les camps. Ces détachements composés d'un capitaine et de 32 hommes montés avaient été établis à la suite de chaque armée. Mais ces effectifs se révélèrent insuffisant et une loi des 30 avril - 21 mai 1793 les augmenta. Ils furent portés à 150 hommes et placés sous les ordres d'un lieutenant-colonel. Après la paix de Bâle, la loi du 28 germinal an III supprimait les divisions de gendarmes à cheval organisées pour le combat. Les plus aptes furent employés à la police des camps et des armées, les autres reprenaient leur place dans les brigades. Par l'arrêté du 18 nivôse An IV (8 janvier 1796), le directoire réduisit l'effectif des détachements.

Dans la loi relative à l'organisation de la gendarmerie nationale du 28 Germinal an VI, le Conseil des Cinq-cents confiait précisément cette mission au corps de la gendarmerie nationale. S'il était devenu un instrument au service des populations, il n'en demeura pas moins un dispositif capable de s'opposer aux désordres engendrés par les soldats. L'article 215 de cette loi, prescrivait que " outre le service dont il est chargé dans l'intérieur de la république, le corps de la gendarmerie nationale fournira en temps de guerre, des détachements destinés au maintient de l'ordre et de la police dans les camps et cantonnements."
Structurée, hiérarchisée, soldée, encadrée, la toute nouvelle République qui menait la guerre sur le sol étranger n'entendait pas que ses troupes se livrent à la dépravation, à la "pillerie" aux violences gratuites envers les populations et cela au mépris des tous nouveaux droits de l'homme. Par son action, elle apportait la liberté et non la désolation ou la misère. Ses troupes étant le bras armé de cet idéal, ne devaient par leurs mauvaises actions jeter l'opprobre sur la France en lui apportant le déshonneur. La République étant une et indivisible, ses lois devaient s'appliquer à tous ses citoyens même qu'ils fussent soldat et hors de France.

Cette loi sera suivie en l'an VII par une instruction du 29 floréal due au général Wirion, suivant laquelle la force publique serait distribuée en proportion de la force de chacune des divisions et en fonction de leurs positions. Ce principe sera conservé durant le Consulat et l'Empire.

Le service de ces formations prévôtales fournis aux armées en temps de guerre, avait pour but d'assurer le maintien de l'ordre et la police des camps et cantonnements. Le commandant de cette force publique étant placé sous les ordres directs du chef d'état-major général de l'armée, le service de ces gendarmes était le suivant :

• En stationnement, les gendarmes étaient chargés du service de correspondance, de celui des escortes et du transfert des prisonniers à l'arrière des lignes.
• Dans les marches, ils escortaient toutes les colonnes d'équipages des divisions auxquelles ils étaient attachés afin d'y maintenir l'ordre et de prendre part à leur défense.
• Sur les champs de bataille, la gendarmerie se tenait à la suite des troupes qui combattaient; les officiers distribuaient les gendarmes le long de la ligne de bataille pendant l'action. Ces militaires, ainsi placés, avaient pour mission de faire rentrer dans la ligne tous les soldats qui s'en écartaient et contraignaient au besoin par le force, les traîneurs, les lâches, les rebelles, les alarmistes ou fuyards, à rentrer dans le rang.
• Lorsqu'il en recevait l'ordre du chef d'état-major, le commandant de la gendarmerie faisait établir des postes et des relais pour assurer les communications entre les troupes sur le terrain, les cantonnements et places occupés. La gendarmerie pouvait aussi être requise pour prêter mainforte à la mise en œuvre des réquisitions ou des levées des contributions dans les pays conquis. Lorsque l'armée entait dans ses cantonnements ou prenait ses quartiers d'hiver, la gendarmerie était aussi chargée du service de police, des tournées et des patrouilles spéciales.
• Les commandants de la gendarmerie avaient aussi pour mission d'envoyer des détachements de l'arme patrouiller pour maintenir le bon ordre et empêcher la maraude.
• Enfin, à chaque quartier général, un piquet de gendarmerie était chargé de la police extérieure et intérieure et devait faire face à des circonstances extraordinaires.

La loi des 18-23 mai 1792 qui avait institué une force publique en campagne après la suppression des juridictions prévôtales (loi des 6-7-11 septembre 1790) n'avait accordait aucun pouvoir judiciaire aux officiers de gendarmerie. Ces derniers ne furent chargés que d'assurer l'exécution des jugements des cours martiales en 1793 puis des conseils de guerre institués en l'An V. Dans les faits, et plus particulièrement durant les guerres de la Révolution et celles de l'Empire, la constitution des conseils de guerres pour juger des infractions légères était disproportionnée. Il fallait cependant, que ces fautes soit jugés pour éviter que les faits ne s'enveniment et ne  dégénèrent. Il fut alors institué un tribunal prévôtal dans chaque quartier général. Ce tribunal tirait sa légitimité de l'instruction du 29 floréal An VII qui précisait que « tous vivandiers, hommes de peine et autres suivant l'armée, qui seront trouvés en contravention aux ordres du général en chef ou des généraux commandant les divisions, seront conduits au commandant de la force publique, pour être ensuite punis suivant l’exigence des cas ». Les grands prévôts et prévôts exercèrent ces pouvoirs judiciaires en compléments des jugements rendus par les conseils de guerre. Leur action fut réglementée par l'ordonnance du 8 mai 1832 sur le service des armées en campagne et par le décret du 1er mars 1854 sur l'organisation et le service de la gendarmerie. Le code de justice militaire du 4 août 1857, viendra donner aux tribunaux prévôtaux, une existence légale.

Avec quelques variantes, apportées par tous les gouvernement qui se succèderont, mais toujours dans le but de faire régner l'ordre et la discipline au sein de la troupe et protéger les populations des pays contre tout acte de violence ou de pillage, l'instruction du 18 avril 1890 précisera avec méticulosité le rôle, la méthodologie et le cadre juridique dans lequel devaient se dérouler les jugements prévôtaux.
Cette instruction énonçait la double mission judiciaire dévolue à la gendarmerie aux armées.

• La première de ces missions consistait, conformément au code de justice militaire élaboré et voté par le parlement le 8 mai 1857 puis promulgué le 9 juin de la même année, de rassembler les preuves et témoignages à l'encontre de tous les individus ayant commis un crime ou un délit passible du tribunal militaire et de le livrer aux autorités militaires pour y être jugé, notamment tout «traîneur qui se livrait à la maraude ou au pillage ». L'enquête ne relevait pas exclusivement des officiers, sous-officiers et commandants de brigade de gendarmerie mais pouvait être confiée aux officiers de police judiciaire militaire.
• Pour la seconde, la gendarmerie pouvait constituer un tribunal d'exception appelé prévôté qui permettait de décharger les conseils de guerres en jugeant immédiatement et sans appel tout le personnel flottant attaché aux armées. Dans ce cas l'enquête était exclusivement du ressort des officiers de gendarmerie. (Grand prévôt, prévôts, capitaines-vaguemestres, commandants des forces publiques). La juridiction prévôtale commençait dès que l'armée opérait sur le territoire étranger.
  
  Elle s'exerçait sur tout le territoire occupé par les troupes. Était justiciable de ces tribunaux :
  • les vivandiers, vivandières,
  • cantiniers, cantinières,
  • blanchisseurs, marchands,
  • domestiques et toutes personnes à la suite de l'armée en vertu de permission.
  • les vagabonds et gens sans aveu,
  • les prisonniers de guerre non officiers.   

Ces tribunaux pouvaient juger et prononcer des peines pour :

•     Des infractions prévues par l'article 271 du Code de justice militaire, lesquelles sont punies d'un emprisonnement ne pouvant excéder deux mois (contraventions de police, infractions aux règlements relatifs à la discipline) ;
• De toute infraction dont la peine ne peut excéder six mois d'emprisonnement et deux cents francs d'amende, ou l'une de ces peines ;
• Des demandes en dommages-intérêts qui n'excèdent pas 150 francs, lorsqu'elles se rattachent à une infraction  de leur compétence.

Il est à noter que les individus employés, à quelque titre que ce soit, dans les états-majors ou dans les administrations et services qui dépendaient de l'armée, n'étaient justiciables que des conseils de guerre* (ex. secrétaires, interprète...etc). Ces tribunaux étaient alors constitué d'un officier de gendarmerie assisté d'un greffier choisi parmi les sous-officiers et brigadiers de gendarmerie. Il pouvait se tenir n'importe où, même dans un champ du moment qu'il y avait un délinquant à juger.

* Le Code de justice militaire du 9 mars 1928 remplacera l'appellation «conseil de guerre» par celle de «tribunal militaire».

Comme sous l'ancien régime, qui avait titré de grand prévôt le prévôt du connétable et de prévôt celui des maréchaux de France, le directoire, dans leur instruction du 29 floréal, donna au général ou au colonel commandant l'ensemble des troupes de gendarmerie détachées le titre de grand prévôt, et à l'officier qui commandait la gendarmerie au sein d'un corps d'armée celui de prévôt. Cette terminologie sera enrichie un peu plus tard d'un troisième degré, celui de commandant des forces publiques pour les niveaux de la division et brigade.

Depuis cette date, tous les textes qui ont réglé le service de la gendarmerie aux armées en ont repris le précepte. Ainsi, Louis Philippe I^er précisera dans son Ordonnance du 3 mai 1832 (Art. 169) que la gendarmerie remplit à l'armée des fonctions analogues à celles qu'elle exerce dans l'intérieur. La surveillance des délits, la rédaction des procès-verbaux, la poursuite et l'arrestation des coupables, la police, le maintien de l'ordre, sont de sa compétence et constituent ses devoirs. Il conservera les termes de Grand prévôt et de Prévôt et énoncera clairement leurs attributions à l'article 171 : Les attributions du grand prévôt embrassent tout ce qui est relatif aux crimes et délits commis dans l'arrondissement de l'armée. Son devoir est surtout de protéger les habitants du pays contre le pillage ou tout autre violence. Les prévôts ont les mêmes attributions.

Sous le second Empire, Napoléon III conserva et adapta ce service spécial dans son décret du 1^er mars 1854. En 1857, les législateurs, dans un soucis de concilier le droit et la spécificité militaire, les définiront précisément dans le Code de justice militaire. Il déterminera et encadrera le rôle et les missions de la gendarmerie aux armées. Pour faciliter l'application de ces textes, le service prévôtal de la gendarmerie sera complété le 18 avril 1890 par une instruction particulière.
Outre sa mission judiciaire, la prévôté devait veiller à ce que les voies de communication ne soient pas encombrées, elle était chargée d'interpeler les militaires s'éloignant du champ de bataille, les déserteurs, de diriger les blessés vers les poste sanitaires, de protéger les blessés et prisonniers de guerre, de s'opposer au pillage, au dépouillement des morts. Après les combats, c'est elle qui recherchait les blessés des deux armées et leur assurer les soins nécessaires, faisait enterrer les morts après constatation de leur identité et faisait récupérer les armes et munitions abandonnées.

Succédant au décret du 1^er mars 1854, le décret organique du 20 mai 1903, permit une nouvelle fois de réunir dans un seul texte l'ensemble des dispositions relatives à l'organisation et aux services de la gendarmerie. Son service aux armées y fut définit comme faisant partie des ses missions fondamentales et fut d'ailleurs précisé dans son titre préliminaire en ces termes : La gendarmerie est une force instituée pour veiller à la sûreté publique et pour assurer le maintien de l'ordre et l'exécution des lois... Son action s'exerce dans toute l'étendue du territoire, quel qu'il soit, ainsi qu'aux armées. 

Du tribunal de la Connétablie qui jugeait les infractions militaires, à celui de la prévôté créé pour juger les "excès, crimes et oppressions" commis par les militaires envers les populations, complétés par les conseils de guerre chargés de juger les manquements à la discipline et des différends entre militaires, le législateur n'a eu de cesse de faire converger le code de justice militaire et le code pénal. D'autres notions, dues à l'évolution du droit international et du droit des conflits armés introduiront des différenciations qui amèneront le législateur à redéfinir l'organisation des prévôtés ainsi que ses missions et son service.

S'appuyant sur le code de procédure pénale, le code de justice militaire, la loi du 24 mars 2005 portant statut général des militaires et le décret de la même année portant organisation générale de la gendarmerie nationale, la prévôté est toujours défini comme étant un service particulier de la gendarmerie nationale institué auprès des forces armées françaises stationnées ou en opération hors du territoire national. Les missions des gendarmes, toujours appelés "prévôt", sont de deux ordres.

• Les missions de police judiciaire avec la recherche et la constatation des infractions commises contre les forces armées française mais aussi par les militaires français. L'arrestation des auteurs et leur renvoi devant les autorités judiciaires. Enquêter, rassembler les preuves, chercher et auditionner les témoins en collaboration, suivant les circonstances, avec les autorités judiciaires locales.
• Les missions de police générale en s'attachant à faire respecter les règlements militaires établis par le commandement, à la police de la circulation à l'intérieur des enceintes militaires, à la sécurité des personnels et de leurs installations...

Les forces prévôtales déplacées sont sous l'autorité d'un officier supérieur qui prend le nom de "commandant de la prévôté". Suivant l'importance des forces projetées et les difficultés du terrain, cet officier dispose d'une ou plusieurs brigades prévôtales. Les forces françaises étant actuellement projetées dans plusieurs pays dans le monde, les commandants des prévôtés de ces différentes forces sont sous les ordres d'un "commandant de la force prévôtale" qui est un officier supérieur ou général auprès du directeur général de la gendarmerie.

Conformément au code de justice militaire, les gendarmes toujours appelés "prévôt", exécutent aux armées, des missions de police judiciaire et de police générale. Leur action été jusqu'à présent, placée sous le contrôle des magistrats du tribunal aux armées de Paris (TAAP). Ce tribunal qui a succédé au tribunal des forces armées (TFA) de Paris, a été créé par une loi du 10 novembre 1999. Il applique les règles de la procédure pénale de droit commun, à deux différences près : aucune poursuite ne peut-être engagée, sauf en cas de crime ou délit flagrant, sans l’avis consultatif du ministre de la Défense et les victimes ne peuvent citer directement l’auteur d’un fait devant le tribunal.
Les fonctions de juge sont exercées par des magistrats  appartenant à l’ordre judiciaire, désignés par décret tous les ans. Ils ne sont pas affectés à titre permanent contrairement au procureur, au substitut et au juge d’instruction qui sont détachés par le ministère de la Justice pour trois ans au ministère de la Défense. Le greffe, est composé de militaires de carrière recrutés par concours spécial parmi les sous-officiers des trois armées.

Les prévôts peuvent soit d'initiative ou sur instruction de ces magistrats, réaliser des enquêtes judiciaires à l'occasion d'infractions commises par les militaires mais aussi contre les forces françaises. Dans ce cas et selon les accords internationaux, les infractions dans lesquelles sont impliquées les populations locales seront instruite suivant les règles de procédure et de droit local sans pour autant exempter les militaires français d'éventuelles poursuites suivants les lois et règlements de notre pays.