Durant l'entre-deux guerres, Moulin devient chef de cabinet du préfet de Savoie sous l'administration Millerand, puis est nommé sous-préfet d'Albertville, puis celui de Châteaulin. En Décembre 1932, Pierre Cot le nomme chef adjoint aux Affaires étrangères sous la présidence de Paul Doumer. En Janvier 1934, il se retrouve sous-préfêt de Thonon et chef de cabinet de Cot sous la présidence d'Albert Lebrun. Mais c'est en Janvier 1937 que Moulin est nommé préfet de l'Aveyron - le plus jeune préfet de France. Son intérêt et son lobbying en faveur de l'aviation lui creusent une niche dans la réserve de l'Armée de l'Air où il est nommé sergent de réserve en Décembre 1938. En 1939, il est nommé préfêt d'Eure-etLoir à Chartres.

Lorsque la guerre éclate en Septembre 1939, Moulin se porte volontaire pour s'incorporer à l'aviation, mais il échoue son test médical à cause d'un problème de vue. Il faut dire également que le ministère de l'Intérieur l'oblige à conserver son poste de préfet pour encadrer la population déjà inquiète. Après la débâcle, il est arrêté par les Allemands en Juin 1940 parce qu'il refuse d'accuser une unité de tirailleurs sénégalais d'avoir commis des atrocités sur des civils qui avaient, en fait, péri par des tirs allemands. Moulin est maltraité et incarcéré parce qu'il refuse de coopérer. Il essaie de se suicider en prison avec un morceau de verre cassé, mais il est réchappé de justesse et conservera une grande cicatrice au cou. Lorsque le régime de Vichy s'installe, Moulin est démis de ses fonctions de préfet le 2 Novembre 1940 à cause de ses opinions radicales-socialistes. C'est à ce moment qu'il choisit la résistance, d'abord par la plume de son journal Premier Combat où il relate ses mésaventures avec les Allemands à Chartres, puis par son besoin de savoir en quoi constitue le mouvement de résistance à l'égard de l'occupant afin d'en faire rapport à Londres, à la première opportunité qui lui sera offerte. Moulin arrive à Londres en Septembre 1941 via le Portugal et fait son compte-rendu détaillé à de Gaulle - un rapport que contestera plusieurs petits réseaux naissants en France. De Gaulle le charge d'unifier les réseaux de résistance sur le territoire français afin d'en faire une sorte d'armée secrète chaperonnée par la France libre. De Gaulle lui donne un ordre de mission, des moyens financiers et de communication et va se faire parachuter dans les Alpilles le 2 Janvier 1942. En Novembre 1942, Moulin a réalisé une unification fonctionnelle des réseaux dans le sud de la France via un Comité de coordination avec les groupes d'allégeance communiste. Ce n'est pas une chose facile, car Moulin doit composer avec les egos et les ambitions de plusieurs cadres clandestins comme Henri Frenay, Emmanuel d'Astier, et Jean-Pierre Lévy. Moulin retourne en Angleterre pour faire rapport à de Gaulle et à son adjoint Delestraint (chef de l'armée secrète). En gros, son rapport se résume à ceci: les mouvements acceptent de s'unifier pour des raisons d'efficacité mais leurs chefs acceptent mal d'avoir à recevoir leurs ordres de Londres. De Gaulle décore Moulin de la Croix de la Libération et revient en France en Mars 1943 pour diriger le Conseil national de la Résistance (CNR), tâche ingrate étant donné la tiédeur des chefs de réseaux locaux. Sa première séance plénière se tient clandestinement à Paris le 27 Mai 1943. Il parvient à se faire admettre comme le chef du CNR aux yeux de ces mêmes chefs de réseau et, aux yeux des Alliés, comme l'embryon d'une assemblée politique représentative. A son tour, le CNR reconnaît de Gaulle comme le chef légitime de l'État français. Fait à noter, Moulin participera également à la création au maquis du Vercors.

Moulin est arrêté par les Allemands le 21 Juin 1943 à Caluire durant une réunion où participaient plusieurs chefs locaux de la résistance. Après avoir été identifié et interrogé par le chef de la Gestapo de Lyon, Klaus Barbie, Moulin est transféré à la prison de Paris où il est torturé. Il meurt des suites de ses blessures au moment de son transfert dans la gare de Metz alors qu'il était amené à Berlin pour y être interrogé. Après la guerre, un cénothaphe sera aménagé au Panthénon où de Gaulle et Malraux lui feront des éloges émouvants en Décembre 1964.