Jean Michel Palagos est né à Birmandreis en Algérie, en 1951.
A 27 ans, il devient officier de l’armée de terre, en 1978.
Après l’obtention d’une maîtrise en droit et un diplôme de l’Institut d’Etudes Politiques de Paris, il entre au Contrôle Général des armées en 1992, et est nommé Contrôleur Général en 2000.
Entre 1997 et 1999, il devient conseiller au cabinet d’Alain Richard, puis directeur – adjoint du cabinet du secrétaire d’Etats aux anciens combattants. Il prend par la suite la direction des ressources humaines du ministère de la Défense en 2000.
En 2005, il publie aux Editions Lavauzelle, un livre appelé « Le nouveau statut général des militaires ».
Il est affecté par décret du 31 janvier 2008 en deuxième section par anticipation et sur sa propre demande. Il est nommé directeur – adjoint du Cabinet Civil et Militaire de M.JY Le Drian par arrêté du 17 mai 2012, puis réintégré dans le gouvernement par arrêté du 22 juin 2012.