- Auditeur à la Cour des comptes (1983), rapporteur devant la Commission centrale des marchés (1983-1986) et devant la Commission d'accès aux documents administratifs (1985-1986)
- Conseiller référendaire à la Cour des comptes (1987)
- Chargé de mission à la direction générale de la SNCF (1987-1989) puis adjoint au directeur financier (1989-1991)
- Avocat général à la Cour des comptes (1993-1995)
- Directeur adjoint du ministre de l'aménagement du territoire, de l’équipement et des transports, puis du ministre de l’équipement, du logement, des transports et du tourisme (1995-1997)
- Membre du Comité interministériel de restructuration industrielle (1997)
- Directeur des affaires économiques et internationales au ministère de l’équipement, des transports et du logement (1997-2001)
- Directeur du cabinet du ministre de l'agriculture, de l'alimentation, de la pêche et des affaires rurales (2002-2004)
- Conseiller spécial du ministre de l’économie, des finances et de l'industrie (2004-2005)
- Conseiller maître à la Cour des comptes depuis 2000
- Maire de Marly-le-Roi depuis 2001 et Premier vice-président de la Communauté d’agglomération Saint-Germain Boucles de Seine depuis 2016*
- Membre de la Commission de surveillance de la Caisse des Dépôts depuis 2017, mandat renouvelé le 15 février 2023.
Jean-Yves Perrot a été premier adjoint au maire de Marly-le-Roi (1989-1995), conseiller régional d’Ile-de-France (2004-2010) et président de la communauté de communes Saint Germain, Seine et forêts (2014-2015)