Fils d'un notaire, Jean-Pierre Jouyet naît à Montreuil le 13 février 1954. Jean-Pierre Jouyet obtient une licence de droit à l'Université de Rennes, avant de rejoindre l'Institut d'études politiques de Paris puis l'ENA. Au sein de cette école, il côtoie notamment François Hollande et Michel Sapin avec qui il fonde un syndicat pour réformer l'ENA. Au terme de ces études, Jean-Pierre Jouyet démarre sa carrière à l'Inspection générale des finances.
En 2007, sous la présidence de Nicolas Sarkozy, il devient secrétaire d’état aux Affaires européennes jusqu'en 2008, puis président de l'Autorité des marchés financiers jusqu'en 2012. Sous le mandat de François Hollande, Jean-Pierre Jouyet est nommé secrétaire général de la présidence de la République française de 2014 à 2017. L'homme politique est par la suite ambassadeur de France au Royaume-Uni de 2017 à 2019.
En 2014, François Fillon poursuit en justice Jean-Pierre Jouyet après que celui-ci ait déclaré auprès de journalistes que François Fillon aurait sollicité l'Elysée pour accélérer les poursuites judiciaires contre Nicolas Sarkozy. Le tribunal le relaxe de cette plainte.
Côté vie privée, Jean-Pierre Jouyet épouse Maryvonne Kerdavid le 21 juillet 1981, avec qui il a quatre enfants : Pierre-Étienne, Jérôme, Raphaël (décédé en 2012), et Inès. Le couple divorce, et Jean-Pierre Jouyet épouse en secondes noces Brigitte Taittinger le 28 janvier 2006. Ils ont ensemble un enfant, une fille, et leur mariage a lieu en présence d'un témoin qui n'est autre que François Hollande.