Fils unique, Hervé Temime naît en 1957, à Alger. En 1961, la famille s’installe en France, à Versailles. Orphelin de père à dix ans, sa vocation d’avocat pénaliste lui vient très tôt à l’adolescence. Après l’obtention d’un bac scientifique, il effectue ses études de droit à l’université de Sceaux puis celle d’Assas.
En 1979, il remporte le concours d’éloquence du barreau des Yvelines, puis installe son premier cabinet dans son appartement, à Versailles. Au début des années 80, il fait la connaissance de Thierry Herzog, et rapidement ils vont décider de s’associer. En 1983, les deux avocats fondent leur cabinet à Paris.
Parallèlement, en 1980, Hervé Temime devient premier secrétaire de la conférence du stage du barreau de Versailles. En 1991, il fonde l’association des avocats pénalistes, qu’il préside depuis. Par ailleurs, il est membre du Conseil de l’ordre des avocats au barreau de Paris entre 1999 et 2002.
Hervé Temime gagne de nombreux procès en droit pénal des affaires ce qui lui permet d’accroître sa renommée. En 2008, il fonde le cabinet Temime & associés spécialisé dans le droit pénal. En 2012, lors des Trophées du droit, le cabinet d’avocats reçoit le Trophée d’or dans la catégorie droit pénal des affaires. Spécialiste de la défense pénale des personnes physiques et morales, Hervé Temime a défendu de nombreuses personnalités lors de procès très médiatisés; Roman Polanski, Liliane Bettencourt, Bernard Tapie, Stéphane Delajoux, Nathalie Baye, Laura Smet, Gérard Depardieu ou encore Richard Berry.
En 2012, Hervé Temime publie son autobiographie, La Défense dans la peau.
Côté vie privée, il a été le compagnon de l’actrice Valérie Lemercier pendant plusieurs années.
Le 10 avril 2023, Éric Dupond-Moretti annonce sur Twitter la mort d'Hervé Temime. Il est décédé des suites d’une dissection aortique à l’âge de 65 ans. Ses obsèques ont lieu le 14 avril 2023 au cimetière du Montparnasse à Paris.