Michel Jacques Daniel Piccoli ist der Sohn von Henri Piccoli, Geiger und Marcelle Expert-Bezançon (1892–1990), Pianistin und Tochter des französischen Industriellen und Politikers Charles Expert-Bezançon. 1954 heiratete Michel Piccoli die Schauspielerin Éléonore Hirt, mit der er eine Tochter, Anne-Cordélia Piccoli, hatte. 1966 heiratete er die Sängerin Juliette Gréco, 1978 dann die Drehbuchautorin Ludivine Clerc, mit der er zwei Kinder polnischer Herkunft, Inord und Missia, adoptierte.

Der junge Piccoli wird in einer Einrichtung für Problemkinder untergebracht und stellt sich gegen seinen Großvater mütterlicherseits, Senator der Dritten Republik, Finanzier der Radikalen Partei und bedeutenden Industriemaler, der von der Gewerkschaftslinken und von Georges angeklagt wird Clemenceau, der seine Arbeiter mit Bleiweiß berauscht hatte, was zu einer Bleivergiftung führte.

Anschließend absolvierte Michel Piccoli zunächst eine Schauspielausbildung bei Andrée Bauer-Théraud und dann bei Simon. Nach einem Auftritt als Statist in „Sortilèges“ von Christian-Jaque im Jahr 1945 gab Michel Piccoli sein Filmdebüt in „Le Point Du Jour“ von Louis Daquin. Im Theater zeichnete er sich bei den Ensembles Renaud-Barrault und Grenier-Hussot sowie am Théâtre de Babylone aus. Er wurde 1954 im Film „French Cancan“ bekannt, stand weiterhin auf der Bühne und arbeitete mit den Regisseuren Jacques Audiberti, Jean Vilar, Jean-Marie Serreau, Peter Brook, Luc Bondy, Patrice Chéreau und André Engel zusammen und wurde auch in populären Fernsehfilmen bekannt . Nachdem er nach einem Trauerfall in der Familie Atheist geworden war, lernte er 1956 Luis Buñuel kennen und übernahm ironischerweise die Rolle eines Priesters in „La Mort En Ce Jardin“. 1959 drehte er in Algier „Le Rendez-Vous De Noël“, einen Kurzfilm von André Michel nach der Kurzgeschichte von Malek Ouary „Le Noël Du Petit Cireur“. Die 1960er-Jahre brachten seine Hingabe zum Ausdruck, die in „Le Doulos“ von Jean-Pierre Melville zum Ausdruck kam und mit „Le Mépris“ von Jean-Luc Godard an der Seite von Brigitte Bardot international bekannt wurde. Von da an tourte er mit den größten französischen und internationalen Filmemachern wie Alfred Hitchcock, Luis Buñuel, Youssef Chahine, Manoel de Oliveira...

Er begann die 1980er Jahre mit dem Interpretationspreis des Cannes-Festivals 1980 mit „Le Saut Dans Le Vide“ von Marco Bellocchio und dem des Berliner Festivals 1982 mit „Une Étrange Affaire“ von Pierre Granier-Deferre. Er arbeitete mit Jacques Doillon und Leos Carax zusammen, bevor er sich als Regisseur versuchte. 2001 erhielt er den IX. Europapreis für Theater. Er war Teil der Jury der 60. Filmfestspiele von Cannes im Jahr 2007 unter dem Vorsitz von Stephen Frears. 2011 spielte er in „Habemus Papam“ von Nanni Moretti. Der letzte Film, in dem Michel Piccoli auftritt, ist der Film „Le Goût Des Myrtilles“ von Thomas de Thiers aus dem Jahr 2013.

Michel Piccoli, politisch links engagiert, Mitglied der Friedensbewegung (Kommunist), zeichnete sich durch seine Positionen gegen den Front National aus und mobilisierte für Amnesty International.

Michel Piccoli starb am 12. Mai 2020 an den Folgen eines Schlaganfalls in seiner Villa in Saint-Philbert-sur-Risle in Eure. Seine Beerdigung findet am 19. Mai 2020 in Évreux statt, wo er eingeäschert wird und seine Asche im Familienbesitz verstreut wird.