Född i New York 1930. Studerade musik och musikologi på Harvard, där han tog examen 1952. Kom till Frankrike samma år för att fortsätta sina musikstudier, vilket han efter kort tid övergav för att i stället ägna sig åt litteraturen. Fick sina första dikter publicerade i tidskrifter 1956. Påbörjade sin första roman 1958 efter att ha läst Raymond Roussel. Grundade 1961 tidskriften Locus Solus tillsammans med tre New York-poeter (bland John Ashbery, som också blev en nära vän). Blev 1970 bekant med Georges Perec, som fick med honom i Oulipo, Verkstad för potentiell litteratur, 1973. Har också kommit att översätta åtskilliga franska böcker. Sedan 1978 undervisar han med ojämna mellanrum på ett flertal amerikanska universitet. Delar för närvarande sitt liv mellan Frankrike och USA.