Il est né à Paris le 16 janvier 1924. Son grand-père était orfèvre ; son père, ingénieur électricien, fut un inventeur qui s’intéressa aux locomotives électriques, puis au cinéma, et travailla pour Léon Gaumont.

 Après avoir suivi des études à Paris au cours Hattemer, puis au lycée Condorcet, et enfin au lycée Henri-IV, Henri-Jean Martin intègre l’École des Chartes en 1943. Il suit alors les cours de Pierre Marot et d’Émile Coornaert. Il rédige une première thèse Un polémiste sous Louis XIV : Eustache le Noble, 1643-1711) et obtient le diplôme d’archiviste-paléographe en 1947. Grâce à Julien Cain, membre de son jury de thèse, il est nommé en 1947 bibliothécaire à la Bibliothèque nationale, dont il critique les lenteurs et les méthodes ; il est alors affecté au catalogage des livres érotiques de l’ « Enfer ».

 Son étude des techniques de l’imprimerie et de la gravure en font un spécialiste de la « bibliographie matérielle ». Il se spécialise dans l’étude des faux et des ouvrages clandestins. Sa connaissance savante et pratique des plus anciens imprimés valent à cet ancien pensionnaire de la Maison Descartes (1952) d’être recommandé par Fernand Braudel et Émile Coornaert à Lucien Febvre, qui avait le projet d’un volume consacré à l’invention de l’imprimerie pour la collection « L’évolution de l’humanité ». En 1958, signé de L. Febvre et H.-J. Martin, est publié L’apparition du livre (Paris, 557 p.). Lucien Febvre étant mort en 1956, c’est Henri-Jean Martin qui a rédigé l’essentiel de cet ouvrage qui est à la naissance d’une discipline nouvelle, l’histoire du livre, de sa fabrication, des artisans et des marchands, et des outils, sans négliger son influence sur la diffusion des textes anciens et des idées nouvelles. Il fait l’objet de nombreuses traductions. Désormais, le livre est étudié sous ses différents aspects : intellectuel, mais aussi matériel, technique, commercial. Après la publication de cet ouvrage, H.-J. Martin demande à être détaché au CNRS où, pendant quatre ans (1958-1962), il poursuit en parallèle des études ; il obtient sa licence ès lettres en 1962 et prépare une thèse d’État.

 Il poursuit sa carrière comme conservateur (1962-1964), puis comme bibliothécaire en chef des bibliothèques de la ville de Lyon (1964-1970). Il y accomplit une tâche considérable, fondée sur un souci d’ouverture qui s’exprime au travers d’expositions et de la création d’une « Collection des travaux publiés sous les auspices de la ville de Lyon ». Il est un des premiers à envisager les applications de l’informatique documentaire à la gestion des bibliothèques. Plus encore, c’est sous son impulsion que la municipalité décide la construction de la nouvelle bibliothèque centrale (27 000 m2) dont la localisation – le quartier de la Part-Dieu en pleine restructuration – dit le souci d’ouverture à tous les publics. Ce dessein est manifeste encore dans le développement des bibliothèques d’arrondissements et des « bibliobus » prêtant aux groupes et dans les entreprises. Le personnel des bibliothèques municipales passe de vingt à cent vingt personnes. D’autre part, il soutient, avec Maurice Audin et André Jammes, la création du musée de l’Imprimerie. Ses nombreuses responsabilités lyonnaises ne l’empêchent pas d’être directeur d’études à l’EPHE (École Pratique des Hautes Études) en Histoire et civilisation du livre à partir de 1963 et de préparer une thèse de doctorat d’État, soutenue en 1968, publiée chez Droz l’année suivante sous le titre : Livre, pouvoirs et société à Paris au xvii^e siècle (1598-1701), 2 vol. 1969, 1091 p.

 Lorsqu’il est nommé à l’École nationale des Chartes sur une chaire de « Bibliographie et histoire du livre », créée pour lui, H.-J. Martin quitte Lyon. Son séminaire contribue largement à la création d’une École française de l’Histoire du livre qui inspire d’autres histoires nationales du livre. En 1982, il entre au Comité des travaux historiques et scientifiques de la ville de Paris. Beaucoup d’autres ouvrages suivent tels Le livre français sous l’Ancien régime (Paris : Cercle de la Libr., 1987, 302 p.), sans oublier sa codirection avec Roger Chartier de l’Histoire de l’édition française (Paris : Promodis, 4 vol., 1983-1986), dont il a rédigé lui-même une grande partie.

 Sa vive curiosité – au soir de sa vie, il parle encore avec passion des traces laissées par les anciennes routes du Haut-Beaujolais –, son ouverture au monde font qu’il laisse dans l’histoire du livre une empreinte institutionnelle (son rôle dans l’émergence de la nécessité d’une École des bibliothèques) autant que méthodologique, en particulier dans ses derniers travaux consacrés au pouvoir de l’imprimé (Histoire et pouvoirs de l’écrit, Paris : Perrin, 1988, 518 p., prix Gobert de l’Académie française) ou, à l’aube du xxi^e siècle, ses ouvrages consacrés à la « mise en texte » et à la « naissance du livre moderne » liée à l’apparition des paragraphes tel La Naissance du livre moderne (Paris : éd. Cercle de la Lib., 2000, 491 p.).

 Il meurt à Paris le 13 janvier 2007, ayant terminé un livre : Aux sources de la civilisation européenne (publié après sa mort, Paris : Albin Michel, 2007, 698 p.), qui remonte aux formes les plus anciennes de communication. La plupart de ses ouvrages ont été réédités plusieurs fois et sont parfois mis en ligne.

 Outre la Légion d’honneur (1988), il mérite un grand nombre de prix pour ses travaux et est distingué ou invité par plusieurs universités ou bibliothèques étrangères. Il a reçu la Médaille d’argent du CNRS.