S’installe à Paris en 1960, et sort diplômé de l’École nationale supérieure des Beaux-Arts de Paris en 1964. Dès 1966, son travail est visible dans plusieurs expositions personnelles et collectives, Impact au Musée d’Art Moderne de Céret, Distances au Musée d’Art Moderne de la ville de Paris en 1969, aux côtés de Jaques Poli et Hervé Télémaque, ou Douze ans d’art contemporain au Grand Palais en 1972. En 1987, c’est à la galerie de France qu’il présente ses travaux, puis en 1994 à la galerie Maeght, Barcelone. Il expose régulièrement autant dans les institutions publiques que privées. En 1968, il participe à la mise en place du département Art de l’Université de Vincennes-Paris VIII. Il y enseigne de 1969 à 1975. Il enseigne ensuite à l’École des Beaux-Arts de Marseille-Lumigny, puis à l’École nationale supérieure des Beaux-Arts de Paris pendant près de vingt ans. Les œuvres de Joël Kermarrec sont entrées dans les collections de différents musées et institutions publiques, telles que celles du Musée d’Art Moderne de la ville de Paris, du Centre Georges Pompidou, de la Fondation Maeght, du FNAC, du CNAP, et des FRAC Ile-de-France, PACA, et Languedoc-Roussillon.