Les Romains utilisaient pour leurs décors muraux des motifs monochromes. Selon Pline l’Ancien, cette forme d’art aurait précédé l’invention des couleurs. Au Moyen Âge, les vitraux, les émaux, les enluminures et les peintures murales étaient souvent en grisaille. Les retables avaient des volets extérieurs en grisaille tandis que l’intérieur était polychrome. La première raison était d’ordre liturgique : pendant la période du carême, on dissimulait la splendeur joyeuse des couleurs sous une présentation austère plus adaptée aux circonstances. L’autre raison résidait dans une volonté d’imiter la sculpture et de montrer la capacité du peintre à évoquer la troisième dimension. Parfois, le peintre juxtaposait grisaille et couleurs et l’épisode traité en grisaille se situait sur un plan symbolique, en marge de la scène représentée.

Avec l’abandon progressif du retable à la Renaissance, la grisaille est employée essentiellement comme esquisse préparatoire à la réalisation de tableaux monochromes, de décors peints, de gravures ou, plus rarement, de tapisseries. Cette fonction de la grisaille subsiste jusqu’à la fin du XIXe siècle. Auparavant, seuls quelques peintres comme le Hollandais Adriaen van de Venne au XVIIe siècle avaient peint des tableaux achevés en grisaille. Au XIXe siècle, les artistes, plus libres de suivre leur inspiration, explorent de nouvelles voies qui passent parfois par la suppression de la couleur.