中国的山水画，先有设色，后有水墨。设色画中先有重色，后来才有淡彩。
中国的水墨山水画始于唐代，成于五代，盛于宋元，明清及近代以来续有发展。以笔法为主导，充分发挥墨法的功能。“墨即是色”，指墨的浓淡变化就是色的层次变化，“墨分五彩”，指色彩缤纷可以用多层次的水墨色度代替之。
水墨山水画这种形式的出现是唐代诗人王维的发明，他利用禅宗的思维来创作山水画，体会禅宗那种不拘于形式的行为风格，只用水墨来表现山水，达到了意境深远，淡泊的目的。这种形式立刻被禅宗僧人所接受。禅宗水墨画兴起于南宋时期，这一时期禅宗南派也更为繁荣，许多饱学之士不满当局偏安江南，纷纷逃禅为僧，以求寄托，僧侣的文化水平随之提高。一批禅宗僧侣画家亦应运而生。他们以禅宗南派“顿悟”思想指导绘艺，着墨不多，深藏玄机；题材不拘，皆作禅理；所绘有一种“只可意会、不可言传”的情调。其中梁楷、牧溪(又名法常)最为著名，通过这些禅宗画家的努力，水墨山水一时风靡大江南北，取代了以青绿来描绘山水的画风。
