清明虽是二十四节气之一，但清明祭墓习俗由来已久，在西周时便已出现，汉魏时得到官府大力提倡，唐代约定成俗。
汉魏时期，光武帝刘秀以孝为本，提倡清明扫墓。于是，各级官员以祭扫祖坟为荣。南北朝时的官员动辄回府扫墓以至于达百日之久。到了唐代，官员清明扫墓之风在民间得以普遍效仿并约定成俗。唐玄宗开元二十年（722年）正式诏告天下：“寒食上墓，宜编入‘五礼’，永为恒式。”于是，清明日益成为举国上下非常重视的民俗性节日。唐宪宗元和元年，曾下诏领京师官员寒食扫墓，在京城以内者，可于假日中往返，在外州县者也可奏请拜墓。在唐诗中描写清明的作品也颇多，如杜牧的七言绝句：“清明时节雨纷纷，路上行人欲断魂。借问酒家何处有？牧童遥指杏花村。”
建国前的清明时，族中男子到祖庙祭祖毕，把准备好的饭菜酒浆分给族人，席地共餐，有的还在祠堂备办宴席，俗称吃“公饭”，是日还商议族中大事，或对“忤逆不孝者，偷盗淫乱者”进行处罚。《兴平县志》曰：“清明拜扫，作纸钱焚于墓所。姻戚以纸钱相遗，互相拜墓。”《高陵县志》曰：“清明前二日为寒食，家长率子弟，妇女往祭坟，若有葬在去年者，则前一日祭，曰‘新坟’。”《续修醴泉县志稿》曰：“清明前一日为寒食节。凡丧未逾三年者，先奠祭之，名曰上新坟。至清明日，上坟烧化纸钱，先茔有残缺者，亦于是日修补，名曰‘拜扫’。”《同官县志》曰：“新丧加多以是日（寒食）备酒馔、冥资上新坟，清明日，再备至祖先墓拜扫献新，并以五色纸剪长络悬树上，随风飘扬。”
清明时节，人们祭祀祖先扫墓，小孩头上戴柳条圈，家家门口栽柳树。一方面这个时候正是植树的大好时节，“清明时节雨纷纷”，柳树一见雨水很容易成活。另一方面“柳”与“留”谐音，含有对祖先的怀念之情。
相传，唐朝末年，朝廷腐败，官员骄奢淫逸，横征暴敛，加上水灾旱灾虫灾，农民无法生活。官逼民反，山东出了个农民英雄黄巢，天不怕，地不怕，带领穷人向朝廷造反，称“冲天大将军”。他率10万人马从北向南，一路攻占城府，杀贪官污吏，开粮仓，赈济穷民。朝廷官兵闻风而逃。清明节的前一天，天下着小雨，黄巢率领义军，一马当先，冒雨追杀官兵。听前面不远处人声吵嚷，黄巢一看，是一群扶老携幼逃避的难民。在人群后边，有个妇女，手里拉着一个四五岁的孩子，小孩不住地哭着叫妈妈抱，妇女连哄带吓：“好乖乖，快跑，乱兵来了要杀人的。”黄巢见此情形，觉得奇怪，心想，天下哪有这样偏心的妈妈。黄巢到跟前，举刀喝道：“站住！”妇人吓得扑通跪下，苦苦哀求道：“大人，要杀就杀我和我手拉的自己生的小孩吧，后背驮的是我丈夫前妻遗留下的孩子，请大人开恩，留下这个孤儿一命，我就是九泉之下，也忘不了大人的恩德。”黄巢见此情形，心中感叹：“这真是个贤惠人，难得，难得！”于是，他就放下手中的刀，说：“我不杀你，你也不要跑了。把孩子带回去。明天我军经此，你在屋檐插上柳枝，就可以平安无事。”说罢，调马头追杀官兵去了。这个妇女回到家中，将此事告诉邻居，一传十十传百，第二天正好是清明节，黄巢大军经过，见到家家户户门檐有柳枝，认为都是贤惠人家，兵听将令，丝毫未动。并大开官府粮仓，赈济贫民。此后，清明节插柳、栽柳的风俗就流传下来。
尊祖祭祖是中华民族的优秀传统，清明节是我们这个提倡孝道的国度里的特殊产物，也是春节、元宵节之后最隆重的祭祖活动。关中人寒食和清明一起过，俗称“寒食”，共三天，清明节前一天叫做“丹蒙”（蒙古语“乙”的叫法），清明节当天即第三天叫做“正寒食”。如今寒食习俗已断，纪念祖先风气盛行。清明节，人们都要上祖坟烧化纸钱祭拜，出嫁姑娘赶回娘家上坟。意在追念祖先（即所谓“慎终追远”），追念往圣先贤，以激励后来者艰苦创业。历朝历代以至如今，还要祭奠中华民族的人文初祖轩辕黄帝，改革开放以来，港、澳、台以及海外赤子都派代表参加。宝鸡市于清明节还要祭奠炎帝。