中华文化历史悠久，博大精深，形成了很多异于世界其它民族文化的独特文化现象，“香道文化”即是其中之一。追根溯源，可以用始于春秋、成长于汉、诸备于唐、鼎盛于宋、风行明清进行概括。
东汉蔡邕《琴操》所述，相传孔子在从卫国返回鲁国的途中，于幽谷之中见香兰独茂，不禁喟叹：“兰，当为王者香，今乃独茂，与众草为伍！”遂停车抚琴，成《猗兰操》！虽然颂咏的不是沉香，但他以物寄情，物与神交，确立了品香与儒家人格的内在联系，奠定了它丰富的文化内涵，可以视之为中华“香道文化”之发端。
两汉时期流行焚香，东汉时期就有相关文献记载。《交州异物志》：“密香，欲取先断其根，经年，外皮烂，中心及节坚黑者，置水中则沉，是谓沉香……”出土的青铜和陶器中，用于焚香的博山炉器型轻盈挺拔，炉盖仙峰层叠，焚香时轻烟似雾从空谷中缭绕而出，这是何等情境交融的境界，我们不得不佩服汉代先民天马行空、丰富浪漫的想象力。至魏晋南北朝时期，民间流行熏衣沐浴，视熏香为雅事。文人高士，隐于林泉，焚香操琴，成为上流社会时尚。相传“竹林七贤”中的嵇康，精于操琴，不但留下了千古绝唱《广陵散》，也是一位精于香道的高手。
盛唐时期，如何鉴香、品香已达“道”的完美境界。在陕西扶风法门寺的地宫中，出土了两千多件皇家恩赐的器物，其中的银香熏，设计成可闭合的悬挂镂空球状，上面刻有华丽精致的纹饰，巧思妙制，令人赞叹。同时出土的还有描金沉香山子若干块，这些都一一列出并刻记在地宫出土的记账石碑上。依山峦走势进行描金，说明沉香在当时已是十分贵重之物，为皇家、佛界所珍。而这些器物则见证了唐代香道的诸法具备和成熟。
香道发展至宋代更为鼎盛。宋徽宗赵佶追求道家澹泊靜穆的境界，而香道恰好与这种精神相契合。宋代五大名窑汝、官、哥、钧、定，受其影响，存世器物中均有大量仿古钟鼎的精美香炉。北京故宫博物院藏有传为赵佶所绘的《听琴图》，描绘了一位身着素服的文士，端坐松下，轻抚琴弦，身傍香几上放置一个造型精致的鼎式香炉，一缕清烟袅袅上升，斜风轻拂，飘向操琴者的上方，形象地展现了文人高士焚香操琴的场景，这也是宋徽宗心境的写照。诗人墨客，为我们留下了大量品香、颂香的优美诗章。“棐几砚含鸐鹆眼，古奩香斫鹧鸪斑。”（南宋，陆游）；“长安市里人如海，寄靜菴中日似年。梦中小炉花影转，小炉犹有睡时香。”（《全宋诗》周紫芝）。形象地描绘了文人生活的一个侧面。张择端所绘巨制风俗图卷《清明上河图》，描写了首府汴京集市上繁闹的场景，画中绘有专门经营香料 “刘家上色沉檀揀香铺” 的画面。证明宋代焚香、品香再也不是皇家贵胄的专利，已经进入了社会各阶层，甚至平民百姓之家。