广义的终南山，泛指秦岭。
狭义的终南山，指秦岭山脉的中段。东始蓝田，西经长安、户县、周至，西至宝鸡市眉县一段。
按古人的说法，终南山地理范围是“横亘关中南面，西起秦、陇，东彻蓝田，凡雍、歧、郿、鄠、长安、万年，相去且八百里。”
终南山在中国人心中，文化意义大于地理意义。
首先，天下修道，终南为冠。相传终南山楼观台就是当年道家之祖老子的讲经之处。老子之后，又有张鲁在此传播发展五斗米教，陈抟老祖创立老华山派，王重阳创立全真教，继而推动了道教的振兴。
其次，终南山是中国神仙信仰的策源地。据传西周的开国元勋姜子牙，在出山辅佐周文王之前，就是在终南山隐居，渭水河畔垂钓。后来于139岁时圆满升仙。
以及中国民间传说中的“赐福镇宅圣君”钟馗，本是终南山进士。还有大家熟知的八仙过海中的吕洞宾、钟离权也是在终南山隐遁炼丹。因此，终南山在中国人看来就是仙人出没的洞天福地。
其实，不光是中国人，据说韩国的道教祖庭也在终南山，每年韩国的道教界人士都会不远千里来此朝拜。
为什么中国名山大川如此之多，唯有终南山在人们心中的地位如此之特殊呢？
首先，这是自然地理赋予的先天条件。终南山位于秦岭的中段，而秦岭作为中国南北地理的分界线，横亘中国中部，因此，终南山就无可争议地成为了中国的中心，也就是《中国国家地理》所谓的“中国的中央公园”。
在地质构造上，秦岭是一个掀升的地块，北麓为一条大断层崖，崖陡壁峭，巍然突起。冬天，阻挡寒潮往南进入南方地区；夏天，阻挡湿润海风进入北方地区。此线南北，无论是自然条件、农业生产方式，还是地理风貌以及人民的生活习俗，都有不同。全国“南米北面”、“南船北马”、“南涝北旱”的地理格局皆出于此。
用道家的观点来看，这无疑是一条天然的阴阳线。山南为阳，山北为阴，“分野中峰变，阴晴众壑殊。”试问，还有哪座山更符合《淮南子·诠言篇》中所说的“洞同天地，浑沌为朴，未造而成物，谓之太一。”或许，正是此原因，终南山又名太乙山。
其次，这有人文地理上的便利。终南山位于十三朝古都西安的正南部，离市中心不过四五十公里，是名副其实的皇家后花园。历代帝王都视其为避暑御寒、度假休闲的风水宝地。随着唐科举制度的兴盛，文人志士或为求仕而游、或历山川而习，天子脚下的终南山自然是他们的不二之选。因此，终南捷径一词并非徒有其名，唐朝书生卢藏用就是用隐居终南山这种行为艺术实现了他的加官进爵的政治目的。而无论是落第者还是顺利入仕的官员，或隐于此，或建别业于此，终南山对他们都有相当的吸引力。
唐代诗人笔下经常出现“北阙”和“南山”这两个词。这里的“北阙”象征至尊至高的君王，“南山”一方面象征长寿，另一方面象征朝臣对天子的至卑至恭。作为长安区域文化地理的必然延伸，终南山成为拱卫辅弼皇权、朝廷之官僚群体的人格化身。
仕途屡屡碰壁，但仍很想做官的孟浩然就写有《岁暮归南山》：“北阙休上书，南山归敝庐。不才明主弃，多病故人疏”。终南山可谓是横亘在文人士子心里最南端的一条底线。退隐终南山成为他们经世理想的一种变相坚守。
一方面，唐宗室认道教始祖老子为圣祖，大力尊崇道教，在终南山修建了规模宏大的宗圣宫。另一方面达官贵人们在樊川大肆修建别墅和私人园林，一时间原本以清幽著称于世的道教圣地变得热闹非凡。
直到宋失中原，终南山成为南宋与金人的分界线。全真道创始人王重阳又修道于终南山附近之刘蒋村、南时村，终南山遂成为全真道最早的发祥地。因此，当丘处机大兴全真道后，即用大力开拓终南山之宫观，使终南山道教走向鼎盛。
