岳麓山其山脉属南岳衡山，古人把岳麓山列为南岳七十二之一，称为灵麓峰。南北朝刘宋时《南岳记》载“南岳周围八百里，回雁为首，岳麓为足。”故名岳麓。据地质学考证，岳麓山奠基于古生代，形成于中生代，发展于新生代，距今三亿余年。

岳麓山云麓峰左侧峰峦上著名的“禹王碑”是岳麓山古老文化的象征，是宋代摹刻至此的。这块碑石刻有奇特的古篆字，字分9行，共77字。相传4000多年前的洪荒时代，天下被淹没洪水之中，大禹为民治水，到处奔波，疏导洪流，竟“七年闻乐不听，三过家门不入”，最终制服了洪水，受到百姓的尊重。传说大禹曾到过南岳，并在岣嵝峰立下了这块石碑。东汉赵哗《吴越春秋》就记载了这一传说：“禹登衡山，梦苍水使者，投金简玉玉字之书，得治水之要，刻石山之高处。”唐代韩愈为此登临岣嵝峰寻访禹碑，虽未亲见，却留下了“蝌蚪拳身薤叶拨，鸾飘风伯怒蛟螭”的诗句。1212年（宋嘉定五年），何致游南岳，在岣嵝峰摹得碑文，过长沙时请人翻刻于岳麓山颠。宋以后，碑被士所掩。明代长沙太守潘镒找到此碑，传拓各地，自此禹碑名闻于世。现在全国各地有10余处禹碑，据说都是由岳麓山禹碑复刻的，由此也可见它的珍贵。
　　

岳麓山还有一块著名的碑刻??麓山寺碑。碑高近3米，宽1米多，由唐代著名文学家、书法家李邕撰文和书写，黄仙鹤刻石。碑额篆书“麓山寺碑”4个大宇，碑文共1400余字，骈散文体兼用，叙述了麓山寺自晋泰始（265-274）年间建立至唐开元（713-741）立碑时500年间的兴废修葺、历代禅师宣扬佛法的经过，以及岳麓山的佳丽风光。
　　
由于此碑的文采、书法、刻工都精湛独到，所以人们又称它“三绝碑”。“三绝碑”在中国古代碑刻艺术中声誉很高，碑字用行书是此碑新创，笔力雄健浑厚，后起书法大师，如苏、米芾等都沿袭其法。元代书法大家赵孟自言：“每作大字一意拟之”。自古至今，许多著名文人游览岳麓山时都特意来观摩此碑，宋代的张、明代的李东阳等都留下了吟咏它的诗篇，可见其对后人影响之大。

唐代是诗的盛期，当骆宾王、杜甫；李白、李商隐等著名诗人往来吟咏古长沙时，湖南本地的俊杰之士王磷、李群玉等也才华毕露，撰文作诗，联句竞对。

宋代，岳麓山产生了一则湖湘学派的创始人之一胡寅怒斥奸臣的故事。南宋初年，金兵不断南侵，宋高宗赵构偏安江左，执掌朝柄的秦桧等人畏敌如虎，一味妥协投降，胡寅目睹国家的内忧外患，心急如焚，对南宁朝廷极为不满，对秦桧之流深怀憎恨，他愤而辞去京官，请示归回湖南和父亲胡安国、弟弟胡宏等一同居住生活。一次，胡寅正在长沙岳麓山游览麓山寺，突然听到秦桧党羽刘旦来湖南做官的消息，他非常气愤，便挥笔在墙壁上大书“是何南海之鳄鱼，来作长沙之鸟。”南海鳄鱼的比喻，来唐代韩愈的《祭鳄鱼文》。传说韩俞初任南海边潮州刺吏，知道恶溪中有鳄鱼把百姓的牲口几乎吃光了，便写了《祭鳄鱼文》投入恶溪命鳄鱼限日离开潮州迁往南海，否则将弓矢捕杀殆尽，结果鳄鱼惧怕潜走，以后潮州永无鳄鱼。刘旦恰好是潮州人，胡寅是将他比喻成了那凶残虚伪的潮州鳄鱼，又到长沙来为害百姓了。刘旦见了这题句，知道是在讥讽自己，便向秦桧告状。胡寅因而落职，20年不再做官。这表现出胡寅和其他湖湘学派创始人一样，节操凛然，一身骨气，为岳麓秀山增色不少。