전설의 내용은 자장이 태백산 갈반지에서 문수를 만나기로 하고 기다리고 있는데, 노거사( 한 사람이 누더기 가사를 입고 칡 삼태기에 죽은 개 한 마리를 담아들고 와서는 자장을 보러 왔다고 하였다.

그러자 자장이 그 행색을 보고 미친 사람이라 하여 내쫓으니 노거사가 말하기를, "자장이 해탈의 경지에 든 사람인 줄 알고 찾아왔는데 아직도 그 경지에 들지 못하였구나. 사람을 잘못 보고 왔으니 돌아가겠다." 하고 삼태기를 땅에 내려놓으니 죽은 개가 사자가 되어 이를 타고 빛을 내면서 가버렸다. 자장이 이 말을 듣고 빛을 좇아 남령에 까지 올라갔으나 끝내 만나지 못하였다고 한다.

또한 《삼국유사》에는 진정의 출가 수도도 그 배경이 태백산으로 되어 있다. 진정이 졸오에 있으면서 홀어머니를 봉양하던 중 당대의 고승 의상이 태백산에서 법연을 연다는 말을 듣고 그곳에 가고자 하였으나, 차마 어머니를 두고 갈 수가 없어, 눈물을 흘리며 떠나지 못하였다.

이것을 본 어머니가 도리어 아들의 나약함을 꾸짖어 입산을 시키니, 태백산에서 의상의 제자가 되어 머리를 깎고 승려가 되어 법호를 진정이라 하였다. 태백산은 이름이 있는 산이기에 시문이 많으나 오늘 전하고 있는 것은 거의가 한문으로 된 한시문이 많고 개화 이후의 국문으로 된 시문은 거의 없다.

《삼척진주지》의 척주부에는 “푸르고 푸른데 어찌 태백이라 하였던가. 그 위에 당집을 짓고 천왕이라 이름하였네. 신라 · 고구려 때부터 숭상하여 믿었고, 모두 무당과 박수의 도희로세. 저 동쪽을 바라보니 팽나무도 많고, 저 남쪽을 돌아보니 크고 높은 언덕도 많네” 라고 하여 태백산이 신라 · 고려 때부터 토속신앙의 중심지였음을 말하고 있다.

고려시대 최선의 예안 <용수사기>에는 "천하의 명산이 삼한에 많고, 삼한의 명승은 동남쪽이 가장 뛰어나며, 동남쪽에서 가장 두드러진 것이 태백이라."라고 하였고, 역시 고려시대의 안축은 태백산을 소재로 하여 "길다란 동천을 지나 자연에 들어가니, 비로소 높은 꼭대기에 오른 줄 알았노라. 둥근 해는 머리 위에 낮아진 듯, 사방의 여러 산이 눈앞에 떨어졌네. 몸이 나는 구름을 따르니 학을 탔는가 의심되고, 길은 높은 비탈에 달려 하늘에 오르는 듯하구나. 비온 뒤 일만 골짜기에 물이 넘쳐흐르는데, 구불구불한 오십천을 건널 일이 근심된다."라는 시를 남기고 있다.

또한 조선시대의 김시습은 <망태백산이라는 시에서 "멀고 아득한 태백산을 서쪽에서 바라보니, 기암괴석이 구름 사이에 솟아 있네. 사람들은 산마루 신령님의 영험이라 말하는데, 분명코 천지의 조화로세."라고 하였고, 홍우원은 “얽히고 설킨 뿌리도 많고 높이 솟은 형세 구름 사이에 들어 있네, 높은 봉우리는 온갖 흰 옥이 선듯하고 절벽에는 온갖 산울림이 들리네. 소란스럽고 어지러운 세상에 한가롭게 새 · 짐승 떼지어 다니누나. 무릉도원 깊은 곳에 자리 잡고 나의 속세 마음 씻고자 하네."라 하였다.

이밖에도 김방걸을 비롯하여 한말의 우국지사인 송병선 · 곽종석 등 널리 알려진 사람들의 시문들이 남아 있다.

태백산은 육산으로 금강산이나 설악산처럼 기암괴석으로 되어 있는 경승이 없어 시문에 묘사된 모습도 금강산과 같은 정취는 찾을 수 없으나, 산이 높고 주위에 높은 봉우리들이 서로 이어져 능선으로 이루고 있으므로 선계와 갈은 느낌을 주어 시문에도 신선의 영상과 산정의 영이함이 자주 도입되었다.

이는 태백산이 신라 이래로 제행이 올려지는 오래된 신앙처였던 것과도 관련이 있다. 또한 군봉을 이루고 있는 탓으로 삼척의 오십천등과 같이 태백산에서 연유한 계류가 많아 산정에 못지않게 계류에 대한 묘사가 시문에 자주 등장하고 있다