汾阳，位于山西省腹地，西依吕梁山，东濒汾河水。南以虢义河与孝义交界，西依薛公岭与中阳县、离石区为邻，北沿墙板山与文水县毗邻。距省城太原不过两百余里，向属于太原郡治下。

隋大业四年，有术士传出畿语，道是“李氏当得天下”，又言汾水发源之处，有王气腾空，乃主新朝之运。炀帝杨广大怒之下，却也是甚为担忧，遂发民夫于此处修建汾阳宫一座，以压地气。