高台历史悠久，汉武帝元鼎六年（公元前111年）设表是县。十六国时，前凉国王张骏在今骆驼城设置建康郡。明景泰七年以甘州卫之高台站，置高台守御千户所。据《读史方舆纪要》“高台者以其地稍高，控扼戎番之要冲也。因西有台子寺为名。高台在千户所二十里，有古台基，后人建寺其上。”清雍正三年，并高台、镇夷二所为高台县。