临潭为古代洮州之地。
夏、商、周临潭属古雍州之地。
春秋战国时期，这里为诸羌所据。
秦始皇统一六国，临潭为陇西郡临洮县（今岷县）辖地。
汉代，仍以临洮名之。
西晋惠帝于292年置洮阳县，隶属秦州。
自西晋永嘉之乱至十六国末，被吐谷浑占据。
南北朝时周遣大使巡查天下，首次设置洮州，随之又置洮阳郡汎潭县。
隋开皇十一年（591），改汎潭县为临潭县。
唐贞观十三年（639）为陇右道洮州临潭县。
五代时期，临潭继为吐蕃控制，至后唐长兴四年（933）归顺后唐，升洮州为保顺军。
北宋初为吐蕃玛尔晋所占，仍称临洮。
大观二年（1108），再改临洮为洮州，归秦凤路辖。
南宋绍兴四年（1134），为金所占。
南宋嘉定十二年（1219），临潭为蒙古兵所占，直至宋灭。
元初归宣政院辖，属吐蕃宣慰司统领，置洮州，下领可当县（今临潭县新城）。
明洪武四年置洮州军民千户所，隶河州卫。
十二年（1379），升洮州军民千户所为洮州卫军民指挥使司，隶陕西都司。
清乾隆十三年（1748）改洮州卫为洮州厅，隶属甘肃省巩昌府。
1913年，改洮州厅为临潭县，属兰山道辖。
1938年，甘肃省调整行政督察区，临潭隶属第一督察区。
1949年9月27日成立临潭县人民政府，为岷县专区管辖。
1950年划入临夏专区（现临夏回族自治州）管辖。
1953年划归甘南藏族自治州至今。