2002年3月由县级张掖市改设,沿用古地名;《元和郡县志》云:因甘峻山(绀峻山)为名,山因山中泉水,味甘冽而得名;另说因地多甘草而得名。
因地处肃州之南得名。
1913年置东乐县,因在古乐州之东得名;1933年改现名,取人民安居乐业、人民康乐之意命名。
1929年由抚彝县改现名,沿用古地名;因处黑河中游绿洲区,地表水较丰富得名。西晋避文帝(司马昭)讳改昭武县为临泽县。另据《读史方舆纪要》载,因临居延泽为名。据《十三州志》 载: 昭武苏有临泽亭在其东,县以亭名。
据《元和郡县志》载:焉支山,一名删丹山,故以名县;北魏以谐音改今名。