汉时为车师后王国，西突厥建可汉浮图城。
唐贞观十四年（640）置庭州并设金满县，长安二年（702）置北庭都护府于今后堡子古城。
景龙三年（709）升为大都护府。
宋辽属高昌回鹘。
元设别失八里行尚书省，治所在后堡子古城。
明代是蒙古和硕特部游牧地。
清乾隆三十七年（1772）筑恺安城。
清乾隆四十一年（1776）设济木萨县丞，属阜康县。
清光绪二十年（1894）改名孚远。
清光绪二十八年（1902）置孚远县，属迪化府。
1929年属迪化行政区。
1950年属迪化专区，全县设置5区、17乡。
1953年孚远改称吉木萨尔县，归乌鲁木齐专区管辖。
1954年辖7区24个乡。
1956年设吉木萨镇。
1958后辖7个人民公社。
1965年恢复吉木萨尔镇，共辖1镇，5个公社，1984年全县恢复乡级政权后，共辖3镇、6乡。