清代，先后隶属于迪化直隶州、迪化府、迪化县，并在现六道湾、七道湾建立惠来堡、屡丰堡，实行屯田。
1949年属迪化市第五区和迪化县第十五区。
1956年5月，从乌鲁木齐市五区和乌鲁木齐县一区各划出一部分成立水磨沟工矿区。
1960年，更名为景泉人民公社。
1961年，恢复水磨沟工矿区。
1969年，更名为水磨沟区。
1987年12月，乌鲁木齐市政府决定将卡子湾街道办事处划归东山区，1989年1月将天山区新民路街道办事处划归水磨沟区，1998年1月，从新民路、六道湾两个街道办事处各划出一部分成立南湖街道办事处。
2000年8月将乌鲁木齐县七道湾乡交水磨沟区代管，2001年1月，乌鲁木齐县七道湾乡（不含卡子湾村）和原东山区芦草沟乡水磨沟村正式划归水磨沟区。
2002年成立南湖北路街道办事处，南湖街道办事处更名为南湖南路街道办事处。
2006年撤销七道湾乡，建立七道湾街道办事处。
2007年12月，米东区芦草沟乡的石仁子沟、葛家沟、涝坝沟3个村移交水磨沟区管理。
2008年1月，成立风景区管委会（筹备办公室），负责石仁子沟、葛家沟、涝坝沟3个村行政管理和旅游开发工作。
2009年5月18日，成立农村事务管理办公室，负责石仁子沟、葛家沟、涝坝沟3三个村的行政事务管理工作。