清乾隆二十四年（1759），清平定大小和卓叛乱，统一新疆后，吉木乃隶属塔尔巴哈台参赞大臣管辖。
清同治六年（1867），清设布伦托海办事大臣兼领塔城、阿尔泰事务，属之。
八年（1869），撤布伦托海办事大臣，阿尔泰归科布多参赞大臣管辖，属之。
光绪三十二年（1906），科布多、阿尔泰分治，吉木乃始属阿尔泰办事大臣管辖。
1916年，设吉木乃县佐。
1930年，吉木乃县佐升格为县，隶属阿山行政区。
1950年，属阿山专区。
1954年，隶属阿勒泰专区。
1970年，属阿勒泰地区。