在夏、商、西周时为雍州、梁州边鄙；春秋时属牂牁国；战国时属大夜郎国；秦始皇三十三年（前214）属象郡；汉时属且兰县；前112，汉灭且兰君，以原且兰县城为治所置牂牁郡，开阳属之；魏蜀吴三国、晋朝、南朝宋齐梁陈和隋朝时均属牂牁郡；唐贞观四年（630）在今县境西面双流同知衙置蛮州，后弃为化外；宋蛮州改称大万谷落总管府，开阳属之；元皇庆元年（1312）在今县城东置乖西军民府；明洪武四年（1371），置顺元路，合水西安氏、水东宋氏二土司地置贵州宣慰治所从大羊场（今开阳县城）；永乐元年（1403）于开阳境重置乖西军民府。
明崇祯三年（1630）贵州宣慰同知宋嗣殷因反朝廷被革职，其辖地陈湖十二马头地改置为开州；清康熙二十六年（1687）开州属贵阳府；1914年改开州为紫江县，隶黔中道；1917年改隶贵州省长公署；1927年隶省政府；1930年紫江县改称开阳县；1935年开阳改隶省第一督查区；1937年后改由省政府直辖。
1949年11月15日中国人民解放军解放开阳，解放后初隶贵阳专区；1952年11月贵阳专区改为贵定专区，开阳县属贵定专区；1956年4月18日划归安顺专区；1958年12月29日改隶贵阳市为郊区县；1963年10月21日改属遵义专区；1965年12月25日复归安顺专区；1966年2月2日，经党中央、国务院批准设立开阳特区，开阳磷矿矿务局与开阳特区合署办公，隶属贵阳市，内设政治办公室、人事办公室、农林办公室、财贸办公室、文卫办公室、组织科、宣传科、财政局、公安局、团委、妇联等；1968年3月24日，撤消开阳特区，并入安顺专区开阳县（贵州省革命委员会、贵州省军区1968年3月14日批准）；1970年安顺专区改为安顺地区；1996年1月开阳划入贵阳市。