秦灭罕羌候，置枹罕县。
汉属枹罕县地，三国时属魏。
晋初，地属枹罕护军；永宁中，枹罕县属晋兴郡。
前凉张骏置河州，为兴晋郡治。
西秦徙都枹罕，营建宫室，即今市区枹罕镇境内。
北魏置枹罕镇，后改为州，县废。
西魏复置县，属枹罕郡，隋、唐相沿，仍为枹罕县。
唐宝应元年（公元762），为吐蕃所属。
宋初为枹罕县，后省，地属安乡县。
元沿宋制。
明代县废，设河州卫，为卫驻地。
清不设县，属河州。
民国时，设导河县，后改临夏县。
解放后，1950年设为市，几经分合，1983年恢复市建制，同年8月31日，经国务院批准，成立临夏市（县级）。