灵台历史悠久，远在商周时期就先后建有密须国、密国。
秦代置鹑觚、阴密二县。
东汉后期设三水县。
东晋南北朝，曾先后设立过鹑阴、朝那、安武等县。
隋大业元年（605年），分鹑觚置灵台县，取文王伐密筑“灵台”之意，灵台县名始见于史册。
同年西部始置良原县，鹑觚、良原、朝那三县均属安定郡。
隋大业二年（606年），废灵台、阴密入鹑觚。
唐武德元年（618年），复置灵台县，属麟州。
贞观元年（627年）废麟州，省灵台入麟游，天宝元年（742年），改鹑觚及析麟游为灵台县。
元七年（1271年），省灵台入泾川。
十一年（1281年），复置，以良原县省入。
清康熙六年（1667年），分陕西置甘肃省，灵台县遂入甘肃。
民国元年（1912年）灵台属泾原道；民国十六年（1927年），废道，灵台县直隶甘肃省。
民国二十五年（1936年），原泾原道划为第二行政督察区，灵台县属之。
1949年7月24日，灵台县全境解放，成立灵台县人民政府。
1958年10月，撤销灵台县并入泾川县。
1961年12月，恢复灵台县。