古北口历史悠久，有近4500年的建置史。
据《通献通考》《密云县志》载：唐属冀州，虞属幽州，称冀州。
夏属冀州，据《密云县志》载：“夏省幽并为冀州”。
商属冀州，据《密云县志》载：“商周仍之”。
西周属燕之冀州。
东周，燕国在古北口筑墩设防以阻止东胡进犯，俗称北口。
秦划三十六郡，古北口属幽州渔阳郡。
汉代，据《史记》载：“渔阳郡领燕乐、要阳、白檀三县，古北口属渔阳郡要阳县。”三国，曹魏统一北方时期仍属渔阳郡。
西晋，据《史记》载：“惠帝之后，后赵、前燕、前秦三国相继之时，属幽州渔阳郡。”南北朝，属渔阳郡燕落县，在古北口筑有石砌长城，有铁门关之称。
隋朝，开皇初年修造燕冀段长城防御契丹，古北口成为长城三十一个军镇之一，属安乐郡燕落县。
唐初，属燕落县并入密云县属檀州，据《唐书》载，古北口曾设守捉之职。
古北口自唐代始获其名，因是唐幽州（今北京）之北重要长城关口而得名“北口”。
五代，后晋石敬塘割幽云十六州给辽，古北口随檀州密云县归辽。
北宋，金将燕山前的涿、易、檀、顺、景、冀六州归宋，古北口随檀州密云县归宋后又被金夺回。
金泰和五年（1025年），设北口城，属密云县，称留斡岭。
元代，设古北口驿。
仍属檀州密云县。
明洪武十一年（1378年），设守御千户所。
明洪武三十年（1397年），古北口关城升为密云后卫，下辖左、右、中、前、后5个千户所。
清代，属顺天府密云县。
民国元年（1912年），中华民国建立后，古北口属河北省密云区。
民国二十三年（1934年）1月15日，古北口改属热河省公署管辖。
民国二十三年（1934年）3月4日，古北口由蓟密区行政督察公署管辖。
解放战争时期，古北口由承兴密联合县管辖。
民国三十五年（1946年），河东与河西合并恢复密云区，设古北口镇。
1961年，设古北口公社。
1983年，改古北口乡。
1990年，建古北口镇。