古为东夷国之地，历经各历史时期隶属演变，自隋开皇十六年（596）置即墨县起，市北区境域一直属即墨县。
1891年6月清朝在胶州湾设防，青岛正式建置。
1897—1914年（德占时期），属埠头区所辖。
1914—1932年辖小鲍岛区、孟家沟区。
1933年3月称第三自治区。
1935年称大港区联合办事处。
1937年改称市北区建设办事处。
1949年5月，青岛成立市北区军政委员会。
同年9月，成立市北区人民政府。
1950年3月改称为市北区公所（即青岛市政府派出机构）。
1951年7月，改称市北区人民政府。
从1949年6月青岛解放至1994年5月，青岛市进行了5次区划调整，市北区均属青岛市市区。
1994年5月12日，原市北区和台东区合并，四方区划拨吴家村、错埠岭2个街道，崂山区及高科园划拨杨家群、河马石、夹岭沟、曲家庵子、浮山后、埠西6个行政村组建市北区，同年5月28日，市北区成立。
2024年12月3日，撤销青岛市市北区、四方区，设立新的青岛市北区，以原市北区、四方区的行政区域为新的市北区的行政区域。