崂山地区夏、商、西周为莱夷地。
春秋时属东莱，战国时期属齐国。
秦始皇帝二十六年（前221），置琅琊郡（后置胶东郡），崂山地区属之。
西汉时设不其县，辖崂山境，属琅琊郡。
东汉建武六年（30），于不其县境内置不其侯国。
东汉光和年间（178—183）至三国时期，不其县属东莱郡。
晋咸宁三年（277）至南北朝时期，属长广郡，郡治设不其城。
北齐天保七年（556），废不其县，其地并入长广县。
隋开皇十六年（596），不其县故地并入即墨县，至清光绪二十四年（1898），崂山境域均属即墨县，其中明洪武二十一年（1388）置鳌山卫，境内军户属之；清雍正十二年（1734）裁鳌山卫，归并于即墨县。
清光绪二十三年(1897)前属即墨县乡区。
清光绪二十四年（1898）3月6日，德国逼迫清政府签订中德《胶澳租借条约》，白沙河以南、砖塔岭以西的崂山地区划入租借地。
1914年11月，日本取代德国侵占青岛，崂山地区被日军侵占。
1922年12月10日，中国收回青岛主权，设胶澳商埠督办公署，崂山地区属之。
中华民国十八年1929年7月，南京国民政府将胶澳商埠政区改为青岛特别市，崂山地区属之。
1935年7月1日，青岛市郊扩大，将属即墨县的崂山东部地区划归青岛市；沿新界以南区域设立青岛市乡区，辖李村、崂东、崂西、夏庄、阴岛5个区，直属青岛市管辖。
1938年1月10日，崂山地区再次被日军侵占。
1945年8月，日本投降，南京国民政府接收青岛，崂山地区属青岛市。
1949年5月，崂山行政办事处（县级），其辖区隶属胶东行政区南海专区。
人民解放军接管青岛，设南海专署崂山行政办事处，辖流亭、夏庄、惜福镇、王哥庄、返岭、沙子口、南宅科、乌衣巷等8个区。
1950年5月，改属胶州专区。
1951年6月，崂山行政办事处划归青岛市，将青岛市李村区、浮山区，四沧区5个村、即墨县10个村、即东县4个村划入崂山行政办事处，设立流亭、夏庄、惜福镇、崂东、崂西、乌衣巷、浮山、李村、楼山9个区；同年10月，行政办事处迁至李村。
1953年6月，改为青岛市崂山郊区；撤销浮山区，其5个村划归崂西区，6个村划归李村区，10个村划入市南区。
1956年7月，撤销8个区建制，改建为32个大乡；崂东区作为派出机构，代管王哥庄、山河、台上、返岭、山海5个乡。
1958年9月，撤销乡建制，崂山区成立李村、惜福镇、王哥庄、夏庄、仙家寨、北宅、中韩、沙子口等8个人民公社。
1961年3月，将即墨县的棘洪滩、城阳、马哥庄、河套、红岛5个公社划归崂山郊区；同年6月，小管岛划归即墨县；同年10月，设立崂山县。
1962年11月，仙家寨公社的13个村组成楼山公社。
1966年11月，大管岛划归即墨县。
1979年1月和1983年9月，李村公社的3个村先后划归沧口区。
1984年4月，县所属13个公社改为乡镇。
1988年11月，经国务院批准，撤销崂山县，设立青岛市崂山区，以原崂山县的行政区域为崂山区的行政区域，辖李村镇、城阳镇、流亭镇、夏庄镇、惜福镇、棘洪滩镇、上马镇、中韩镇、沙子口镇、王哥庄镇、红岛乡、河套乡、北宅乡13个乡镇和李村街道。
“崂山区”作为行政区划地名由此正式启用。
1991年1月，红岛、河套、北宅3个乡撤乡设镇。
1992年4裕泻虮磺嗟菏腥嗣裾嗟焊呖萍脊ひ翟啊?/p>
1994年4月，经国务院批准，青岛市市区行政区划作重大调整，设立新的崂山区，将崂山区李村镇的杨家群、河马石、夹岭沟、曲家庵4个村和中韩镇浮山后、埠西2个村（七号线以西的区域）划归市北区；李村镇张村河以北的区域划归李沧区；李村镇的河崖、后台、小水清沟、河西、华光、大山、小河西、保儿、保儿西山、双山10个村划归四方区；将城阳、惜福、夏庄、流亭、棘洪滩、上马、红岛、河套8个镇划归城阳区；调整后，实行崂山区与青岛高科技工业园合一的管理体制，辖中韩、沙子口、北宅、王哥庄4个镇。
1998年5月，撤镇设街道，辖中韩、沙子口、王哥庄、北宅4个街道，139个农村社区。
2024年4月，撤销中韩街道，以辽阳东路为界，分设为金家岭街道和新的中韩街道；金家岭街道辖28个社区，中韩街道辖21个社区。
2024年底崂山区辖金家岭、中韩、沙子口、王哥庄、北宅等5个街道、139个农村社区、23个城市社区。