南海沿岸的土著“骆越族”就与中原地区开始往来。
从那时起，中国渔民便常年不断地在南海航行和从事捕捞作业，并最先发现了南海诸岛，详细记载在一种叫《更路簿》（或《水路簿》）的特殊手抄本中，作为航海指南世代相传。
先秦海南岛与南海诸岛属百越地，《汉书·地理志》注引臣瓒曰：“自交趾至会稽七八千里，百越杂处，各有种姓。”秦公元前221年，秦始皇一统天下，把全国分为三十六郡，其中在岭南地区设置了南海郡、桂林郡和象郡。
据《史记·秦始皇本纪》记载，这三郡所辖之地，大都濒临今南海的北部和西部海域，也就是东沙群岛和西沙群岛海域。
汉汉元鼎六年（公元前111年），汉武帝派伏波将军路博德、楼船将军杨仆平定南粤之后，在其地设立了儋耳、朱崖、南海、苍梧、玉林、合浦、交趾、九真、日南九郡，其中，儋耳、朱崖两郡在海南省。
东汉建武十八年（42年），伏波将军马援南征时曾至“千里长沙”，即今日西沙群岛。
在1973年出土于长沙马王堆汉墓的文物资料，南海海域被第一次标注在中国地形图上。
三国东吴孙权派康泰、朱应出使扶南（今柬埔寨）等国，康、朱二使亲历南海诸岛部分岛屿，并仔细观察“珊瑚洲”，所著《扶南传》是世界上最早科学描述珊瑚岛成因的文献。
晋西晋时，裴渊《广州记》记载了南海的全日潮和半日潮。
东晋时，南海郡太守鲍靓定期巡视南海和南海诸岛。
南朝宋国的谢灵运在《武帝诔》中记载，大约在公元410年和411年，宋武帝刘裕“虎骑骛隰，舟师涨海”，与卢循进行了一场战斗，其主战场即在其所辖的南海诸岛。
隋《隋书》记载，大业三年（607年）至大业六年（610年），隋炀帝派常骏、王君政出使赤土国（今马来半岛泰国东南一带），航程经西沙群岛的“焦石山”和南沙群岛西侧。
唐《旧唐书·地理志》记载：振州（今海南省三亚市）的疆域“西南至大海三千里”，显然已包括西沙群岛。
《韩昌黎集》卷21记载了唐穆宗时岭南节度使所管辖的四至范围，其曰：“隶府之州远者至三千里，悬隔山海……多洲岛。”表明在唐代南海诸岛不仅已经成为振州行政区划的一部分，而且岭南节度使还对南海诸岛实施行政管理。
宋承袭隋唐行政建制。
北宋曾公亮所著军事制度和国防大事的《武经总要》将九乳螺洲（西沙群岛）归属宋代海疆。
南宋《宋史纪事本末》记载，南宋景炎二年（1277年）十二月丙子日，南宋端宗皇帝曾驻驿西沙群岛（七洲洋）。
元延续宋代之制，中国地方政府继续对南海诸岛进行管理。
至元十六年（1279年），根据元世祖的命令，同知太史院士郭守敬到南海进行测量，即为“四海测验”。
其行程“南逾朱崖”，最后“测得南海北极出地一十五度”，这是元代在南海行使管辖权的体现。
相关史事诗如陈志岁《三沙市》曰：“古国神疆在，先民事迹多。
宣威南海上，万里镇尘波。”（《载敬堂集·江南靖士诗稿》）至大四年至延佑七年（1311～1320年），朱思本绘、罗洪先增补的《广舆图》绘有千里长沙（西沙群岛）、万里石塘（南沙群岛），说明元朝依旧将南海诸岛列入版图。
明有关南海的行政区划已日趋稳定，中国政府不仅将其完全列入版图，而且进一步确认它属于琼州府管辖范围。
宣德五年（1430年）编绘的《郑和航海图》将西沙群岛和南沙群岛标绘在中国版图内。
明代唐胄《正德琼台志》“疆域”条中记载：琼州府有“千里长沙”、“万里石塘”。
王佐（1465～1505年）所著的《琼台外纪》中记载，万州辖有“长沙、石塘”，说明南海诸岛的西沙群岛和南沙群岛是万州的管辖范围。
可见15世纪时，西沙群岛和南沙群岛已是海南岛的一部分。
清无论是官书，还是地方志，凡记载到南海诸岛，无一例外地将其以山川单位置于琼州府万州辖下。
如金光祖《广东通志》、蒋廷锡《钦定古今图书集成》、胡端书《万州志》、明谊《琼州府志》等，这些有很高权威性的史书，为我们认识当时南海诸岛的行政区划，提供了充分、可靠和极具价值的资料。
同时，雍正二年（1724年）印行的《清直省分图》之《天下总舆图》、乾隆二十年（1755年）印行的《皇清各直省分图》之《天下总舆图》、乾隆三十二年（1767年）印行的《大清万年一统天下全图》和《大清万年一统全图》、嘉庆二十二年（1817年）印行的《大清一统天下全图》等，把南海诸岛标绘在中国版图的政区之内。
清朝官方地图《清绘府州县厅总图》明确地将“七洲洋”划为中国的一个府，图上标绘了作为“府”一级行政单位的红色长方形图例，这是我们所见到的清代将“南澳气”、“千里长沙”、“万里石塘”和“七洲洋”，即南海诸岛的东沙群岛、西沙群岛、中沙群岛和南沙群岛列入中国版图并设府管辖的最早的一张地图。
至晚清时，这一标绘可谓更加清晰。
王之春的《清朝预柔远记·寰海全图》光绪五年（1879年）被作者称为以中华为中心的世界地图，详绘南海和南海诸岛，标绘“气沙头”（中沙群岛）、“长沙”（西沙群岛）、“石塘”（南海群岛）、“七洲洋”。
光绪三十年（1904年）印行的《大清天下中华各省州县厅地理全图》中，将南海诸岛用双线方格图例标绘，明确表示为广东辖区内的府级政区单位。
宣统二年（1910年），清政府颁布了《试办东沙岛章程》，拟定了对东沙岛实行行政管理的细节，包括“遴委专员”“量予权限”“宽定瓜期”“设立局所”以及经费预算和使用等各个方面。
中华民国辛亥革命后，广东省政府宣布将西南中沙群岛划归海南崖县（今三亚市）管辖。
二战时期，日本侵占西沙和南沙太平岛。
日本投降后，国民政府于民国三??十五年（1946年）11月24日，派海军“永兴”、“中建”两舰接管了西沙群岛，建立收复西沙纪念碑；12月12日，派“太平”“中业”两舰接管南沙群岛，并在太平岛上设立“南沙群岛管理处”，并派兵驻守，南海诸岛暂时隶属于海军司令部。
民国三??十六年（1947年）5月间，国防部召开了西南沙群岛建设实施会议，会上决定由海南岛特别行政区对西沙群岛和南沙群岛进行行政管理。