自唐属雷州府遂溪县地，宋代渐有村落形成，清代曾在海头港设“海头讯”，属遂溪县二十二都。
清光绪二十五年（1899），法国帝国主义侵占广州湾，在此建首府，称“西营”，又名“白雅特城”。
1943年，日本取代法国在广州湾的殖民统治。
1945年，抗日战争胜利后，国民政府收回广州湾，设立市治，定名湛江市政府驻西营。
1949年12月19日，湛江市解放，沿用西营这一名称。
1958年6月30日，经广东省人民委员会批准，将西营改为霞山。
同年成立湛江市人民委员会驻霞山办事处，成立霞山人民公社。
1967年3月，撤销霞山人民公社，成立霞山区军事管制委员会。
1980年9月，经中共广东省委批准，成立中共霞山区委员会。
同年12月，撤销霞山区革命委员会，成立霞山区人民政府。
1984年6月25日，广东省人民政府正式批准霞山区为市辖区的县级政权建制，沿用至今。