林芝历史古老，可以追溯到西藏的史前时期。
据藏文史籍《弟吴宗教源流》记载，雅砻悉补野的先祖聂赤赞布（即第一个藏王）从波域（今林芝市波密县境）经工布来到雅砻河谷（今山南市乃东区）成为雅砻悉补野的创始人。
聂赤赞布出生于汉元朔二年（前127），他的王位传至第7代国王止贡赞布时，悉补野内部发生变乱，止贡赞布被洛昂杀害，三个王子夏赤、涅赤、恰赤分别逃亡到工布、波窝、娘布避难。
不久以后涅赤返回雅隆，继位为雅砻悉补野第8代赞普，称“布德贡杰”。
而夏赤、恰赤则在工布和娘布各自安邦称王，分别成为工布王（又称工噶布王）和娘布王。
今工布江达县境属于娘布王统辖区。
今巴宜、米林、朗县一带属工布王辖区。
至6世纪末，林芝境内出现多个大小不等的小邦，统治各自的领地。
小邦的分布情况如：工域赤那，王名贡杰噶布。
统治中心在雅鲁藏布江和尼洋河交汇处，统治区域为今巴宜、米林一带。
娘域那松，王名娘尊朗杰。
为止贡赞普后裔，与雅砻悉补野同脉，安邦于娘地方，即今工布江达县娘蒲乡一带，统治地区在工布江达县境内。
钦域那布古苏，王名钦杰尼古。
其中心在今朗县金东乡，统治今朗县和山南地区加查一带。
色域萨莫竹喜，王名俄杰茨吾鲁畅。
统治地区在今林芝县境内。
波窝，王名波杰布，后来称“波噶南木杰布”，“波杰布”为悉补野止贡赞普后裔，统治今波密、墨脱一带。
7世纪中叶，松赞干布先后征服了工域赤那（今林芝市巴宜、米林）、娘域那松（今林芝市工布江达）。
将其划入“约茹”辖区。
由于工布地区的工噶布王、娘布王等均属吐蕃赞普的后裔，他们的辖区都具有相对独立的特性，即各自为政，划地称王。
8世纪，应工噶布王的请求，吐蕃赞普赤松德赞和赤德松赞分别两次与工噶布王立誓结盟，把盟文勒石刻文。
明确允诺和确认工噶布王世代享有治理工布地区的特权。
唐咸通十年（869年，藏历土牛年）以后，吐蕃各地连续发生奴隶平民起义，钦域那布古苏（今林芝市朗县一带）的吉次、次旦等六人，在钦域上部发动了著名的“火把起义”。
占领钦域后直导工域赤那（今巴宜区林芝镇），杀死工噶布王。
但起义军并没有建起自己的政权，没有统一的政区建置，形成了诸多地方势力。
11世纪，工噶布王的后裔阿杰在工布恰纳（今米林县羌纳乡）一带崛起，重新成为工布地区的统治者：而波窝地区则由土王噶南木第巴统治。
13世纪中叶，林芝在地域上隶属于“乌思藏纳里速古鲁孙等三路宣慰使司都元帅府”，但是境内的波窝（波密）、门域（墨脱）、察隅等地由于所处地理位置偏僻，社会发展极其缓慢，仍处于部落社会形态。
自14世纪起，噶玛噶举派的首领噶玛巴长期驻锡工布则拉岗，逐渐成为工布地区最具势力的政教统治者。
帕木竹巴政权时期，曾大力推行宗谿制，但在塔工地区没有建立宗谿一级地方行政机构。
明洪武七年（1374年，藏历第六饶迥木虎年），明朝把元代的吐蕃等处宣慰使司和吐蕃等路宣慰使司合并为朵甘卫，乌思藏纳里速古鲁孙等三路宣慰司则改为乌思藏卫和俄里思军民元帅府。
林芝大部在地域上隶属乌思藏都指挥使。
明崇祯十五年（1642年，藏历第十一饶迥水马年），固始汗帮助五世达赖喇嘛建立噶丹颇章政权，塔工地区的噶玛噶举派不承认噶丹颇章政权的统治，并组织邮凳┒钥埂?/p>
噶丹颇章政权没有完全将其设于统治之下。
清康熙元年（1662年，藏历第十一饶迥水虎年），工布盘德寺活佛发动暴乱，噶丹颇章摄政赤列嘉措派兵镇压，次年新建则拉岗宗，由噶丹颇章委派宗本进行管理。
清康熙十二年（1673年，藏历第十一饶迥水牛年），清廷平西王吴三桂将红帽教主噶玛巴交于五世达赖，五世达赖以礼相待，妥善解决了塔工噶玛噶举派与噶丹颇章政权的对抗。
至18世纪末，在今林芝市设立波窝（今波密县）、江达（今工布江达县）、硕卡（今工布江达县巴河镇）、沃隆（今米林县卧龙乡）、角木（今巴宜区八一镇）、桑昂曲宗（今察隅县）、工布则拉岗（辖境大部分在米林县境内）、朗（今朗县）、金东（今朗县金东乡）等多个宗谿。
其中江达宗、硕卡宗、角木宗、则拉岗宗被称之为“工布4宗”。
“工布4宗”中则拉岗宗是大宗，被赋予代管其他3个宗的职权，后升格为“基巧”，但仍称为宗，其权限仅限于向其他3宗传达西藏地方政府指示，催收差税而已。
波窝，即波密地区，除曲宗外一直由当地土王波窝噶南木第巴统治，其统辖区就在上下波密、墨脱一带。
波密境内的辖区分布在6条小河流域，故称“波曲龙楚”（意为波密6水之地）。
墨脱境内的辖区有5错（“错”为村级建制）分别是当普、或热（今墨脱县德兴乡霍热村）、背崩（今墨脱县背崩乡背崩村）、萨格尔、达昂（今墨脱县加热萨乡境内）。
“2地”指的罗查、坚珠玉措。
坚珠玉措今译“金珠”，所在地为今墨脱县格当乡金珠河流域。
以上地区基本上囊括了今墨脱县所辖的主要区域。
民国政府时期，设川边特别行政区，在金沙江以西新设13个县，其中包括林芝境内的波密、桑昂曲宗（今察隅县境内）、察隅、江达（今工布江达县）4个县。
1912年（藏历第十五饶迥水鼠年），民国政府在江达（今工布江达县太昭）设太昭府。
1928年（藏历第十六饶迥土龙年），民国政府将林芝的科麦（桑昂曲）、察隅（杂瑜）、太昭（工布江达）划归西康政务委员会。
1931年（藏历第十六饶迥铁羊年），西藏地方政府平息波密之乱后，将曲宗、波堆、波麦划给朵麦基巧管辖，并在工布地区设立工基。
下辖塔堆群廓杰寺、朗谿卡、金东宗、古纳木宗、则拉岗宗、嘎热寺、第穆羌纳寺、森浦谿卡、角木宗、雪卡谿卡、江达宗、拉里、杰廓谿卡。
1939年（藏历第十六饶迥土兔年），中华民国设西康省，将林芝划归西康省管辖。
1944年（藏历第十六饶迥木猴年）、1946年（藏历第十六饶迥火狗年）英国军队两次侵入察隅、珞瑜等地。
当地人民进行了英勇的抵抗。
到1950年，工基下辖朗谿卡、金东宗、古纳木宗、则拉岗宗、森浦谿卡、角木宗、雪卡谿卡、江达宗、拉里、杰廓谿卡10个宗谿。
1951年1月，经政务院批准，原西康所辖的昌都、武城、察雅、盐井、察隅（今林芝市察隅县）、硕督、太昭（今林芝市工布江达县）、恩达、寻集、贡县、宁静、科麦、嘉黎13个县由昌都地区人民解放委员会管辖。
1951年5月，西藏和平解放；11月，昌都地区解放委员会在波密（今林芝市波密县）成立第二办事处，辖倾多、曲宗、易贡3个宗。
1954年，西藏地方政府设立设塔工基巧，基巧公署设在则拉岗（今巴宜区布久乡），管辖加查（今山南市加查县）、朗宗、林芝、米林、工布江达、雪卡宗、觉木宗、泽拉岗宗、白玛桂谿等10个宗谿。
1959年，实行民主改革，撤销塔工基巧办事处。
1960年1月，经国务院批准成立塔工专区；同年2月，改设林芝专区，专署驻林芝县。
1964年7月，经国务院批准，撤销林芝专区。
将其所辖的林芝、米林、工布江达、墨脱、雪巴5个县划归拉萨市管辖；将嘉黎县划归那曲专区管辖；将波密县划归昌都专区管辖。
1964年10月，经国务院批准，撤销雪巴县，原辖的雪卡、朱拉、错高3个区划入工布江达县，百巴区划入林芝县，尼吾区划入嘉黎县。
1983年10月，经国务院批准，恢复林芝地区。
1986年2月，林芝地区行署正式恢复。
原划入拉萨市的林芝、米林、工布江达、墨脱县，划入昌都地区的波密县，原属昌都地区的察隅县、原属山南地区的朗县划入林芝地区。
2024年3月，经国务院批准，撤销林芝地区，设立地级林芝市。