唐山有着悠久而光荣的历史。据考古证实，在远古时代，唐山的先民就在这块土地上繁衍生息。爪村文化遗址距今约45000年，孟家泉人的发现，至今有约17000年，旧石器时代的遗址在滦县的东灰山，遵化的君子口等处都有发现．自50年代起，唐山地区发现的新石器时代遗址达20多处，今唐山市内的大城山，迁西的西寨村、迁安的安新庄三处遗址具有代表性，它说明人类文明的历史时期当时在这里已经开始。90年代后考古发现进一步证明，唐山人在这块土地上早已创造了灿烂的文化，滦河流域是我国古代文明的发源地之一。
唐山在商周时代属北方侯国孤竹国的地域，当时，人们由木炭烧制、条混盘筑的方法制作三足、平底陶器，已经会制作和使用青铜器，孤竹国伯夷、叔齐的故事流传至今。
战国时唐山为燕国辖地，当时社会生产力比以前有了明显提高，经济和文化向前发展一大步，有了多且精的陶器、铜器。武器和生产工具铜制、铁制并见。
秦汉时唐山为右北平郡、辽西郡、属幽州。
西汉时已经开始学习种植水稻，兴修水利，同时也使冶铁、铸铁、煮盐业发达起来，设官吏专门统管盐铁。
魏、晋、南北朝时期唐山地区仍分属幽州的右北平郡和辽西郡，聚居在这里的各民族相互取长补短，实现着民族文化的融合。
隋朝把汉代的州、郡、县三级行政改为州、县两级，今唐山地区东部属北平郡。
唐朝贞观十九年（645年）二月，唐太宗李世民亲率10多万唐军东征高句丽（统治区在今辽河以东及朝鲜半岛北部）。唐太宗于九月下令班师。太子李治从长安千里来迎。
唐太宗率军途经唐地，曾在大城山上屯驻，以后此山遂名“唐山”，这是唐山得名的开始。唐太宗其爱妃曹妃不幸病逝。李世民念其爱妃，特别允许使用国名，将此山命名为唐山。之后成为市名。
唐朝出于屯兵和积粮的需要，在今唐山一带建了许多城池，如平安城（今遵化平安城）、万年城（今迁西三屯营北）、平州城（今卢龙县）、马城（今滦南马城）等，还建筑了一些要塞。又修建了兴唐寺（在今唐山南郊）、净觉寺（在今玉田）等寺庙。
辽金属南京道、中都路、北京路。
元为中书省、大都路、永平路。
明、清属顺天府、永平府、遵化州。
清光绪三年（1877）建乔屯镇，后改为唐山镇。清代分属直隶省永平府和遵化直隶州。随着清代晚期 “ 洋务运动 ” 的兴起，清光绪三年（ 1877年）在这里设开平矿务局，引进西方先进技术办矿挖煤。这里是中国近代工业发祥地之一：中国第一座现代化煤井、第一条标准轨距铁路、第一台蒸汽机车、第一袋机制水泥、第一件卫生瓷等均诞生在这里，唐山市被誉为 “ 中国近代工业的摇篮 ” 和 “ 中国北方瓷都 ” 。
唐山不仅有悠久的历史，灿烂的文化，而且具有光荣的革命传统，在近现代史上为中国革命事业作出了巨大的贡献。解放战争时期，伟大的唐山人民又成为支援辽沈、平津两大战役的主要后方基地，冀东人民动员人力、物力、财力以“倾家荡产”的巨大牺牲精神，全力支援了两大战役，为战役的胜利作出了巨大的贡献。
在唐代时原为一片村落，从明朝起有一定程度的开发，主要为农业、采石油和制陶业。
随着清代晚期“洋务运动”兴起，清光绪三年（1877年）在唐山设开平矿务局。
1878年唐山建乔屯镇，1889年改名唐山镇，1938年正式建市。
民国元年（1912年）政区建制均袭清制，1929年，直隶省改称河北省，1939年1月28日，伪冀东防共自治政府鉴于唐山具有经济、政治上的特殊地位明令唐山设市，初称“唐山市政府”，后改称“唐山市公署”，日本宣布投降后，驻北平的国民党派员接收日伪政权，设置督察专员公署。
1946年4月，中共河北省委员会第132二次会议通过唐山设市，同年5月5日，唐山市政府成立。
1949年10月1日，中华人民共和国成立后，唐山市仍为省辖市，辖区12个。
1955年3月，唐山市第一届二次人民代表大会将唐山市人民政府改为唐山市人民委员会。辖区未变。
1958年4月28日，国务院批准唐山市规划唐山专区领导。同年8月29日，河北省第一届人民代表大会第七次会议决定，唐山专员公署驻地由昌黎县迁至唐山市。
1959年6月3日，经中央决定，唐山市为全国45个开放城市 之一。6月8日中共河北省委、省人委决定，唐山专署和唐山市人委合并改设唐山市人民委员会。
1960年4月2日，国务院正式批准撤消唐山专区，原唐山专区管辖的秦皇岛市和迁安、昌黎、乐亭、宝坻、玉田、蓟县、遵化划归唐山市。唐山专区撤消后实际划归唐山市的还有滦县、丰润两县（原为市辖区）和柏各庄农场。同时，唐山市改为省辖市。
1961年5月23日，经国务院批准恢复唐山专区的建制。同年6月1日，河北省人民委员会第14次会议通过恢复唐山专区的决议。从此，唐山专、市分开，唐山市改为专辖市。
1968年1月6日，唐山市革命委员会成立，隶属于唐山地区革命委员会。
1978年3月11日，唐山市改为省辖市。
1982年10月，唐山市第七届人民代表大会撤消唐山市革命委员会，建立唐山市人民政府。
1983年3月3日，国务院批准撤消唐山地区，实行市管县体制。同年5月13日，河北省人民政府通知撤消唐山地区行政公署，5月15日，唐山地区行政公署停止办公。
1984年12月15日，国务院批准唐山市为全国13个“较大城市”之一。是经国务院批准具有独立立法权的城市之一。
2000年，唐山市辖5个市辖区、7个县，代管3个县级市。
2002年2月1日，经国务院批准（国函[2002]7号），调整唐山市部分行政区划：撤销县级丰南市设立唐山市丰南区，撤销丰润县和唐山市新区设立唐山市丰润区。