中国古代有五岳四渎，代表着山川河流，从周朝开始，五岳四渎就作为河川的代表，由君王来祭祀。
五岳大家都熟悉，是西岳华山，东岳泰山，北岳恒山，南岳衡山，中岳嵩山。
四渎是古代四条独立入海的河流，江，河、淮、济，即长江、黄河、淮河、济水。
根据《禹贡》中记载，济水发源于河南省济源市王屋山上的太乙池。源水以地下河向东潜流七十余里，到济渎和龙潭地面涌出，形成珠（济渎）、龙（龙潭）两条河流向东，不出济源市境就交汇成一条河，叫水，至温县西北始名济水。后第二次潜流地下，穿越黄河而不浑，在荥阳再次神奇浮出地面，济水流经原阳时，南济三次伏行至山东定陶，与北济会合形成巨野泽，济水三隐三现，百折入海，神秘莫测。
济水流经河南、山东两省入海。随着历史的推移和地貌的变迁，济水在东汉王莽时出现旱塞，唐高宗时又通而复枯。黄河又多次改道南侵，逐渐冲入济水河床而入海。济水安宁、现济宁市就是原来济水中间北上的地方。黄河下游地段以及大清河(原址为东平湖到黄河入海口一段）、小清河（东阿镇西东平湖入黄河的一小段河叫小清河），就是原济水故道。
古代四渎都建有庙宇祭祀，济水源头的济渎庙始建于隋开皇二年（公元582年），是江河淮济四渎庙中仅存的一座。
唐贞元十二年（796年），鉴于北海远在大漠之北，艰于祭祀，故在济渎庙后增建北海祠。宋、元扩建，至明天顺四年（公元1460年）庙宇扩建到400亩，占地33万余平方米。自隋起，历代皇帝遣使莅临进行祭祀。
唐代，济水通而复枯，唐太宗李世民问大臣许敬宗：“天下洪流巨谷不载祀典，济水甚细而尊四渎，何也？”许敬宗答曰：“渎之为言独也，不因余水独能赴海也，济潜流屡绝，状虽微细，独而尊也。”济水虽然细微，却能独流入海，济水这种不达于海誓不罢休的顽强精神，就是它始终位列四渎的原因。
由于黄河泥沙沉积导致河床淤积，因而会不断改道，往北改道沧州附近入海，往南曾经夺淮河入海口。黄河多次夺济水的河道，导致济水河床抬高，后来在唐代和北宋时期，黄河不断向北摆动、南流之水越来越少，济水流域的一些支流无法汇入被黄河淤塞消亡的荥泽，反向南流逐渐成为今天淮河流域的一部分。这样，济水逐渐干涸，水量减少。
金明昌五年，黄河在阳武决口，发生最大的一次改道。河水夺泗水下游，合淮河入海。河南地区原属济水流域的地区成为黄泛区，使得济水再也没有从河南疏通到山东的可能，航运地位不再。
清咸丰五年，黄河在铜瓦箱决口，夺大清河入海，至此济水彻底从地图上消失。
现在河南济源，山东济南，济宁，济阳，济阴（现在曹州）还存在着与济水有关的地名，济水只留下一段古老的似是而非的传说。
