春秋时代，有个叫俞伯牙的人，精通音律，琴艺高超，是当时著名的琴师。俞伯牙年轻的时候聪颖好学，曾拜高人为师，琴技达到水平，但他总觉得自己还不能出神入化地表现对各种事物的感受。伯牙的老师知道他的想法后，就带他乘船到东海的蓬莱岛上，让他欣赏大自然的景色，倾听大海的波涛声。伯牙举目眺望，只见波浪汹涌，浪花激溅；海鸟翻飞，鸣声入耳；山林树木，郁郁葱葱，如入仙境一般。一种奇妙的感觉油然而生，耳边仿佛咯起了大自然那和谐动听的音乐。他情不自禁地取琴弹奏，音随意转，把大自然的美妙融进了琴声，伯牙体验到一种前所未有的境界。老师告诉他：“你已经学了。”
一夜伯牙乘船游览。面对清风明月，他思绪万千，于是又弹起琴来，琴声悠扬，渐入佳境。忽听岸上有人叫绝。伯牙闻声走出船来，只见一个樵夫站在岸边，他知道此人是知音当即请樵夫上船，兴致勃勃地为他演奏。伯牙弹起赞美高山的曲调，樵夫说道：“真好！雄伟而庄重，好像高耸入云的泰山一样！”当他弹奏表现奔腾澎湃的波涛时，樵夫又说：“真好！宽广浩荡，好像看见滚滚的流水，无边的大海一般！”伯牙兴奋色了，激动地说：“知音！你真是我的知音。”这个樵夫就是钟子期。从此二人成了非常要好的朋友。
故事出自《列子·汤问》。成语“高山流水”，比喻知己或知音，也比喻音乐优美。
1425年明代朱权所编的《神奇秘谱》中记载《高山流水》的曲谱。《高山流水》本是一首曲子，自唐代开始分为《高山》、《流水》两首琴曲，但还不曾分段。到了宋代，才把《高山》分为4段，《流水》分为8段。在民间广泛流传的伯牙鼓琴遇知音的故事可知：《高山》、《流水》这两首著名的古琴曲，成曲时间大约在2000年前。
随着明清以来古琴演奏艺术的发展，《高山》、《流水》有了很大的变化。多种琴谱中，以刊行于1876年清代唐彝铭所编《天闻阁琴谱》中所收川派琴家张孔山改编的《流水》尤为出色。
《流水》共有9段一尾声。其结构可分为起、承、转、合4大部分。
1977年，旅美作曲家周文中推荐我国的一首古琴曲载入太空飞船，这首曲子就是《流水》，他说：“这首乐曲表现的是人的意识与宇宙的交融……”