王僧虔在孩童时,他的父亲王昙首,曾和兄弟一同把子孙集合在一起,任凭他们游戏欢乐。王僧达跳到地上作小老虎。当时王僧虔连续下棋十二盘,既不坠落,也不重作。王僧绰采蜡烛珠做成凤凰,王僧达夺过来把它打坏,也并不惋惜。伯父王弘叹息说:“僧达俊爽,当不亚于别人,然而使我家破亡的,终究也是这孩子。僧虔一定会成为三公,僧绰当会以名声受到赞美。”有人说王僧虔采烛珠做成凤凰,王弘称他为长者。
王僧虔二十岁时,很擅长隶书,宋文帝见到了他书写的素扇赞叹说:“不仅仅是笔迹超过子敬,而且典雅的风度也在他以上。”他当了太子舍人,退避沉默,很少交际。他和袁淑、谢庄要好,袁淑常常为他慨叹说:“您文情鸿丽,学养深厚,却掩藏光辉,使人不能窥见,即使是魏阳元的射箭,王汝南的骑马,也无法超过。”调任司徒左西属。其兄王僧绰被刘劭杀害后,亲友们都劝他逃走,王僧虔哭着说:“我哥哥以忠贞报效国家,对我十分慈爱,现在的事情,只是苦于不能株连到我罢了。如果同归于九泉之下,倒像是飞升成仙了。”宋孝武帝初年,王僧虔出京为武陵太守,带去了各个儿子、侄子,哥哥的儿子王俭中途得病,王僧虔为他废寝忘食,同行的宾客对他进行慰问开导。王僧虔说:“从前马援处在子侄之间,情意一样深厚没有区别。邓攸对于弟弟的儿子,更超过自己的亲生,我实在也怀着同样的心情,的确不异于古人。亡兄的后代,不能疏忽,如果这个孩子不能救治,就应当回舟辞职。”还朝后担任中书郎,又调任太子中庶子。
建元二年(490年),王僧虔晋升左卫将军,他坚决辞让不接受。改任左光禄大夫,侍中、尹等职仍旧。郡县的监狱中一直沿用的办法中有一种是用中药的汤剂杀死囚犯,王僧虔上疏齐太祖萧道成说:“药汤本是用来救病的,现在有人用它来实施暴行,甚至有人用它来泄私忿。如果犯人罪当重刑,则国家自有正当的刑法;如果说为了治病用医也应事先启奏上头。岂有死生大事,由下面偷着处理的道理?我以为给囚犯治病,必须先打报告向郡里请示,找有关负责人和医生共同会诊确认;偏远的县份,则由家人来省视后,再作处理。这样可以使死者不恨,生者无怨。”萧道成采纳了这个建议。
永明三年(485年),王僧虔去世。僧虔对星象也很精通,那天夜里他坐在那儿看到豫章上空的星域显示该发生事故,当时他的儿子王慈正做豫章内史,僧虔便担心他会在公事方面有麻烦。不多时,王僧虔便去世了,享年六十岁。王慈放下郡里的工作回来奔丧,朝廷追赠王僧虔为司空,谥号为简穆。