武德四年(621年),秦王李世民灭窦建德后,虞世南被授任为秦王府参军,不久转任记室参军,十月,李世民被封为天策上将,并建立文学馆,虞世南被授为弘文馆学士,与房玄龄共掌诏告文翰,为“十八学士”之一。
武德五年(622年),与裴矩撰《凶吉书仪》。
武德九年(626年)六月,李世民正式被封为太子后,虞世南升任太子中舍人。
同年八月,李世民即位,虞世南转任著作郎,兼弘文馆学士。当时,虞世南年已衰老,上表请求辞官,太宗下诏不允,升他为太子右庶子,虞世南坚决推辞不受,被授为秘书少监。
贞观五年(631年),参与编撰《群书政要》。
贞观六年(632年)七月,虞世南进呈《圣德论》一文,太宗赐手书诏令给虞世南称:“你的评价太高了。朕怎么敢与上古帝王相比,只是与近代相比略强些。然而你只是刚刚看见开头,未知其终结。如果朕真能善始善终,那么你的高论可传之后世;如若不然,恐怕只会成为后世的笑柄!”
贞观七年(633年),虞世基转任秘书监,赐爵永兴县子。太宗器重他的博识,常常在处理军政大事的间隙,召世南在一起谈经论史。虞世南虽然容貌怯懦,弱不胜衣,但性情刚烈,当政得失,直言敢谏。太宗曾对侍臣说:“朕借闲暇的时间与世南商讨古今政事,有一个字的差错,未尝不惆怅恼恨,他恳切诚挚到这种程度,朕用他用得好啊。群臣都像世南这样,天下还愁有什么不能治理。”
贞观八年(634年),虞世南进封永兴县公。同年,陇右山崩,大蛇多次出现,山东及江淮多次遭大水。太宗问“天变”。虞世南以晋朝以来历次山崩为例,借机劝谏太宗遵循道德义理,并希望太宗不因功高而自满、不因太平已久而骄傲松懈,始终如一。太宗听后敛容反省,认为此言对自己有警醒作用。同年四月,康国进献狮子,太宗命虞世南为其作赋。
贞观九年(635年),太上皇李渊驾崩,虞世南一再劝阻太宗筑陵墓厚葬,使太宗有所收敛。他还严正劝阻太宗不要恣于游猎而疏于政事。这些都对当时的“贞观之治”起着积极的作用。