吾粲起初擔任烏程縣小吏，烏程縣縣長孫河認爲他非同一般。後來，孫河擔任將軍，可以自己選拔轄區內的地方官吏，便上表任吾粲爲曲阿縣縣丞，後來又升任爲長史，治理有聲名政績。吾粲雖說出身於寒微，卻與同郡人陸遜、卜靜等比肩齊名。孫權擔任車騎將軍時，徵召吾粲爲主簿，外任山陰縣縣令，入朝擔任參軍校尉。
抗擊曹休
黃武元年(222年)，吾粲與呂範、賀齊等人一道率領水軍在洞口抗擊魏國將領曹休。當時正值天颳大風，船隻的纜繩都扯斷，有的漂到岸邊，被魏軍獲得，有的被風吹翻沉沒，那些還存在的大船，落水未死的兵卒攀附着船舷大聲呼救，船上的官兵都怕人多使船傾覆，都用戈矛刺擊水中兵卒，不讓他們上船。只有吾粲與黃淵讓船上的人將落水者拉上船，手下人認爲船隻超載定會出事，吾粲說：“船隻出事，我們就應一起去死!人家陷入絕境，怎能拋棄他們呢?”吾粲與黃淵救活的人一百多。戰事結束後，吾粲被升任爲會稽太守。
平定山越
吾粲徵召隱士謝譚爲功曹，謝譚推說有病不就，吾粲開導說：“應龍因爲能屈能伸被認爲神，鳳凰因爲善於鳴叫顯示珍貴，爲什麼一定要隱身藏跡於天外，潛伏鱗甲於深淵呢?”吾粲招募起許多人馬，被任命爲昭義中郎將，與呂岱一起討伐平定山越。後來入朝擔任屯騎校尉、少府，又升任爲太子太傅。
下獄處死
赤烏年間(238年―251年)，太子孫和與魯王孫霸之間的二宮之爭觸發，朝中官員分成兩派。吾粲堅持要確立嫡庶之分，要求將魯王孫霸調出朝廷駐守夏口，將孫霸黨羽楊竺遣發出外不讓他留在京都建業，又多次將情況傳告陸遜，陸遜當時駐守武昌，接連數次上表諫諍。由此吾粲遭到孫霸、楊竺等人的譖毀陷害，最終被關進監獄處死。
