时邓当手下有一个官员，见他年幼，很轻视他，说：“彼坚子何能为？此欲以肉喂虎耳”。后来，又当面耻笑羞辱他。他大怒，举刀而杀之，逃到同乡郑长家中。后通过校尉袁雄出来自首，袁雄为他从中说情，并将他推荐给孙策。孙策见他确有过人之处，便把他安排在身边作事。几年后，邓当去世。
张昭推荐他接替邓当职务，任别部司马。幼小家贫实可哀，愿征行去志难回。不探虎穴求身达，争得人间富贵来。洪迈：孙吴奄有江左，亢衡中州，固本于策、权之雄略，然一时英杰，如周瑜、鲁肃、他、陆逊四人者，真所谓社稷心膂，与国为存亡之臣也。自古将帅，未尝不矜能自贤，疾胜己者，此诸贤则不然。
孙权初掌事，肃欲北还，瑜止之，而荐之于权曰:“肃才宜佐时，当广求其比，以成功业。”后瑜临终与权笺曰:“鲁肃忠烈，临事不苟，若以代瑜，死不朽矣！”肃遂代瑜典兵。他为寻阳令。”遂拜其母，结友而别。其遂亦代肃。其在陆口，称疾还，权问:“谁可代者？”
其曰:“陆逊意思深长，才堪负重，观其规虑，终可大任，无复是过也。”逊遂代其。四人相继，居西边三四十年，为威名将，曹操、刘备、关羽皆为所挫，虽更相汲引，而孙权委心听之，吴之所以为吴，非偶然也。
孙权统事后，渐受重用，从破黄祖作先登，封横野中郎将。从围曹仁于南郡，并于濡须数御曹军，屡献奇计，累功拜庐江太守。在军旅之时，亦发愤读书，深为孙权、鲁肃所倚赖。后进占荆南三郡，计擒郝普，于合淝战奋勇抵抗魏军追袭，以功除左护军、虎威将军。
江陵一战，其采取伪装偷渡的奇袭战法，又攻心为上，兵不血刃，夺取江陵，堪称独具特色的偷渡破袭战例，在中国战争史上写下了传奇的一笔，史称“白衣渡江”。但吕蒙虽在战术上毫无挑剔，但在战略上却是完全失策的，为逞一时之快，使孙、刘联盟破，让曹操坐收渔利，可谓得不偿失。又后上代鲁肃守陆口，设计袭取荆州，击败蜀汉名将关羽，拜南郡太守，封孱陵侯，受勋殊隆。然而旋即得病，不治而薨，享年四十二岁。