建安十三年（208年），开辟玄武池训练水军。六月，曹操废三公，恢复丞相制度，并自任汉朝丞相。基本平定北方后，兵锋转而南向。

七月，进军南征荆州刘表。八月，刘表病死，其子刘琮接任荆州牧。九月，曹操大军进至新野（今属河南），刘琮以为无法抵挡，举荆州之众投降曹操。

这时，官渡之战后投奔刘表的刘备屯驻于樊城（今湖北襄樊），听说刘琮投降，便率军向江陵（今属湖北）撤退。江陵为荆州重镇，存有大量军用物资。曹操听说，怕江陵落入刘备之手，遂亲率五千骑兵从襄阳（今湖北襄樊）疾驰三百里，在当阳长坂（今湖北当阳东北）将刘备追上，大破其军，随后进占江陵。

曹操在击溃刘备后，乘势想一举鲸吞江东，孙权、刘备两家在鲁肃和诸葛亮等人的努力下，组成联盟，孙权命都督周瑜率军三万，与刘备的两万人马组成联军抵抗曹操。曹操自江陵东下，至赤壁（今湖北武昌县西赤矶山）与孙、刘联军接战不利，暂驻军于乌林（今湖北洪湖县东北，长江北岸邬林矶），与对方隔江对峙。

周瑜用诈降之计，命大将黄盖率小战船十艘，上装柴草，灌以膏油，船头钉上大钉，假称投降，向北岸而进，至离曹营二里之处时，各船一齐点火，然后借助风势，直向曹军冲去，曹军大败，舟船被烧。曹操率军从华容道（今湖北监利西北）陆路撤回江陵。撤军北还。