Fleming werd geboren in Ayrshire in Schotland. Van 1901 tot 1906 studeerde hij geneeskunde aan de St. Mary's Hospital Medical School in Paddington, Londen. Na afloop van zijn studie bleef hij aan dat instituut verbonden. In 1921 werd hij plaatsvervangend hoofd, en in 1946 directeur. In 1948 werd de naam veranderd in Wright-Fleming Institute. Van 1928 tot 1948 hield hij de leerstoel voor bacteriologie aan de universiteit van Londen.

In september 1928 ontdekte Fleming dat een bepaalde schimmel bacteriedodende werking had. Deze waarneming leidde later tot het antibioticum penicilline.

Voor zijn ontdekking werd Fleming meermalen gehuldigd. In 1944 werd hij in de adelstand verheven en een jaar later ontving hij een met Florey en Chain gedeelde Nobelprijs "voor de ontdekking van penicilline en haar helende werking bij diverse infectieziekten". Daarnaast ontving hij eredoctoraten van 12 Amerikaanse en Europese universiteiten, werd hij commandeur in het Franse legioen van eer en ererector van de universiteit van Edinburgh.