Флеминг был седьмым из восьми детей шотландского фермера (третьим из четырех детей от второй жены). Его деревенское воспитание на юго-западе Шотландии обострило его способности к наблюдению и восприятию мира природы в раннем возрасте. В 1895 году Флеминг переехал в Лондон, где поселился со своим старшим братом Томасом (который работал окулистом), и получил базовое образование в политехническом институте на Риджент-стрит. После работы клерком в лондонском суде Флеминг начал изучать медицину в школе при больнице Святой Марии в 1901 году, финансируясь за счет стипендии и наследства своего дяди. Там он получил золотую медаль в 1908 году как лучший студент-медик Лондонского университета. Сначала Флеминг планировал стать хирургом, но временная должность в лабораториях отделения прививок больницы Святой Марии убедила ныне именитого бактериолога, что его будущее лежит в новой области бактериологии. Там он попал под влияние бактериолога и иммунолога сэра Олмрота Эдварда Райта, чьи идеи вакцинотерапии, казалось, открывали революционное направление в лечении.
Между 1909 и 1914 годами Флеминг вел успешную частную практику в качестве венеролога, а в 1915 году женился на Саре Марион Макэлрой, ирландской медсестре. Сын Флеминга, Роберт, родившийся в 1924 году, последовал примеру своего отца и занялся медициной. Флеминг стал одним из первых врачей в Великобритании, применявших арсфенамин (Сальварсан) - препарат против сифилиса, который был открыт немецким ученым Паулем Эрлихом в 1910 году. Во время Первой мировой войны Флеминг получил назначение в Медицинский корпус Королевской армии и работал бактериологом, изучая раневые инфекции в лаборатории, которую Райт создал в военном госпитале, размещенном в казино в Булони (Франция). Там он продемонстрировал, что использование сильных антисептиков для ран приносит больше вреда, чем пользы, и рекомендовал просто содержать раны в чистоте с помощью слабого физиологического раствора. Флеминг вернулся в Сент-Мэри после войны и получил повышение до помощника директора отдела прививок. Много лет спустя, в 1946 году, он сменил Райта на посту директора кафедры, которая была переименована в Институт Райта-Флеминга.
В ноябре 1921 года Флеминг открыл лизоцим, фермент, присутствующий в жидкостях организма, таких, как слюна и слезы, обладающий мягким антисептическим действием. Это стало первым из его главных открытий. Существует что-то вроде легенды о случайности этого знаменательного для науки открытия: когда Флеминг простудился, капля его носовой слизи упала в чашку для культивирования бактерий. Понимая, что его слизь может влиять на рост бактерий, ученый смешал слизь с культурой и через несколько недель увидел признаки растворения бактерий. Исследование Флемингом лизоцима, которое он считал своей лучшей работой, стало значительным вкладом в понимание того, как организм борется с инфекцией. К сожалению, лизоцим не оказывал никакого действия на наиболее патогенные бактерии.
3 сентября 1928 года, вскоре после получения им должности профессора бактериологии, Флеминг заметил, что культуральная пластинка золотистого стафилококка, над которой он работал, была заражена грибком. Плесень, позже идентифицированная как Penicillium notatum (ныне классифицируемая как P. chrysogenum), подавляла рост бактерий. Сначала он назвал это вещество ”плесневым соком“, а затем ”пенициллином", в честь плесени, которая его произвела. Флеминг решил продолжить расследование, предположив, что нашел фермент, более мощный, чем лизоцим. На самом деле это был не фермент, а антибиотик — первый из многих. К тому времени, когда Флеминг это понял, он заинтересовался пенициллином как таковым. Будучи в значительной степени исследователем-одиночкой, стремящимся ко всему необычному, Флеминг имел свободу заниматься всем, что его интересовало. Хотя такой подход был идеальным для использования преимуществ случайного наблюдения, терапевтическая разработка пенициллина требовала междисциплинарной совместной работы. Флемингу, работавшему с двумя молодыми исследователями, не удалось стабилизировать и очистить пенициллин. Однако он указал, что пенициллин обладает клиническим потенциалом как в качестве местного антисептика, так и в качестве инъекционного антибиотика, если его можно выделить и очистить. Пенициллин в конечном итоге стал использоваться во время Второй мировой войны в результате работы группы ученых во главе с Говардом Флори из Оксфордского университета. Хотя Флори, его коллега Эрнст Чейн и Флеминг разделили Нобелевскую премию 1945 года, их отношения были омрачены из-за вопроса о том, кому следует приписать больше заслуг за пенициллин. Роль Флеминга была подчеркнута прессой из-за романтики его случайного открытия и большей готовности общаться с журналистами, чем таковая наблюдалась у остальных ученых.
Флеминг был посвящен в рыцари в 1944 году, а в 1949 году умерла его первая жена. В 1953 году, за два года до своей смерти, Флеминг женился на греческом микробиологе Амалии Кутсурис-Вуреке, которая участвовала в греческом движении сопротивления во время Второй мировой войны и была коллегой Флеминга с 1946 года в больнице Святой Марии. В течение последних десяти лет его жизни Флеминга повсеместно чествовали за открытие им пенициллина, он также выступал в качестве мирового посла медицины и науки. Изначально застенчивый, необщительный человек и плохой лектор, Флеминг расцвел под пристальным вниманием, которое ему оказывали, став одним из самых известных ученых в мире.