Грибы появились на нашей планете около 1,3 млрд лет назад в протерозойском зоне.
В строматолитах (кораллоподобные осадочные образования, карбонатные или кремниевые) этого периода обнаружены грибоподобные организмы, которые были похожи на дрожжи и мукоровые грибы. В целом палеонтологические свидетельства разнообразия грибов немногочисленны. Более устойчивы к воздействиям внешней среды споры грибов, поэтому спорово-пыльцевой анализ широко используется в палеомикологии.
В фанерозойский эон (палеозойская эра), в верхнем докембрии, обитали водные грибы. В кембрии (около 600 млн лет назад) появляются хитридиевые грибы, а уже в силуре (около 430 млн лет назад) наблюдается переход грибов от водного образа жизни к наземному. В это время на растительных остатках в прибрежных зонах обитали слизистые оомикота, аско — и дейтеромикота.
В девоне (около 400 млн лет назад) эндофитные грибы рода Glomites обнаружены в окременелых тканях осевых органов риний. Наряду с симбиотическими у них были выражены патогенные свойства. Эндомикориза была широко распространена в раннем девоне. К этому времени относятся находки первых древних лишайников (цианолишайники). В девоне также получают развитие паразитические грибы и сапротрофы (аскомикота). Сумчатые грибы, таким образом, являются более древними в сравнении с базидиальными.
Данные молекулярной генетики (анализ последовательностей 18 S РНК с использованием базы данных банка генов, число мутационных замен в ряде генов) подтвердили палеонтологические свидетельства о том, что дивергенция грибов произошла около 400 млн лет назад, когда появились наземные растения. В конце палеозойской эры (пермский период, 280 млн лет назад) палеонтологические находки говорят о наличии белой гнили растений, вызываемой обычно базидиальными грибами.
В мезозойскую эру (триасовый период, 225 млн лет назад) параллельно с развитием голосеменных растений возникает эктомикориза, образуемая агариковыми грибами.
Основное развитие микоризы приходится на меловой период (около 130 млн лет назад). В это же время обнаружены плодовые тела агариковых грибов. Имеются достоверные находки окремненных остатков агарикового гриба археомарасмиус (Archaeomarasmius legetti, 90…94 млн лет назад), похожего на современных представителей рода Marasmius (негниючник).
Таким образом, грибы являются одними из древнейших организмов на нашей планете. Уже в палеозойскую эру (девон, около 400 млн лет назад) появились основные группы грибов, трофически и топически связанных с растениями и животными. Их эволюция шла в основном параллельно с эволюцией растений (коэволюция). Грибы способствовали освоению растениями суши, их процветанию и развитию, что привело к многообразию растений и наземных экосистем.