Ретикулярная формация стволовой части головного мозга была описана гистологами еще в XIX столетии.
Однако ее функция долгое время оставалась неизученной. В середине XX в. благодаря экспериментам американца Г. Мэгуна и итальянца Д. Моруцци (1949) стало ясно, что ретикулярная формация имеет отношение к механизму сна. Однако еще до них Ф. Бремер (1938), перерезая мозг кошки в разных участках, обнаружил причастность ретикулярной формации к формированию состояния бодрствования.
Хирургическое разъединение среднего мозга и коры вызывает коматозное состояние у кошки. Перерезание ствола ниже моста или ниже продолговатого мозга не снижает электрической активности коры больших полушарий.
Методом электростимуляции через внедренные в мозг микроэлектроды они доказали, что в ретикулярной формации расположены клетки, раздражение которых вызывает пробуждение кошки. Искусственное электрическое возбуждение этих образований в составе ретикулярной формации позволяет поддерживать у животных состояние бодрствования на протяжении длительного времени. Было сделано заключение о том, что ретикулярная формация ствола являет собой восходящую активирующую систему. Последовавшие за этим открытием эксперименты показали, что ретикулярная формация не является однородной структурой головного мозга. Она состоит из множества различных по размерам, форме и функциям нервных клеток, которые группируются в небольшие скопления (ядра). Количество ядер в составе формации превышает 40. Сложное строение этого нервного образования предопределяет неоднозначность его влияния на выше — и нижележащие отделы центральной нервной системы. На сегодня описаны как восходящие, так и нисходящие (ретикуло-спинальные) проводящие пути.
Электрическая стимуляция ретикулярной формации, по Д. Моруцци и Г. Мэгуну, по восходящим путям ведет к кортикальной активации, а по нисходящим — к повышению нервной активности спинного мозга и повышению тонуса скелетной мускулатуры.
В передней части ретикулярной формации обнаружены крупные клетки, получившие название гигантских нейронов, которые имеют длинные аксоны, уходящие к различным вышележащим структурам мозга, включая кору больших полушарий. Оказалось, что электрическая активация гигантских нейронов ретикулярной формации оказывает возбуждающее влияние на кору, но с неожиданным эффектом — развитием стадии быстрого сна. При экспериментальной стимуляции гигантских нейронов развивается парадоксальный сон, а не пробуждение, как можно было бы ожидать.
Интересно, что электрическая спонтанная импульсация гигантских нейронов приводит в активное состояние лишь некоторые клетки коры больших полушарий головного мозга, относящиеся к зрительной коре. Клинически эта активность проявляется в движении глазных яблок. У человека активизация нейронов зрительной коры сопровождается возникновением зрительных образов, которые с активизацией механизмов памяти приводят к возникновению сновидений.
Таким образом, ретикулярная формация ствола мозга оказывает активирующее влияние на кору больших полушарий. Тем не менее результатом этого взаимодействия может быть как пробуждение, так и развитие сна.
Функции ретикулярной формации теснейшим образом связаны с еще одной структурой головного мозга — таламусом.