Гениальный конструктор сделал себе имя на разработке простого и надежного пистолета для вооруженных сил и правоохранительных органов.
Родился в селе Сасово Рязанской области. Начал карьеру в возрасте 17 лет, когда поступил в фабрично-заводское училище, где получил специальность слесаря. Позже работал слесарем по ремонту паровозов в Сасовском депо, дослужившись до мастера. В 1936 году перешел в Тульский механический институт.
В годы Великой Отечественной войны Макаров был отозван с преддипломной практики и направлен на завод Наркомата в Загорск (ныне — Сергиев Посад), где ему досрочно присвоили квалификацию инженера и направили на завод, выпускавший пистолеты-пулеметы Шпагина. В 1945 году принял участие в конкурсе по созданию нового пистолета. Его проект был принят на вооружение в 1951 году.
Более 50 лет пистолет Николая Фёдоровича находился на вооружении не только Советской армии — им были вооружены милиция, штурмовые отряды спецназа и министерства чрезвычайных ситуаций, а также другие охранные подразделения. На базе первоначальной конструкции создано целое семейство новых пистолетов: газовых (популярный ИЖ-79), служебных (ИЖ-71 и МР-448 «Скиф»), для экспорта (Baikal-МР-442). «Макарова» удалось даже переделать в газобаллонный МР-654К и газовый ИЖ-79-9Т, известный травматический пистолет «Макарыч».
Макаров также разработал 23-миллиметровую авиационную пушку АМ-23, которая была принята на вооружение в 1954 году.
Совместно с другим оружейным конструктором, И. Я. Стечкиным, Николай Фёдорович разработал противотанковые комплексы «Фагот» и «Конкурс».