Мать Н. Л. Духова, Мария Михайловна, была дочерью обедневшего помещика. Отец, Леонид Викторович, служил ротным фельдшером и за год до рождения сына поступил на сахарный завод в с. Веприк.
Сначала он учился в сельской школе, затем в Гадячской классической мужской гимназии. Особенно хорошо там было поставлено преподавание иностранных языков (впоследствии Духов владел немецким, английским и французским). В 1919 году гимназию преобразовали в единую трудовую школу второй ступени, в 1920 году Николай получил диплом об её окончании.
C 14 лет Духов работал: сначала секретарём Вепричского комитета бедноты, с 1921 года — агентом продотряда. Вёл перепись, которая служила сельскому совету основанием для определения продналога. Также был заведующим районной избой-читальней, секретарём райземлеса, заведовал ЗАГСом. В 1925 году поступил на Чупаховский завод резчиком свёклы. Позже его перевели в технико-нормировочное бюро.
Н. Л. Духову было 22 года, когда ему представилась возможность продолжить образование. По решению заводского комсомольского собрания ему вручили путёвку на рабфак Харьковского геодезического и землеустроительного института. После окончания рабфака он был рекомендован «для зачисления без испытания на механический факультет» Ленинградского политехнического института, где обучался с 1928 по 1932 год на кафедре «Автомобили и тракторы» и получил специальность инженера-конструктора тракторов и автомобилей.
После окончания института был направлен на ленинградский завод «Красный Путиловец» (позднее — Ленинградский Кировский завод), где прошёл путь от рядового инженера до заместителя главного конструктора завода. В первые годы на ЛКЗ Николай Леонидович работал над конструированием приспособлений для массового производства трактора «Универсал», над созданием первого советского легкового автомобиля «Ленинград-I», принимал участие в конструировании тяжёлого подъёмного крана.
В 1936 году его, как инженера автотракторной специальности, привлекли к работе по улучшению бронетанковой техники. Духов перешёл в СКБ-2 Кировского завода, где сразу приступил к созданию единой методики тягового и прочностного расчёта танков, которой он и его коллеги впоследствии пользовались не один год. Затем ему поручили руководство конструкторской группой, занимавшейся модернизацией танка Т-28. К концу 1938 года группа Н. Л. Духова выполнила задание, причём бортовую передачу новой конструкции для танка Николай Леонидович спроектировал лично.
Творчески мыслящего инженера волновала проблема создания нового танка с противоснарядным бронированием. В конце 1938 года Николай Леонидович предложил технический проект новой машины — тяжёлого танка КВ-1. В 1939 году Кировский завод приступил к серийному выпуску танков КВ. 11 ноября 1940 он был назначен заместителем начальника СКБ-2 ЛКЗ, был ведущим конструктором тяжёлого танка КВ-1, а также внёс значительный вклад в разработку танка КВ-2.
Член ВКП(б) со 2 апреля 1941 года.
В 1941 году Ленинградский Кировский завод постепенно эвакуировался в Челябинск, где на базе Челябинского тракторного завода начали разворачивать производство танков КВ. 10 июля 1941 года Духов выехал из Ленинграда в Челябинск, получив должность главного конструктора отдела № 3. Уже 25 июля он был на месте и быстро организовал работу. 6 октября ЧТЗ был переименован в Челябинский Кировский завод, Н. Л. Духов стал заместителем главного конструктора, а Постановлением Государственного Комитета Обороны от 26 июня 1943 года был назначен главным конструктором, оставаясь в этой должности до 1948 года. Николай Леонидович наладил на заводе поточно-конвейерное производство танков КВ, возглавлил разработку их модификаций и самоходных артиллерийских установок, осуществил коренную модификацию средних танков Т-34. Под его руководством разрабатывались тяжёлые танки КВ-1с, КВ-85, ИС-1, ИС-2, ИС-3 и ИС-4. Были изготовлены и не пошедшие в серию образцы — например КВ-13.
После войны под непосредственным руководством Н. Л. Духова разрабатывался новый трактор ЧТЗ С-80 («Сталинец-80») с кабиной закрытого типа.
В 1948 году он был привлечён к работам в советском атомном проекте и стал заместителем главного конструктора КБ-11 (Арзамас-16) Юлия Борисовича Харитона. Возглавляя конструкторский сектор, Духов руководил разработками конструкции как первого отечественного плутониевого заряда, так и конструкции атомной бомбы. Он активный участник испытаний первой отечественной атомной бомбы на Семипалатинском полигоне 29 августа 1949 года и первой водородной бомбы РДС-6с 12 августа 1953 года.
С 1954 года Николай Леонидович стал директором, главным конструктором и научным руководителем филиала № 1 КБ-11 (в настоящее время ВНИИА им. Н. Л. Духова), которым руководил до своей смерти в 1964 году. Духов определил основные направления тематики института — создание ядерных боеприпасов для стратегических и тактических комплексов ядерного оружия, систем электрического и нейтронного инициирования ядерных зарядов, приборов автоматики ядерных боеприпасов, унифицированной контрольно-измерительной аппаратуры. За десять лет под его руководством разработаны три поколения блоков автоматики, первое поколение ядерных боеприпасов для семнадцати различных носителей — баллистической ракеты Р-7, торпеды Т-5, первых крылатых ракет для ВВС, ВМФ, ПВО, для этих ядерных боеприпасов была разработана целая гамма электромеханических приборов. Для контроля ЯБП и блоков автоматики разработаны первые три поколения контрольно-измерительной аппаратуры: осциллографическая, малогабаритная безосциллографическая и автоматизированная с цифровой регистрацией. Николай Леонидович по праву может считаться основателем конструкторской школы по ядерным боеприпасам.
Н. Л. Духов установил тесные деловые связи с большим количеством главных и генеральных конструкторов авиационного и ракетного оружия: А. И. Микояном, В. Н. Челомеем, С. П. Королёвым и другими.
Параллельно с инженерно-конструкторской, Николай Леонидович занимался и преподавательской работой. С 1935 по 1940 год он преподавал в Ленинградском автодорожном институте и на механическом факультете Ленинградского политехнического института. В 1944 году в Челябинске был создан Механико-машиностроительный институт (позднее преобразованный в Политехнический) с двумя факультетами: танковым (сегодня Автотракторный) и технологическим (сегодня Механико-технологический). Заведующим кафедрой танкостроения («гусеничных машин») и руководителем государственной экзаменационной комиссии этого ВУЗа был назначен Духов.
Во время работы в филиале 1 КБ-11 Духов также придавал огромное значение подготовке научных кадров высшей квалификации. Он поставил перед министерством вопрос о создании в КБ аспирантуры и совета по присуждению учёных степеней кандидата технических наук. Первые три защиты состоялись уже в 1962 году.
Юлий Борисович Харитон так писал о Николае Леонидовиче:
В летописи Челябинского тракторного завода о нём написано следующее: «Николая Леонидовича по силе конструкторского таланта можно было сравнить с такими виднейшими конструкторами страны, как Швецов, Поликарпов, Яковлев. Когда он рассматривал чертеж, то казалось, будто видит его насквозь. Ни одна ошибка не ускользала от его слегка прищуренного, спокойного взгляда. Духов не только выдвигал новые оригинальные технические идеи, он добивался претворения их в жизнь поистине военными темпами».
А. И. Белоносов пишет: «когда на территории института был построен новый лабораторный корпус и Н. Л. Духов переехал в новый кабинет, то первое же совещание с руководством института он начал с разъяснения, по существу, с оправдания, почему у него такой большой кабинет и что он нужен не для него, а для удобства всех присутствующих, а также и для авторитета фирмы при приеме многих представителей других организаций. Этот кабинет у директора института функционирует и теперь, и нет в нем никаких излишеств».
Знаменитый организатор производства, директор ЛКЗ, бывший одно время наркомом танковой промышленности, И. М. Зальцман писал о Духове: «С Николаем Леонидовичем я познакомился ещё в 1933 году. Он быстро завоевал репутацию талантливого конструктора и расчётчика. Его вклад в создание танка КВ настолько значителен, что я считаю Духова основным автором этой могучей машины. А накануне войны он сверкнул другими гранями своего таланта, показав себя вдумчивым аналитиком и кропотливым доводчиком. Смысл своей деятельности он видел не в проектах, хотя бы и самых блестящих, а в хорошо налаженном серийном выпуске боевой техники и её серийном освоении».