В 1960 году был назначен старшим инженером, возглавил группу по разработке систем управления космическими объектами 2MB и ЗМВ (Марс — Венера). С 1962 по 1966 год разрабатывал систему автоматической обработки информации для наземного экспериментального комплекса, на котором имитировался полет к Луне.
В 1965—1969 годах входил в группу космонавтов, которых готовили к полету на Луну.
В апреле 1971 года на корабле «Союз-10» вместе с Владимиром Шаталовым и Алексеем Елисеевым совершил свой первый космический полет. Из-за ошибки экипажа был испорчен стыковочный узел корабля, и космонавты не смогли перейти на станцию «Салют-1». Вместо трех недель работы на орбите пришлось вернуться домой через двое суток.
В декабре 1974 года Рукавишников совершил свой второй полет на орбиту, был бортинженером корабля «Союз-16». В полете испытывался стыковочный узел, созданный по программе «Союз — Аполлон». На шестые сутки космонавты вернулись на землю.
В апреле 1979 года в третий и последний раз летал в космос, был командиром корабля «Союз-33». Вместе с ним на корабле находился первый болгарский космонавт Георгий Иванов. Космонавты должны были пристыковаться к станции «Салют-1», однако из-за аварии основного двигателя корабля стыковка не состоялась, менее чем через двое суток экипаж благополучно вернулся на землю.
За три космические экспедиции налетал 9 суток 21 час 10 минут 35 секунд.
В феврале 1984 года Рукавишников проходил подготовку к советско-индийскому полету, но был отстранен по состоянию здоровья. После ухода из отряда космонавтов работал заместителем начальника отделения НПО «Энергия», также с 1981 по 1999 год руководил Федерацией космонавтики СССР, а затем и России. В 1999 году ушел из РКК «Энергия» на пенсию. Тогда же был избран почетным президентом Федерации космонавтики России.
Николай Рукавишников умер 19 октября 2002 года от инфаркта в возрасте 70 лет.