Gabinet Grafiki i Rysunków Polskich gromadzi prace akwarelistów, rysowników i grafików polskich od XVI do 1. ćw. XX w. oraz artystów obcych, działających w Polsce w tym okresie, a także polonika. Obecnie zbiór liczy ok. 55 000 rysunków i ok. 60 000 grafik.

Od początku istnienia MNW oprócz galerii obrazów i rzeźby wymieniano gabinet graficzny. W otwartym w 1922 r. Muzeum przy ul. Podwale w jednej z sal umieszczono gabinet rycin,  wystawiono też akwarele i szkice z przełomu XVIII i XIX w. W 1925 r. Muzeum posiadało 17 160 rycin i 300 płyt miedziorytniczych. Dział Grafiki wraz z Działami Numizmatyki, Sfragistyki i Rękopisów wchodził w skład Biblioteki, natomiast kartony, akwarele i pastele należały do Działu Malarstwa Polskiego. W 1932 r. część zbiorów muzealnych wraz z Gabinetem Rycin przeniesiono do nowych pawilonów przy al. 3 Maja 13. W 1937 r. wyodrębniono osobny Dział Grafiki z trzema salami wystawowymi. W 1938 r. zbiory graficzne liczyły ok. 24 000 rycin, ok. 10 000 rysunków artystów polskich i ok. 500 rysunków artystów obcych oraz ok. 100 szkicowników.

W 1953 r. Gabinet Rycin został podzielony na trzy samodzielne jednostki: Dział Grafiki Obcej, Dział Grafiki Polskiej i Dział Dokumentacji. W 1955 r. w Dziale Grafiki Polskiej było 38 618 prac. Po utworzeniu Galerii Sztuki Współczesnej w 1958 r. dokonano podziału na Dział Grafiki Polskiej Dawnej i Dział Grafiki Współczesnej. Samodzielny Dział Grafiki Polskiej (Gabinet Rysunków i Rycin Polskich) w 1970 r. został włączony do Galerii Sztuki Polskiej Nowożytnej jako Dział Rysunku i Dział Grafiki. Od 1996 r. w ramach Zbiorów Sztuki Polskiej Nowożytnej istniały dwa Gabinety – Rysunku Polskiego i Grafiki Polskiej, a w 2004 r. zostały one połączone w Gabinet Grafiki i Rysunków Polskich.

Pierwszym znaczącym nabytkiem Gabinetu był zapis testamentowy  Cypriana Lachnickiego (1906), który przekazał do Muzeum przede wszystkim galerię obrazów, ale też kilkadziesiąt rycin i rysunków artystów polskich (Henryka Redlicha, Cypriana Kamila Norwida, Jana Nepomucena Lewickiego) i obcych. W 1915 r. zbiory powiększyły się o pastele i akwarele malarzy polskich z 1. poł. XIX i pocz. XX w. (dar Leopolda Méyeta), ponad 800 rysunków artystów polskich z 2. poł. XIX i pocz. XX w., ponad 3000 rycin (widoki, portrety osobistości polskich i obcych). Zbiory rysunku i grafiki wzbogacili m.in. Robert Wolff w 1913 r. (12 kartonów Michała Elwiro Andriollego do Pamiętników kwestarza Ignacego Chodźki), Towarzystwo Opieki nad Zabytkami Przeszłości (z kolekcjami m.in. Wiktora Gomulickiego, Aleksandra Kraushara, Ludwika Szwede) oraz Towarzystwo Zachęty Sztuk Pięknych (z kolekcją Mathiasa Bersohna) – były to przede wszystkim prace artystów polskich i polonika.

Trzon zbiorów Gabinetu Grafiki i Rysunków Polskich stanowi po dzień dzisiejszy kolekcja Dominika Witke-Jeżewskiego, przekazywana do Muzeum w latach 1917–1938 (m.in. wycinki ze starych druków polskich XVI–XVII w., kilkadziesiąt drzeworytów ludowych, kilkaset drzeworytów reprodukcyjnych z XIX w., ok. 3000 rycin w różnych technikach od XVII do XX w., w tym cenne zespoły rycin m.in. Jana Ziarnki , Jeremiasza Falcka, Jana Piotra Norblina de la Gourdaine, Aleksandra Orłowskiego, Jana Feliksa Piwarskiego, Józefa Pankiewicza, Zofii Stankiewiczówny, portrety  królów i wybitnych osobistości polskich, widoki miejscowości polskich, ponad 4500 rysunków i akwarel XVIII–XX w. polskich artystów, m.in. Józefa Chełmońskiego, Juliusza Kossaka, Piotra Michałowskiego, Leona Wyczółkowskiego).

Ofiarodawcami byli też  Konstanty i  Helena Tarasewiczowie, Jarosław Wojciechowski, Wacław Koczorowski, Wacław Męczkowski.

W latach 20. XX w. zbiory graficzne znacznie się powiększyły dzięki zapisowi Michała Federowskiego, darom Kazimierza Woźnickiego, Władysława Alojzego Strzembosza, Marii Róży z Kronenbergów baronowej Taube i otrzymaniu kolekcji Seweryna Smolikowskiego oraz nabyciu od Piusa Welońskiego rysunków ze spuścizny po Marcello Bacciarellim. Zakupiono też karton Jana Matejki do polichromii kościoła Mariackiego oraz pięć akwarel Zygmunta Vogla.

W latach 30. XX w. nabyto 26 plansz z rysunkami Bernarda Bellotta zw. Canalettem, z daru Franciszka i Józefy Krzyształowiczów otrzymano rysunki i pastele Stanisława Wyspiańskiego, a z daru Władysławy Reynelowej rysunki i szkice malarzy polskich XVIII i XIX w. Kolejni ofiarodawcy (Hieronim Wilder, Jakub Potocki, Alina z Bondych Glassowa, Julia Stabrowska, Bronisław Krystall) przekazali ryciny i przede wszystkim cenne rysunki artystów polskich z 2. poł. XIX i pocz. XX w. W 1936 r. Dyrekcja Państwowych Zbiorów Sztuki przekazała spuściznę po Janie Ciąglińskim, zakupiono też blisko 1000 prac Jacka Malczewskiego. W czasie wojny w gmachu muzealnym znalazła schronienie kolekcja gołuchowska oraz kilkutysięczna kolekcja rycin i rysunków polskich (XVI–XIX w.) z Suchej (stworzona przez pisarza Józefa Ignacego Kraszewskiego i będąca w jego posiadaniu do 1869 r.).

Po wojnie nabyto m.in. prace Zygmunta Vogla, Piotra Michałowskiego, Jana Matejki, Rafała Hadziewicza, Henryka Rodakowskiego, Józefa Pankiewicza, Stanisława Masłowskiego i Witolda Wojtkiewicza. W 1964 r. zakupiono depozyt Leopolda Wellisza (kolekcja rycin i rysunków Feliksa Stanisława Jasińskiego, litografie Leona Wyczółkowskiego, zespół rysunków Cypriana Kamila Norwida Awantury arabskie), w 1987 r. wykupiono  z depozytu Edwarda Raczyńskiego akwarele Zygmunta Vogla, a od Zofii Szeptyckiej „fredrowski” cykl akwarel Józefa Kossaka. Zbiory wzbogaciły się też o podarowany  zbiór rysunków i grafiki z Małej Wsi, zakupiony w Londynie w 1975 i 2005 r. zbiór 421 rysunków architektonicznych z przełomu XVIII/XIX w. (projekty magnackich rezydencji Mniszchów i Zamojskich), dar Donatelli Episcopo-Lipinsky i Ubalda Episcopo z Rzymu (1990, 1992; oeuvre graficzne Sigmunda Lipinsky’ego), a w 1996 r. dar Hanny Jabłczyńskiej-Jędrzejewskiej (89 matryc cynkowych i celuloidowych Feliksa Jabłczyńskiego).