Het Rijksmuseum opende, als Nationale Kunstgalerij, voor het eerst in 1800 zijn deuren. Het was toen gevestigd in het Huis ten Bosch in Den Haag. De collectie omvatte voornamelijk schilderijen en historische voorwerpen. In 1808 verhuisde het museum naar de nieuwe hoofdstad Amsterdam, waar het gevestigd werd in het Paleis op de Dam.
Na het aantreden van koning Willem I kwamen de schilderijen met de nationale prentencollectie in het Trippenhuis aan de Kloveniersburgwal terecht en gingen de overige voorwerpen terug naar Den Haag. Het huidige gebouw werd in 1885 in gebruik genomen. Hierin werd ook het in Den Haag gevestigde Nederlandsch Museum voor Geschiedenis en Kunst opgenomen, dat de basis zou vormen voor de latere afdelingen Nederlandse Geschiedenis en Beeldhouwkunst & Kunstnijverheid.
Op 19 november 1798, ruim drie jaar na de stichting van de Bataafse Republiek, besloot de regering op voorstel van Isaac Gogel naar Frans voorbeeld een nationaal museum op te richten. Hierin werden in eerste instantie de restanten van de stadhouderlijke collecties in opgenomen, samen met allerlei voorwerpen die afkomstig waren van staatsinstellingen. Op 31 mei 1800 opende de Nationale Kunstgalerij voor het eerst zijn deuren. Er waren toen ruim 200 schilderijen en historische voorwerpen te zien. Samen met de eerste directeur, C.S. Roos, zorgde Gogel in de jaren hierop voor tal van aankopen. De eerste aankoop, De Zwaan van Jan Asselijn, werd voor 100 gulden gekocht en geldt nog steeds als een van de topstukken van het Rijksmuseum.
In 1808 verhuisden de collecties op bevel van de nieuwe koning Lodewijk Napoleon naar Amsterdam, dat de hoofdstad van het Koninkrijk Holland werd. De kunstwerken en voorwerpen werden ondergebracht in het Paleis op de Dam, het voormalige Amsterdamse stadhuis. Daar werden ze verenigd met de belangrijkste schilderijen van de stad, waaronder de Nachtwacht van Rembrandt. In 1809 opende het Koninklijk Museum op de bovenverdieping van het paleis zijn deuren.
Enkele jaren nadat Willem I als nieuwe koning in 1813 naar Nederland was teruggekeerd, werd het museum als ‘Rijks Museum’ samen met de uit Den Haag afkomstige nationale prentencollectie overgebracht naar het Trippenhuis, een 17de-eeuws stadspaleisje aan de Kloveniersburgwal waar de latere Koninklijk Nederlandse Academie van Wetenschappen toen al gehuisvest was. Tot verdriet van directeur Cornelis Apostool werden onder meer de historische voorwerpen in de jaren 1820 aan het inmiddels in Den Haag opgerichte Kabinet van Zeldzaamheden toegewezen. In Haarlem kwam in 1838 in Paviljoen Welgelegen een apart museum voor moderne, 19de-eeuwse kunst. Anders dan onder Lodewijk Napoleon werden in die tijd vrijwel geen grote aankopen gedaan.