Музей Арктики был открыт для посетителей 8 января 1937 г., однако решение о его создании было принято значительно раньше. Уже в 1920-х годах в связи с активным исследованием Арктики многие видные полярники и ученые выступали с предложениями об организации постоянно действующего полярного музея. В 1930 г. Президиумом ЦИК СССР было утверждено решение о создании Всесоюзного арктического института (ВАИ), в котором в качестве специального отдела предусматривался музей Арктики.
Первоначально экспонаты музея хранились в подвале ВАИ и использовались только для проведения выставок. В 1933 г. Арктическому институту для создания музея было отдано в аренду здание бывшей Никольской единоверческой церкви на улице Марата, построенное в 1820—1838 гг. по проекту архитектора А. И. Мельникова.
В течение 1934—1936 гг. по проекту архитектора Сивкова помещение бывшего храма было реконструировано под музей. В это же время сотрудники музея Арктики разрабатывали научную концепцию, готовили и собирали экспонаты, создавали стационарную экспозицию. Активное участие в организации музея принимали ученые и исследователи Арктики: первый начальник Главного управления Северного морского пути О. Ю. Шмидт, первый директор ВАИ Р. Л. Самойлович, академик Ю. М. Шокальский, научные сотрудники ВАИ В. Ю. Визе, Я. Я. Гаккель, А. Ф. Лактионов, Н. В. Пинегин и др.
С момента открытия музея его сотрудники стремились оперативно реагировать на все важные события в Арктике. Так, уже в сентябре 1938 г. открылась экспозиция, посвященная работе первой дрейфующей станции Северный полюс-1 (май 1937 г. — февраль 1938 г.). В ней была представлена жилая палатка папанинцев, их личные вещи, приборы и оборудование.
Музей быстро получил не только отечественное, но и международное признание. В 1937 г. на Всемирной выставке в Париже его экспонаты были удостоены Почетного диплома. В 1950-х годах начался новый этап в освоении полярных регионов земного шара — планомерное исследование Антарктиды. Коллекцию музея пополнили новые экспонаты из первых советских антарктических экспедиций. В июле 1958 г. музей получил новое название — Музей Арктики и Антарктики.
2 февраля 1998 г. Постановлением Правительства Российской Федерации музею был присвоен новый статус — Российский государственный музей Арктики и Антарктики (РГМАА). В настоящее время РГМАА является крупнейшим в мире музеем, коллекция которого (около 100 тысяч экспонатов) посвящена полярной тематике. В ней представлены археологические памятники и реликвии, относящиеся к истории освоения Северного морского пути, в том числе археологическая коллекция предметов быта поморов первой половины XVII века, найденная экспедициями АНИИ под руководством А. П. Окладникова (1945 г.) на крайнем северо-востоке Таймыра и М. И. Белова (1968—1973 гг.) на месте существования древнего русского города Мангазея.
В числе экспонатов также приборы и экспедиционное снаряжение, письменные, картографические и печатные источники, фотодокументы. В фондах музея хранятся фотографии, запечатлевшие многие значительные события в Арктике, работу первых дрейфующих станций СП и первых советских антарктических экспедиций. РГМАА располагает архивами известных полярных капитанов, советских полярных исследователей, а также конструкторов первого атомного ледокола „Ленин” и атомного ледокола „Арктика”.
Интересна коллекция живописи и графики, в которой представлены произведения художников А. А. Борисова и Н. В. Пинегина, самобытные творения Тыко Вылка и студентов Института народов Севера, представителей советского реализма, а также профессионального путешественника Ф. Конюхова.
Декоративно-прикладное искусство народов Севера представлено небольшой коллекцией предметов одежды и быта.