После закладки Петропавловской крепости Петр I повелел построить неподалеку от нее дом.

Домик Петра I был построен из сосновых бревен всего за три дня – с 24 по 26 мая 1703 г. У Домика не было каменного фундамента, он стоял прямо на земле. Его площадь составила всего шестьдесят квадратных метров. В знак того, что дом принадлежит "капитану бомбардирской роты", на крыше здания была установлена деревянная мортира и "пылающие" ядра. Во время пребывания Петра в Домике, на высоком флагштоке развевался царский штандарт с двуглавым орлом.

В своем "Первоначальном дворце" Петр I жил с 1703 по 1708 г., в теплое время года, скорее всего, когда этого требовали военные действия, активизировавшиеся весной, летом и осенью.

В 1723 г. по личному распоряжению Петра I в честь юбилея столицы была сооружена первая каменная защитная галерея для Домика, чтобы сохранить его на "предбудущие годы". Работы велись при непосредственном участии главного архитектора Петербурга Доменико Трезини, который являлся автором проекта. Однако постоянные наводнения разрушали галерею, и в 1784 г. было построено новое сооружение на фундаменте старого, повторяющее его архитектурные формы.

В 1844 г. состояние футляра вновь потребовало его капитального ремонта. Футляр, сохранившийся до наших дней, архитектор Р.И. Кузьмин возвел точно в границах старой галереи, продолжив традицию бережного отношения к петровскому мемориалу. Под стены Домика был подведен фундамент, под ним проложены каменные сводчатые тоннели-водосборники.

В 1889 г. здание расширили путем пристройки двух тамбуров с северной и южной сторон. Южное крыло предназначалось для хранения мемориальной лодки верейки.

 Долгое время в Домике хранилась бесценная реликвия – икона Спаса Нерукотворного Образа, принадлежавшая Петру I, которая сопровождала царя во всех походах и провожала его в последний путь. Для поклонения Образу в 1742 г. по желанию Елизаветы Петровны в Столовой Домика была устроена Часовня. (Сейчас эта икона находится в Спасо-Преображенском соборе.)

 В 1930 г. в "Первоначальном дворце" открылся Государственный музей "Домик Петра I".

Реставрация, проведенная в 1971–1975 гг. по проекту архитектора А.Э. Гессена, приблизила Домик к его первоначальному виду.

В 1999 г. была воссоздана историческая планировка участка, ограда внешнего сада и отреставрирована внутренняя ограда с воссозданием всех утраченных деталей и подлинной окраски. В 2004 г. Домик Петра I вошел в состав архитектурно-художественного комплекса Государственного Русского музея.