24 stycznia 1925 na wniosek gen. Władysława Sikorskiego Rada Ministrów podjęła uchwałę o wzniesieniu w Warszawie Grobu Nieznanego Żołnierza. Dziś stojący na placu Piłsudskiego pomnik przypominający o bohaterstwie polskich żołnierzy jest świadkiem najważniejszych państwowych uroczystości.
Pomysł uczczenia żołnierzy poległych na polu bitwy narodziła się we Francji po I wojnie światowej. Inicjatorem powstania pierwszego grobu nieznanego żołnierza był Francuz – Fryderyk Simon, który podczas wojny stracił trzech synów. Przykład francuski stał się impulsem do powstania patriotycznej tradycji też w innych krajach. W Polsce pierwsze zabiegi mające na celu wybudowanie pomnika-grobu podjęto już w 1921 r.
Pojawiło się wiele inicjatyw społecznych uczczenia poległych, takich jak projekt kardynała Aleksandra Kakowskiego wybudowania pomnika-kapliczki w katedrze św. Jana, czy gen. Malczewskiego i grupy wysokich rangą oficerów uczczenia poległych Polskim Żałobnym Krzyżem. Komitety wsparcia zbierały na ten cel pieniądze: np. redakcja dziennika Polska Zbrojna, otrzymała od czytelników 11 mln marek polskich na Polski Żałobny Krzyż.
W listopadzie 1923 r. prezydent Rzeczypospolitej Polskiej Stanisław Wojciechowski wydał polecenie kierownikowi Ministerstwa Spraw Wojskowych, gen. broni Stanisławowi Szeptyckiemu, powołania Tymczasowego Komitetu Organizacyjnego Budowy Pomnika Nieznanego Żołnierza. Na czele komitetu stanął gen. broni Tadeusz Rozwadowski, jego zastępcą został gen. dyw. Lucjan Żeligowski. 7 grudnia 1923 r., na pierwszym posiedzeniu Komitetu zdecydowano, że ma przygotować zarys realizacji pomnika, ale ostateczną decyzję miał podjąć prezydent. Działalność w 1923 r. zaowocowała rozpoczęciem akcji mającej na celu zebranie środków na jego realizację. Apelowano o dobrowolne opodatkowanie się – 1% z pensji – na rzecz pomnika; rząd nie był bowiem w stanie pokryć z budżetu państwa kosztów związanych z budową. W 1924 r., wbrew oczekiwaniom na szybkie załatwienie sprawy Grobu Nieznanego Żołnierza, nie nastąpiły żadne działania ze strony Komitetu. Na temat budowy grobu milczały nawet gazety.
Nieoczekiwanie i w sposób zaskakujący dla wszystkich, rankiem 2 grudnia 1924 r. pod pomnik ks. Józefa Poniatowskiego (stojący wówczas na placu Saskim) zajechała ciężarówka, z której zniesiono płytę z piaskowca o wymiarach 1×2,5 metra i grubości 15 cm i złożono przed cokołem pomnika. Na płycie wyryty był krzyż, a poniżej niego słowa – Nieznanemu Żołnierzowi, poległemu za Ojczyznę.
Nieznany pozostawał fundator płyty. Inicjatywę przypisywano mylnie Ignacemu Paderewskiemu. Tajemnicę odkryto dopiero cztery lata później. Płytę ufundowało Zjednoczenie Polskich Stowarzyszeń Rzeczypospolitej. W 1925 r. podobna inicjatywa złożenia płyty Nieznanemu Żołnierzowi miała miejsce w 22 miastach Polski.
Złożenie płyty w Warszawie zmobilizowało Komitet do działania. 23 grudnia 1924 r. zebrał się na obrady z inicjatywy ówczesnego ministra spraw wojskowych gen. broni Władysława Sikorskiego. Dyskutowano różne lokalizacje pomnika. Ostatecznie jednak sprawę przesądziło złożenie płyty na pl. Saskim i zadecydowano zgodnie, że Grób Nieznanego Żołnierza w Warszawie zostanie wzniesiony właśnie tam. Wybór poparł prezydent Stanisław Wojciechowski oraz władze wojskowe i rządowe. Było wiele projektów architektonicznych dotyczących zagospodarowania pl. Saskiego i wywołały burzliwą dyskusję. Ostatecznie Rada Ministrów przesądziła o wyborze twórcy pomnika, którym został rzeźbiarz Stanisław Ostrowski.
