Deniz Kuvvetleri Komutanlığı Karargah Binası’nın temelleri, 6 Ağustos 1956 tarihinde dönemin Deniz Kuvvetleri Komutanı Oramiral Sadık Altıcan tarafından atılmıştır. İnşaat süreci hızlı bir şekilde ilerlemiş ve bina 10 Temmuz 1961 tarihinde tamamlanarak teslim edilmiştir. Ancak bina, 1960 yılı sonlarına doğru kullanıma hazır hale gelmiş ve Ocak 1961’de Milli Savunma Bakanı Fahri Özdilek’in emriyle Deniz ve Hava Kuvvetleri Karargahları ortak bir şekilde bu binaya taşınmıştır.
Başlangıçta Milli Savunma Bakanlığı binasında ve Konur Sokak’taki çeşitli alanlarda yerleşik olan Deniz Kuvvetleri Komutanlığı, 15 Ekim – 31 Ekim 1961 tarihleri arasında yeni karargah binasına tamamen taşınmıştır. Hava Kuvvetleri ise kendi karargah binasının tamamlandığı 1985 yılına kadar bu binayı Deniz Kuvvetleri ile birlikte kullanmıştır.
17 Ağustos 1999 Marmara Depremi’nin ardından, binanın depreme karşı güçlendirilmesi kararı alınmıştır. Bu süreçte, Sahil Güvenlik Komutanlığına ait Devlet Mahallesi Merasim Sokak’ta bulunan yeni karargah binası geçici olarak Deniz Kuvvetleri Komutanlığına tahsis edilmiştir. Deniz Kuvvetleri Komutanlığı, 10 Aralık 2003 itibariyle bu geçici binaya taşınmıştır.
Deprem güçlendirme ve yenileme çalışmaları 21-30 Eylül 2005 tarihleri arasında geçici kabul, 13-17 Mart 2006 tarihleri arasında ise kesin kabul ile tamamlanmıştır. Kasım 2005’te, Deniz Kuvvetleri Komutanlığı yeni karargah binasına taşınmıştır. Modernize edilen bina, mevcut haliyle çevreye daha uyumlu hale getirilmiş ve Deniz Kuvvetleri Komutanlığının ihtiyaçlarını 40-50 yıl daha karşılayacak şekilde tasarlanmıştır.
Deniz Kuvvetleri Komutanlığı Karargah Binası, İnönü Bulvarı’nda, kuzeyinde Ankara-Eskişehir Devlet Karayolu ve Genelkurmay Başkanlığı Karargahı, güneyinde Milli Savunma Bakanlığına tahsisli arazi ve Genelkurmay Askeri Tarih ve Stratejik Etüt (ATASE) Daire Başkanlığı, doğusunda Dikmen Caddesi ve Türkiye Büyük Millet Meclisi, batısında ise Hava Kuvvetleri Komutanlığı Karargah binası ile çevrili bir konumda bulunmaktadır.
