Japonya ve Türkiye Cumhuriyeti, Tokyo ve İstanbul’da olmak üzere karşılıklı olarak ilk kez birer büyükelçilik açmışlar ve direkt diplomatik ilişki kurmuşlardır. 23 Mart 1925’te İstanbul’da açılan Japonya Büyükelçiliği Ortadoğu’da Japonya’nın açmış olduğu ilk büyükelçilik olması bakımından ayrıca bir önem arz eder. Japon hükûmeti Türkiye’ye verdiği önemi Ortadoğu’daki ilk büyükelçiliğini İstanbul’da açarak açık bir şekilde ortaya koymuştur. Diğer ülkelerde açtıkları temsilcilikler ortaelçilik seviyesindedir. Japonya 7 Temmuz 1925’te İstanbul’da açtığı büyükelçiliğini ancak 1937 yılında başkent Ankara’ya taşıyacak, İstanbul’da da bir başkonsolosluk bırakacaktır.
Büyükelçiliğin açıldığı gün, merkezi Tokyo’da bulunan Türk-Japon Dostluk Derneği de kurulacaktır.
İkinci Dünya Savaşı öncesi Türkiye’de büyükelçilik yapan Japon diplomatlar hep seçkin kişilerden oluşmuştur. Her biri ülkelerine döndükten sonra parlak ve kilit görevler yapmışlardır. Bunlar arasında İstanbul’da başkâtip olarak görev yapan ve İstanbul Boğazı Trafiği Üzerine Bir Araştırma isimli doktora tezini kitaplaştıran Hitoşi Aşida, daha sonraları politikaya girmiş ve İkinci Dünya Savaşı sonrasında başbakan olmuştur.
Japon Büyükelçiliği’nin İstanbul’da olduğu yıllarda askerî ataşe olarak görev yapan Kurmay Yarbay Kingoro Haşimoto ise, Atatürk inkılaplarının hayranı olmuş, Japonya’ya döndükten sonra genç subayları bir araya toplayarak, 1929’da başlayan dünya ekonomik krizi sırasında, her geçen gün daha da fazla ekonomik ve sosyal bunalım içine girmekte olan Japonya’yı kurtarmak için, reformlar yapmak istemiş, 1931 yılında başarısız bir askerî darbeye katıldığı için yargılanmıştır. Ama mahkûmiyeti İkinci Dünya Savaşı’nın “A” kategorisinde bir suçlusu olarak Müttefikler’in kurduğu Tokyo Savaş Suçluları Mahkemesi kararıyla olmuştur.
Osmanlı İmparatorluğu ile Japonya arasındaki ilişkilerin başlangıcında olduğu gibi, Türkiye Cumhuriyeti ile Japonya arasındaki ilişkilerin gelişmesinde de Japon okul gemilerinin ziyaretlerinin rolü olmuştur. Eylül 1926’da Japon Eğitim Filosu Komutanı Koramiral Eisuke Yamamoto komutasında İzomo ve Yakomo isimli iki Japon okul gemisi Hint Okyanusu ve Süveyş yoluyla Akdeniz ülkelerine yaptıkları ziyaret programında İstanbul’u da ziyaret etmiştir.
Amiral Yamamoto, gemi komutanları ve heyeti 8 Eylül 1926 günü Heybeliada’daki Deniz Harp Okulu’nu da ziyaret etmişlerdir.