Toyoda est né dans ce qui fait maintenant partie de la ville de Kitsuki, dans la préfecture d'Ōita. Il sortit avec la 33e promotion de l'académie navale impériale du Japon en 1905, classé 26e parmi les 176 cadets. Il servit comme enseigne de vaisseau de deuxième classe à bord des croiseurs Hashidate et Nisshin, et une fois enseigne de vaisseau de première classe, fut assigné au destroyer Asatsuyu.
Toyoda retourna à l'école, devenant un expert des torpilles et de l'artillerie navale. Devenu lieutenant de vaisseau en 1911, il sert alors sur le croiseur de bataille Kurama. Il sort en 1915 de l'École Navale avec les félicitations du jury, et est promu capitaine de corvette en 1917. De 1917 à 1919, il est l'aide de camp de l'amiral Yoshimasa Motomaro, puis est envoyé jusqu'en 1922 comme attaché naval au Royaume-Uni, période durant laquelle il devient capitaine de frégate.
À son retour au Japon, Toyoda devient commandant en second du croiseur Kuma. Il est promu capitaine de vaisseau en 1925, et reçoit son premier commandement : le croiseur Yura, en 1926. Quatre ans plus tard, il commande le Hyūga. En 1930, il accompagne l'amiral Isoroku Yamamoto à Londres pour prendre part aux discussions sur le Traité Naval régulant la guerre sous-marine et l'armement naval. Le 1er décembre 1931, il est promu contre-amiral.
De décembre 1931 à février 1933, Toyoda est le chef de la seconde section de l'État-major naval, et est promu vice-amiral le 15 novembre 1935.
De 1935 à 1937, Toyoda est directeur du Bureau des affaires navales, et le 20 octobre 1937, il devient commandant en chef de la 4e flotte. Il prendra ensuite le 15 novembre 1938 la tête de la 2e flotte. Ces deux flottes furent impliquées dans l'invasion de la Chine durant la seconde guerre sino-japonaise. De 1939 à 1941, il est directeur de la construction navale.

Devenu amiral le 18 septembre 1941, Toyoda était commandant en chef du district naval de Kure au moment de l'attaque sur Pearl Harbor. Toyoda était contre la