В конце 1939 года по заказу воздушного штаба армии Риокичи Ендо приступил к разработке на Tachikawa двухмоторного многоцелевого самолета. По спецификациям новый самолет должен был иметь управляемость и характеристики на уровне современных двухмоторных самолетов, которые стали поступать на вооружение армейской авиации в 1937 году. При этом самолет должен был использоваться одновременно для подготовки всех членов экипажа бомбардировщика: пилота, штурмана, бомбардира, стрелка и радиста. Для своего самолета Ендо выбрал схему низкоплана под два двигателя воздушного охлаждения Hitachi Ha-13а мощностью 510 л.с. с винтами изменяемого шага по типу винтов Hamilton. Самолет имел цельнометаллическую конструкцию с тканевой обшивкой рулевых поверхностей.
Первый опытный самолет, получивший обозначение Ki.54, полетел в конце лета 1940 года. После небольших доработок с целью уменьшить переднюю центровку самолет был запущен в 1941 году в серию под обозначением «самолет повышенной летной подготовки армейский тип 1 модель А» Ki.54а. Первые выпущенные самолеты предназначались для подготовки пилотов, однако вскоре в серию пошел Ki.54b – «учебно-боевой самолет армейский тип 1 модель В», предусматривающий также подготовку других членов экипажей бомбардировщиков и имеющий четыре подвижные стрелковые установки с 7,7-мм пулеметами «тип 89». Самолет использовался практически во всех школах боевой подготовки армейских пилотов, а также в гражданских летных училищах, готовивших пилотов для армии. При этом Ki.54b оказался самым массовым вариантом Ki.54 – всего было выпущено 1368 самолетов всех модификаций.
Следующая модель «транспортный самолет армейский тип 1 модель С» Ki.54с представлял собой связной или легкий пассажирский самолет с уменьшенной высотой фюзеляжа и с установкой восьми посадочных мест. Одновременно строился его гражданский вариант Y-59. В конце войны был выпущен цельнодеревянный вариант Ki.54с – Ki.110, но он был разрушен во время налета американцев. Кроме того, проектировались Ki.111 с протестированными баками и улучшенный вариант Ki.110 – Ki.114, но до конца войны их так и не закончили.
Для противолодочной обороны был выпущен «патрульный бомбардировщик армейский тип 1 модель D» Ki.54d, несший восемь 60-кг глубинных бомб. Правда, выпустили всего несколько таких машин, использовавшихся очень недолго.
Как учебный и легкий транспортный самолет Ki.54 оказался очень удачной машиной и широко использовался японцами в течение всей войны на Тихом океане.