Уже с 1939 года, когда в части стали поступать Ki-27b, а стали использовать для продвинутого обучения. С 1941 года некоторые Ki-27b, снимаемые с вооружения передовых частей, стали передавать в летные школы. По некоторым данным около 150 а и 225 Ki-27b использовались в качестве учебно-тренировочных. Эти Ki-27 ничем не отличались от обычных истребителей, за исключением того, что на них как правило снимали обтекатели колес (впрочем, делали это и на боевых машинах) и иногда заменяли хвостовой костыль колесом. С некоторых из этих самолетов снимали хвостовой обтекатель — по всей видимости он использовался для буксировки мишеней (имевших форму цилиндра) в ходе учебных стрельб. На многих машинах над левым крылом устанавливался фотокинопулемет для фиксации результатов стрельбы. Самой интересной модификацией, использовавшейся главным образом на Ki-27b (хотя были и исключения), была замена стандартных колес на пневматики низкого давления, они устанавливались на полувилках и не имели обтекателей. Подобные колеса применялись и на учебных самолетах Тачикава Ki-9 и Ki-17 — они облегчали эксплуатацию на плохо подготовленных полевых аэродромах с мягким грунтом и неровной поверхностью.

В некоторых англоязычных источниках утверждается, что учебные самолеты имели обозначение а КАИ и Ki-27b КАИ, в зависимости от базового типа. Однако, опубликованные японцами материалы не подтверждают этого — самолеты сохранили обозначение а и Ki-27b. Официальное название машин было Кьюнана-Сики Ко-Гата Ренсен и Кьюнана-Сики Оцу-Гата Ренсен ("Ренсен" — сокращение от Реншуйо Сентоки — учебный истребитель), то есть Армейский учебный истребитель Тип 97 Модель А и Армейский учебный истребитель Тип 97 Модель В.

Используемые для обучения пилотов Ki-27 были одноместными и могли использоваться лишь для продвинутой подготовки уже освоивших пилотирование летчиков обучение приемам воздушного боя, высшему пилотажу, полетам в строю, навигации и т. п. В начале 1940 года Коку Хомбу счел, что армейская авиация нуждается в двухместном учебном самолете, который по своим характеристикам должен быть близок к стандартному истребителю (каковым тогда являлся Ki-27). Машину предполагалось использовать для продвинутой подготовки, то есть обучения пилотажу и методам ведения воздушного боя. Армейский Летно-исследовательский институт в Тачикава разработал вариант переделки Ki-27 в двухместную машину путем установки второй кабины с полным комплектом приборов и сдвоенного управления. В 1942 году либо завод Накадзима, либо Первый Армейский Воздушный арсенал (Кото) в Тачикаве (точно неизвестно) переделал десять серийных Ki-27 в двухместные машины. Успешные испытания этого самолета привели к решению о начале серийного производства.