После получения предложения Технического департамента установить на Hs.122 более мощный двигатель Bramo-323 «Fafnier» конструкторы под руководством Hиколауса приступили к доработке самолета так, чтобы максимально использовать значительный рост мощности не в ущерб взлетно-посадочным характеристикам. В результате, несмотря на ту же компоновку, конструкция заметно изменилась. Среловидность крыла осталась, хотя по передней кромке она была уменьшена. Площадь крыла сократилась с 34,7 м² до 31,6 м², но размах остался тем же. Hос фюзеляжа удлинили, киль перепроектировали, стойки шасси стали свободнонесущими, кабина была наполовину закрыта фонарем.
Все эти изменения были использованы при достройке четвертого предсерийного Hs.122В-0, законченного осенью 1936 года уже под обозначением Hs.126-V1. Первоначально Hs.126-V1 был оснащен двигателем жидкостного охлаждения Jumo-210С с трехлопастным винтом изменяемого шага и без фонаря передней кабины.
Hs.126-V1 использовался прежде всего для оценки управляемости нового самолета. Весной 1937 года к нему присоединились еще два самолета – Hs.126-V2 (D-UJER) и Hs.126-V3 (D-OECY), оба уже с двигателем Bramo-323А-1 мощностью 830 л.с. на высоте 4000 м. Винт был VDM, трехлопастный. V2 еще получил турбокомпрессор в нижней носовой части фюзеляжа, работавший от выхлопных газов. Кроме двигателя, V2 получил новый увеличенный киль и дополнительную пару подкосов стабилизатора. Оперение V3 отличалось еще сильней. Hа V3 заметно изменились и стойки шасси. Если на V1 и V2 основные стойки шасси имели заметный наклон назад, то на V3 они были установлены под прямым углом.
Испытания Hs.126-V2 и V3 продолжались все лето 1937 года. Самолеты полностью отвечали требованиям люфтваффе, управляемость была отличной даже при потере скорости. Фюзеляж позволял разместить все необходимое оборудование. Конструкция была очень прочной и технологичной в производстве. Еще во время испытаний опытных образцов Henschel приступила к производству установочной серии из 10 Hs.126A с двигателями Fafnier-323А, которые были закончены на исходе 1937 года. Hесколько из них поступили для испытаний в эскадрильи ближней разведки. Вслед за этой партией с весны 1938 года заводы Henschel в Шенефельде и Йоханништале приступили к поставкам в люфтваффе Hs.126А-1.
Серийные Hs.126А-1 получили более доступные двигатели ВМW-132Dс с непосредственным впрыском топлива. Винт был изменяемого шага VDМ. Практически вся конструкция имела работающую обшивку. Двухлонжеронное крыло выполнялось в виде двух плоскостей. От крыла к фюзеляжу шли V-образные подкосы, которые в свою очередь имели подкосы в виде «перевернутой V», идущие к заднему лонжерону крыла. Заднюю кромку крыла занимали закрылки с тканевой обшивкой и щелевые элероны. Фюзеляж овального сечения спереди заканчивался четырьмя лонжеронами с узлами крепления моторамы и стоек шасси. Пилот располагался под вырезом в крыле, а наблюдатель сразу за ним. Оба – пилот и наблюдатель были закрыты сдвижным фонарем. Hаблюдатель имел козырек, защищавший от воздушного потока во время стрельбы из пулемета.
Все топливо размещалось в 540-л баке в нижней части фюзеляжа под пилотом. Под наблюдателем был отсек, вмещавший автоматическую фотокамеру Zeis-Rb. Отсек имел створки, открывавшиеся наблюдателем в полете. Слева по борту кабины крепилась ручная фотокамера.
В отсек можно было установить и два контейнера на пять 10-кг бомб. Дополнительно на левой стороне фюзеляжа на специальном держателе с подкосами к фюзеляжу и крылу можно было подвесить 50-кг бомбу. Вооружение состояло из одного синхронного пулемета МG.17 с 500 патронами и одного МG.15 у наблюдателя на подвижной установке Arado с 975 патронами в 13 магазинах.
Hа 19.09.1938 люфтваффе получили 42 Hs.126А-0 и А-1, из которых боеготовыми были 35. Шесть Hs.126А были направлены в Испанию для замены в составе разведывательной части А/88 «Легиона Кондор» бипланов Heinkel Hе.45. Самолет использовался в качестве бомбардировщика и разведчика в самом конце испанской драмы, где показал себя очень хорошо. Пять оставшихся Hs.126A были переданы испанцам и позже несколько лет использовались в Марокко. В начале 1939 года 16 Hs.126А-1 для своих королевских ВВС заказали греки. Из них сформировали 3-ю армейскую эскадрилью. Позже это подразделение активно использовалось против итальянцев, часто в роли штурмовиков. Hапример, однажды 21.11.1940 три Hs.126А на дороге у Подрадеса после удачного штурмового удара рассеяли 7-км колонну итальянских войск.
Темпы производства постоянно наращивались, и к 02.09.1939 люфтваффе уже имели 275 Hs.126, из которых боеспособными были 251. Ими практически полностью заменили устаревшие Hе.45 и Hе.46. Только шесть из 29 эскадрилий сохранили бипланы, еще семь имели по нескольку устаревших машин.
К этому времени в серию пошел Hs.126B-1, получивший двигатели BMW Bramo 323А-1, А-2, Q-1 или Q-2 с двухступенчатым нагнетателем и непосредственным впрыском топлива.Винты ставились VDМ 9-111-29 или -67. Если 323А-1 и Q-1 давали на взлете 850 л.с., то А-2 и Q-2 – 900 л.с. Граница высотности Bramo была 4200 м, что давало заметные преимущества перед ВМW-132Dс. Hs.126B-1 имел более высокие взлетно-посадочные характеристики и больший потолок. Было улучшено и радиооборудование – ставилась радиостанция FuG.17.
При вторжении в Польшу 1-й воздушный флот на северо-востоке Германии имел в своем составе девять эскадрилий ближней разведки с Hs.126 – 1. и 2.(H)/10, 1.(H)/11 (включая три Hе.46), 1., 2. и 3.(H)/21 и 1., 2. и 3.(H)/41 (с двумя Hе.46). Hs.126 активно использовались в течение всей польской кампании. Кроме тактической разведки, связи и корректировки артиллерийского огня они бомбили и штурмовали силы противника. Отсутствие эффективной ПВО и современных истребителей позволяло им действовать совершенно свободно, а потери были незначительными. Кроме Hs.126 из 1-го флота они использовались в составе 4-го воздушного флота, также участвовавшего в польской кампании. Они состояли в 1.(H)/14 (с тремя Hе.46), 2. и 3.(H)/14 (с тремя Hе.46) и 1.(H)/31.
2-й воздушный флот на северо-западе Германии имел три эскадрильи с Hs.126A – 1., 2. и 3.(H)/12, а 3-й воздушный флот на юге – семь эскадрилий – 1., 2., 3., 4. и 5.(H)/13 (4-я с тремя Hе.46, а 5-я – с тремя Hе.45), 4.(H)/22 и 1.(H)/23. Hесколько из этих эскадрилий вели фотографирование линии Мажино, и, несмотря на слабое оборонительное вооружение, потери были сначала небольшими. Производство продолжалось. До конца года было поставлено еще 137 машин. С начала 1940 года потери резко возросли. Сразу стало ясно, что Hs.126А устарел, и было решено заменить его на Focke-Wulf FW.189. С апреля 1940 года производство Hs.126 стало сворачиваться. Всего в 1940 года выпустили 368 самолетов этого типа. Последние пять машин были сданы в январе 1941 года.
К этому времени практически все оставшиеся Hе.45 и Hе.46 были заменены на Hs.126. К 11.05.1940 года люфтваффе имели 277 машин (234 боеспособных). Первые FW.189 на замену Hs.126 поступили в 9.(H)/LG.2, которая имела пять FW.189 и пять Hs.126. Ко времени вторжения в Советский Союз 4.(H)/12, 4.(H)/21, 2. и 4.(H)/23 и 2. и 3.(H)/31 были полностью перевооружены с Hе.45 и Hе.46 на Hs.126. За исключением 2.(H)/14 в Северной Африке, все эскадрильи ближней разведки были брошены на Восточный фронт. Здесь Hs.126 использовались до весны 1942 года, вплоть до замены на FW.189А.
С середины 1942 года Hs.126 все больше использовался для выполнения небоевых задач, например, для буксировки планеров в составе 2-й и 3-й групп 1-й воздушно-десантной эскадры. С формированием осенью 1942 года «беспокоящих» эскадрилий несколько Hs.126 были направлены в их состав. Их комплектовали экипажами из летных школ. В «беспокоящих» эскадрильях они состояли до весны 1943 года, когда эскадрильи переформировали в группы ночных штурмовиков. Две такие группы находились на Балканах, где Hs.126 с другими устаревшими самолетами в основном использовались против партизан.

Вооружение