Летом 1935 года Технический департамент разместил на «Ernst Heinkel Flugzeugwerke» контракт на разработку двухместного гидросамолета, предназначенного для замены поплавковых бипланов Hе.60 в составе эскадрилий корабельных самолетов и ближней разведки в группах береговой авиации.
После принятия проекта самолет получил обозначение Hе.114. Было начато производство пяти опытных и 10 предсерийных самолетов. Кроме хорошей аэродинамики и цельнометаллической конструкции Hе.114 отличался еще и необычной схемой полутороплана с небольшим полуэллиптическим нижним крылом размахом 6 м. Широкое верхнее крыло прямоугольной формы имело два лонжерона и состояло из трех секций. Центроплан крепился над фюзеляжем на N-образных стойках. Стойки бипланной коробки были Y-образной формы. Крыло складывалось назад. Фюзеляж круглого сечения монококовой конструкции. Экипаж состоял из двух человек – пилота, размещенного под вырезом в верхнем крыле, и наблюдателя за ним. Два цельнометаллических однореданных поплавка имели водяные рули.
Силовая установка определялась Техническим департаментом – BMW-132Dс (развитие лицензионного «Hornet») – 9-цилиндровый, воздушного охлаждения. Hо неготовность этого мотора потребовала установку 12-цилиндрового Daimler-Benz DB600А жидкостного охлаждения мощностью 960 л.с. Второй опытный Hе.114-V2 получил Jumo-210Еа мощностью 680 л.с. Эти два самолета были готовы практически одновременно весной 1936 года.
Hачальные летные и морские испытания были разочаровывающими. Гидродинамические характеристики были слишком плохими, самолет был неустойчив на воде, поднимал каскад брызг даже при рулежке на малой скорости. При небольшом волнении поплавки имели тенденцию зарываться в воду, так что на скорости самолет сильно вихлял. Летные данные были лишь немногим лучше. Их несколько удалось поднять на третьем опытном Hе.114-V3 (D-IOGD), получившим двигатель ВМW-132Dс взлетной мощностью 850 л.с. Кабина пилота была закрыта сдвижным фонарем. Киль был перепроектирован, изменены обводы поплавков. Еще больше был модифицирован V4 (D-IDWC). Законцовки крыльев были подрезаны, размах сократился с 13,8 м до 13,6 м, а площадь с 41,4 м² до 41 м². Был установлен 960-сильный ВМW-132К. Обводы поплавков получили вогнутое днище с покатом вовнутрь для отвода брызг от самолета. Одновременно с той же целью Hе.114-V1 был оснащен сильно килеватыми поплавками. Плоское днище поплавков было эффективно при разбеге на спокойной воде, но совершенно не годилось для взлета при волнении. Во время посадки при сильном волнении поплавки испытывали слишком сильные боковые нагрузки, что привело к аварии самолета.
Официальные испытания в Травемюнде дали такие плохие результаты, что Технический департамент был вынужден выдать новое задание Arado и Focke-Wulf – опасались, что Heinkel не сможет исправить недостатки самолета. Однако в конце 1936 года был выпущен Hе.114-V5 по образцу V3 с подрезанными законцовками и двигателем ВМW-132Dс. Зимой 1936...37 года был выпущен и первый серийный Hе.114A-0. Первые четыре серийных самолета получили номера «Versuch». V6 и V7 отличались другими обводами поплавков, а V8 (D-IDEG) уже рассматривался прототипом для Hе.114A-1. Он получил улучшенный ВМW-132К с трехлопастным винтом VDM изменяемого шага. Hе.114-V8 уже не имел крепления для запуска с катапульты, так как испытания в Травемюнде выявили недостаточную прочность самолета. Четвертый А-0 имел изменения в конструкции фюзеляжа с учетом новых принципов расчета на прочность. Это был Hе.114-V9 (D-IHDG). Оставшиеся шесть предсерийных машин также были поставлены в Травемюнде для испытаний.
Тем временем «Weser Flugzeugbau» приступила к выпуску серийных Hе.114A-1, а V2, все еще имевший Jumo-210Еа, был передан кригсмаринe для испытаний с катапульты. Самолет все еще сохранил тенденцию к вихлянию сразу после касания воды. Этот недостаток пытались устранить увеличением киля, поплавки получили двухкилевые обводы. С этими изменениями он был поставлен на новый линкор «Gneisenau». Hовые поплавки не показали преимуществ перед обычными и были вскоре заменены. Hе.114-V2 был заменен на Hе.114A и возвращен на Heinkel для установки двигателя ВМW.
Всего на Weser было изготовлено 33 Hе.114A-1, имевших двигатели BMW-132N взлетной мощностью 865 л.с., некоторые получили двухлопастные, а остальные – трехлопастные винты. Первый самолет был поставлен в школу морской авиации в июне 1937 года. Вслед за А-1 стал выпускаться вариант Hе.114A-2 с усиленным фюзеляжем по образцу Hе.114-V9 и креплениями для запуска с катапульты. A-1 и A-2 имели более широкий киль для улучшения устойчивости на курсе, новый козырек кабины и более низкий фонарь для снижения лобового сопротивления. После испытаний Hе.114A-2 с ВМW-132N на него был установлен более мощный ВМW-132К с трехлопастным винтом-автоматом диаметром 3,3 м.
Оборонительное вооружение состояло из одного пулемета МG.15 на установке Arado в задней части кабины с восемью магазинами по 75 патронов. Под нижним крылом были держатели на две 50-кг авиабомбы. Поплавки имели семь водонепроницаемых отсеков, которые могли использоваться в качестве топливных баков. Hормальный запас бензина составлял 640 л, а с заполненными баками в поплавках – 1100 л.
Пилотам все еще не нравилось поведение Hе.114 на воде и в воздухе, а многочисленные доработки не привели к решению этих проблем. Летом 1937 года полетел первый опытный Ar.196, оказавшийся удачным самолетом. В результате Министерство Авиации, разочаровавшееся в Hе.114, решило сохранить Hе.60 до поступления на вооружение гидросамолета Arado, а Heinkel было предложено попытаться продать Hе.114 за рубеж. Hе.114A-2 были приписаны одной из эскадрилий береговой авиации, чтобы создать впечатление у потенциальных покупателей в его практической пригодности. Самолеты в 1938 году поступили в 1./Ku.Fl.Gr.506, но уже в следующем году их вернули на Weser для подготовки на экспорт.
Экспортный вариант Hе.114A-2 получил обозначение Hе.114B и был весьма соблазнителен из-за низкой цены и срока поставок. Вскоре шведы подписали контракт на 12 Hе.114B-1, поставленных в 1939...40 годах. Они использовались во «флотилии-2» под обозначением S-17BS. Румынское правительство также заказало 12 Hе.114B-2 и еще 12 самолетов с двумя синхронными пулеметами МG.17. Самолеты, переделанные из Hе.114A-2 по румынским требованиям, получили обозначение Hе.114C-1. Hо прежде, чем их поставили румынам, люфтваффе незадолго до вторжения в Советский Союз включило их в 1./SAGr.125. Они использовались вместе с Hе.60 вдоль балтийского побережья и в Финском заливе. К концу года 1./SAGr.125 была переименована и переоснащена, а Hе.114C-1 были переданы Румынии. Они служили на Черном море в 101-й и 102-й эскадрильях береговой разведки, пока в конце 1943 года их не заменили на Ar.196A-3.
Дания 01.04.1940 заказала четыре Hе.114 с поставкой в июне-августе, но контракт так и не состоялся из-за оккупации страны немцами. Hе.114 довелось служить и в Испании, куда во время второй мировой войны были поставлены три или четыре самолета для замены на кораблях устаревших Hе.60.