Созданный с учетом опыта полетов Ш-1 второй опытный самолет, получивший обозначение Ш-2, отличался от прототипа не только двигателем М-11 воздушного охлаждения мощностью 100 л.с., но и возросшей почти на 150 кг полетной массой. По типу и схеме Ш-2 – прямое развитие амфибии Ш-1. Удлинив лодку на 0,5 м, конструктор увеличил и размеры верхнего крыла (его площадь стала 21,75 м²), оставив без изменений нижнее крыло, поплавки и кабину. В ней, кроме летчика, могли разместиться 2...3 пассажира. Изменилась и форма верхнего крыла в плане – размах центроплана уменьшился, а отъемные части крыла стали иметь небольшую стреловидность по передней кромке и очертания задней кромки, близкие к эллипсовидной. Кроме того, для удобства хранения самолета на кораблях и в небольших ангарах отъемные части крыла Ш-2 стали выполняться складывающимися: они поворачивались назад на 90° вокруг оси, проходившей по заднему лонжерону и болту крепления заднего подкоса крыла. Конструкция амфибии – деревянная. Каркас лодки – из сосны и ясеня, обшивка – фанера в основном 3 мм, на редане – 6 мм, в хвосте, на нижних крыльях и поплавке – 2 мм и 1 мм. Для лучшей защиты от воды корпус лодки и нижние крылья оклеивались полотном на аэролаке.
Первый полет Ш-2 состоялся 11.11.1930, а уже летом следующего года он успешно прошел государственные испытания. С нормальной полетной массой 931 кг он имел максимальную скорость 139 км/час, практический потолок 3850 м и продолжительность полета 4...11 час; посадочная скорость была всего 60 км/час.
Летные данные Ш-2 были признаны достаточными, а устойчивость и управляемость – приемлемыми: при наборе высоты эффективность рулей и элеронов была мала, но при крейсерских скоростях полета управляемость самолета значительно улучшилась. При движении по водной поверхности сидевший глубоко в воде нос лодки Ш-2 с увеличением скорости создавал сильное брызгообразование, но по мере подъема носа брызгообразование уменьшалось, и перед выходом ее на редан оно полностью исчезало. Для сокращения времени выхода на редан и прекращения забрызгивания кабины летчика на Ш-2, как и на других самолетах со слабокилевым днищем лодки, применялся метод взлета с попеременными отдачами ручки управления в процессе разбега «от себя» и «на себя». При нормальном варианте загрузки самолет имел довольно задний эксплуатационный диапазон центровок – 27...34,5 % САХ. В случае выхода за эти пределы, например, в перегрузочном варианте (с двумя членами экипажа и двумя пассажирами на борту) центровка самолета доходила до 37,5% САХ, и он становился очень строгим в пилотировании – «висел на ручке», и невнимательность летчика могла привести к потере скорости. С целью сделать центровку более передней и упростить управление самолеты Ш-2 более поздних выпусков оборудовались передними багажниками в носовой части лодки, в которых размещался груз массой 25 кг.
Первый серийный самолет Ш-2 был выпущен в апреле 1932 года, серийное производство его продолжалось до 1934 года. Они широко использовались на местных воздушных линиях в Сибири, на Дальнем Востоке и Крайнем Севере, взлетали и садились на небольшие сухопутные аэродромы, на многочисленные в тех краях реки и озера. В качестве самолетов для ледовой и рыбной разведки и для спасения терпящих бедствие людей Ш-2 применялись на всех морях, омывающих территорию Советского Союза. Эти амфибии патрулировали леса, несли службу по охране государственных границ, на них проводилась первоначальная подготовка летчиков морской авиации. Серийно строился и санитарный вариант самолета – Ш-2С. На нем за передними сидениями, где размещались летчик и врач, оборудовалась кабина для носилок с больным, закрывавшаяся прозрачным фонарем.
В 1939 году из-за отсутствия более совершенных самолетов-амфибий ремонтные базы ГВФ своими силами стали строить Ш-2, и такое производство этих машин продолжалось до начала 50-х годов. Они выпускались с более мощными двигателями М-11Л и М-11Д (115 л.с. и 125 л.с. соответственно), с одиночным управлением, оборудовались системой запуска двигателя сжатым воздухом, имели триммеры на рулях высоты.
В 1952 году строились самолеты Ш-2 с закрытой кабиной экипажа. Их эксплуатация продолжалась до середины 60-х годов. Относительно большое число построенных самолетов Ш-2, не могло, конечно, обеспечить всех потребностей бурно развивавшихся в те годы различных районов СССР в воздушном транспорте, и с начала 30-х годов отдельные конструкторские группы выступили с проектами самолетов-амфибий для народного хозяйства.
До 1940 года были построены опытные гидросамолеты для аэрофотосъемки (Ш-5), для северного края (ACK), для местных авиалиний (MA-1 и Ш-7), однако все они серийно не строились.