Во время Великой Отечественной войны — заместитель командира по технической части 32-й танковой Краснознамённой, ордена Ленина и ордена Суворова бригады, инженер-полковник.
Родился в 1900 году в Луганске.
Окончил Военно-техническую академию им. Дзержинского в Ленинграде.
Работал в ГКБ Орудийно-Арсенального треста (ОАТ), КБ-3 ВОАО под руководством С. П. Шукалова в Москве, затем был откомандирован в распоряжение Управления механизации и моторизации РККА (УММ РККА).
В 1930 году в составе закупочной комиссии был на заводах в Великобритании, а затем был назначен начальником испытательной группы по танку Т-26 («Виккерс», англ. Vickers Mk.E). Был прикомандирован к танковой школе в Казани, где занимался копированием чертёжно-технической документации, поступавшей из Германии.
С 1932 года работал в ОКМО ленинградского завода № 174, затем на заводе № 185 помощником директора завода (Н. В. Барыкова) по конструкторской части. При непосредственном участии и под его руководством на заводе № 185 был выполнен ряд проектно-конструкторских работ по разработке опытных танков Т-33, Т-43, Т-29, Т-46-5, Т-100 и Т-126СП, а также поступивших впоследствии в серийное производство танков Т-26, Т-28, Т-35 и Т-50.
С мая 1940 года после слияния заводов № 185 и № 174 был назначен начальником отдела в КБ завода № 174, возглавляемое Г. В. Гудковым.
В годы Великой Отечественной войны работал в конструкторском отделе Наркомтанкопрома, был заместителем Ж. Я. Котина, занимавшего должность заместителя наркома танковой промышленности. Контролировал и непосредственно руководил работами по созданию лёгкой самоходной артиллерийской установки СУ-76. За низкое качество первых самоходных установок СУ-76 был отстранён от должности и направлен в действующую армию.
Инженер-полковник Гинзбург погиб 3 августа 1943 года в районе деревни Малая Томаровка Курской области, находясь в должности заместителя командира 32-й танковой бригады по технической части.
Похоронен у деревни Лучки Томаровского района Курской области (ныне Яковлевский район Белгородской области).
Награждён орденами Ленина, «Знак Почёта» и медалями.