В 1799 году Иван Осминин поступил в Училище корабельной архитектуры в Кронштадте, где за успехи в учёбе 19 (31) октября 1803 года был награждён золотыми часами. В 1805 году он закончил училище и, получив чин 12 класса, отправился в командировку в Англию для повышения квалификации.
После обучения в Англии, в 1808 году, Иван Яковлевич вернулся в Россию, где был назначен помощником корабельного мастера, а в 1811 году стал сам преподавать в Училище корабельной архитектуры. В 1813 году Иван Яковлевич был командирован в Кёнигсберг. Во время осады Данцига Иван Яковлевич находился на ремонте судов флотилии, атакующей город, за что был награждён Орденом Святого Владимира IV степени.
2 (14) марта 1817 года Иван Яковлевич Осминин был произведён в 9 класс и переведён в Николаев, а оттуда — в Севастополь. В 1820 году Осминина произвели в 8 класс, а 23 февраля (7 марта) 1827 года он был переаттестован в подполковники корпуса корабельных инженеров и снова переведён в Николаев. В 1833-м году Иван Яковлевич был награждён Орденом Святой Анны II степени, а с 1834 по 1838 год был исполняющим обязанности начальника корабельных инженеров Черноморского флота.
Умер 28 августа (9 сентября) 1838 года.