奥斯特洛夫斯基出生在乌克兰沃利尼亚省维里亚村一个退伍军人家庭，父亲阿列克谢·伊万诺维奇·奥斯特洛夫斯基（1854年—1936年）作为沙皇俄国士兵参与过日俄战争，母亲奥尔加·奥西普纳·奥斯特洛夫斯卡娅（1875年-1947年）为捷克移民之女。9岁之前在一所教区学校上学，是一位荣誉学生，11岁时举家迁徙到舍佩蒂夫卡，并开始在当地火车站工作，1919年加入共青团，参加苏联国内战争。1920年秋天在战斗中负重伤，23岁时全身瘫痪，24岁时双目失明、脊椎硬化。他口述由妻子整理在1933年写成自传小说《钢铁是怎样炼成的》，这本书在共产主义世界引起巨大反响。1932年成为无产阶级作家协会成员，1934年成为苏联作家协会会员。1935年10月1日，苏联政府授予他列宁勋章。
奥斯特洛夫斯基于1936年12月22日逝世，年仅32岁。其第二本描写乌克兰内战的小说《暴风雨所诞生的》被迫中止。1940年位于索契的奥斯特洛夫斯基的故居改建成为国家博物馆。
