С началом Великой Отечественной войны вторично призван в Красную Армию в августе 1941 года. С того же года — на фронте. В 1942—1943 годах воевал на Северо-Кавказском фронте, с июня 1943 года — на Западном фронте, с октября 1944 года — на 1-м Прибалтийском и Ленинградском фронтах. В боях был дважды ранен: в январе и в мае 1942 года.
Командир отделения 132-го моторизованного штурмового инженерно-сапёрного батальона 15-й армии2-го Дальневосточного фронта комсомолец старший сержант Иван Якубин 13 августа 1945 года участвовал в блокировке штурмовой группой одного из крупнейших японских дотов Фуцзиньского укреплённого района.
Старший сержант И. М. Якубин, спасая жизнь офицера и сам будучи ранен, уничтожил двух японских солдат автоматным огнём, одного — холодным оружием и погиб в неравном рукопашном бою.
Указом Президиума Верховного Совета СССР от 8 сентября 1945 года за образцовое выполнение боевых заданий командования на фронте борьбы с японскими милитаристами и проявленные при этом мужество и героизм старшему сержанту Якубину Ивану Максимовичу посмертно присвоено звание Героя Советского Союза.
Средняя общеобразовательная школа №1 также носит имя героя.
На хуторе Северокубанском именем Героя названа единственная улица.
В Краснодаре на территории мемориального комплекса «Памяти преподавателей и студентов КубГУ, погибших в годы Великой Отечественной войны» 5 мая 2015 года открыт бюст Героя.