С первых дней Советской власти и до конца жизни деятельность И. М. Губкина была неразрывно связана с борьбой Коммунистической партии и советского народа за построение социализма в нашей стране. У вождя Коммунистической партии и Советского государства В. И. Ленина Иван Михайлович пользовался особым уважением и доверием. В одной из записок своим помощникам Владимир Ильич сообщал: «При свидании с Губкиным я просил его обращаться прямо ко мне, когда есть что важное».
Некоторые враждебно настроенные элементы тщетно пытались сбить И. М. Губкина с избранного им пути, отговорить его от принятого решения вступить в ряды Коммунистической партии. Однажды к нему явился инженер Пальчинский. Между ним и Губкиным произошел такой разговор:
Пальчинский: «Неужели Вы верите в прочность большевистской партии? Подумайте!»
Губкин: «Мне нечего думать. Я убежден в торжестве коммунизма».
Пальчинский: «Подумайте о своей судьбе как ученого».
Губкин: «Я именно как ученый должен стать большевиком. Только коммунисты по-настоящему ценят и понимают науку».
Пальчинский: «Мы пришли предупредить Вас от имени русского инженерства».
Губкин: «Я сам русский инженер».
После этих слов Иван Михайлович выставил непрошеного гостя за дверь.
В марте 1921 года И. М. Губкин был принят в члены Коммунистической партии без предварительного прохождения кандидатского стажа.
Только в годы Советской власти у И. М. Губкина раскрылся незаурядный организаторский талант, развернулась его плодотворная научно-преподавательская, воспитательная и общественная деятельность.
Пламенный патриот своей Родины, верный сын своего народа, коммунист-ленинец, он показывал образцы выполнения служебного долга, творческого подхода к решению любого вопроса, за что неоднократно получал благодарности и награды. По предложению В. И. Ленина, за успешную работу по налаживанию новой отрасли промышленности – разведки и добычи сланцев –коллектив работников Главсланца, во главе которого стоял И. М. Губкин, был награжден орденом Трудового Красного Знамени.
В 1921 году по инициативе В. И. Ленина И. М. Губкин был утвержден председателем Президиума Особой комиссии по изучению Курской магнитной аномалии (ОККМА). С 1919 года по 1926 год небольшой отряд исследователей провел наземные наблюдения и измерения в 20 тыс. точек на площади 1,5 тыс. квадратных километров. Буровики пробурили 19 разведочных скважин общим метражом 6,5 тыс.метров, а вместе с водяными – более 7 тыс. метров. Самым выдающимся событием в истории исследований КМА тех лет было поднятие из глубины недр в деревне Лозовке Щигровского уезда (23 апреля 1923 г.) настоящей железной руды.