В училище Ваню так и не пустили. Но он выговорил себе — год помогать учителю в его школьных занятиях. Его страстью становится чтение. Но книги были редкостью. Прослышав о том, что в какой-то деревне есть книжка, он, невзирая на расстояния и погоду, много верст шел пешком, лишь бы ее прочесть.
Беседы учителя с отцом не пропали даром. По настоянию отца и с согласия бабушки Ваню отпустили в уездное Муромское училище. Но мытарства на трудном пути к знаниям еще впереди. Только через четверть века, в возрасте почти сорока лет он получит наконец документ об окончании последнего в его жизни учебного заведения.
Вот кратко этапы этого долгого пути…
Весной 1887 года Губкин с отличием кончает Муромское уездное училище. И снова со всей остротой встает вопрос: а дальше что? Губкин мечтает теперь об учительской семинарии. В семье опять раздор.
...Осенью 1887 г. Губкин в Киржаче, в учительской семинарии. Неимоверно тягостный режим, скудное питание, глумление и издевательства надзирателей-наставников преодолены
... 1890 год. Семинария остается позади Губкин — сельский учитель. Начало учительского пути — село Жайское. Как ни увлекает Губкина деятельность сельского учителя, его не оставляет мысль продолжать свое образование. Но за шестирублевую месячную стипендию Киржачской семинарии он обязан отслужить в сельской школе пять лет. Губкин ходатайствует об освобождении его от этой повинности, чтобы иметь возможность поступить в учительский институт, но получает отказ.
...Август 1895 года. Окончен срок службы за стипендию, Губкин, наконец, свободен. Не задумываясь, на что он будет существовать, Губкин, отправляется в далекий Петербург. Блестяще сдает вступительные экзамены в учительский институт. Стипендии, однако, не полагается. Он упорно ищет работы. Наконец в департаменте земледелия ему предлагают составлять архивные карточки, за каждую составленную карточку он получит одну копейку. Чтобы заработать двадцать рублей, надо за месяц сдать две тысячи карточек. А ведь надо выкроить время для институтских занятий, для самостоятельного чтения...
...1898 год. Губкин блестяще оканчивает учительский институт. Все так же неотступна его мечта — получить высшее образование. Но дальше дороги нет. Ни одно учебное заведение, которое он окончил, не дает права поступить в высшее учебное заведение. Надо иметь на руках документ об окончании гимназии или другого подобного учебного заведения для лиц «благородного и среднего сословия». Продолжающий действовать в Российской империи школьный Устав 1828 года гласит, что «для лиц подлого сословия учреждаются приходские училища». «Подлое сословие» было официальным термином. Так именовались рабочие и крестьяне.
Снова работает учителем. На это уходит еще пять долгих лет жизни.
...1903 год. Ничто не может вытравить из души Губкина его давнишнюю мечту. В возрасте 32 лет он сдает экстерном экзамены за весь курс гимназии и получает аттестат зрелости. Через несколько месяцев он выдерживает труднейшие конкурсные испытания и зачисляется студентом Петербургского горного института.