Конон Яков Константинович родился 28 марта 1913 года в маленькой деревне Михалово (три километра от д. Городилово) в многодетной крестьянской семье. Эти места когда-то входили в состав Польши. Отца звали Конон Константин, мать – Конон Мария. Возглавлял семью отец, управляющий всей жизнью и хозяйством семьи. Начиная с раннего детства, прадедушка помогал своим родителям по хозяйству, очень любил ухаживать за скотом. Он был энергичным, любознательным, общительным ребенком, умел читать и писать. Грамоте и начальным азам арифметикиего обучил отец дома. В подростковом возрасте Яков работал на железнодорожных путях рабочим, помогал кормить младших братьев и сестер.