Po Stalinově smrti v roce 1953 se Koněvovi podařilo získat důvěru jeho nástupce Nikity Chruščova. Když o tři roky později v Maďarsku propuklo protisovětské povstání, byl - v této době už vrchní velitel ozbrojených sil Varšavské smlouvy - pověřen jeho potlačením.
