После Испании Фёдорова направили сначала в Китай, а затем на Халхин-Гол. «Японские лётчики были достойными противниками. Летали они на неплохих для того времени истребителях И-96 и показали себя смелыми и бесстрашными бойцами», — вспоминал он позднее. Фёдоров добавил к своему счёту ещё 8 сбитых противников.
Вскоре после начала Великой Отечественной войны Фёдоров написал командующему ВВС РККА рапорт с просьбой направить на фронт. Просьбу удовлетворили в ином смысле: Иван Евграфович, имевший за плечами солидный опыт в испытаниях самолётов, был направлен в Горький на завод № 21 в качестве ведущего пилота. Скрепя сердце наш герой облётывал новые ЛаГГ-3, которые затем переправлялись прямиком на фронт. Все рапорты, которые он слал директору завода и командованию ВВС, оставались без ответа. Чтобы вынудить начальство снять его с испытательной работы, Фёдоров решился на отчаянный шаг: в конце июля он сделал на новом истребителе три «мёртвые петли», заканчивающиеся под мостом через Оку. Охрана моста открыла огонь по хулигану. Дело могло кончиться трибуналом, и лётчик принял решение лететь в сторону фронта. Попрощавшись по радио с друзьями, он взял курс на запад. 3-я воздушная армия генерала Громова была конечным пунктом его маршрута.
В подмосковном Монине Фёдоров приземлился для дозаправки. Ему повезло: на аэродроме ещё не знали об «угоне» и, заправившись без проблем, Иван полетел в направлении Калинина. Отыскав крупный аэродром с командным пунктом, зашёл на посадку. К самолёту сбежались любопытные, подъехал и сам Михаил Громов на личном «кадиллаке», подаренном ему ещё в 1937-м президентом Рузвельтом за беспосадочный перелёт Москва — Калифорния через Северный полюс. «Товарищ генерал! Лётчик-испытатель майор Фёдоров прибыл к вам для прохождения фронтовой практики!» — отрапортовал Иван. Тем временем над аэродромом был замечен вражеский разведчик Хе-111. Получив разрешение испытать «новый самолёт в боевых условиях», Фёдоров пошёл на взлёт. Бой был коротким. На глазах у всех он атаковал и сбил немца. Громов поздравил майора: «Будем считать, что ваша фронтовая практика началась».
В августе 1942 года в составе 3-й воздушной армии, воевавшей на Калининском фронте, был сформирован полк лётчиков-штрафников. На этот беспрецедентный шаг командование фронта пошло с целью нивелировать господство в воздухе немецкой авиации. Здесь действовала группа немецких асов, машины которых были разрисованы игральными картами всех мастей, за что наши лётчики прозвали их «картёжниками». Потери советская авиация несла от них довольно ощутимые. Командующий 3-й воздушной армией генерал Громов предложил маршалу Коневу создать специальную группу из опытных лётчиков, которым за различные провинности грозил штрафной батальон и которые любой ценой должны будут ликвидировать «картёжников» и прикрыть от бомбёжек наши войска.
Громов осознавал всю полноту ответственности, взятой на себя. В середине августа на аэродром Башарово стали прибывать пилоты, в предписаниях которых значилось: «Направляется в группу истребителей-штрафников». Всего набралось 64 человека, и встал закономерный вопрос — кто ими будет командовать? Лучшие асы Андрей Боровых, Василий Зайцев и Анатолий Онуфриенко (впоследствии Герои Советского Союза) отказались. Тут под руку подвернулся Фёдоров, который сам изъявил желание возглавить штрафное воинство. На организацию Ивану Евграфовичу было дано две недели. Группа получила новые истребители Як-1 и Як-7 и приняла участие в боях. Первые же схватки в воздухе показали, что Фёдоров поторопился вводить в бой своих пилотов. Звенья сражались разрозненно, сумбурно, хотя и дали достойный отпор вражеским бомбардировщикам. Командиру даже пришлось таранить немца колёсами шасси и приземляться на парашюте. Постепенно штрафники благодаря Фёдорову добились слаженности в своих действиях и стали драться более организованно и напористо, а вскоре к ним на усиление были переведены и лучшие истребители армии: Зайцев, Боровых, Онуфриенко, Баранов.
Как-то, возвращаясь с воздушной разведки, Фёдоров вместе с ведомым Андреем Боровых внезапно обнаружили у линии фронта большую группу Ме-109. Увидев размалёванные фюзеляжи, поняли — долгожданные «картёжники». Несмотря на заведомо проигрышное соотношение сил (двое против четырнадцати), наши лётчики завязали бой. Зайдя в лоб и расколов группу немцев надвое, они увлекли противника в схватку на виражах. «Як» Фёдорова получил попадание, и он, чтобы ввести противника в заблуждение, сымитировал беспорядочное падение самолёта. Один из «мессеров» с фигурой дракона на фюзеляже подошёл слишком близко и, не уберёгшись, получил очередь в упор и врезался в землю. Та же участь постигла и его напарника с червоным тузом на носу. Боровых тем временем завалил «пиковую даму». Уцелевшие «картёжники» ударились в бегство. На месте падения немецких асов побывала комендантская команда и доставила в штаб их документы и личные награды — Рыцарские кресты. Фёдорову пилоты преподнесли маузер, трубку и кортик «красного дракона» командира группы полковника фон Берга.
О самовольно сбежавшем на фронт нашем герое в Москве всё же не забыли. В сентябре Военный Совет ВВС РККА получил из Горького депешу: «Прошу вернуть Фёдорова И. Е. для использования его в качестве лётчика-испытателя». Громов лично ответил директору завода № 21: «Лётчик-испытатель вашего завода майор Фёдоров с согласия народного комиссара авиапромышленности тов. Шахурина временно переведён для выполнения спецзаданий по боевой работе в истребительную авиацию Калининского фронта». Конфликт был исчерпан.
В течение двух месяцев «штрафная» группа успешно работала на фронте: отбивала налёты вражеских бомбовозов, сопровождала наши бомбардировщики и штурмовики, прикрывала с воздуха наземные войска. Отличившихся пилотов возвращали в родные полки, и постепенно соединение Фёдорова «растаяло». Оставшийся костяк лучших из лучших генерал Громов решил преобразовать в полк асов опять же с Иваном Евграфовичем во главе. Какое-то время Фёдоров летал вместе со своими товарищами, а затем был назначен командиром 256-й авиадивизии.
Командуя штрафниками, Фёдоров сбил 15 и подбил 3 фашистских самолёта, и несмотря на эти достижения, он не был представлен к награде. Об этом факте лишь в январе 1944-го вспомнил командир 6-го истребительного авиакорпуса полковник Жильцов, подписывая боевую характеристику на предоставление Ивана Евграфовича к званию Героя Советского Союза. Но опять вмешался случай. Представление приостановили.
До конца войны Иван Евграфович находился в должности заместителя 269-й Краснознамённой дивизии полковника Додонова. Много летал. Воевал на самолётах многих марок. Как ни парадоксально, но во время войны был награждён всего двумя орденами: двумя Отечественной войны 1-й и 2-й степеней и Александра Невского.
Уже в 1945 году его представили за обучение лётчиков приёмам воздушного боя к ордену Красного Знамени, но эта награда почему-то не дошла до своего героя. Причину такой немилости, скорее всего, следует искать в отношениях Ивана Евграфовича с вышестоящим начальством, которому Фёдоров был очень неудобен. Мог вылететь на боевое задание, несмотря на запрет командира корпуса, мог ввязаться в «рискованный» воздушный бой. «Меня не раз разжаловали, лишали, выгоняли, сажали под арест. Считали хулиганом — и в воздухе, и на земле. Но, слава Богу, крыльев не лишали», — вспоминал герой.
Как только окончилась война, Фёдоров вернулся в КБ Лавочкина. В мире авиации вступила в свои права эра сверхзвуковых полётов. Скорости полётов постоянно росли, и вскоре учёные столкнулись с таким явлением, как звуковой барьер. В декабре 1948-го Фёдоров в паре с лётчиком Соколовским приступил к штурму звукового барьера. В ходе испытаний выяснилось, что Фёдоров на реактивных самолётах Лавочкина побил около трёх десятков мировых рекордов.
Однажды главного конструктора вызвали к Сталину. Семён Алексеевич взял с собой и Фёдорова, так как знал, что у вождя могут возникнуть вопросы относительно поведения сверхзвукового истребителя в воздухе. Ознакомив Сталина с документами по Ла-176, Лавочкин представил своего лётчика: «Это, Иосиф Виссарионович, наш шеф-пилот. Воевал, испытывает наши реактивные самолёты». На вопрос — чего он хочет? — конструктор ответил: «Чтобы пилот стал Героем». Трижды, мол, представляли и всё без результата. Вождь пообещал разобраться. Так, в марте 1948 года с «третьего захода», и то благодаря ходатайству Лавочкина, Иван Евграфович получил Звезду Героя Советского Союза. А свой боевой путь Фёдоров завершил в небе Кореи. Летая на манёвренном и быстром МиГ-15, он отправил к земле 7 американских и южнокорейских самолётов.