В начале июля Ф.И. Голиков, оставаясь на посту начальника Разведупра (некоторые источники ошибочно указывают, что сразу после 22 июня 1941 году Голиков был снят с этой должности), был назначен главой Советской военной миссии в Великобритании и США. Вел переговоры о военных поставках и открытии Второго фронта.

Несмотря на трудности в проведении переговоров уже в августе 1941 года в порт Архангельск прибыл первый конвой союзников со стратегическим грузом. Ист.: Записная книжка маршала Голикова Ф.И. Советская военная миссия в Англии и США в 1941г. Н.Ф.Голикова-Семенцова. К читателю. Предисловие Ю.В.Рубцова. Новая и новейшая история. 2004. № 2.

В сентябре Голиков возвращается в Москву и принимает участие в работе Московской конференции трех держав – СССР, Англии и США, проходившей с 29 сентября по 1 октября. На ней был подписан протокол о взаимных поставках.

Голиков неоднократно просил у высшего руководства отправить его на фронт и уже октябре 1941 года был назначен командующим формировавшейся в Пензенской области

10-ой Резервной армии. В конце ноября 10-ая армия была переброшена в район г.Михайлова Рязанской области. В составе войск Западного фронта армия с рубежа Зарайск-Захарово-Пронск 6 декабря перешла в наступление, нанося главный удар в направлении Михайлов-Сталиногорск (ныне Новомосковск), отбросив на расстояние до 200 км части 2-й танковой группы генерал-полковника Гудериана.

С февраля 1942 года Голиков – командующий 4-ой ударной армией Калининского фронта. С апреля 1942 года — командующий войсками Брянского фронта. В июле 1942 года – командующий Воронежским фронтом. В августе 1942 года назначен командующим 1-й гвардейской армией на Юго-Восточном и Сталинградском фронтах. С сентября 1942 года – заместитель командующего Сталинградским фронтом. В октябре 1942 года повторно назначен командующим Воронежским фронтом.

На посту командующего Воронежским фронтом провел три крупные операции. В первой их них, Острогожско-Россошанской операции 13-27 января 1943 года войска фронта взяли в кольцо 13 вражеских дивизий ( в том числе силы 2-й венгерской армии , итальянский альпийский корпус, 24-й танковый корпус). К 27 января окруженная группировка была разгромлена.

В Воронежско-Касторненской операции, проходившей с 24 января по 17 февраля 1943 года были окружены и разгромлены 11 вражеских дивизий, освобождена большая часть Воронежской и Курской областей, города Воронеж, Старый Оскол и многие другие населенные пункты. В плен было взято более 80 000 чел.

В Харьковской наступательной операции 2 февраля – 2 марта 1943 года советским войскам удалось продвинуться более чем на 100 километров и освободить Харьков.

Однако, в Харьковской оборонительной операции 2-25 марта, противник смог нанести мощные удары по войскам Воронежского фронта и соседнего Юго-Западного фронта (командующий Н.Ф.Ватутин). Сконцентрировав ударную группировку юго-западнее Харькова немецкие войска 4 марта нанесли контрудар по левому флангу Воронежского фронта и правому флангу Юго-Западного фронта. Войска обоих фронтов не смогли сдержать напор противника. 16 марта германские войска заняли Харьков, 18 марта – Белгород. Ставка произвела перемещение командующих фронтами.

В марте 1943 года Голиков был отозван в Москву и на фронт более не направлялся, несмотря на его многочисленные просьбы. Ист.: «Стремление на фронт у меня неистребимо. Письмо генерал-полковника Ф.И.Голикова И.В.Сталину 1944г.» Предисловие к.и.н. А.С.Божич. «Исторический архив». 2000 № 2.

В апреле 1943 года Голиков был назначен заместителем Народного комиссара обороны СССР по кадрам. С мая 1943 года должность именовалась – начальник Главного Управления кадров Народного комиссариата обороны СССР (с 1946 года Министерства Вооруженных сил СССР). Одновременно 4 октября 1944 года был назначен Уполномоченным Совета Народных Комиссаров по делам репатриации граждан СССР из Германии и оккупированных ею стран. 23 октября Голиков возглавил Управление Уполномоченного СНК по делам репатриации. На этих должностях находился до 1950 года.