В 1944 (с октября) — 1950 (по июнь) и в 1953 (с августа) — 1960 годах — старший тренер команды Динамо (Москва). Рекордсмен среди тренеров команды по количеству завоеванных чемпионских званий (6 — 1945, 1949, 1954, 1955, 1957 и 1959 годы) и по общему количеству призовых мест в чемпионатах страны (12 — дополнительно к первому месту пять раз приводил команду к выигрышу второго места — 1946, 1947, 1948, 1956 и 1958 годы и один раз третьего — 1960 год). При Якушине один раз команда владела Кубком СССР (в 1953 году) и трижды (в 1945, 1949 и 1955 годах) выходила в финал Кубка СССР.

Под руководством Якушина, московское «Динамо» в ноябре 1945 года совершило памятную поездку в Великобританию, высоко поднявшую авторитет советского футбола. Под его же руководством команда в 40-50-е годы достойно провело матчи с сильнейшими профессиональными командами Европы и Южной Америки.

Вместе с «Динамо» в 1945 году стал первооткрывателем нового тактического варианта — 1+4+2+4.

В 1950 (с августа) — 1953 (по август), затем в 1962 (с июня) — 1964 (по апрель) и вновь в 1974 (с августа) — 1975 годах Якушин работал старшим тренером тбилисского «Динамо».

В 1965—1966 и затем в 1969—1970 годах он был старшим тренером «Пахтакора» Ташкент; а в 1973 году (по май) — «Локомотива» Москва.

В 1959 году (с сентября) и в 1967—1968 годах Якушин был старшим тренером первой сборной СССР, которая под его началом успешно провела отборочные матчи Кубка Европы 1960 года, вышла в финальный турнир чемпионата Европы 1968 года, заняв четвёртое место. В 1967 году сборная под его руководством блестяще провела сезон и была поставлена еженедельником «France Football» на первое место среди европейских национальных сборных.

Одновременно с тренерской работой в клубных командах был в 1952 году (в период с июня по июль) и в 1957—1958 (по июнь) годах тренером сборной СССР, в 1959 году (по сентябрь) — тренером олимпийской сборной СССР, в 1955—1956 годах старшим тренером второй сборной СССР.