Pracę szkoleniową zaczynał w amatorskim DSV Pijnacker.

W latach 1984-1987 był asystentem dwóch selekcjonerów kadry - Leo Benhakkera i Rinusa Michelsa, a następnie samodzielnie opiekunem klubów niższych lig - Haarlemu, SVV Schiedam i SVV Dordrecht. Jednocześnie od 1990 roku znów pomagał Michelsowi w drużynie narodowej.

Po Euro 1992 Michels podał się do dymisji, a swoje obowiązki przekazał Johanowi Cryuffowi. Ówczesny szkoleniowiec Barcelony odmówił, choć wyraził chęć prowadzenia Pomarańczowych w finałach kolejnych mistrzostw świata. W tej sytuacji nowym selekcjonerem został Advocaat, który podpisał kontrakt do końca eliminacji do Mundialu. Szkoleniowiec pożegnał się z doświadczonymi piłkarzami (Hans van Breukelen, Adrie van Tiggelen) i powoli wprowadzał do kadry młodych zawodników z Ajaksu Amsterdam. W grupie kwalifikacyjnej Holandia zajęła drugie miejsce, wyprzedzając m.in. Anglię, Polskę oraz Turcję, co oznaczało bezpośredni awans do turnieju. W styczniu 1994 roku dowiedział się, że, głównie dzięki protekcji Michelsa, jednak poprowadzi reprezentację na mistrzostwach. Holendrzy zaprezentowali się na nich nieźle (przegrali z późniejszymi triumfatorami Brazylijczykami), chociaż niemal codziennie do prasy przedostawały się informacje, że w kadrze panuje fatalna atmosfera, a trener nie daje sobie rady z rozkapryszonymi i wykłócającymi się o wszystko zawodnikami. Po turnieju Advocaatowi podziękowano za współpracę i misję budowy nowej reprezentacji powierzono Guusowi Hiddinkowi.

Przez kolejne trzy lata prowadził PSV Eindhoven, z którym wywalczył mistrzostwo Holandii. W 1998 roku przyjął propozycję ze Szkocji i tam, trochę na uboczu wielkiego futbolu, udanie kontynuował dzieło zaczęte przez Waltera Smitha, umacniając pozycję Glasgow Rangers na krajowych boiskach.

Pod koniec 2001 roku po przegranych eliminacjach do Mundialu 2002 z funkcji selekcjonera Pomarańczowych zrezygnował Louis van Gaal. Przez wiele tygodnii szefowie federacji prowadzili rozmowy z kilkoma znanymi szkoleniowcami, ale ostatecznie każdy z nich odmawiał. Wybór więc ponownie padł na Advocaata, przed którym postawiono zadanie, wzorem jego wielkiego poprzednika i nauczyciela Michelsa, zdobycia mistrzostwa Europy. Na Euro 2004 Holendrzy doszli do półfinału, przegrywając po wyrównanym meczu z Portugalczykami. W kraju tulipanów taki wynik uznano jednak za porażkę, tym bardziej, że Advocaat mocno naraził się kibicom i komentatorom już w grupowym meczu z Czechami, kiedy to prowadząc 2:0 pozwolił sobie na nieodpowiedzialne zmiany kadrowe i taktyczne, i w efekcie Holandia przegrała 2:3. Na jego następcę wyznaczono Marco van Basten.

Pod koniec 2004 roku został trenerem Borussi Mönchengladbach. Po siedemnastu kolejkach podał się do dymisji, zostawiając zespół na piętnastym miejscu w lidze.

Wkrótce potem przyjął propozycję prowadzenia reprezentacji Zjednoczonych Emiratów Arabskich. Jednak w tym samym czasie z funkcją selekcjonera Korei Południowej zrezygnował jego rodak Johannes Bonfrere i to właśnie Advocaatowi Koreańczycy zaproponowali przygotowanie swojej reprezentacji do Mundialu 2006. Holender bez większych przeszkód wycofał się z poprzedniej umowy i, jeśli nic się nie zmieni, już po raz kolejny poprowadzi reprezentację na wielkim turnieju, po raz pierwszy nie będzie to Holandia.

Przebieg kariery trenerskiej:
1980-84 - DSV Pijnacker (drużyna amatorska)
1984-85 - reprezentacja Holandii, asystent Rinusa Michelsa
1985-86 - reprezentacja Holandii, asystent Leo Beenhakkera
1986-87 - reprezentacja Holandii, asystent Rinusa Michelsa
1987-89 - HFC Harlem
1989-91 - SVV Schiedam
1991-92 - SVV Dordrecht
1990-92 - reprezentacja Holandii, asystent Rinusa Michelsa
1992-94 - reprezentacja Holandii
1995-98 - PSV Eindhoven
1998-02 - Glasgow Rangers (Szkocja)
2002-04 - reprezentacja Holandii
2004-05 - Borussia Mönchengladbach (Niemcy)
od 2005 - reprezentacja Korei Południowej