Работнику авансом был предоставлен весь оплачиваемый отпуск за 2018 год, компания излишне предоставила работнику 39 календарных дней отпуска

В соответствии со статьей 137 ТК РФ удержания из заработной платы работника производятся только в случаях, предусмотренных ТК РФ и иными федеральными законами.
Удержания из заработной платы работника для погашения его задолженности работодателю могут производиться:
при увольнении работника до окончания того рабочего года, в счет которого он уже получил ежегодный оплачиваемый отпуск, за неотработанные дни отпуска. Удержания за эти дни не производятся, если работник увольняется по основаниям, предусмотренным пунктом 8 части первой статьи 77 или пунктами 1, 2 или 4 части первой статьи 81, пунктах 1, 2, 5, 6 и 7 статьи 83 ТК РФ.

Статья 137 Трудового кодекса РФ дает организациям право вернуть излишне выплаченные отпускные путем удержания из заработной платы, выдаваемой сотруднику при увольнении. Но нужно помнить об ограничении, предусмотренном в статье 138 ТК РФ, а именно что общий размер всех удержаний при каждой выплате заработной платы не может превышать 20 процентов.
 Таким образом, работодатель вправе без какого-либо  согласия со стороны работника при начислении оплаты при увольнении  взыскать часть неотработанных отпускных в пределах 20 процентов причитающихся ему сумм. Сотрудник имеет право добровольно вернуть разницу сумм на счет организации.  Добровольный возврат влечет за собой полный перерасчет НДФЛ,

Если последней зарплаты сотрудника недостаточно или отсутствует для удержания, и работник отказался в добровольном порядке вернуть, то попробовать взыскать в судебном порядке. 

Однако, мое мнение, что  Трудовой кодекс РФ не предусматривает механизм обращения в суд с иском о взыскании сумм, не удержанных при увольнении и  в статье 1109 Гражданского кодекса РФ говорится о том, что не подлежат возврату в качестве неосновательного обогащения заработная плата и иные денежные суммы, предоставленные физическому лицу в качестве средства к существованию, при отсутствии недобросовестности с его стороны или счетной ошибки.