Может качество фрезы плохое? Попробуй другой. Материал  тоже влияет.

Не понятно что вы имеете ввиду под обычной фрезой. Но если у неё прямые зубья, то так и должно быть. Спиральная фреза за счёт угла зубьев к материалу и поднимает ворсу.

Давайте тогда по порядку.
Фанера в общем "тяжелый" материал. Слои имеют разную направленность текстуры (волокон). Плюс клеевый слой между слоями. Сама древесина на фанеру идет не лучшего качества.
Отсюда вывод - фрезеровать по фанере рельеф не самое лучшее решение. Выборку по фанере можно делать прямыми фрезами (END Mill), но для краев оставлять припуск и фрезеровать "шариком" подходящего диаметра. Конусные фрезы больше всех "рвут" кромку. И, ВСЕ фрезы при работе по фанере должны быть острыми.

Мне тоже кажется, что дело в фанере. Конусом по ней не пробовал, а при 2Д выборке количество ворса очень различно в зависимости от материала. Я определяю влажность фанеры шкуркой. Просто вручную пробую зачищать участок. Если пыль сыпется, то фанера сухая, если забивает шкурку- то влажная. Не говорю, что это правильный метод- просто я так делаю. Попробуйте положить кусок фанеры к батарее и через пару суток попробовать на ней порезать тот же рельеф, который у вас мохнатился. Фанеру скорее всего поведет от такой просушки- это просто, чтобы определиться, кто виноват. Еще и сорт древесины может иметь место. Сосновая- более колкая, тополиная- более "тягучая".
А то, что фанера лежит рядом со станком- это не показатель. Может у вас влажность в помещении большая, фанера подсохла до какого- то уровня и так и остановилась.

aleksandr.g3
А вы попробуйте черновое снятие + конусная фреза. Думаю что результат будет не хуже чем черновое снятие + спиральная круглая. При условии, что обе фрезы одинаковой "свежести".