Включить его можно при помощи команды в терминале

defaults write com.apple.dock no-glass -boolean YES

Если вы захотите его потом выключить, то в конце нужно будет набрать «NO». Естественно, после ввода команды нужно будет перезагружать док.
Это делается командой

killall Dock