VRAM Limits

Для выставления нужного объема видео памяти:

sudo sysctl iogpu.wired_limit_mb=XXX

Где XXX - объем в мегабайтах. например для 1GB нужно выставить 1024

Для возвращения параметров в исходное значение с автоматическим выделением памяти - перезагрузить устрйоство.