Fall Creators Updateで
DirectX9で4GB以上のVRAMを割り当てることができないバグの修正
というのがあったらしいので、この辺もしかして？
via https://freesoft.tvbok.com/win10/problems/trouble_shoot_list_fall_creators_update.html