Ciao,
attenzione a confondere l'accelerazione GPU del rendering con quella della timeline, sebbene possano lavorare insieme, non sono la stessa cosa.
Come hai indicato anche tu, puoi tenere ad OFF l'accelerazione GPU per la timeline, ma sfruttarla comunque per il render...
altrimenti il video finale risulta tutto posterizzato e inguardabile.
L'accelerazione GPU non influisce sulla qualità di visione di un video, controlla nel pannello di controllo NVIDIA, c'è una specifica voce per la regolazione e gestione dei colori durante la riproduzione video, assicurati che siano disabilitati tutti gli artifici introdotti dalla scheda grafica.
Inoltre la posterizzazione dove la vedi? Dentro Vegas? Se si, guardando il video con un altro player?
L'instabilità che indichi genera un qualche crash con un qualche messaggio di errore?
Hai verificato che l'alimentatore del tuo PC sia adeguato per le richieste energetiche della GPU e degli altri componenti?
Talvolta problemi con le GPU, soprattutto sotto stress, si hanno quando l'alimentazione è instabile o scarsa.
Per caso hai installato software della scheda grafica per aumentare le prestazione tramite overclock software?
Hai verificato che i plugin di terze parti che hai installato siano aggiornati?
Ciao