Moin,
also dein letzes VOD auf Twitch (Star Wars) sieht auf jeden Fall schon mal extrem gut aus. Ich bezweifel, dass du das mit x264 Faster gemacht hast.
Bei deinem System kannst du im Prinzip, je nach Spiel, zwischen NVENC (new) und x264 wechseln.
NVENC (new) wird von der GPU berechnet und ist extrem effizient, so dass du selbst in GPU intensiven Games nur wenige FPS verlieren wirst. Qualitativ ist NVENC (new) mit x264 Medium zu vergleichen.
x264 wird von der CPU berechnet und braucht je nach Preset deutlich mehr Leistung. Bei manchen, CPU intensiven Spielen wirst du mit x264 Medium deutlich mehr FPS verlieren, als mit NVENC. Bei Spielen, die nicht viele Kerne nutzen, kannst du vielleicht mal versuchen, auf x264 Slow zu gehen. Slow braucht aber nochmal einiges mehr als Leistung (und damit auch Strom), als Medium, sieht dabei aber in der Regel nur minimal besser aus.
Was für dich besser funktioniert, testet du am besten selbst.
Die Bitrate kannst du bei 6000 lassen, theoretisch würde bis gut 8000 funktionieren, das aber nur inoffiziell und mit der Gefahr auf Fehler. Ob Twitch da zickig werden würde, weiß ich nicht.
Auflösung und FPS sind eher Geschmackssache. Ich persönlich würde immer 60 FPS nehmen, da mir ein flüssigeres Bild wichtiger ist, als ein klareres. Bei langsamen Titeln, könnte man aber auch auf 30 FPS gehen.
Bei der Auflösung kannst du im Prinzip alles zwischen 1080p und 720p probieren. Je geringer die Auflösung/ FPS, desto mehr Bitraten-Bandbreite bleibt für jeden Frame. Spiele mit vielen Details (Gras, Laub etc.) oder bei deinen sich der Bildinhalt schnell verändert (Shooter), sehen in geringeren Auflösungen oft besser aus. Ein guter Kompromiss ist da z.B. 1600x900.
Zu guter Letzt würde ich dir OBS Studio mit dem StreamElements Plugin (OBS Live) empfehlen, das läuft für meinen Geschmack zuverlässiger als Streamlabs und bietet etwas mehr Funktionen.
Gruß
.Rock
PS: Ist das das neue XL oder noch das alte Dynamic? Sieht gut aus!