AMD Ryzen 5 3600 & Nvidia GTX 1660 Super welcher encoder?

Also entweder du hast h.264 als Encoder oder NVENC. Beides geht nicht. Bei der GPU würd ich aber eher NVENC nehmen an deiner Stelle.
Ansonsten hau gern mal die restlichen Settings und deinen Szenenaufbau hier rein. Dann können wir mehr helfen. Welche Games zockst du denn so?
Bedenke, dass die 1660 ein Einsteiger-Grafikkarte ist. Da darfst du keine Wunder erwarten. Die meisten Games sollten aber halbwegs vernünftig laufen.

Gehen tut das schon... @Game of Jones wenn du im OBS mal schaust wenn du NVENC eingestellt hast steht da h.264... h.264 ist quasi der Kodierer in dem NVENC Codec...x264 ist dabei der Software Kodierer...

An dern Thread Ersteller...letzendlich musst es selber testen. Wir können dir nicht sagen, ob der Prozessor stark genug ist, Game und Stream zu packen. Wenn du mal auf x264 stellst und die Voreinstellung erstmal auf very fast stellst und dann schritt für schritt nach oben gehst, wirst du sehen ab wann die CPU in die Knie geht. Ich konnte mit meinem 8700k von intel auf Medium streamen, während ich am zocken war...also versuchen kannst du es.