Moin,
ich hatte ein ähnliches Problem. Mein stream lief bei allen spielen flüssig, nur Apex laggte im stream heftig. Nicht nur bei mir, auch von aussen lies sich das beobachten.
Bis gestern liefen meine streams über die Grafikkarte, ich habe dann in OBS 2 Einstellungen geändert:
1. den codierer auf x264 gesetzt und
2. den Keyframintervall auf 2 Sekunden gesetzt
Dann habe ich im Spiel die FPS wie hier beschrieben auf 60 limitiert und dazu noch den Gamemode deaktiviert.
Seitdem läuft mein Stream wieder wirklich flüssig. Nur ich sehe den stream stark laggen, aber das ist für mich nicht wichtig. Liegt vermutlich an den unterschiedlichen Herzzahlen meiner Monitore. Einen Overflow des Speichers meiner Grafikkkarte ist es nicht, die läuft auf maximal 53% Auslastung in allen Bereichen.
Da deine streams ja scheinbar nur für Dich laggen hoffe ich, das hier hilft anderen mit gleichen Problemen weiter.