Kein Wunder, dass es schief geht. Sie haben eine Stapelgröße von 128 MB pro Thread, aber insgesamt nur 4096 MB. Das gibt Ihnen nur genug Platz, um 40 Threads zu verwenden und dann keine Objekte im Heap zu haben.
Wahrscheinlich am besten alle Platzgrößen auskommentieren und die JVM ihre Sache automatisch erledigen lassen.
