Bei so einem Kleidungsstück würde ich eine feinere Auflösung in Halsnähe verwenden und dann nach außen hin größere Polys. Vor allem am äußeren Rand dieses Capes hast du die Edgeloops extrem eng gesetzt, da kannst du vermutlich einiges an Geometrie einsparen.
Wenn du in DS in die Wireframe-Ansicht umschaltest, kannst du überprüfen, ob die Zacken aus einem Poly oder aus mehreren bestehen.
Welche Settings hast du denn für die Simulation verwendet? Bei Collision Mesh Resolution sollte "Viewport" eingestellt sein, sonst nimmt DS die low-res Genesis als Basis, und das kann auch Ecken und Kanten verursachen.
Übrigens wundert es mich, dass du immer nur entweder Smoothing oder SubD verwenden kannst. Ich habe schon oft beides problemlos kombiniert.