Das Problem war, dass mein Host die Heroku-App ist, aber die Anfragen von der benutzerdefinierten Domäne kamen.
Zu lösen:
heroku config:set RAILS_HOST "http://www.example.com"
Und dann in production.rb:
config.action_cable.url = "wss://#{ENV['RAILS_HOST']}/cable"