Rails + Reactでタイトルのエラーが発生しました

どうやら、commonJSをES modulesで利用しようとしていることが問題らしく、
babel.config.jsに下記のコードを入力したら解決できました

return {
    "sourceType": "unambiguous", // この部分！
    presets: []
}

参考記事

webpack: import + module.exports in the same module caused error