No Rails 4+, a página inicial da aplicação “Welcome aboard” não fica mais em public/index.html (como até no Rails 3), e sim está localizada em uma gem. Ao acessar a aplicação no browser, no log do server dá para saber onde está o arquivo index.html. No meu caso está em:

/home/user/.rvm/gems/ruby-2.2.1/gems/railties-4.1.8/lib/rails/templates/rails/welcome/index.html.erb