Geralmente você terá um banco de dados MySQL ou outro banco de dados de servidor. Estes bancos de dados não têm correspondência no sistema de arquivos de sua web, que pode ser visto por FTP, e sim, que estão em um programa colocados que pode residir, inclusive em outro servidor diferente do que serve as páginas web.
Para acessar ao seu banco de dados, você terá que perguntar ao seu provedor, embora geralmente lhe darão como mínimo um nome de usuário, uma senha e o nome do servidor aonde está o banco de dados. Com estes dados você poderá configurar quando pelo menos suas páginas PHP para que acessem ao banco de dados e através da programação de scripts você poderia gerar páginas para realizar todas as tarefas de manutenção do banco de dados.
Adicionalmente, muitos provedores incluem algum software para gerenciar o banco de dados, já seja através de páginas PHP com algo parecido a PhpMyAdmin, ou a possibilidade de se conectar com algum software de trabalho com banco de dados como pode ser Access ou MyCC.
Espero que tenha resolvido a sua dúvida, que me pareceu mais devido a que talvez não tenha uma boa base ou uma idéia exata do que é um sistema de banco de dados de servidor.
Em CriarWeb.com você poderá encontrar manuais e artigos muito interessantes para se aprofundar neste tema:
Manual de MySQL
PHP a fundo
PhpMyAdmin
Por Miguel Angel Alvarez