そしたら「フロント側のWebサーバ」とか「静的コンテンツ用Webサーバ」とか呼ぶかもしれないけど……
逆に聞きたいのは、もしそういう構成で、あるWebサーバのことを「フロントエンド」と呼ぶとしたら、htmlやCSSやJSのことをなんて呼んでるの?