お騒がせして申し訳ありません

Linux Mint MATE18.3 でソフトウェアの管理でVirtualBoxをインストール
仮想マシンの作成でwindows10(64-bit)を選びデフォルトの設定で作成
デフォルトでポインティングデバイスがUSBタブレットになっている

このままだとイメージから起動すらできないので
とりあえずwindows7をインストールしてアップデートしてみたら
0xC1900101-0x20017 エラーでインストールできないけど
USBを無効にしてPS/2マウスにしたらインストールできた

この状態だとwindows10のイメージから起動できた