ファイルシステム総合スレ その19
失礼 × パリティが要らないっておかしいと思えよ ○ パリティ計算が要らないっておかしいと思えよ > 商用はIBMが既にやってるらしいけどね。 Erasure Code Edition って新しい別構造の奴か 確かに Spectrum Scale でスペアを仮想化するって事が可能ってあるね >>283 >RAID-Z + ホットスペアも dRAID 構成の RAID-Z2 も HDD が壊れた直後 >にRAID再構築が実施されるのであってホットスペアを補充するタイミング >じゃない いやもちろんそれはわかってるけど dRAIDの場合は再構築もディスク読み書きが分散されるからまあ気にしなくていいかと思った。 けど分散されて早くなるってだけで読み書きする総量は変わらないのか… >>279 pool2のcanmountプロパティにnoautoをセットかな LinuxカーネルにNTFSドライバーが追加、トーバルズ氏はGitHub経由のマージに苦言 Liam Tung (Special to ZDNet.com) 翻訳校正: 編集部 2021-09-08 14:01 https://japan.zdnet.com/article/35176373/ linuxで作ったntfsドライブがwindows10で読み込めない ディスクをアタッチして起動するとフォーマットするか聞いてくる linux側から見るとデータが書き込まれてるのに 色々試したけど結局フォーマットした ネットだとwindowsからlinuxで読めないトラブルはあるんだけど逆はあんまり出てこないんだよね フォーマットしたディスクはlinuxで一応読み込めたけど気づいた事がある ディスク丸ごとフォーマットしたはずなのに何故か数メガの未使用領域が出来てる これが関係してんのか? >>289 >>291 断定できないが蓋然性として高い要因は、NTFSのログ構造(LFS)がWindows7以前がver1.1、 Windows8以後がver2.0と更新している関係で出る不具合。これはWindows同士でも起こり得る トラブルの一つで、LinuxのNTFS-3Gドライバはver1.1準拠なので、同様の事情(>>287 の新・ 標準ドライバがこの件を解決しているかは、知らないが)。以下、詳細は↓。 NTFS-3G - ArchWiki https://wiki.archlinux.jp/index.php/NTFS-3G >>292 情報thanks 確かにwindows7の頃はこの手の問題に遭遇したことはないな >>292 それならば、Linuxで作成したVer1.1のNTFSが、より新しいバージョンにも対応しているWindows 10で読めないということはないはずで、 >>289 の言っている問題を説明するものではない。 そのLFSのバージョンが問題になるのは、Windows 10等新しいWindowsからNTFSのディスクを、「安全に取り外す」をしないで取り外し、 Windows 7等古いWindowsに接続した場合。 「安全に取り外す」と、Windowsは当該NTFSのLFSをVer1.1に変換するので、問題は起こらないが、 しないでいきなり外すと、古いWindowsはLFSを解釈できないので、最近の操作が適用されていないように見えるなどの不具合が発生する・・・とのこと。 >>294 蓋然性が高い要因を挙げただけで、他にないとは書いてないが。>>292 で紹介したリンク (NTFS-3G - ArchWiki)の"トラブルシューティング"に、Windows8・10の別の不具合もしっかり 記述してある。人に難癖つける前に、確認すべき。 色々試してわかった ディスク丸ごとだと駄目でパーティションを作ってフォーマットすると読み込む事が出来る >>294 >>295 お騒がせして申し訳ないw けどこれがntfsのバージョン関係してるのかはわからない win7で試したいけど環境ないんでね 初心者スレから誘導されてきました。 HDD4台構成のraidz1がデグレードになってしまい慌てて交換用HDDに取り替えたのですがうまくリビルドができないです 交換用のHDDが/dev/sdeで「zpool replace tank 14576820926089804651 /dev/sde」を実施しても cannot replace 14576820926089804651 with /dev/sde: already in replacing/spare config; wait for completion or use 'zpool detach'と出るだけでリビルドが走っている様子も見えません この場合、どのようにすればリビルドを開始することができるのでしょうか?教えてください >>298 真の有識者が来るまでの時間稼ぎにしかならないかもだけど取り敢えず losetupでループアタッチしたプールでは当然ながら問題無かった 再同期やscrub等が動いていない事を確認し、不良ディスクをzpool offline tank 数字 してから replaceしてみては如何だろうか 自分だったらだけど、まだDEGRADEDで済んでいるうちにスナップショット取って 余裕のあるディスクへzfs sendで退避した上でプール作り直してしまうけど Linux板のくだ質スレから誘導されました。 現在、CentOS+btfs&snapperの自作NASを課内で使っています。 スナップは1時間毎で、直近の2週間と月1を残し続けています。 現行 メイン機(上記のマシン) サブ機(rsyncで毎晩丸ごとメイン機のデータを取得。メイン機が壊れた場合の保険) 希望 メイン機をサブに回して、新規で高速なNASを作成したいです。 どのようなファイルシステムを選ぶのが良いか、アドバイスを貰えたらと思っています。 新メイン機は下記のハードを用意しています。 0. Ryzen Pro 1700 or 3600, 2x16GB@3200MEM 1. SataSSD128GB(OS) 2. NVMeSSD512GB(R3年度ファイルを保存する作業フォルダ) 3. CMR8TB(過年度のファイルを保存) 4. CMR8TB(rsyncで2,3番を毎晩バックアップ) 質問 1番はどの鳥が良いでしょうか?現行機はCentOSです 2番は現行機と同じルールでスナップを撮りたいです。fsは何が良いでしょうか? 3番はスナップは不要と思っています。現行機は過年度のデータもスナップ対象でした。 3,4番はext4で構わないと思っていますが、1番の鳥と2番のfsに何を選べば良いかアドバイス貰えると嬉しいです。 よろしくお願いします。 どんなファイルが多いとか、普段の使い方とか、現状どんな時に不足を感じるかとか、性能測定が必要では? btrfsから(比較すると機能の少ない)ext4に変更したいというからには細かいファイルが多いのかな? これまでCentOS使いということはサポート長いほうが良いだろうからDebian系に抵抗なければUbuntuサーバが良いのでは? CentOS で btrfs つかっていたけど RHEL 系が btrfs のサポートやめちゃったから 別のディストリに移って btrfsを使うか、RHEL系のままスナップショットありの別の FS に移行するべきかって話でしょ。 4. でバックアップ体制があるなら多少不安定な奴を選択しても良い状態だから 好きなの選べばいいんじゃないかな。 個人的には opensuse で btrfs ってのが一番理解を得られる線だと思う。 Oracle LinuxにしてUnbreakable Enterprise Kernel使えばbtrfsのサポートを(Oralceが)やってるぞ サポート申し込まなくても機能としては使える Oracleは好き嫌いが分かれるので、あくまで選択肢の1つとして・・・ということでお願いします みなさまありがとうございます。 説明不足がある中で、面倒なこちらの状況を把握して、明快なアドバイスで助けてくださったことに、感謝しています。 SuSEのサーバ利用は私の中で盲点でした。 サーバではOracle含むCentOS代替系が慣れの面で楽だとは思っていましたが、 好きなのを選べば良いと言って貰えると、今回はopensuse+btrfsでやってみます。 SuSEは学生時代に使っていた9.3振りです。大変にありがとうございました。 ddrescue 絡みで以下 $ sudo mount -o subvol=@ /dev/loop0p2 /mnt $ sudo btrfs scrub start /mnt scrub started on /mnt, fsid 98d2193c-b09e-4f8b-b78d-dc9ff9906263 (pid=1929) << scrub が一瞬にして終わり、 $ watch sudo btrfs scrub status /mnt $ Every 2.0s: sudo btrfs scrub status /mnt kyo: Sat Sep 25 13:17:40 2021 scrub status for 98d2193c-b09e-4f8b-b78d-dc9ff9906263 scrub started at Sat Sep 25 13:17:35 2021 and was aborted after 00:00:00 << この行からまったくスクラブしてないことが読み取れる total bytes scrubbed: 0.00B with 0 errors 次はどうすればよいですか? windowsでNTFS圧縮したフォルダってlinuxで使うと問題あるのかな? linuxでNTFSを扱う事にリスクがあるのは知ってるけど圧縮する事でそのリスクがさらに大きくなったりするのかどうか >>308 昔、PC-DOSに標準付属だったFAT16ファイルシステム圧縮ソフトを使ってたが、他のシステムと互換性が無くてファイル交換に困った。 あまり特殊な機能を使うと、Windowsの異なるバージョン間でもファイルの読み書きが出来なくなる可能性が有るから、あまりオススメはしない。 XP時代にあれだけ推していたダイナミックディスクがdepricatedになったみたいにね。 Linuxの事は知らんん。 >>308 ZFS等の他のファイルシステムのファイル圧縮機能を使って、Samba等のCIFS系でネットワーク越しに共有するとかでは駄目なの? そもそもLinuxのNTFSサポート(特にrw)はリバースエンジニアリングの賜物だし、あんまり信用しない方がいいと思うけどなあ。カーネルモジュールのroで使うのが無難だと思うよ。 こないだMSと契約してて仕様見れる企業がLinux用ドライバ書いてくれたとかなかったっけ? でもMSが書いてるわけじゃないからねえ。btrfsとか仕様を自分たちだけで決めて実装してるものだって、完璧ではないわけだし、 ファイルシステムは個人的には枯れてることや、トラブルシュートのノウハウの蓄積が重要かなと思う。 まあAPFSを普段使ってて何言ってるんだって感じだが、ユーザーはめちゃ多いからなあ。 >>314 FAT32実装でも完璧になることはほぼないよ >>315 うん、だからext4とかxfsとかしか使わないよ。 NTFSマウントしたかったらVM経由でCIFSマウントするわ。 クライアントマシンのルートパーティションをBtrfsからext4に戻してみた 扱い簡単だし日々のバックアップなんかdumpで十分じゃねとか思って Fedoraの傾向からすると 今後はバックアップだけじゃなくて高速化でもBtrfsの機能を活用する方向だから 新しいディストリを使うならBtrfsにしておいたほうが良い さすがFSスレ住民 未来を見据えてらっしゃる 再フォーマット&データリストアはワケないんで近いうちに出戻りBtrfsやるかも知れないっす Facebookの全面協力で安定してきたから 最新のカーネルを扱えるならBtrfsでも良いけど DebianやRHELクローンだとカーネルが古いからBtrfsは早いかな Debian11を使用中なんですが、 > DebianやRHELクローンだとカーネルが古いからBtrfsは早いかな との事なのでZFSを仕込んでみました https://i.imgur.com/ND3SXwC.png ZFSはメモリ消費が激しすぎてイマイチでしょ。 最近のBtrtfsのメリットは Btrfsを前提とした周辺機能が充実してきた事。 例えばFedora35からはソフトウェアの更新がBtrfsで高速化される事になった。 ちょっと前まではbtrfsディスっとけばできる男を演出できてたけど 最近はbtrfsを褒めるほうが有能そうな雰囲気出せる時代になってきたん? 俺は一貫してBtrfsの素晴らしさを讃えてきたので……というのはともかく、風向きが変わってきたなとは思う 昔から壊れるという欠点を除けば素晴らしいファイルシステムだった。 最近のカーネルでその欠点が急速に改善されているからメインでOKという流れ。 FedoraがデフォルトをBtrfsにしたのに阿鼻叫喚になっていないし本当に安定してきてるんだと思うね。 最近のカーネルにCentOS 8の4.18はともかく、debian 11の5.10は含まれないの ZFSがメモリ食いなんてまだ言ってる人いるんだくらいの感想 カーネル5.4で安定化したらしいからdebian11なら大丈夫じゃない? それ以降のカーネルでも高速化が入っていたりするから新しいに越したことはないだろうけど あとは透過圧縮で利用するzstdの改善が5.13で入った 安定面ではなくパフォーマンス面で考えるとカーネル5.10だともったいない気がする ZFSはまあまあメモリ食う時もあるけどあまり気にした事ないな 心配ならARC制限すればいいし Btrfsはパフォーマンスが上がるのか 個人レベルでは問題視する様な不具合は見てないし今後がますます楽しみ >>329 知らなかったから調べてみたらBtrfsでzstd圧縮を利用している場合5〜15%パフォーマンスアップとあるね。必須とまでは言わないけど、あれば嬉しい感じ ext4でcrc32c_intelが有効になっているか確認する方法ありますか? カーネルモジュールは組み込まれていて、 dumpe2fs -hで見ると、crc32cとだけ表示されています。 intelの使ってるのでしょうか…? EXT4って巨大ファイル(数十GB〜数百GB)のファイルを削除しようとしたらめちゃくちゃ遅くない? ずっと前からそうで久々に新しいシステムセットアップして最近は改善されたかな?と思ったけど同じだった inodeに削除フラグ立ててるだけならおかしいよね SSD のハードウェア側で何か処理が行われているのかな まさかマウントオプションでTrim有効にしてないか? On-Disk Format Changes Ahead To Improve "Painful" Parts Of Btrfs Design https://www.phoronix.com/scan.php?page=news_item& ;px=Btrfs-Improving-Painful-Parts そろそろ安定してきたっぽいからbtrfsに乗り換えようかと思ってたけど 来年Disk Format変わるのかよ…… そうだとしても乗り換えてOKでしょう Fedora34でBtrfsにして35へのアップグレードも済ませたけど相変わらず安定だよ 即座に壊れたカーネル4.xx時代とは大違い Fedoraが透過圧縮有効のBtrfsをデフォルトにして問題なしだから カーネルさえ新しければデスクトップ用途ではまず問題は発生しないと思う Fedora の方がRedhatの見立てより正しかったのか。 xfs Cow を頑張るべきかで楽しみ増えたね。 見立てが正しいとかじゃなくて性質の違いじゃないかなあ。 半年ごとに新しいバージョンが出て、サポート期間が1年のものと、 10年近くサポートしなければいけないものでは、物事の決定が大きく変わるよ。 Fedoraで徹底的にbtrfsのバグを潰して、RHELに再導入したいんじゃないかな。 ちゃんと動くなら、btrfsはどう考えてもRHELの売りにはなるから。 RHELは単純にRedHatの従業員にBtrfsのメンテナが居ないという理由だったはず。 Btrfs側にパッチを当てる権限がないと商業利用でメインに据えるのは難しい。 bcachefsを使ってる方いますか?使い心地を伺いたく。 たまにしか使わないvmを、使うときはssdの速度、保存は大容量のhdd、といいとこ取り出来たらいいなと思ったので。 Bcachefsはやめときな。 開発が事実上個人に依存している上に Btrfsが安定化した今となっては存在意義が薄れてる。 BcacheFSの作者にはPatreonで投げ銭してたけどBtrfsが普通に快適で順調に安定性も上がってるようだったから投げ銭止めちまったな。 >>348 >>349 ありがとうございます。 このスレでも使われてなさそうで、常用はまだまだという感じました。 大人しくメインライン入りを待ちます。 いや、メインライン入りしても使わないほうがいい Bcachefsはリソースが足りてないから常用はまだまだというか多分無理 素直に安定化したBtrfsを利用するのがおすすめ 結局のところBtrfsの圧縮はlzoかzstdどっちがいいのか教えて偉い人 >>352 zstd:1一択 FedoraチームがCPU使用率と圧縮率のバランスから検証した結論 自分も1年以上zstd:1で運用してるけど快適そのもの マジか。長らくlzoだったけどzstdにするかな? RaspberryPi4な自宅ファイルサーバだからCPU弱いけど zstdが進化しすぎてlzoはもはや存在意義がない 圧縮率、圧縮速度、解凍速度、全てでzstdが上回ってる しかもzstdは未だにアルゴリズムの改善による高速化が続いてるから差は広がるばかり 強いて弱点を挙げるなら古いカーネルとの互換性くらいかな zstdの圧縮アルゴリズム自体が負荷が少なくて しかも圧縮率でもほぼ全てのケースで gzipとかの系統の圧縮方法より縮むみたい (さすがにlzoよりは多少負荷かかるだろうけど) 将来的にgzip使ってるとこをを完全に置き換えそう 自分でもarm系の非力な環境でtarに使ってると 時間ベースで倍以上早い感じ 開発中の5.16カーネルでZstd更に速度アップ(四年前のコードが新しく) 今fstabでcompress=lzoとかしてるんだけど、既存のファイルは別に今すぐzstdにしなくていいけど今後作られる新規のファイルとかはzstdで圧縮してほしいと思ったらcompress=zstdにするだけでいいの? 上記に書かれてるのはcompress=zstd:1かな。 自分はcompress-force=zstd:1にしてる。 zstdはアルゴリズム自体に圧縮の可否の判定コードが組み込まれているから compress-forceでも問題ないらしい。(実際に使ってるけどデメリットは感じない) BtrfsもZstandardもFacebookが本番環境でゴリゴリに利用しながら開発協力してるから進化が早いね リーナスがbtrfsの時代を見越して特権でマージしてからはや12年 やっといい感じになったのか 一時期の停滞はなんだったんだろうな compress-forceはやめたほうがいいぞ 画像や動画や音声みたいにすでに圧縮されていて圧縮する意味がないファイルまで圧縮するから だからそれをzstdなら自動で判定してくれるって話なんじゃないの? 俺はcompress=zstdにしてるけど >>362 zstdなら自動判定で圧縮出来ないファイルは無視するから大丈夫だよ compress-force=zstd:1でこんな感じ https://i.imgur.com/G535ZqH.png forceとはいったい…… >>364 そんなの見れるんだ、コマンド教えて zstd以外の圧縮形式だと本当に全部圧縮する zstdは賢いからforceで問題ない >>365 https://github.com/kilobyte/compsize >>366 おー、Debianにもパッケージあるし、見れた。ファイルサーバで試したら思ってたよりすげー圧縮してたわ。 ありがとう。 まじでここ最近のBtrfs進化凄まじいな 圧縮によってSSDが長持ちする効果も。 個人ユースレベルの話だけど、fedora34、35と使っててトラブルなし >>366 横からですがGJ! kernel 5.16でbtrfsパフォUP ttps://www.phoronix.com/scan.php?page=news_item&px=Btrfs-Linux-5.16 qemuイメージをbtrfs上で使う場合、どのような方法がオススメでしょうか? thin provisipningが目的で、qcow2自体のsnapshotや圧縮は使っておりません。 ・qcow2+nocow(btrfs) ・raw+cow(btrfs) ・raw+cow(btrfs)+compress(btrfs) ・raw+nocow(btrfs) ・その他など thin provisioningがディスク容量の削減を指すんだったら qcow2の圧縮にzstdを使ったら「初期イメージは」RAWの 20%以上ぐらい?まで縮んだなあ… debianインストール済みイメージで、/はext4、ディスク使用量 約2GBで、イメージサイズは300MB台だった記憶 インストールして初期イメージ作成までは一旦RAWで作って、 空き容量いっぱいにddでzero埋めファイルを作ってから削除、 それからqcow2変換ってことをしたけど うーん、btrfs上のqcow2はcowだとパフォーマンス劣化が激しいという記事や、btrfs NOCOW filesにはchecksumや圧縮が効かない?ようなんですよね。。 https://btrfs.wiki.kernel.org/index.php/Compression#How_does_compression_interact_with_direct_IO_or_COW.3F ならば、cowや圧縮はqcow2ではなくbtrfsに任せるよう、rawが良いのかなと考えたのですが、ネットに事例見当たらず、考え違いしてないか気になりまして。。 自分は/homeとか/varとか、書き換え頻度の高そうな マウントポイントだけ分離するために別のRAWイメージファイルを 作成して、メインのqcow2イメージとは別に 追加でマウントとかしてた 例えばqemu内のfstabでは sdb1を/var とか sdb2を/home とか 頻繁に書き換えのあるディレクトリだけを 別のディスクイメージにまとめて、/のファイルシステム上では そこへのシンボリックリンクにしてしまってもいいかも redditでちょうどそんなこと議論してるスレッドがあった https://www.reddit.com/r/btrfs/comments/fcntc6/qcow2_on_btrfs_performance/ これ読んで、Btrfs上でなら自分はこうするかも ・Btrfs上でqemuイメージ専用のサブボリューム作成 ・そのサブボリュームはマウントオプションでCoW無効・圧縮無効 ・/以下メインのディスクイメージはqcow2 ・一旦RAWイメージで環境をインストールして安定させてからqcow2変換 ・/home, /varほか用に同じサブボリューム内に別でRAWディスクイメージを作成 ・こっちは chattr +c <RAWイメージファイル> で個別にBtrfs圧縮だけ有効 みなさん、アドバイスありがとうございます。 rawにした方がパフォーマンスはいいけど、qcow2の方が他のメリットがあるから?使う人が多いような印象を受けました。 rawを試してみようと思います。 使ってみようかなという気にはさせるねバター FS 新しいハードディスク買ったんだけど今回は zfs から変えてみた 「Btrfs」って「バター FS」って読むの? 「ビートゥリーFS」って読んでたや Windows機からLAN経由でLinux機の共有フォルダにアクセスした場合に Linux機の共有フォルダがext4でフォーマットしてあるHDD上に作られているにも関わらず Windows機側から問題なく読み書きできるのは何故なのでしょうか? Windows機にはサードパーティ製のext4ドライバをインストールしていないので不思議です >>382 レス有難う御座います てっきりデフォルトのWindowsがext4を読めるようになったのかと思っていました Windows機とLinux機で使えるように外付けHDDをext4でフォーマットしようと思ったのですが無条件では無理なんですね read.cgi ver 07.5.5 2024/06/08 Walang Kapalit ★ | Donguri System Team 5ちゃんねる