ファイルシステム総合スレ その19
レス数が950を超えています。1000を超えると書き込みができなくなります。
>>278
いましがた dRAID の説明を初めて読んできた初心者なので参考まで
> その後新しいホットスペアを追加したら結局再構成が始まるんでは?
語弊がある書き方をするけど再構築が高速になるトレードオフとしてホットスペア
にデータを事前にデータを書き込んでおく(準備しておく)ってだけじゃん
リビルド中に2本目と3本目が相次いで壊れてデータロストするリスクを(リビルドを
高速化することで)回避するためのものだから効率が悪い・二度手間な処理を行う
のは至極まっとうな話では?
> dRAIDってどうなの
全てのディスクを均等に使用してしまうことによって HDD/SSD の故障時期が重な
る可能性が高まるという点で逆にリスクを上げてるアホな仕組みだと思った
商用の FS (NetApp や Isilon, Spectrum Scale FS) において同じ仕組みは個人的
には聞いたことが無いので期待できない
> RAID-Z2と何が違うんだろ
いや、RAID-Z や RAID-Z2 に対してホットスペアをどうするかのオプションだから
違うとかじゃなくて「dRAID 構成の RAID-Z2」とか「dRAID 構成ではない RAID-Z2」
とかそんな感じで別物ではないぞ? >>280
RAID-Z2 と RAID-Z+dRAIDホットスペア1本はほぼ一緒では?と言いたかった。
ホットスペア本数に制限がないので、冗長度を好きなだけ上げられてかつread性能も上がるのが利点なのかな?
商用はIBMが既にやってるらしいけどね。 RAID再構築とdRAIDのホットスペア追加の違いをもう少し考えてみた
RAID再構築はパリティ再計算のために、生き残ったドライブの全データを読み込む必要がある?が
dRAIDは追加スペア分の空き容量を生き残ったドライブに分配するだけなので、生き残りがn本なら各ドライブ1/(n+1)のデータだけ読めばよい?
あとパリティ計算がいらない。
あれ?割と良いのでは? >>282
> RAID再構築とdRAIDのホットスペア追加の違いをもう少し考えてみた
流石に比較が間違ってるだろ、それ
RAID-Z + ホットスペアも dRAID 構成の RAID-Z2 も HDD が壊れた直後
にRAID再構築が実施されるのであってホットスペアを補充するタイミング
じゃない
dRAID の場合はそれに加えてホットスペアを補充した際にも再ストライプ
目的で2回目の再構築が走る=つまり2度手間
dRAID の1回目の再構築の際にはパリティ計算している
だから2回目の再構築の時は不要ってだけだ
パリティが要らないっておかしいと思えよ 失礼
× パリティが要らないっておかしいと思えよ
○ パリティ計算が要らないっておかしいと思えよ
> 商用はIBMが既にやってるらしいけどね。
Erasure Code Edition って新しい別構造の奴か
確かに Spectrum Scale でスペアを仮想化するって事が可能ってあるね >>283
>RAID-Z + ホットスペアも dRAID 構成の RAID-Z2 も HDD が壊れた直後
>にRAID再構築が実施されるのであってホットスペアを補充するタイミング
>じゃない
いやもちろんそれはわかってるけど
dRAIDの場合は再構築もディスク読み書きが分散されるからまあ気にしなくていいかと思った。
けど分散されて早くなるってだけで読み書きする総量は変わらないのか… >>279
pool2のcanmountプロパティにnoautoをセットかな LinuxカーネルにNTFSドライバーが追加、トーバルズ氏はGitHub経由のマージに苦言
Liam Tung (Special to ZDNet.com) 翻訳校正: 編集部 2021-09-08 14:01
https://japan.zdnet.com/article/35176373/ linuxで作ったntfsドライブがwindows10で読み込めない
ディスクをアタッチして起動するとフォーマットするか聞いてくる
linux側から見るとデータが書き込まれてるのに 色々試したけど結局フォーマットした
ネットだとwindowsからlinuxで読めないトラブルはあるんだけど逆はあんまり出てこないんだよね
フォーマットしたディスクはlinuxで一応読み込めたけど気づいた事がある
ディスク丸ごとフォーマットしたはずなのに何故か数メガの未使用領域が出来てる
これが関係してんのか? >>289 >>291
断定できないが蓋然性として高い要因は、NTFSのログ構造(LFS)がWindows7以前がver1.1、
Windows8以後がver2.0と更新している関係で出る不具合。これはWindows同士でも起こり得る
トラブルの一つで、LinuxのNTFS-3Gドライバはver1.1準拠なので、同様の事情(>>287の新・
標準ドライバがこの件を解決しているかは、知らないが)。以下、詳細は↓。
NTFS-3G - ArchWiki
https://wiki.archlinux.jp/index.php/NTFS-3G >>292
情報thanks
確かにwindows7の頃はこの手の問題に遭遇したことはないな >>292
それならば、Linuxで作成したVer1.1のNTFSが、より新しいバージョンにも対応しているWindows 10で読めないということはないはずで、
>>289の言っている問題を説明するものではない。
そのLFSのバージョンが問題になるのは、Windows 10等新しいWindowsからNTFSのディスクを、「安全に取り外す」をしないで取り外し、
Windows 7等古いWindowsに接続した場合。
「安全に取り外す」と、Windowsは当該NTFSのLFSをVer1.1に変換するので、問題は起こらないが、
しないでいきなり外すと、古いWindowsはLFSを解釈できないので、最近の操作が適用されていないように見えるなどの不具合が発生する・・・とのこと。 >>294
蓋然性が高い要因を挙げただけで、他にないとは書いてないが。>>292で紹介したリンク
(NTFS-3G - ArchWiki)の"トラブルシューティング"に、Windows8・10の別の不具合もしっかり
記述してある。人に難癖つける前に、確認すべき。 色々試してわかった
ディスク丸ごとだと駄目でパーティションを作ってフォーマットすると読み込む事が出来る >>294
>>295
お騒がせして申し訳ないw
けどこれがntfsのバージョン関係してるのかはわからない
win7で試したいけど環境ないんでね 初心者スレから誘導されてきました。
HDD4台構成のraidz1がデグレードになってしまい慌てて交換用HDDに取り替えたのですがうまくリビルドができないです
交換用のHDDが/dev/sdeで「zpool replace tank 14576820926089804651 /dev/sde」を実施しても
cannot replace 14576820926089804651 with /dev/sde: already in replacing/spare config; wait for completion or use 'zpool detach'と出るだけでリビルドが走っている様子も見えません
この場合、どのようにすればリビルドを開始することができるのでしょうか?教えてください >>298
真の有識者が来るまでの時間稼ぎにしかならないかもだけど取り敢えず
losetupでループアタッチしたプールでは当然ながら問題無かった
再同期やscrub等が動いていない事を確認し、不良ディスクをzpool offline tank 数字 してから
replaceしてみては如何だろうか
自分だったらだけど、まだDEGRADEDで済んでいるうちにスナップショット取って
余裕のあるディスクへzfs sendで退避した上でプール作り直してしまうけど Linux板のくだ質スレから誘導されました。
現在、CentOS+btfs&snapperの自作NASを課内で使っています。
スナップは1時間毎で、直近の2週間と月1を残し続けています。
現行
メイン機(上記のマシン)
サブ機(rsyncで毎晩丸ごとメイン機のデータを取得。メイン機が壊れた場合の保険)
希望
メイン機をサブに回して、新規で高速なNASを作成したいです。
どのようなファイルシステムを選ぶのが良いか、アドバイスを貰えたらと思っています。
新メイン機は下記のハードを用意しています。
0. Ryzen Pro 1700 or 3600, 2x16GB@3200MEM
1. SataSSD128GB(OS)
2. NVMeSSD512GB(R3年度ファイルを保存する作業フォルダ)
3. CMR8TB(過年度のファイルを保存)
4. CMR8TB(rsyncで2,3番を毎晩バックアップ)
質問
1番はどの鳥が良いでしょうか?現行機はCentOSです
2番は現行機と同じルールでスナップを撮りたいです。fsは何が良いでしょうか?
3番はスナップは不要と思っています。現行機は過年度のデータもスナップ対象でした。
3,4番はext4で構わないと思っていますが、1番の鳥と2番のfsに何を選べば良いかアドバイス貰えると嬉しいです。
よろしくお願いします。 どんなファイルが多いとか、普段の使い方とか、現状どんな時に不足を感じるかとか、性能測定が必要では?
btrfsから(比較すると機能の少ない)ext4に変更したいというからには細かいファイルが多いのかな?
これまでCentOS使いということはサポート長いほうが良いだろうからDebian系に抵抗なければUbuntuサーバが良いのでは? CentOS で btrfs つかっていたけど RHEL 系が btrfs のサポートやめちゃったから
別のディストリに移って btrfsを使うか、RHEL系のままスナップショットありの別の
FS に移行するべきかって話でしょ。
4. でバックアップ体制があるなら多少不安定な奴を選択しても良い状態だから
好きなの選べばいいんじゃないかな。
個人的には opensuse で btrfs ってのが一番理解を得られる線だと思う。 Oracle LinuxにしてUnbreakable Enterprise Kernel使えばbtrfsのサポートを(Oralceが)やってるぞ
サポート申し込まなくても機能としては使える Oracleは好き嫌いが分かれるので、あくまで選択肢の1つとして・・・ということでお願いします みなさまありがとうございます。
説明不足がある中で、面倒なこちらの状況を把握して、明快なアドバイスで助けてくださったことに、感謝しています。
SuSEのサーバ利用は私の中で盲点でした。
サーバではOracle含むCentOS代替系が慣れの面で楽だとは思っていましたが、
好きなのを選べば良いと言って貰えると、今回はopensuse+btrfsでやってみます。
SuSEは学生時代に使っていた9.3振りです。大変にありがとうございました。 ddrescue 絡みで以下
$ sudo mount -o subvol=@ /dev/loop0p2 /mnt
$ sudo btrfs scrub start /mnt
scrub started on /mnt, fsid 98d2193c-b09e-4f8b-b78d-dc9ff9906263 (pid=1929)
<< scrub が一瞬にして終わり、
$ watch sudo btrfs scrub status /mnt
$
Every 2.0s: sudo btrfs scrub status /mnt kyo: Sat Sep 25 13:17:40 2021
scrub status for 98d2193c-b09e-4f8b-b78d-dc9ff9906263
scrub started at Sat Sep 25 13:17:35 2021 and was aborted after 00:00:00
<< この行からまったくスクラブしてないことが読み取れる
total bytes scrubbed: 0.00B with 0 errors
次はどうすればよいですか? windowsでNTFS圧縮したフォルダってlinuxで使うと問題あるのかな?
linuxでNTFSを扱う事にリスクがあるのは知ってるけど圧縮する事でそのリスクがさらに大きくなったりするのかどうか >>308
昔、PC-DOSに標準付属だったFAT16ファイルシステム圧縮ソフトを使ってたが、他のシステムと互換性が無くてファイル交換に困った。
あまり特殊な機能を使うと、Windowsの異なるバージョン間でもファイルの読み書きが出来なくなる可能性が有るから、あまりオススメはしない。
XP時代にあれだけ推していたダイナミックディスクがdepricatedになったみたいにね。
Linuxの事は知らんん。 >>308
ZFS等の他のファイルシステムのファイル圧縮機能を使って、Samba等のCIFS系でネットワーク越しに共有するとかでは駄目なの? そもそもLinuxのNTFSサポート(特にrw)はリバースエンジニアリングの賜物だし、あんまり信用しない方がいいと思うけどなあ。カーネルモジュールのroで使うのが無難だと思うよ。 こないだMSと契約してて仕様見れる企業がLinux用ドライバ書いてくれたとかなかったっけ? でもMSが書いてるわけじゃないからねえ。btrfsとか仕様を自分たちだけで決めて実装してるものだって、完璧ではないわけだし、
ファイルシステムは個人的には枯れてることや、トラブルシュートのノウハウの蓄積が重要かなと思う。
まあAPFSを普段使ってて何言ってるんだって感じだが、ユーザーはめちゃ多いからなあ。 >>314 FAT32実装でも完璧になることはほぼないよ >>315
うん、だからext4とかxfsとかしか使わないよ。
NTFSマウントしたかったらVM経由でCIFSマウントするわ。 クライアントマシンのルートパーティションをBtrfsからext4に戻してみた
扱い簡単だし日々のバックアップなんかdumpで十分じゃねとか思って Fedoraの傾向からすると
今後はバックアップだけじゃなくて高速化でもBtrfsの機能を活用する方向だから
新しいディストリを使うならBtrfsにしておいたほうが良い さすがFSスレ住民 未来を見据えてらっしゃる
再フォーマット&データリストアはワケないんで近いうちに出戻りBtrfsやるかも知れないっす Facebookの全面協力で安定してきたから
最新のカーネルを扱えるならBtrfsでも良いけど
DebianやRHELクローンだとカーネルが古いからBtrfsは早いかな Debian11を使用中なんですが、
> DebianやRHELクローンだとカーネルが古いからBtrfsは早いかな
との事なのでZFSを仕込んでみました
https://i.imgur.com/ND3SXwC.png ZFSはメモリ消費が激しすぎてイマイチでしょ。
最近のBtrtfsのメリットは
Btrfsを前提とした周辺機能が充実してきた事。
例えばFedora35からはソフトウェアの更新がBtrfsで高速化される事になった。 ちょっと前まではbtrfsディスっとけばできる男を演出できてたけど
最近はbtrfsを褒めるほうが有能そうな雰囲気出せる時代になってきたん? 俺は一貫してBtrfsの素晴らしさを讃えてきたので……というのはともかく、風向きが変わってきたなとは思う 昔から壊れるという欠点を除けば素晴らしいファイルシステムだった。
最近のカーネルでその欠点が急速に改善されているからメインでOKという流れ。
FedoraがデフォルトをBtrfsにしたのに阿鼻叫喚になっていないし本当に安定してきてるんだと思うね。 最近のカーネルにCentOS 8の4.18はともかく、debian 11の5.10は含まれないの ZFSがメモリ食いなんてまだ言ってる人いるんだくらいの感想 カーネル5.4で安定化したらしいからdebian11なら大丈夫じゃない?
それ以降のカーネルでも高速化が入っていたりするから新しいに越したことはないだろうけど あとは透過圧縮で利用するzstdの改善が5.13で入った
安定面ではなくパフォーマンス面で考えるとカーネル5.10だともったいない気がする ZFSはまあまあメモリ食う時もあるけどあまり気にした事ないな
心配ならARC制限すればいいし
Btrfsはパフォーマンスが上がるのか
個人レベルでは問題視する様な不具合は見てないし今後がますます楽しみ >>329
知らなかったから調べてみたらBtrfsでzstd圧縮を利用している場合5〜15%パフォーマンスアップとあるね。必須とまでは言わないけど、あれば嬉しい感じ ext4でcrc32c_intelが有効になっているか確認する方法ありますか?
カーネルモジュールは組み込まれていて、
dumpe2fs -hで見ると、crc32cとだけ表示されています。
intelの使ってるのでしょうか…? EXT4って巨大ファイル(数十GB〜数百GB)のファイルを削除しようとしたらめちゃくちゃ遅くない?
ずっと前からそうで久々に新しいシステムセットアップして最近は改善されたかな?と思ったけど同じだった inodeに削除フラグ立ててるだけならおかしいよね
SSD のハードウェア側で何か処理が行われているのかな まさかマウントオプションでTrim有効にしてないか? On-Disk Format Changes Ahead To Improve "Painful" Parts Of Btrfs Design
https://www.phoronix.com/scan.php?page=news_item&px=Btrfs-Improving-Painful-Parts
そろそろ安定してきたっぽいからbtrfsに乗り換えようかと思ってたけど
来年Disk Format変わるのかよ…… そうだとしても乗り換えてOKでしょう
Fedora34でBtrfsにして35へのアップグレードも済ませたけど相変わらず安定だよ
即座に壊れたカーネル4.xx時代とは大違い Fedoraが透過圧縮有効のBtrfsをデフォルトにして問題なしだから
カーネルさえ新しければデスクトップ用途ではまず問題は発生しないと思う Fedora の方がRedhatの見立てより正しかったのか。
xfs Cow を頑張るべきかで楽しみ増えたね。 見立てが正しいとかじゃなくて性質の違いじゃないかなあ。
半年ごとに新しいバージョンが出て、サポート期間が1年のものと、
10年近くサポートしなければいけないものでは、物事の決定が大きく変わるよ。
Fedoraで徹底的にbtrfsのバグを潰して、RHELに再導入したいんじゃないかな。
ちゃんと動くなら、btrfsはどう考えてもRHELの売りにはなるから。 RHELは単純にRedHatの従業員にBtrfsのメンテナが居ないという理由だったはず。
Btrfs側にパッチを当てる権限がないと商業利用でメインに据えるのは難しい。 bcachefsを使ってる方いますか?使い心地を伺いたく。
たまにしか使わないvmを、使うときはssdの速度、保存は大容量のhdd、といいとこ取り出来たらいいなと思ったので。 Bcachefsはやめときな。
開発が事実上個人に依存している上に
Btrfsが安定化した今となっては存在意義が薄れてる。 BcacheFSの作者にはPatreonで投げ銭してたけどBtrfsが普通に快適で順調に安定性も上がってるようだったから投げ銭止めちまったな。 >>348
>>349
ありがとうございます。
このスレでも使われてなさそうで、常用はまだまだという感じました。
大人しくメインライン入りを待ちます。 いや、メインライン入りしても使わないほうがいい
Bcachefsはリソースが足りてないから常用はまだまだというか多分無理
素直に安定化したBtrfsを利用するのがおすすめ 結局のところBtrfsの圧縮はlzoかzstdどっちがいいのか教えて偉い人 >>352
zstd:1一択
FedoraチームがCPU使用率と圧縮率のバランスから検証した結論
自分も1年以上zstd:1で運用してるけど快適そのもの マジか。長らくlzoだったけどzstdにするかな?
RaspberryPi4な自宅ファイルサーバだからCPU弱いけど zstdが進化しすぎてlzoはもはや存在意義がない
圧縮率、圧縮速度、解凍速度、全てでzstdが上回ってる
しかもzstdは未だにアルゴリズムの改善による高速化が続いてるから差は広がるばかり
強いて弱点を挙げるなら古いカーネルとの互換性くらいかな zstdの圧縮アルゴリズム自体が負荷が少なくて
しかも圧縮率でもほぼ全てのケースで
gzipとかの系統の圧縮方法より縮むみたい
(さすがにlzoよりは多少負荷かかるだろうけど)
将来的にgzip使ってるとこをを完全に置き換えそう
自分でもarm系の非力な環境でtarに使ってると
時間ベースで倍以上早い感じ 開発中の5.16カーネルでZstd更に速度アップ(四年前のコードが新しく) 今fstabでcompress=lzoとかしてるんだけど、既存のファイルは別に今すぐzstdにしなくていいけど今後作られる新規のファイルとかはzstdで圧縮してほしいと思ったらcompress=zstdにするだけでいいの? 上記に書かれてるのはcompress=zstd:1かな。
自分はcompress-force=zstd:1にしてる。
zstdはアルゴリズム自体に圧縮の可否の判定コードが組み込まれているから
compress-forceでも問題ないらしい。(実際に使ってるけどデメリットは感じない) BtrfsもZstandardもFacebookが本番環境でゴリゴリに利用しながら開発協力してるから進化が早いね リーナスがbtrfsの時代を見越して特権でマージしてからはや12年
やっといい感じになったのか
一時期の停滞はなんだったんだろうな compress-forceはやめたほうがいいぞ
画像や動画や音声みたいにすでに圧縮されていて圧縮する意味がないファイルまで圧縮するから だからそれをzstdなら自動で判定してくれるって話なんじゃないの?
俺はcompress=zstdにしてるけど >>362
zstdなら自動判定で圧縮出来ないファイルは無視するから大丈夫だよ
compress-force=zstd:1でこんな感じ
https://i.imgur.com/G535ZqH.png forceとはいったい……
>>364
そんなの見れるんだ、コマンド教えて zstd以外の圧縮形式だと本当に全部圧縮する
zstdは賢いからforceで問題ない
>>365
https://github.com/kilobyte/compsize >>366
おー、Debianにもパッケージあるし、見れた。ファイルサーバで試したら思ってたよりすげー圧縮してたわ。
ありがとう。 まじでここ最近のBtrfs進化凄まじいな
圧縮によってSSDが長持ちする効果も。
個人ユースレベルの話だけど、fedora34、35と使っててトラブルなし
>>366
横からですがGJ!
kernel 5.16でbtrfsパフォUP
ttps://www.phoronix.com/scan.php?page=news_item&px=Btrfs-Linux-5.16 qemuイメージをbtrfs上で使う場合、どのような方法がオススメでしょうか? thin provisipningが目的で、qcow2自体のsnapshotや圧縮は使っておりません。
・qcow2+nocow(btrfs)
・raw+cow(btrfs)
・raw+cow(btrfs)+compress(btrfs)
・raw+nocow(btrfs)
・その他など thin provisioningがディスク容量の削減を指すんだったら
qcow2の圧縮にzstdを使ったら「初期イメージは」RAWの
20%以上ぐらい?まで縮んだなあ…
debianインストール済みイメージで、/はext4、ディスク使用量
約2GBで、イメージサイズは300MB台だった記憶
インストールして初期イメージ作成までは一旦RAWで作って、
空き容量いっぱいにddでzero埋めファイルを作ってから削除、
それからqcow2変換ってことをしたけど うーん、btrfs上のqcow2はcowだとパフォーマンス劣化が激しいという記事や、btrfs NOCOW filesにはchecksumや圧縮が効かない?ようなんですよね。。
https://btrfs.wiki.kernel.org/index.php/Compression#How_does_compression_interact_with_direct_IO_or_COW.3F
ならば、cowや圧縮はqcow2ではなくbtrfsに任せるよう、rawが良いのかなと考えたのですが、ネットに事例見当たらず、考え違いしてないか気になりまして。。 自分は/homeとか/varとか、書き換え頻度の高そうな
マウントポイントだけ分離するために別のRAWイメージファイルを
作成して、メインのqcow2イメージとは別に
追加でマウントとかしてた
例えばqemu内のfstabでは sdb1を/var とか sdb2を/home とか
頻繁に書き換えのあるディレクトリだけを
別のディスクイメージにまとめて、/のファイルシステム上では
そこへのシンボリックリンクにしてしまってもいいかも redditでちょうどそんなこと議論してるスレッドがあった
https://www.reddit.com/r/btrfs/comments/fcntc6/qcow2_on_btrfs_performance/
これ読んで、Btrfs上でなら自分はこうするかも
・Btrfs上でqemuイメージ専用のサブボリューム作成
・そのサブボリュームはマウントオプションでCoW無効・圧縮無効
・/以下メインのディスクイメージはqcow2
・一旦RAWイメージで環境をインストールして安定させてからqcow2変換
・/home, /varほか用に同じサブボリューム内に別でRAWディスクイメージを作成
・こっちは chattr +c <RAWイメージファイル> で個別にBtrfs圧縮だけ有効 みなさん、アドバイスありがとうございます。
rawにした方がパフォーマンスはいいけど、qcow2の方が他のメリットがあるから?使う人が多いような印象を受けました。
rawを試してみようと思います。 使ってみようかなという気にはさせるねバター FS
新しいハードディスク買ったんだけど今回は zfs から変えてみた 「Btrfs」って「バター FS」って読むの?
「ビートゥリーFS」って読んでたや Windows機からLAN経由でLinux機の共有フォルダにアクセスした場合に
Linux機の共有フォルダがext4でフォーマットしてあるHDD上に作られているにも関わらず
Windows機側から問題なく読み書きできるのは何故なのでしょうか?
Windows機にはサードパーティ製のext4ドライバをインストールしていないので不思議です >>382
レス有難う御座います
てっきりデフォルトのWindowsがext4を読めるようになったのかと思っていました
Windows機とLinux機で使えるように外付けHDDをext4でフォーマットしようと思ったのですが無条件では無理なんですね ここ1ヶ月ほどでbtrfsのエラーが急に増えたのですが、このエラーの直し方ご存じの方いますか?
デバイスはWDS512G1X0C nvmeです。
Dec 20 10:24:57 xxx kernel: BTRFS warning (device nvme0n1p4): csum failed root 257 ino 284 off 101092372480 csum 0x3423b0e6 expected csum 0xb17c434b mirror 1
Dec 20 10:24:57 xxx kernel: BTRFS error (device nvme0n1p4): bdev /dev/nvme0n1p4 errs: wr 0, rd 0, flush 0, corrupt 1453, gen 0
$ sudo btrfs dev stat /disk/btrfs_nvme0n1p4
[/dev/nvme0n1p4].write_io_errs 0
[/dev/nvme0n1p4].read_io_errs 0
[/dev/nvme0n1p4].flush_io_errs 0
[/dev/nvme0n1p4].corruption_errs 1457
[/dev/nvme0n1p4].generation_errs 0 ZFSの機能について質問させて下さい
スナップショット・ブックマーク・チェックポイント それぞれどういうものでどう機能するのでしょうか
今のところバックアップや有事のrollback等、スナップショット機能+sendくらいでニーズは満たしてはいるのですが
>>385
$ sudo btrfs dev stats -z /disk/btrfs_nvme0n1p4 でステータスリセット後にscrub
それでも同様になるならストレージ交換を推奨 エラーが急に増えた、とかいうことはまだ読めるんじゃないか
それだったら先にデータをバックアップしたほうが良くないか? それもそうですね
dev stats 使える人ならばたぶんバックアップのやり方も知っているでしょう >>386,387,388
アドバイスありがとうございます。
エラーはhw故障の可能性でしたか。。
バックアップは取りました。
btrfs scrub、試して様子見てみます 385 (369)です。
btrfsのcorruption_errですが、原因が(多分)判明したので報告します。
原因はDirectIOだった様です。
ttps://www.reddit.com/r/btrfs/comments/pwkkmj/comment/hepr7ct/?utm_source=share&utm_medium=web2x&context=3
ttps://www.spinics.net/lists/linux-btrfs/msg25940.html 自分の場合、qemuでWindows guestをqcow2 image(NoCoW,nocomp)、cache mode=none で使っており、raw(CoW,comp)に変更した後もcache mode=noneのままでした。writebackにしたらcorruption_errが発生しなくなりました。
btrfsのDirectIOは、NoCoWでは問題ないが、CoWだと問題がある(?)ようです。
ttps://lwn.net/Articles/442355/
ttps://bugzilla.redhat.com/show_bug.cgi?id=1914433#c19
ファイルシステムのDirectIOを使う際は、Stable pages(?)もチェックしておく必要があるということを初めて知りました。。 btrfsのDirectIOについては、ttps://btrfs.wiki.kernel.org/index.php/Gotchas#Direct_IO_and_CRCs に記載されてました。 $ timeshift-launcher &
で あるスナップショットで 非共有サイズが109メガバイトだとして、具体的に以前の状態からどんな変更をくわえたかの
具体的情報は、どうすればわかるのでしょうか? OpenZFS 2.1.3 Released With Many Fixes - Phoronix
https://www.phoronix.com/scan.php?page=news_item&px=OpenZFS-2.1.3 TimeshiftでRsyncでバックアップしたのですが、
RestoreしようとするもInvalid argumentと出てRestore出来ません。
TimeshiftみたいなのってVPSでは使えないものなのでしょうか?
ちなみにbtrfsでフォーマットされたパーティションです… 引数間違ってるって書いてるやん
間違えてるんでしょう うちは全てのマシンにUPSをおごる金など無い
昨日の大規模停電は図らずもファイルシステムの信頼性を確認する出来事となった
電力回復後fsck的なものも走らず復旧するZFS・Btrfs つよい Debian ではいつインストーラーにOpenZFSを付けてくれるんだろ。
https://wiki.debian.org/ZFS
xfs に関しては、上記のwikiには記載ないとかドキュメント化で差があるけど。 mainパッケージ入り出来ないうちは無理なんじゃね 10TBあたりわずか1GBのハッシュテーブルを使用できます
ファイルシステム全体の重複排除-スナップショットを含む
btrfs圧縮で動作します-圧縮ファイルと非圧縮ファイルの任意の組み合わせを重複排除します
デーモンは、btrfsツリー検索を使用して新しいデータを段階的に重複排除します
シャットダウン後の迅速な再起動のための永続的なハッシュテーブル
データセットが大きくなってもRAM使用量は増加しません
ライブで動作します-スケジュールされたダウンタイムは必要ありません
おいおい神か!?
もうzfsを使う理由がなくなってきたな >>408
> データセットが大きくなってもRAM使用量は増加しません
これってZFSだとメモリ食うやつだよね?
ZFSしか使ったことないけど次は調べてbtrfsするかな Fedoraで2年間Btrfsを圧縮有効にしてtimeshiftも使ってるけど一切不安定になったことがない。
以前にDebianでBtrfsを試して即座にデータが吹き飛んだ頃と比べると相当安定してきたと感じてる。
最新のカーネルを使えるなら今はBtrfsが第一選択肢でもいいんじゃないかな。 ・空き容量が不正確
・空き容量カツカツでの運用は非推奨
・scrubを定期的に実行しないといけない
・vmイメージの置き場所にはあまり適さない
・ext4と比べると容量食い
ってな感じのことを聞いたんだけどほんと? ・btrfsユーティリティが正確な容量を教えてくれる
・空き容量カツカツは大抵のフォイルシステムで非推奨じゃね?
・定期実行しなくても問題出ない
・VMイメージの置き場所には適さないけどオプション指定があったような
・透過圧縮もあるのでむしろ食わない イメージ置くならlvm推奨、raid5,6使うならdevice-mapper推奨、quota使うならxfs推奨 VMイメージやDBファイルについてはCoWを無効化した方が良いとArchWikiにあるな
ファイルやディレクトリ単体で無効化できる模様 自動でその設定してくれんかな
sqliteとか多すぎて手動で設定するの大変だよ パフォーマンス追求するケースの話であって一般的にはそこまで困らんでしょ >>417
chatter +C dir
だけで良いのでしょうか? CoWを無効にすると圧縮も無効になるから一長一短だよ 多少性能低下するだけだしVMディスクイメージはCOW有効化するな
無効化したらスナップショットからのお手軽ロールバック出来なくなるし スナップショットをVM Consistentでとれる確証がなければ、やめておいた方がいいよ >>413
・ツール類に信頼がおけない
EXT4の感覚でUUIDを変更したら
特に警告等なく完了したがその後エラーを検出してファイルにアクセスできなくなった >>413
空き領域まわりは強いクセがあるな
btrfsの場合は常に5GB以上は空けておかないと安心できない
btrfsは未使用領域を"chunk"と呼ばれる1GB(公式の説明)のブロックで切り出してから書き込むが
切り出すときに用途を固定してしまう(実データ・メタデータ・システム)
全ての未使用領域を切り出したあとにメタデータ領域が枯渇すると実データ領域に空きがあっても一切のファイル操作ができなくなる
ファイルの削除は可能だが空き領域が回復しないことも多い
メモリ上では削除成功したことになってもディスク上ではメタデータの更新に失敗するため
こうなったら復旧するには特殊な手順が必要になる NTFSはフォーマット時にメタデータ領域を切り出すが
空き領域が枯渇するとメタデータ領域を実データ用に転用したり、メタデータ領域を拡張する仕組みがあるので
最後まで表示通りに書き込みができる
その代わり断片化が激しくなる なる
パフォーマンスを取るか緩く安定を取るかみたいなもんか 空き容量はメタデータ云々といよりスナップショットの関係だよ
スナップショット取ってる場合には、削除が空き容量の増加にならないからという単純な話
スナップショット使ってないパーティションで何度も空き容量不足になってるけど一度も壊れた事はない (カーネル5以降の話) サーバーはともかく
デスクトップPCならBtrfsに切り替えても問題ない頃合いだね
Fedoraがデフォルトにしてしばらく大きな不具合は見つかってないし 未だに10年前と同じ感覚でbtrfsを語ってる人たまに居るよね
くっそ古いカーネル使ってるならその認識で合ってるかもしれないけど ファイルシステムはカーネルバージョンでガッツリ変わるからな
btrfsだけでなくext4やxfsも変わってる 怖いのはFS信頼性よりヒューマンエラー(ヒューマンとは俺自身含む)と思ってる
有事への備えさえしておけば先進のFSでも大丈夫
ラズパイですら再フォーマット無しにほぼ放置で2年ちょっと経過 今でこそBtrfsを愛用しているけど
カーネル4.xx時代はヒューマーンエラーとかいうレベルじゃない不安定さで使い物にならなかったよ
前兆なしでサルベージすら不可能な壊れ方するからヤバかった 使用開始時はさすがにおっかないFSだと言う認識はあった
当時のラズパイOSのカーネルはよく覚えてないけど5.4.*とかだったかなぁ
ラズパイでの試験運用開始時は十重二十重にスナップショット取ったり
日時バックアップしたりを欠かさなかった 調べるとBtrfsは丁度カーネル5.4から安定してきたらしい
確かにそのくらいからBtrfsユーザーの阿鼻叫喚が鳴りを潜めた気がする 「ラズパイだからいいややってみよ バックアップも取るし」くらいの安易な気持ちだったのを覚えている
運が良かったのか引きが強かったと言えるのかわからんけど特にFSが飛ぶ事も無く現在に至る
使用開始後調子に乗ってPCでも使い始めるまでにそれ程時間はかからなかった ふっるいカーネルと言われると3とか4あたりを想像するわ
5.4ってまだ2〜3年前くらいじゃね 従って今日はそのふっるいカーネルの感覚で語ってる者はいないと言う事だな Fedoraはdnfインストールでreflinkを扱ったりと
既にBtrfsの利用を前提とした周辺ソフトウェアの最適化に取り組んでたりするから
他のディストリにも成果が流れてBtrfsがデフォルトになっていくだろうね ZFS みたいにメモリが沢山ないとパフォーマンスが出ないみたいな低スペ野郎は使えない制限はBtrfsにはないんですか?
ext4 と比べるとディスク容量は少し食うみたいですが。 XfsでCoW有効にした時にはメモリ食いすぎて常にカツカツだったけど
Btrfsは省メモリで特にロースペに厳しいとかはないね
透過圧縮も普通に有効にしてる btrfsもそれなりにスペック依存性あって、
職場NASをHP ProLiant MicroServer(Athlon II NEO N36L)から
Ryzen 5 Pro 3600自作機に更新したらメチャ早くなった。どっちもCentOS7。
なので試しに自宅NAS(4HDD@UbuntuServer)を200GEから2400Gに変更したら早くなったので、
今は欲を出して余りHDD全部(4x3.5CMR, 4x2.5CMR, 1x3.5SMR)を繋ごうと考えてSATAカード物色中。 BtrfsというかZstdの進化が凄まじいから
なるべく最新のカーネルを扱えるディストリの方がいいよね
今だと公式にBtrfsをデフォルトにしてるFedoraがベストかな Btrfsのカーネル選び
5.4〜 安定化(事実上これ以前は非推奨)
5.16〜 Zstd圧縮のパフォーマンスが大幅に向上
Ubuntu 22.04でもカーネル5.15だから入れ替えないならFedoraしかない
本格的な普及はサーバー向けの定番ディストリに5.16が降りてくる来年以降かな >>447
先生、質問です。
CentOS Stream はインストーラがBtrfsに対応していますか?
RHEL が Btrfs を利用しないとインストーラに出てこない気がしました。 インストーラが対応してないどころかbtrfs-progsのパッケージもないしそもそもカーネルが対応してない
自分でビルドして入れれば使える 先生スパルタ過ぎませんか…?
僕はArchで行きます CentOS Stream だと、/ に一式インストールした後、カーネルのリビルドして、必要なパッケージ入れて分ける予定のパーティションはその後フォーマットして色々移動させてから、残りは btrfs-convert でext4 から Btrfs に変換するんかな。 昔はデスクトップでArch使ってたけど
BtrfsやZram等、結果的にFedoraのデフォルト構成に近い部分が多くなって
だったら最初からFedoraでいいじゃんと思って以来ずっとFedoraだな 今、透過的圧縮対応のファイルシステムって何が主流なんですか
バターFSですか デスクトップ用途だとFedoraのデフォルトインストール設定が
Btrfs+zstd圧縮だから圧倒的にBtrfs
サーバーだと実績を考えてまだ無難なZFSで動かしてるケースが多いんじゃないかな ZFS ハードル高いのとRHELはxfs、Debianはext4 だと思うけど。 xfsはRedHatがBtrfs駄目だからって言ってCOW持ち込んだらすげーぶっ壊れになったり、32bit環境で致命的なバグ出した事あったり、急に鉄板ハイスピードFS扱いになったりととにかく評価が安定しないイメージ RedHatは社内にBtrfsのメンテナがいないから導入予定はないらしい
Btrfs側のバグが原因で不具合発生した場合にRedHatで解決できないのが理由かな
>>455
透過圧縮の話題だぞ Redhatクラスの会社はエンジニアが必要ならいくらでも雇えると思うけど、そもそも市場にbtrfsのメンテできるエンジニアがほとんどいないとかなんかな
まぁしょうじき政治的な理由な気がする >>459
RedHatの言うメンテナってのは本家のコードへのコミット権を保有してるレベルの話だから簡単じゃない >>461
その基準だと最終権限はリーナスしか持ってないしサブシステム単位の権限を基準にしてもext4すら使えなくなるが >>459
落ちて来たとは言えFacebookから引き抜けるほどお金積める気がしない… Facebookは業務でバリバリBtrfsを使っていて現場の情報も入ってくるから
やりがい作戦での引き抜きも困難だろうしな 元々Redhatには、btrfs主要開発者のjosefさん(現Facebook)が在籍してたんだけどな。
会社の方針が変わったから転職したのか、
転職しちゃって開発者がいなくなったからサポートやめたのかどっちだろ。 フリーランスに立ちはだかる「常駐」の壁。慣例を打ち壊し、
“テレワーク”案件3割→8割へと成長を遂げた「クラウドテック」の軌跡
リモートワーク求人専門サイト「プロリモート」がリニューアルオープン、業務委託契約の求職者と企業をマッチング
1/3以上が採用につながる高マッチング率、リモートワーク×エンジニア・デザイナー専門の
人材紹介サービス「ReworkerAgent」正式リリース場所からも時間からも自由な働き方を実現!
『ReWorks(リワークス)』リモートワーク特化型転職サイトとして 3月5日 リニューアル
副業・兼業マッチングサービス「クラウドリンクス」登録者数2万人突破
中小企業で進む副業人材の採用、96%が継続採用を希望
茨城県日立市、県外からの「テレワーク移住者」に最大151万円の助成金
長野市、市内に移転・事業所設置し、移住することで最大550万円の支援金を支給
フリーランスが活用できる「最大1,000〜3,000万円・補助率50%〜75%」の
『ものづくり・商業・サービス補助金』とは?概要や条件を解説 Open ZFSの zfs-dkms今日降って来るのかと思ってたけど来ないのかな
リリース予定日とかってどこかに載ってたりする? どのディストリのどのバージョン?
なおOpenZFS の 2.1.4 なら sid と bullseye-backports には来てるけど aufsみたいな、FSの上にFSを被せる系のFSで
今安定しておすすめのやつってどれになんの? Fedora36めっちゃいいぞ
完全にGnome一強時代の到来を感じさせる作り Fedora36に際してはBtrfsをやめるなんて議題にも上がらなかったところを見ると
デスクトップに関してはBtrfsは安定したと考えて良さそうだね SUSEなんて何年も前からエンタープライズ領域でbtrfs使ってるからな >>444だが自宅NASも本格稼働して嬉しいので書き込む。
M.2. ext4 /
2xSataSSD btrfs(raid1) ~/work
3xCmrHDD btrfs(raid0) ~/tmp
1xSmrHDD ext4 ~/arc
SATAカードは起動が遅いので外した。
snapperは便利だけれど自宅では不要だった。職場では評判良い。
鳥はUbuntu, CentOS7(kernel3→5), SuSEの順で試して大差ないので、好みの問題でdebianにした。
CPUは最初の200GE以外は、R3-1200, R5-2400G, RPro5-4650Gを試して差がない。メモリも1x8GB, 2x8GB, 2x16GBで変化なし。 aufsってカーネルのメインラインからいつの間にか外れてたんだな ZFSのARC上限を制限するチューニングですが、これってどんなpros/consありますか?
ZFSでなくても、Linuxなどはメモリがあるだけキャッシュするのが一般的と思ってます。(手元のbtrfs使ってるPCのbuff/cacheは17Gi表示)
わざわざ制限するのはどういう理由からか、知っている方いれば教えて頂きたく。 >>488
DBサーバーだったら、DB自体がキャッシュするから、ファイルキャッシュしない方がいいよ。メモリ勿体ない。 >>489
ありがとう。用途はNAS、docker、vm少々です。
DBサーバーだとARCよりDBにメモリ回した方が良さそうですね。参考になります。 XFS 5.19で改良・高速化予定
ttps://www.phoronix.com/scan.php?page=news_item&px=Linux-5.19-XFS 良いところ・・・
・fsck不要、マウントが成功すればファイルシステムはclean(ということになっている)
・スナップショット、サブボリューム機能
・Copy on Writeのファイルコピー
・透過的圧縮
・ファイルシステムの機能としての複数デバイス機能(JBODっぽいやつ、RAIDなど)。ただしRAIDはRAID5など未完成。
・send/receive機能
他の~~ファイルシステムだってその機能はあるだろ!というのもあるけど、別にBtrfsだけの機能という話ではないので・・・ 俺は xfs 使ってるから助かる
実際に恩恵を受けるのはあとだろうが シングルディスクだとXFSにするかBtrfsにするか迷う Btrfsは凄い高機能な割にリソース食わないのが結構嬉しい btrfsはファイル内容のcheck summingがあるので安心感ある。 ZFSでZVOL使うのとBtrfsで.imgファイル作って使うのに特質すべき差ってある?
>>495
これが出来たら良いのに Btrfs の色々な機能を使っている人は、インストール時点では/に一通りをインストールしてから、新規のパーティションのフォーマットをBtrfsで適切なフラグ付けて、mount オプションも適切なフラグ付けてってされていますか?
その後、/var の中身を移動させるとか。
インストーラの時の設定のみで良いのか疑問です。 昔xfsでCoWを有効にした時には
ディストリのインストーラーのソースコードを弄ってフラグ変更したな
再フォーマットでID変わると不具合出る事があるからその方が安全だと判断した >>501
ありがとう
パッチ当てなくても良いのか、後で試してみる >>502
Arch Linuxをbtrfsオンリーで使っている。
他のディストリ事情は分からないけど、btrfs自体は圧縮やCoWのOFF/ONは後でディレクトリとファイル単位でできるし、subvolumeも後でpoolからいくつでも切り出せる。
一部のmount optionもsubvolume単位で変えられる。
自分の場合、partitionを分ける理由はsubvolumeで変えられないoption(autodefragとか)を使いたいときぐらい。
使い方次第だけど、分けたくなったら後でsubvolumeを切り出したりresizeすればいいかと。
/varとかはrsyncで適当に移動しているけどArchは動いている。
1byteの差も許せない場合はlivecdとbtrfs send/recvを使うのかな。やったことないけど。 これは生きてるんかな
https://github.com/bianster/mysqlfs
mysqlfs
MySQLfs is Linux userspace filesystem which stores data in a MySQL database. It uses FUSE to interface with the kernel. >>505
btrfsのマウントオプションは今のところ
最初にマウントされた時点のオプションが
同じファイルシステムからの後のマウントにも一律に適用されるのであって
例外はほとんどない(それこそsubvol指定ぐらいである)はずなんだけど
「サブボリューム単位で変えられるオプション」って逆に一体どういった物のことなんです?
上記の理由で圧縮周りもCoW無効もサブボリュームトップのディレクトリにプロパティを適用する事でしか
いちファイルシステムに混在で運用出来ないって認識なんですが……
ttps://btrfs.readthedocs.io/en/latest/btrfs-man5.html#mount-options >>507
あ!申し訳ない。。btrfs WiKi FAQ を見直したら確かにsubvol以外はまだ Planned だった。。訂正します。
ただ、圧縮とCoWはsubvolではなくディレクトリ、ファイル単位にできている。
https://wiki.archlinux.jp/index.php/Btrfs#CoW_.E3.81.AE.E7.84.A1.E5.8A.B9.E5.8C.96
chattr +C で CoW無効、chattr +c 圧縮有効かな。確認は lsattrやcompsizeで。
空ファイル以外はファイル作成後の変更は効かないかも。。
btrfsはopenSUSEが標準でrootfs対応していてsubvolumeやsnapshotも色々考えられているようなので、VMなどに入れて参考にするのも良いかと。 >>508
chattr で CoW 無効にしても swap file にしようとすると結構ボロボロだった経験が…
今はマシになったかな? >>509
swapfile、どうなんですかね。。
btrfs使い始めた頃はswapfile無く、ずっとswap partition切っているので分からず。。
使っている方の情報知りたいですね。 CoW のおかげでファイルコピーが早く終わるシチュエーションが思いつかない ファイルコピーがCoWってのはBtrfsの1つの側面に過ぎなくて、
Btrfsの重要なところは、既存ファイルの上書き保存であっても、(chattrで無効化してなければ)常にCoWがなされるってところなんだ。
つまり、既存ファイルの上書きでも、ブロックが上書きされるんじゃなく、新しいデータが別のブロックに書き込まれてから、
当該ファイルがそのブロックを参照するようにメタデータが変更される。
だから何だと言われると困るが・・・ cpでreflink使うと巨大ファイルのコピーでもすぐ終わるのが便利。raw imageの簡易バックアップとか。
reflinkはCoWの副産物の認識。
変更箇所が少なければ容量の節約にもなってるはず。。 CoWなのに上書きはそのまましちゃうファイルシステムなんて存在するの? いまのカーネルはスワップファイルとその物理領域をロックして直接アクセスするので性能はスワップパーティションと変わらない
そのときcowは発生しない ZFSですが、ashift、recordsize、volblocksizeなど重要パラメータがいくつもあるようで、最適設定が分からずにいます。
詳しい方のアドバイス頂きたく(できれば仕組みや考え方も。。)
用途:ホームサーバ(NFS、KVM)
H/W:CPU:Xeon E3-1220 V2 RAM:16GB SSD:CT1000MX500 x2 HDD:ST8000DM004 x2
ホストOS: Debian 11 bullseye (OpenZFS)
KVMゲスト: Linux、OpenMediaVault、Windows10
この用途だと、SSDとHDDのashift=12(4K)、データ倉庫のrecordsize=1M、VM用zvolのvolblocksize=16K かなと考えているのですが。 5.20でXFSがIOuringを使うようになるみたい
btrfsも対応中で近いうちに使えるようになる >>516
> HDD:ST8000DM004 x2
私だったらの話ですがこのドライブ(SMR)をZFSで使うのは割と勇気が要ります
事例リサーチの上でご決断を
ashiftは12で良いでしょう
recordsize や zvolブロックサイズについてはより詳しい人をお待ち下さい >>518
ありがとうございます。
SMRは確かに遅いけど、現状自分の使い方だとbtrfsであまり気にならないので、ZFSでもいけるかなと。
さすがにWin10 VMは難があると思うのでSSDへの配置も考えてます。 >>519
私もだいぶ前バラクーダ2TBでZFSを試した事があり
その時S.M.A.R.Tのなんだかの値がやたら増えたんです
(なんてやつだったかは忘れてしまいました)
「ZFSをSMRドライブで使うとデータロストするかもよ」みたいな記事もある様で
怯えた私はCMRドライブを手に入れバラクーダはテレビ録画用(FSはXFS)に回してしまいました ZFSの暗号化ですが、ZILやl2arc使う場合特に注意する点あります?
attach先poolの暗号化が適用される、であってますかね? OpenZFSでdRAID使っている方います?
安定性や性能、使い勝手はどうなのか参考にさせて頂きたく。 このところautofsとかいうのにハマりつつある
車輪の再発明?別にfstabや手動マウントでじゅうぶん?
いやー面白いじゃん マウントしてないのにcpコマンド打ったりしたときに自動マウントされて通ったりするの そういえばそんな仕組みもありましたね。
ftpのマウントとかと組み合わせると案外便利なのかもしれませんね。 幾多のNASやFTPやクラウドストレージをマウントしていてもサービス再起動するだけで一括アンマウント
mountコマンドやfuseで使えるものならなんでも動的マウントが可能
WANストレージを多用する人には有用 かもね なおautofsはローカルストレージにも使える
fstabでnoauto指定したマウントポイントにアクセスするまではマウントしないという使い方
例えばバックアップ用やマル秘ファイル満載のHDD、使うまではオフラインにしておくなんて事が可能
多少の電気代とコマンド叩くカロリー節約にはなる > fstabでnoauto指定したマウントポイントにアクセスするまではマウントしないという使い方
これLinuxでは結構手こずるわ
FreeBSDなら当該行頭の#を消すだけ 外付けのデータがこっそり壊れてる可能性がある、
というのを極力避けるためにwindows捨ててlinux(btrfs)使う価値ある?
そもそもそんな破損の仕方はそれほど起こらない? OSやファイルシステムのせいにする以前に
ヘタったストレージはさっさと交換して廃棄しちまえ、とだけ
付け加えるとしたら消えたら困る様なデータの保管先が中古ドライブだったらもってのほか > ヘタったストレージはさっさと交換して廃棄しちまえ、とだけ
定期的に新しいHDDに移してはいるんやけどね
10TBとかのデータをまったくの欠け無しにどんどん世代交代してくなんて可能なんかと不思議でさ
保存中に気づかない欠けが発生したりしないもんかと
その点ファイルシステムがハッシュチェックしてくれたら少なくとも気づくことはできるかなと思った
zfsやらbtrfsやらを使ってる人でその宇陰でデータ破損に気づけたという経験をした人はここにいる? クレクレ君が張り付いてんなら俺は何も情報出さんよ
普段どんな構成で運用してて現在どんな状態か等を「正直に」カミングアウトすれば別かもしれんが ファイルシステムの機能以前にそんなに完全性を気にするなら普通はベリファイなりハッシュチェックなりかけるので… Oracle Linux 9 は btrfs サポートするのかー、と今調べた。
RHEL 9 も次では btrfs 復活させないのだろうか。 情報出さんよと煽れば情報貰えると思ってる
クレクレ君が張り付いてるな 欠けるってなんだ
ディスクのチェックすり抜ける破損なんてあるか? > 情報出さんよと煽れば情報貰えると思ってる
>>536か?
あの短い文章で気持ち悪さを醸し出せるって大した才能だよ >>538
Oracle Linuxは普通に8でもbtrfs使えるので・・・
そりゃ自分のところで作ってるんだから当たり前である もうsolarisぶん投げたんだからzfs移植してくれればいいのに >>540
> 欠けるってなんだ
> ディスクのチェックすり抜ける破損なんてあるか?
RAID スクラビングでググれ
H/w RAID 製品だとデフォなんで結構あるんじゃね? >>544
そういうのはあるけど
質問者のいうファイルシステムを変えたからって回避できる問題ではないよね oracle にはzfsをGPL化して解放して欲しい。
もう面倒見る気ないでしょ。 変更しないデータは iso ファイルで固めた後にパリティアーカイブコマンド
(par2 コマンドとか MultiPar(Windows) とか) でパリティ付けてるわ。
誤り訂正符号なんでパリティをギガ単位でつけておけばギガ単位でデータロスト
しても修復できるんでお勧め。 arch の XFS のドキュメント見てたら、カーネル5以降で使えるようになった機能への記載もあって良かったよ。
CoWはよくわからんが。
https://wiki.archlinux.jp/index.php/XFS RHELがbtrfs捨てたんだからbtrfsはもうダメって雰囲気から、未だにbtrfs採用しないとかRHELは遅れてんなみたいな雰囲気にまで変わったのは何気にすげーわ RHELというかRed Hatには早くファイルシステムレベルの透過圧縮を実現して欲しい。
アプリ側で圧縮展開なんて面倒すぎてやってられん。。 >>550
どのオペレーションの事言ってるの?
圧縮するとパフォーマンスに影響あるから、理解して使わないとダメだと思うのだけど。 確かに適用先は気をつける必要があるね。
自分の場合はサービスアプリの大量のJSONログ。zstdならAWS EBS節約にかなり効果ある。
通常のOS領域でも、lz4ならパフォーマンス上がるという報告もあるし。 Redhatはbtrfs捨てた代わりにstratisとかいうの開発してただろう
使ってる人いるのか知らんけど ここからのリンクでRAID5,6 でbtrfsは、まだ問題抱えている気はする。
パーソナルユースでRAID5,6 使う人は多くないから問題ないのかな。
https://btrfs.wiki.kernel.org/index.php/Using_Btrfs_with_Multiple_Devices
CoW はDBのファイルシステムに向かないという話もあったと思う。
そんな事を気にし始めるとext4いいね、って一周するんだけど。 直っているねかも
Btrfs RAID 5/6 Sub-Page Support Readied For Linux 5.19
https://www.phoronix.com/news/Btrfs-RAID5-RAID6-Subpage RHはxfsに梶切っていた認識。
btrfsは開発facebookメインで圧縮もfb自身が実環境で使ってる記事あった気がする。
世界最大級のサービスで使われてるのは強みかな。 >>554
これってデータベースが更新頻度の高い巨大なバイナリだからって意味だよね?
cowの利点は活かせないけど特段デメリットも無い気がする EXT 4に比べるとパフォーマンスが落ちるぐらいかな RHはxfsに舵を切ったんじゃなくてファイルシステムからは撤退でしょ
EMCやNetAppと違って利益に直結しないbtrfsにお金かけられないよ btrfsはファイル毎にCoW切れるからDBも行けるよ。まぁ本気でやるなら専用パーティション切れってのは確かだけど レッドハットはXFSに行ったけどfedoraはbtrfsなんだよな? デスクトップだけね
fedoraサーバーはbtrfsではなかったはず Fedora Server で btrfs インストール時に選べるよ。
ただ LVM との組み合わせではリストに出てこないから、利用できないと思われているかも。 RedHatは社内にBtrfs詳しい人がいないから採用予定はないってさ
ここで言う詳しいは客からのバグ報告を基にBtrfs側に修正パッチ投げられるレベルの話ね それでいうと、RedHatはじゃぁ、「サポート」しているパッケージ、ソフトウェアは全部、その「詳しい」人が社内にいるのか・・・と思ってしまうのだが、そうなのか?
まぁあれだけのサポート料とるからには、そうなのかもだが。 >>564
結構のカバー率でいるよ
XはカバーしきれないからWayland作ったし
PulseAudioも外から触れないからPipeWireを作った
RedHatはサポート出来ないなら代替プロジェクトを自前で立ち上げるくらい本気でやってる そんな話を聞くと Red Hat 好きになってしまうじゃないか。 PodmanってRHなのか。ひょっとしてkubernetesと相性良かったり他に無い連携機能あったりするのかな >>565
pulseaudio外から触れないってどういう意味? Podmanはkubernetesと直接の関係はないけど、buildahがOpenShiftと関係ある。
OpenShiftのコンテナのサポートはbuildahやDeploymentConfigなどのRH製で作ったもの以外は断られる場合がある、となってたはず。
実際は柔軟だと思うけど。 外部のボランティアが動かないせいで苦情を放置する訳にもいかないからね
特に複数ソフトウェアの相性によるバグは相手のせいにし合って永久に解決しないから
両方RHで管理してしまうのが一番手っ取り早い dockerが将来性や互換性や内部のゴタゴタで揉めてたころ、redhatがコンテナ実行環境を掻っ攫おうとしたけどdockerがなんか復活して失敗したプロジェクトだろpodman それにしても最近のBtrfsの安定感は凄い。
Fedoraユーザーだから透過圧縮を有効にして数年使っているけど
全く不具合発生しなかった。
コミュニティでも不具合報告がないしデスクトップ用途なら実用レベルに達した気がする。 カーネル4.xx時代には普通に使ってぶっ壊れた経験がある RAID5と6だけは一向に進まんな。まぁ、使わないけど…… mostly OK: safe for general use, there are some known problems that do not affect majority of users
これとか、英語オモシロって読んだけど。 ZFSにLinuxとFreeBSDの独立したデータセットをつくってマルチブートしてるんだが
Linux使用後にFreeBSDを使うには一旦FBSDインストールメディアでimportする必要がある
この手間さえ無ければZFSになんの不満も無いんだよなあ あとZFSはストレージプールからのデバイスの削除ができない。デバイスを誤って追加した場合でも、削除はできない。
btrfsは一応削除できる。削除しようとしているデバイス上のデータを他のデバイスに移動させる時間がかかるけど。
デバイスの削除ってあまり使われない機能なん? 単純なストライピング(RAID0)の場合なら zfs remove でできるけど 正確には zpool remove ストレージプール ブロックデバイス ZFSで、別のマシンで同じpool名で使ってたディスクを同じマシンに付けた場合、どうやってimportするんでしょうか? ちょっと質問文が紛らわしいので私なりに整理
マシン1にてtankというpool名でimportしていたZFSパーティション or ZFSアレイがあるとする
↓
マシン1をshutdownし、プールtankとして使用しているストレージをマシン2へ接続する
↓
稼働しているマシン2にてプール名はそのままにtankをimportしたい
こういう事なら実施命令は簡単
# zpool import -f tank 説明不足ですみません。
disk1: マシン1で tank として使用中
disk2: マシン2で tank として使用中
の状態で、
disk2 をマシン2から取り外し、マシン1に取り付け、importする方法、の意図でした。
目的はdisk2のtankからのデータのサルベージです。 こちらは仮想ストレージで構成を再現したものです
現在の構成はおおよそこんな感じという事ですかな
tps://i.imgur.com/lqqmoNP.png
ブロックデバイスの状態・予定サルベージ先ストレージ等不明かつ当方に時間の余裕が無い為
申し訳ございませんが実際のサルベージ手順は他の方のご回答をお待ち下さい あ、違うな
マシンが2つあってzpool(非RAID)も2つあり、どちらもpool名がtankという事か
tank(disk2)の状態を提示し回答をお待ち下さいませ 状態の信憑性を高める為に、状態提示は端末エミュレータのスクショ貼りがおすすめです ありがとうございます。
調べたところ、zpool import poolname newname でいけそうな感じでした。
仮想環境で試してみようと思います。 物理環境があってサルベージが目的なのに仮想環境で試すとはこれ如何に 物理には同じ名前のプールがあるから物理でやる前に試すってことじゃないかな? BtrfsからZFSに出戻ったわ
特にスナップショット使いが難くてダメだった 子データセット(Btrfsだとサブボリューム)がある時の一括バックアップの使い勝手は
ZFSに軍配があがるなー zfsの実際のrecord sizeはいつ決まるのでしょうか?
ググった範囲では、record sizeは(dataset指定サイズの範囲で)動的に決まる、決まったあとは変更されない(再作成が必要)、と認識してます。
ファイル書き込みはwrite(2)やfwrite(3)で行われると思うのですが、全てのプログラムが大きなバッファを用意しているとは限らない気がしてます。
zfsにはwriteback用にtxgという領域があるようですが、非同期書き込みのreocrd sizeはtxgがflushされる際に決定されるのでしょうか?
(もしそうであれば、同期書き込みはfsync(2)時に決定?) NTFSクラスタサイズを後から変更するにはどのような方法があります?
フリーで探し手いるのですが、minitool や aomei無料版は非対応のようで。り Linux 6.2 Aims To Ship Updated Zstd Implementation
https://www.phoronix.com/news/Linux-6.2-Newer-Zstd
Zstd with Btrfs transparent file-system compression performance the decompression speed was "a small win across the board" and at lower compression levels the compression speed and compression ratio were both better than the prior kernel code. 暗号化鍵ってみなさんどう読み込ませてますか?
手入力だと強さに限界や起動時コンソール前にいる必要があると思うのと、何より面倒。。
かといって同じマシンに置くと平文になると思うので。 システムパーティションは暗号化せずにおいといて、盗まれたら困るデータだけ別のパーティションにおいてそこは暗号化している
起動したらSSH(SSHのサーバー鍵は「盗まれたら困る」には当たらない)して手でパスフレーズ入れて復号化
手入力の場合の強さの限界は、ストレッチングで多少は緩和される。 概念的には昔からあるが今のインターネットじゃいろんな部分の性能保証がないから実用性がね 赤帽エンジニアブログ
2022-12-01
XFSで使った以上に容量が減るナゾ
リンク貼れんかったので zstdもアップデートされて高速化されるみたいだし6.2は重要なアップデートになるな 6.1 が重要そうで、Debian のコードフリーズに間に合って喜んでいたんだけど...
カーネルだけならアップデートしてもほとんど失敗しないし、別にいいんだけど。 昔はshutdown -rFでfsck走ったけどbtrfsは気にしなくていいの?
VMシャットダウンした時とかに気になって。 shutdownコマンドは古くて問題があったので廃止されてる
systemctlを使おう 今は大抵shutdownとかもsystemctlへのリンクになってるやろ ホントだ
shutdownとして呼ばれると適切に読み替えてくれるんかな?
# shutdown -r now
# shutdown -h now 普通にpoweroffかrebootが1語で済んで簡単で良い ファイルのダウンロード中にLinuxのext4ファイルシステムが突然クラッシュしてOSが動かなくなった。
保存先のディレクトリのファイルがすべて操作不能、削除不可能状態になった。
物理的な衝撃とかもまったくなく、突如として起こったトラブル。
再起動したらLinuxはうまく立ち上がらず、セーフモードに。
けっきょく再インストールするハメになったが、インストールに失敗する。
いろんなディストリを試したが、どのディストリでもインストール中にエラーが出て止まる。
インストールメディアの破損もなければ、HDDの破損もない。
DVDドライブも普通に焼くことができるのに。
こんなことがあるんだね。安定しているファイルシステムはなんだろうか。 >>621
無制限なのはパス名の長さで、ファイル名はほとんどのファイルシステムで長さに制限があるはず >>623
> こんなことがあるんだね。
ビジネスだと物珍しいレベルではないかな。
最近は出荷前検査の精度が上がってて初期不良減ってるから物珍しいレベルになりつつあるけど。
症状的には CPU/マザボ 故障が疑わしい。 その次はメモリ。
ドライブもファイルシステムも無罪だと思うわ。
つうか、ext4 ってまともなメンテナ居るのか?
ドライブ故障のトレンドに追随できてないファイルシステムは使うべきではないよ。 >>623
ZFSならsnapshotからロールバックで戻せるんじゃない? >>622
ext4が255バイトでNTFSが255文字(Unicode16)なんで困るんよ
vfsにハードコードされてるぽいんでダメだろうけどダメ元で聞いてみた次第 流石に無知がすぎるだろ
ext4なんて現在進行系で開発されまくってるファイルシステムだぞ
あと絶対に壊れないファイルシステムは無いから
ext4よりbtrfsやzfsのほうが壊れにくくはあるけれど >>629
本当に開発されまくって言えるか?
Red Hat 系使う奴は xfs ばかり使うし、その他のディストリも btrfs だったり。
ファイルサーバ製品もハード直結独自FSばかり。
ext4 は使われていない/充分なデータが集まっていないだろ。 ext4が使われてないってどこの世界線なんだ…
クラウドではほとんどext4だろう >>632
amazon も ext4 やめて xfs でしょ? ファイル名については昔Linusが255バイト制限緩めても今度は1MBじゃ足りないっていい出すに決まってるから対応しないって言ってなかったっけ
東アジア圏だとutf8で更に厳しくなったけど、今ならファイル名に長々情報持たせるほうが悪いって言われそうだしな OpenShift4 のPVはext4だった気がする。間違ってたらスマン。 linuxの文字数制限が不便でNASを使用しなくなったことがある ファイル名がUTF-16で記録されるexFATだとLinuxでも全角文字255文字フルに使えたからファイルシステムによるんじゃない? >>639
なんと。。圧縮したかったのでbtrfsで圧縮出来ればいいなと思ってた。
RedHatだから無理かな。。 ログを延々と吐き続ける用途にbtrfsは向いてますかね?
CoWが邪魔したりしませんか? GpartedでUSBメモリをexFatでフォーマットしている途中で進捗が止まり、そのまま。
USBメモリがどうやら物理的に壊れてしまった。
PCに挿し込んでもそのUSBメモリだけがまったく反応なくなった。
Linuxのインストール途中で失敗しつづけている。
悪いこと続き。Linuxの神様に見放された模様。 邪魔の意味は分からないけど、性能はともかくデータ化けとかの心配は無いのでは?
CoWが提供するのは堅牢性や一貫性確保だと思う。
CoWがダメならzfsにはログ保存できないことになってしまうし。。 ZFSはブロックレベルの重複排除だからCOWでも問題無いとかの話? ログファイルってコピーして使うか?
普通しないからCoWが邪魔はしないでしょ。
ランダムアクセスするファイルならRAIDで向き不向きあるけど
ファイルシステムで向き不向きはないと思う。 データベースやVMのディスクイメージみたいな1つのファイルを何度も上書きするパターンはCoWと相性が悪いと聞くな
当該ディレクトリのCoWを無効化すればいいけど、してもI/O性能が上がる程度で有効のままでも別に問題なさそう Btrfs の場合、CoW有効のファイルを書き込んだ後に以前書き込んだ部分を上書き
するとドライブ上ではそのブロックを上書きせずに別ブロックに書き込む動作をする。
「ファイルコピーしたファイルでのみそれが発生する」と思っていたがそれは俺の
勘違いで、実際は全ファイルでそれをやるってことか。
まあでもログファイルはシーケンシャルアクセスだから(ブロック単位の
上書きは発生しないから)CoWが邪魔しないことに変わりはなさそうね。 ログで質問したものです。
皆さんありがとう!
色んな考察が聞けてためになりますた。
VMはCoW無効にするのが常識とおもってて、
ログとかの追記も関係あるのかと思った次第です。
とりあえず何もチューニングせずに使おうと思います! debianのtestingに降りてくるまで一月ほどかかるなぁ ext4はシステム向け、xfsは倉庫向けと考えてok? どうしてそう思った?xfsデフォのディストリもあるが 大きいファイルなら速いけど壊れやすくメモリ食うのがxfs縮小もできない
ext4は逆 >>653
RHEL9 から dump/restore は OS に添付されなくなった。
何かあっても保守/問合せ対象外。
EPEL として残ってるから完全に対象外というわけではないだろうけど。
その観点でいうと ext4 はコンテナ向け、xfsは物理向け、なのかも? じゃあbtrfsはなに向け?
てかbtrfsはscrub定期的にしないとダメなの? zfs にコンプレックスを感じる人向け、というのは冗談として
ext4 の後継と思っている。 >>659
草
BtrfsでNAS作られると(高機能すぎて売りが無くなるので)困るというのが伝わってくるw Linuxのファイルシステムはどれも一長一短で決め手にかける。「用途とか関係ない、これにしておけばまずOK」ってのがない。
ext4は大容量ドライブでfsckが遅く昨今の大容量なディスクドライブに作成するには向かない、
xfsはfsckは大容量ドライブでも問題ないが縮小ができないしメモリも食う、
btrfsはfsck不要、CoWなど「モダンなファイルシステム」とされるが、比較的新しいファイルシステムでやや心配がある、枯れていない、遅い。最近はまともになってきているが。
ZFSはライセンスの問題・・・
一方、選択肢が多いのは良いこととも言える。他のOSだって問題はいろいろあるし、OS、FSともに完全無欠のものはないけどね。 >>661
xfsって壊れやすいって本当?
なんかレガシな感じがして受け付けないんだよね。
そういやreiserfsはタイーホ後からどうなったのかね?
当時は先進的だったけど。 >>663
reiserfsは非推奨になってて2025年に削除される予定 ファイルサーバーにZFS使ってるけど安定してる
RAIDZ2組んでて一度HDDが一つ壊れたけど復旧も簡単だった ZFSはARCが重いんだよな
LRUよりは効率的だけど計算量が多いわ >>663
xfsはCOW導入で安定性が落ちたという話は聞いた気がするけど、その続報を聞かないな。話題になってないってことは安定したのか、皆避けてるのか 圧縮ファイルシステムでおすすめを教えて
主にテキストのログをどんどこ吐きたい btrfsかF2FSかな
ログ出力用途ならF2FSのほうが向いてそう 金持ってたらgpfs使いたいんだけどな
安定性は元々HPCやエンタプライズ向けだから折り紙付き
パスは255"文字"だしPOSIXで圧縮・暗号・ネットワーク共有・スナップショット・SSDキャッシュ等々
たいてい何でもあり、重複排除はあるのか知らんが 完璧ファイルシステムないよな
文房具みたいなもんでやりたいことがいろいろバラバラなんだろうな 当初から設計にも実装にも問題がなければ個人ユースではbtrfsがさいつよだったんだろうけどな
余りにも不具合が多過ぎた過去があって未だに怖くて使う気にはなれない btrfsだから不具合の噂が広まるみたいなところもあったと思う
去年か一昨年あたりにLinuxのext4がぶっ壊れてた時期があったけど別に広まってないし ext4とは頻度も不具合の数も全然違ってた
動画かスライドショーか忘れたけど当時のバージョンのbtrfsを意図的に壊す色々な手順を紹介してた
強引にじゃなくって長年使ってればそういうケースもあるだろうって手順だったからな
全員って訳じゃないが当時を知ってる人の多くは使い始めるのに躊躇するんじゃないかね みんなが寄ってたかっていじめ抜いて鍛え上げられたFSとかむしろ信頼できるという発想 Copy-on-write のファイルシステムは、良い面もあるけど想定のパフォーマンス出ない時や、使わない方が良いケースを理解できたのは btrfs のおかげ。 cgroup v2に対応しているファイルシステムがbtrfsしかないからコンテナを厳密に運用しようとするとbtrfs使うしかないんだよな
Facebookがbtrfsを使ってる理由がこれだったはず ミラーリング対応してるファイルシステムはZFSとbtrfsくらい? btrfsってもしかして面倒くさい?
空き容量少なくなってくるとSSDでもランダム書き込みが遅くなる
ファイル消してもメタデータが容量を食っている
btrfs使うなら定期的にbalanceしないとダメ?
倉庫用HDDなら、
ファイル圧縮
チェックサム
誤操作での削除防止や他ストレージへの差分バックアップにスナップショット
とかでbtrfs特有機能が生きてくる気はする
だがシステムドライブは安心と信頼のext4で良いんじゃないかと
あるいは、nodatacow使えば一つのパーティションで
非COWとCOWのファイルシステムの
両方のいいとこ取りが出来る? ファイル消して容量減らないのはメタデータなんかじゃなくて以前スナップショット切ったとか、コピー元ファイル残ってるとかだゾ。全く食わんとは言わないけどメタデータそんなに容量食わない。
空き容量減ってランダム遅くなるのはSSDってそういうもんだ。
/homeはスナップショットや圧縮がすげー生きるよ。 仮想ホストとゲスト両方共にbtrfsにしたのは失敗だろうか。。。 btrfs、ファイルを削除してからdfコマンドで見える空き領域が増えるのには少し時間がかかる
長いときでも5分とかだけどね
>>684
その書き方だと仮想マシンのイメージファイルもbtrfsのファイルシステムにあるのか?
仮想マシンのイメージファイルとか、データベースのファイルみたいなファイルをbtrfsに保存するときはCoW無効化しておくほうがよいぞ 半導体不足で納期が悲惨な頃にNASが壊れて、急場しのぎで作ったbtrfs+snapperが好評過ぎて今までズルズル使われてしまった。壊れるの嫌だから全くイジってなかったけれど、退役後に色々試すの楽しみ。kernel上げだけでも楽しみ >>685
レスありがとう。
いちおうゲスト格納ディレクトリには
chattr +Cしてるけど、大丈夫かな。
ゲストの中身もbtrfsなんだよな。。。
NASとかでないのでオーバースペックだったかと後悔しそう。
新しいモノ好きだから飛びついてしまったよ。 ファイルを作成したあとにchattr +Cしてもダメやで
正しいやりかたはググって調べてね おっと、空ファイルに対するchattr +Cは有効だった。詳細は調べてね >>688
作成する前は良いということですね。
ありがとうこざいます。
これってディレクトリに対してのみでファイルには無効でOK? >>690
ディレクトリに設定したら再帰的に適用される >>691
間違えた
新しく作るやつは再帰的に適用される >>692
という事は別ディレクトリで作成したqcow2を+Cした
ディレクトリに持って行ってもダメかな?
よーわからん。 移動では+Cは付かない
コピーでは付く
移動してファイル個別に付けても良いけど 6.1がdebian testingに降りてきたぜ >>694
コピーね。ありがとう。
sparce=alwaysとかは必要ない?
何度もスマン。 pveをbtrfsのraid1でインストールしたら、2台のディスクに3つのパーティションができました。
raid1で動いているかどうか確認するコマンドってありますか?
filesystemはbtrfs fi dfで確認できるけどBIOS bootとEFI Systemが分かりませんでした
/dev/sda1 BIOS boot
/dev/sda2 EFI System
/dev/sda3 Linux filesystem
片方でPartition 1 does not start on physical sector boundary.が出てるので
いったんパーティション削除したいです(startが63でなく34なのが謎ですが) mkfs.btrfs -m raid5 -d raid5
mkfs.btrfs -m raid1 -d raid5
どっちで作る方が良いのかな?
最初後者で作ったけれど考え直して前者で作り直した。
検証しなきゃ分からないだろうしそもそも発展途上なので先々どうなるかわからないもんな。 ファイルごとに変更履歴を自動で管理してくれて個別に戻したりできるファイルシステムってある? メタデータやデータベースみたいにランダムアクセスするデータをRAID-5に
書き込むのは効率が悪いぞ?
例えばストライプサイズが 256KB で4本構成の場合、768KB のデータは256KB毎に
分割されてドライブA,B,Cに、パリティ計算結果はドライブDに格納される。
この状態でランダムアクセスで4KBだけ書き換えるとどうなる?
768KB中400KB目~403KB目までの4KBだけ書き換える場合、書き換えるのは
ドライブBの144KB目~147KB目までだけじゃないぞ。
ドライブDのパリティ256KB分も書き換えなきゃダメ。 RAID-1なら8KBで済む。
下手するとこれで済まないのが RAID-5 の困ったところ。
パリティ計算する際には768KB分メモリに無いと計算できないわけで
それがメモリキャッシュ上に載ってない場合はパリティ計算する前にドライブA,B,C
から256KBずつ768KB読み込みが発生するのよ。
加えてデータベースの、特にトランザクションログやファイルシステムのメタデータ
はロールバックの関係上非同期書き込みではなく同期書き込みが要求
されるので、書き込みを開始して完了するまでの応答時間が長いRAID-5は
相性最悪なんだわ。
わざわざデータ領域とは別の RAID で格納できるように設計されてるのは
そのためってこった。 >>702 ありがとう。
もうガッツリ -m raid5 のにデータ移してさっきお古のHDD群を物理的に破壊してしまったよ。。
>> ドライブDのパリティ256KB分も書き換えなきゃダメ。 RAID-1なら8KBで済む。
いやあ言葉がないや。わざわざ -m raid1を作ったのに作り直したのは、
「きちんと理解していないのに直感だけで小賢しいことするのは辞めよう」
と思ってのことだが、今度からは教えて貰えるチャンスあるうちは待つは。
まだ7.5TB利用なので、別機の2x4TBをraid0にすれば引っ越し→再構築→データ戻しできる。
暫くは放置するので、追加のアドバイスがあれば教えて貰えると嬉しいです。 >>703
ググったらマウント状態でも btrfs balance コマンドでデータもメタデータも
プロファイル変換が可能ってでるね 安全をみてデータ引っ越しはしときます。やっぱ変換するのが良いと自分も思います >>699
snapperではダメ?
管理は個別ではなく全体だけれど btrfsのautodefragって効いてるのかどうか分かんない
新しく書いた所だけデフラグする?らしいけど
どれくらいデフラグされたか確かめる方法ある? btrfsのRAID6はいつになったらまともになるんだ
いつまでたってもzfsから移行できないじゃん 手動デフラグしてみたら空き容量が減ってしまった
balanceとかやってみるも
完全には戻らず btrfs ムズくね
利用者少ないからかドキュメント限られてるし
hdd2台のrootfsをraid1で組んだ状態で試しに片方抜いたらブートがinitramfsで止まって手動でmountしようとするとuuidエラーになるし 片方死んでも稼働し続けられるのが売りなのにできないんじゃ意味ないじゃないかw ルートにRAIDシステムを置くのは難しそう
対応しているOSに自動でやらせたほうが良いかもしれない
SUSEならbtrfsも対応してるかな 自分も最初は同じように思ってSuSE試したよ。(3年くらい前)
サブボリュームの多さに面食らったので運用でのルートbtrfs化は見送った。
今のSuSEは知らないけれど、当時は自分で勝手に、
ルートは枯れたext4、作業領域はbtrfs.snapperの1hスナップ、
書庫はbtrrs.raidが楽で便利だと判断したので、身の回り全部似たような構成で使ってる。 >>710
まじかー
もう失われた容量は戻らない? 便乗質問だけども、btrfsのdeduplicaterって標準では無くて外部ツールとしては複数あって迷う
おすすめないですか >>713
/etc/fstabにdegraded入れるだけだとだめみたい
>>714
raid1構成でbtfs filesystem showで見えるuuid(fstabにも記載済み)と片方HDD外してinitramfsで止まった時に表示されるuuidが違うのよ
>>715,>>716
PVE使おうとしてて、btrfs raid1でインストールすると/がraid1構成になるのよね そうなんだ。
btrfs.raid1の/がデグレードで稼働しないのなら、
実際に試したことないから知らなかったけれど、想定外で驚くな。
念のため重ねて聞くけれど、
mount -o degraded /dev/sd? /mnt/point
やってもダメってことだよね? >>723
こんな感じでした
@initramfs起動した後にmountを打つと「none on / type rootfs (rw)」が表示されている
A@の後にmount /dev/sda3 /を打つとuuidエラーとなりmountで確認してもマウントされてない
BAの後にmount -o degraded /dev/sda3 /を打つとUnknown parameterと言われ失敗しているように見える
CBの後にmountを打つと@の表示+「/dev/sda3 on / type btrfs…」と表示されてマウントできてるように見える
DCの後にcat /etc/fstabを見ても空ファイルで/がマウントされてないように見える
Eexitでinitramfsを終了すると何か処理が走った文字列が表示され途中で止まる >>724
>>マウントできてるように見える
こんなことになるんだな。ごめん僕には力になれない。
本当に余談だが、
自分は>>716の経緯でbtrfsを使い初めたので/のbtrfs化はしていない。
それでもkernelとbtrfs-progsは最新を追っている。まだ先駆的な技術だと思っているので。
自分らには/のbtrfs化はまだ早いのかも。とにかく力にはなれないがトラブル報告はありがとう。 NASに超〜〜〜長いファイル名を生成して何も出来なく成って焦った。
ドラッグ&ドロップがダメ、ファイル名の修正もダメ、ツールもダメ。
コマンドプロンプトも「cd」はUNCパスは設定出来ないからダメ。
ネットを検索したら光明が見えた。「pushd」というコマンドを使う。
このコマンドはUNCパスでもAドライブにするスゴイコマンド。
無事に自己解決できたでゴザル。FAQかもしれないが一応報告しとく。 コマンドプロンプト、UNCパスはダメでもネットワーク・ドライブに割り当てればコマンドプロンプトでcdできるのは有名だと思うが。
というか、cdにUNCパス食わせるとエラーでそう言われなかったっけ? >>727
ファイルをi-nodeで指定して扱う方法もあるよ。
大昔だけれど、日本語入力不可な接続環境で、
日本語のファイル|フォルダを扱いたくてこの板で相談して解決したことある。
全く関係ないけれど、
Linux板は年1回か2年に1回くらいしか自分はお世話にならなかったけれど、
たまたま前スレ見て何となく読んで書くのも何回かしてみて、ここは良いスレだわと思う。 ネットワーク・ドライブに割り当てればコマンドプロンプトでcdできるのはFAQ?
了解しました。我輩は初めて知ったでゴザル。ネット検索でヒットしなかったでゴザル。
ネットワーク・ドライブはルートの位置でしかマウント出来ないので不便でゴザル。
「pushd」ならNASの深い階層まで一気に指定してマウント出来るのでゴザル。 gio コマンドは?やったことないけどネットワーク利用 ござるござるよ須藤君は
ゆかいな味方 rootでござる rootでござる 外付けメディアをfstabに並べなくても/etc/udisks2/mount_options.confでデフォルトのマウントオプションを変えられることを今更知った
これでDOS/Windows系からファイルをコピーしてきたときに全部実行可能属性が付いちゃってるのを回避できる Improved Btrfs Scrub Code Readied For Linux 6.4, ~10% Faster
https://www.phoronix.com/news/Btrfs-Linux-6.4-Better-Scrub btrfsサブボリュームの削除が終わらない
これで進行状況見ると、1 orphans left to cleanとだけ出る
ちなみにHDD
Ubuntu Manpage: btrfs-orphan-cleaner-progress - show progress information about background deletion of
https://manpages.ubuntu.com/manpages/focal/en/man1/btrfs-orphan-cleaner-progress.1.html 0 orphans left to cleanになってもずっとbtrfs-cleanerが稼働中 BTRFS不具合多すぎるんよ
ドキュメントもほぼ役に立たないし
異容量でRAID1組めるだけに留めときゃいいのに >>737
Linux 6.1系と6.2系だけで起きるっぽい
カーネルを5.15系に戻したら起きなくなった
バグ? パターフェスで作成した ループバック イメージ 領域が壊れた
情報がなくて復旧は諦めた
ルプバック イメージで利用するのはあまり良くないのかな >>740
再現性あるなら、報告したら直してくれそう VM格納してる場合や書き込み多い場合nodatacowでマウントだよな? ZFS使ってる人いる?
用途どんな感じ?
優位性、どんなときに感じる? コマンドがわかりやすくて短くて簡単で使いやすいところ好き ZFS、proxmoxで暗号化mirrorで使ってる。
標準で暗号化、冗長化、snapshot、ファイルシステム(dataset)、ボリュームマネージャ(zvol)、CoW、全て一つで完結してるのが魅力。
メリット: 色々組合せる必要無くシンプル、柔軟な設定(ARC、L2arc、slog、special vdev)
(敢えてあげれば)デメリット: ライセンス問題、他よりマイナー、datasetの速度、CoWを外せない、かな。 追記: ZFSはdebian on OpenZFS。
少ないメモリ(とswap?)でHDDにWindows VMのディスクベンチなど短時間に大量の書込をしたらpanicしたことがある。
arcやtxg最大サイズを適切なものにするのがオススメ。
https://openzfs.github.io/openzfs-docs/Performance%20and%20Tuning/Module%20Parameters.html#zfs-dirty-data-max-max >>744
Hackintoshで使ってるOpenZFS for macos2.1.6
一種のゲーム的な面白さがあるのよ
このフォルダはほぼ開かないから
圧縮設定強めにzstandard で高圧縮してコピーだとか
このデータベースだけSSDに多く食わせようとか
xp時代のHDD先頭パテ切ってキャッシュにしたりするような
あれの延長上的な攻略的なゲームに
macOSの整理整頓軽の面白さが混じってて面白い
Spotlight面白すぎる
special vdevでメタデータとSmall BlockをべつSSDにする方法はないのか 返答の御礼も書かなかったバチが当たったようです
メインでWindows機を使っていて、USBケースで海門6TB(NTFS)使っていました。
1週間ほど放置したらノートPCの電池が切れてNTFSが飛び、chkdsk /f /rも無駄に。 停電に見せかけたHDDの障害かもしれんんやで。
同じロットのHDD積んでいるんだろうな、と思われるものでマシンのが同時期に壊れるとか。 ある時からぶっ壊れ状態となったが電源を切るまでは動き続け、
電源を切ったら再始動できなくなるというのはHDDの障害としてはありがち。 大分昔の職場で大型連休の度に全PCの電源を落としていたが
連休明けとかに何回か再起動を繰り返さないと立ち上がらないHP-UXが近くの部署にあった
開発な癖にそんな危なっかしい機体を放置してる部署もどうかとは思ってはいたがそれはともかく
一回スピンアップに成功すると正常に使えるように見えるって奴とかな フリーソフトで、mp3の音楽ファイルが5つくらい復旧しました。
wmvファイルは、何故か全てが「信長の野望 戦国群雄伝 for Windows」からリッピングしたwmaファイルの断片群に化けていました…
chkdskなんて掛けないでUbuntuか何かのLive USBメモリで起動してマウントすべきだったのかも >>757
最後が違う。「マウント」しないのが正解。まず、OSを起動する前にBIOS/UEFIで問題のHDDが
表示されていれば認識しているので、Linuxを起動し、"/dev/sdX"とdevice fileとしてのみ
認識している(umountされた)状態で、以下の2つの方法を取ると、file復活の可能性が高まる。
・TestDisk (NTFSのMFT修復等のHDDの整合性修復。案外これで直ることも多い)
・GNU ddrescue (HDDの起動音から瀕死に近い場合。patition imageを別のdeviceに作成、
このimageをmountしてfile抽出を行う。物理破損がないHDDに多くの業者が取る方法がこれ) 突然の電源断に対してはchkdskはそこまでおかしい選択肢ではない
一方でWindowsのコマンドラインのchkdskは、最近はほぼ放置状態(MSが改良を試みていない)という説もある
>>753が指摘しているように、本当に「突然の電源断」なのかっていうところもある
普通はノートPCはバッテリーが切れそうになったら休止状態とかに入るものじゃないのか
なのにHDD破損に至ってるのは、最初にHDDが故障して、OSも停止してスリープや休止に入れなくなり、バッテリーを使い果たしたのではないか? chkdsk /f /r
の実行自体がダメだったのでしょうか
実行前にddrescue実行必須?? >>761
OSはm.2 SSDに入っていて、今も問題なく起動できています。
SEAGATE ST6000DM003をケースに入れてUSB接続したまま放置したらNTFSが死んでいて、Windows 11のディスク管理画面ではrawという認識となっていました。 >>762
マウントすると I/O Error 起こすセクタに当たった時にそこを読もうとして
延々エラーを繰り返すので I/O Error を読み飛ばす系の dd (ddrescue とか)
や chkdsk/fsck かが必要。
ddrescue は操作している間にディスクが完全にお亡くなりになるリスクへの対策。
今回の場合ディスクが完全お亡くなりになってない(ファイルが5個サルベージ
できた)ので ddrescue してもしなくても同じだった可能性が高い。
なので chkdsk は判断としては正解だった(chkdsk の前の段階で手の施しようが
なかったんだ)と思う(個人の感想です)。 単なる不意の電源断がその場であって
ダーティフラグ立ってるだけと確証があるなら
chkdskかける判断はおかしくないけど
大原則として論理的な障害ではなく物理障害が
少しでも疑わしいと思えたらその時点で
そのハードウェアに触れるのは
必要最低限に留めてかつ迅速に行うべきで
理想的にはddrescueなりで出来るだけ完全(に近い)複製を安全な場所に取ってから
そのイメージやらファイルやらだけを相手に作業をすべき
壊れたハードウェアの上でパーティション情報やファイルシステムの論理的なチェックや修正をかけても
まずその操作で余計に状況を悪化させてトドメ刺すだけだから少しでも疑わしければ安易にやっちゃいかん
ttps://wiki.archlinux.jp/index.php/%E3%83%95%E3%82%A1%E3%82%A4%E3%83%AB%E3%83%AA%E3%82%AB%E3%83%90%E3%83%AA そこまでする価値のあるデータならそうするが、大抵の場合は本人が主張するほどに大事なデータではないんだよなぁという感慨しかない 今日は私の宝物をご紹介しましょう。将棋の駒。何の変哲もないように見えますけど実はここに血痕が付いてるんです。 >>766
そもそも壊れたストレージごとき相手に
奮闘してまでサルベージしないといけない時点で普段から予算も手間も割いてないのは明らかだからな
そこまで必死になるほど真に大事ならバックアップコピーでもRAIDミラーリングでも
なんでもいいから冗長化していて然るべきなわけでさ btrfs、破損とかは今のところ無いが
謎のフリーズの問題やディスク書き込み量の増加に悩まされた
ZFSに変えようかな RedHatが匙を投げたファイルシステムを使うんだからその辺りは覚悟すべき 100MBのファイルをcpする場合
本来なら100MBの書き込みが発生するけれど
COWできれば共有で100MBの書き込みが省略されるので
本来の書き込み量に比べて実際の書き込み量は減るという意味なのでは 変更されるまで実際には書き込まない
スナップショット的な動作を想定してるなら
CoWには限らない なるほど。そういえばreflinkオプションあったのを忘れてた。 btrfsはやっぱりなんかあるのかな。
突然あるディレクトリ配下だけが全部サイズ0になってアクセスできなくなった。
でも、rootだと普通にアクセスできたから、とりあえずは復旧できた。
なんか気持ちが悪いんよね。
圧縮とサブボリュームが便利で気に入っているんだけど。 Btrfsを使うならカーネルは常に新しくしておかなきゃね
古いカーネルでフォーマットしたBtrfsは不具合があるとかなんとか カーネルに変えた時古いカーネルでフォーマットしたものはどうすればいいの そのまま使えばいいんじゃない?
新しいカーネルなら過去の問題は適宜検出してwarning出してくれると思うので。 そんな便利機能はないぞ
データを待避して再フォーマットするのが無難 RAID6やZFS Z2がブッ壊れたときみたいらな Btrfsを使うなら
FedoraかUbuntuの非LTSかローリングリリース系のディストリのどれかを使いたいね
それ以外だとしたらカーネルだけ最新にするキメラしないと厳しい Linux カーネルならどのディストリビューションでも簡単に最新にできるだろ。
バニラカーネルでコンパイルエラーになる事無い気がする。 Btrfsはカーネル上げてもいいけど戻すのはリスキーだから
公式で新しいカーネルを提供しているディストリのほうがいいよ 最近バニラカーネル触ってないから知らんけど、BuildPreReq情報は同梱ドキュメントに必ず書かれてたぜ
外す理由がないから、今もあるはず >>792
aptならholdしておけば良い
sudo dnf exclude <パッケージ名>
でどうにか出来るみたい
arch系は知らん btrfsの話ならディスク上の基本フォーマットは長らく変わってないし
カーネルバージョン間での非互換機能はあるけどそれも使うと個別に非互換検出ビットが立つから
古いボリューム相手でも(後から操作できる物なら)新機能は問題なく使えるし
もし新しいカーネルのみの機能を持つボリューム相手に
古いカーネルでマウントしようとしてもroのみあるいはマウント不可になるので安全
実際にzstd圧縮やspace_cache=v2が入る以前の4.4(ルーター)と6.3(PC)の間で
compress=lzo,space_cache=v1で双方にマウントしたり戻したりしてるけど何の問題もないよ 最近のTwitterで顕著だけど故意にフェイクニュース流してる奴結構いるよな
『騙されてやんの~』という◯ナ二―の一種なんかね あとはオンボロSSDやSDカードでssdオプション有効にすると動作怪しくなるのと
ライトホール問題絡んでくるRAIDが怖いがそれらの点以外は便利なんだよなbtrfs
VMゲストしたときの性能についてはあきらめてLVM等使うかvirtiofsの今後に期待するって話で落ち着きそうだし
でもサブボリューム単位で透過圧縮やCoWの有無切り替えられないのは誰か何とかしてほしい
(ボリューム分けるって方法もあるが単一ボリュームで気軽にマルチデバイスできるのが本来の強みなのだし) www.phoronix.com/news/XFS-Maintainer-Steps-Down
> XFS File-System Maintainer Stepping Down
XFSのメンテナが辞任
> Nowadays, people working on XFS seem to spend most of their time
> on distro kernel backports and dealing with AI-generated corner
> case bug reports that aren't user reports. Reviewing has become a
> nightmare...
AI生成のバグレポに延々対処する仕事か
まさに悪夢 AIがバグレポって何だろね
有意義なレポートじゃないなら選別AIで対抗だ ランダムに変な負荷かけたり
1秒間に1000回マウントとアンマウントを繰り返したりするんだろう多分
時代はBtrfsなのにやってられんよな スタックトレースで分類したら実質数個じゃないのかね ファジングテストの事でしょ…と思ったが多少違うっぽいな
AIが生成しまくるコーナーケースのバグレポートに疲弊したって話っぽい
まぁXFSは赤帽の生命線なんだから問題起きても赤帽がなんとかしてくれるんじゃない? >>803
なんかJFSがいいよ、っという神の声が聞こえた気がした。
ext4 と比較して利点も欠点もないはずたが、Linux での採用例が少ないという大きな欠点。 >>805
Linux Developers Eye Orphaning The JFS File-System
www.phoronix.com/news/Linux-Possible-Orphan-JFS
もう使ってる人いないしJFS捨てようみたいな話が出てる マイナーなファイルシステムってマトモにメンテされてないし不具合あっても報告されないし使わないほうがいいよ AIX, OS/2 では動いていて30年前はいいもの感もあったはず... RHELで採用されてないということはメンテされていないということに等しい FacebookってCentOSで動いてるらしいけどファイルシステムはbtrfsなんだよな >>810
そう考えるとRHは凄いんだな、と思いました。 Btrfsは事実上facebookがメンテしてるからね
自社でメンテしてるファイルシステムだから採用しやすい >>812
オワコンというよりいい具合に枯れきった
ファイルシステムになった感じ
先進性より安定性が必要な用途でお呼びがかかる
老兵っぽいイメージ もちろん頼もしいのが第一だが、
逆に言えば現メタ(だけじゃないが)の使用してるユースケースに沿わない使い方に関しては中々進歩しないのが弱点だと思う
RAID56が長い間ダメダメだったのやFS単品での暗号化や階層キャッシュが望めないのもDCでbtrfs使ってる処がそういう機能に興味もってないからだろうし RAID5/6 でのバグは直ったのか?
家庭用では無い構成だから関係ないと思ってはいたけど。 治るもクソも根本的なライトホール問題があって、ディスク追加の扱いが悪い意味で柔軟なBtrfsは対処が難しいからメンテ側が乗り気じゃないって話じゃないかな
現状は最新カーネルかつメタデータのraid構成を別にすれば良いけど実績も脳死で使える安心感も皆無だし
とはいえ主流のハードウェアraidはデータ化けに弱いんだからチェックサム有りfsで安心して使えるraidがもっと一般化してほしいお気持ちもある Btrfsのディスク構成の緩さは異常。なんでもかんでもストレージプールに合体できる 自分はbtrfs嫌いじゃないから不満はないがSSD最適化とか将来的なZonedStorage対応考えるとほかに選択肢なくなっていきそうなのは真剣にどうかと思う ストレージプール使うと遅くならない?
5400rpm のHDDが悪いのかもしれんし、比較で測定もしてないけど。 bcachefsの作者を毎月支援してたんだけど、Btrfsがすっかり良くなって支援止めちゃった OSSって上位互換が登場すると一瞬で廃れるから辛いよね
VSCodeが登場してエディタ系が全滅しちゃったような事がいつでも起こり得る
有料製品みたいに価格で対抗することもできないし bcachefsは機能的にはBtrfsと差別化できてると思うが
これからメインライン入りしてガンガン開発者集めて安定させないといけないのにlinux6.5マージ失敗のMLのレスバからして雲行き怪しいからどうなるやら プロプラに言うのはアホだと分かってはいるが
それでもGPFSがフリーで使えたらなあって思う
あれクラスタリングがメインだから勘違いしてる人多いけど
CephやRustreと違ってローカル使いにも適してると思うんだよなあ
使ってるZFS全部捨ててGPFSに乗り換えたいと思うぐらいには juicefsとか使ってみたら
現代技術の分散ファイルシステムって感じだ GlusterFS面白いな。
簡単な手順で組める。
我が家のはストライピング構成だから怖いけどw 特殊なRAIDを組まない限りは全部Btrfsで成立する時代になった Redhatがまたbtrfsに戻ってくるってある? Fedoraでbtrfs使ってるしRHEL10のデフォルトに採用しても驚かない 顧客の要望があれば導入するでしょ
RHELにとっての一番の顧客ってどこなのか知らんが RHELも将来的にはcow/cor対応のFS導入するだろうけど
自前の製品群がXFSに特化してそうだから簡単には変えられないだろうしまずはGPLの取り扱いの件何とかすべきだろうなあ 今の Red Hat は Spectrum Scale (GPFS) 販売している IBM が上にいるから
フリーのファイルシステムに積極的には投資はしないでしょ。
メンテに金のかかる多機能なFSじゃなくてXFSを細々とメンテするだけじゃないかな。 Btrfsはパフォーマンスがちょっとね。
現状BtrfsはZFSにもボロ負けだからな。
Linux6.5でどの程度改善されるか。
あと、暗号化機能がずっと先送りされたまま。 暗号化は導入するだけでなく高度なセキュリティ検証が必要だからハードルは高いよ
ZFSの暗号化は第三者機関でセキュリティ検証してるのかな GFS入れたけど遅いw
設定は簡単だからVM置き場ではなく普通のストレージにしたよ。
やっぱ専用機が一番だな。 一口に暗号化っつーてもh/w込みなのかデバイス単位なのかボリューム単位なのかで勝手違うからこういうのは特定の製品持ってる企業がガンガン進めないときついところある
しかし今時ノートpcみたいな要件だと流石に外せない要素になりつつあるからぼくのかんがえたさいきょうのソリューションが欲しいんだよ 暗号化LVM使えば暗号化自体は可能だし
セキュリティ関係で厳密なテストが必要な重い作業の割には
新規に何かを実現できるわけでもないから優先順位は低いでしょう
一度導入したら最後、脆弱性がでるたびに最優先で修正が必要になるし ZFS mirror、SATAケーブルの差し込み不良でエラー出たけどちゃんと一基で動作して再起動も無停止。
ケーブル直したら変更分だけresilverしてすぐ復旧。今更だけど感動。 ReiserFS Officially Declared "Obsolete"
www.phoronix.com/news/ReiserFS-Obsolete
R.I.P. 再インストールの機会があったのでここ見てcompress-force=zstd:1にしてみた
だいたい良好だけども、m属性やproperty set compression noneも無視して圧縮するかどうかはzstdの判断のみなんだな bcachefsメインライン入り諦めたっぽい?
作者も開発リソース不足や取り巻きの礼賛で冷静さ失ってそうだし、10年とは言わず数年後くらいに平穏な形で再チャレンジ出来るといいなぁ TPM-backed Full Disk Encryption is coming to Ubuntu
https://ubuntu.com/blog/tpm-backed-full-disk-encryption-is-coming-to-ubuntu
UbuntuがWindowsのbitlockerみたいなTPM使ったディスク暗号化やるみたい TPMはプロ相手にはセキュリティ上の追加効果は殆どないのに
一般のユーザーはデータを救出不可能になるリスクが増すというデメリットばかりの代物だぞ パフォーマンスの問題が解決するんとちゃうの?ソフト暗号複合が遅いから暗号化しないユーザーたち この場合はパスワード入力不要でTPMだけでディスク暗号化する機能が追加されるという話のようだ。
外部から自分でデータを救出したいときにトラブルになる未来しか見えないが。 結局俺は次もext4+lvmにしてしまいそうだ orZ Btrfs+zstd:1にしようぜ
容量が想像以上に圧縮できて驚くよ 今時容量不足で苦しむことなんてそんなに無いでしょ。 一般的なpcとディストリで気軽に使えてプロ相手にも十分通用する暗号化ってなんだろう・・・ >>851
スナップショットのあるファイルシステムいいよ
いつでも全ファイルの差分が見えるし、バックアップ取るときもまずスナップショットを取ってそっちを対象にすれば
メインボリューム側では整合性期にせず作業続けられるし >>855
Fedoraのデフォルトになって数年が経過しているから安心していいよ Btrfsの透過圧縮でわざわざ標準外のレベル設定するのってだいぶ特殊用途なんでは…? Fedoraチームがベンチマークを取ってzstd:1がベストと導き出したんだよ 5年以上 zstd で btrfs使ってたけど自分は問題無かった。
今はZFSでzstd使ってるけどこっちも問題ないよ。 >>860
btrfsからzfsにした理由とかある? 純粋なストレージプールが欲しいならzfsやcephあたりで良いんだろうが
仮想化ゲストならvirtiofsが主流になって使いやすくなってほしいなぁ Ubuntu 23.10 Restores ZFS File-System Support In Its Installer
https://www.phoronix.com/news/Ubuntu-23.10-ZFS-Install
UbuntuはZFSを見棄てたわけではなかったみたい
次世代FSはbtrfsなのかZFSなのか…… ZFSはライセンス問題がある限りスタンダードにはなれんのだ CDやBDだったら中がぐちゃぐちゃでもそれ片付ければ済むんだよ
焼くこともできない惨状 もはやBtrfs以外は使わない理由を説明する必要があるレベル zstd:1で圧縮して時々スナップショットを取る使い方が標準だよ
バックアップを一瞬で取れるから派手にファイルを扱える >>874
いうても同じボリュームにスナップショット取ってるんやろ? スナップショットとバージョン管理は根本的に似てるような気もする
gitとbtrfsで何かfusionできないかな 言われてみると rsybc の差分バックアップで間に合うような気もする 俺は2005年くらいから毎日差分バックアップしたhomeディレクトリがある
当初はpdumpfsで途中からrsyncを使ってとったもの
つまりファイルに差分がなかったらハードリンクにして容量増加が抑えられる
ファイルとかハードリンクとかは当時から何も変わらないからまだ使えるんだけど
その下のストレージもfilesystemも開始した当時とは全く変わってしまった 普通の差分バックアップとBtrfsなどのスナップショットの違いは
ゴミ箱に放り込んだ後の挙動だね。
普通の差分バックアップは一応次のバックアップまでは容量が回復するけど
Btrfsのスナップショットだと、一度でもバックアップをすると
以降はファイル削除で逆に空き容量が減ったりという奇怪な挙動になる。 スナップショットそのものをバックアップとして運用するんじゃなくて
スナップショットで瞬間を固定したものを別の物理ドライブにバックアップするんやで
使用中のデータをバックアップするよりも整合性の心配をしなくてよくなる >>882
それ、スナップショットを別の物理ドライブに取ればええんでないの? 昔使ってたストレージを思い出した。
データベース停止→同期ディスク切り離し→データベース起動→切り離したディスクからバックアップ→ディスク同期
データベース停止から起動まで5分だけど、バックアップは10時間とか。 スナップショットはバックアップではないと何度言えば解るのか スナップショットも全部別ボリュームにバックアップや 俺はスナップショットを使ったことないんだけど
スナップショットってある時点のファイルシステムの状態を
保存できるというので良いのかな?
スナップショットってのは何回も取れると思うんだけど
するとこれらをバックアップしようと思ったら
他のストレージに複製する必要がある
それはフィルシステム階層でやるのかな? 複製されるのはフィルシステムのイメージ?
それともその上のcpコマンドとかrsyncでファイルとして複製するのかな? 物理的な破損に対する対策をしたいのかデータ的な破損に対する対策がした以下によるでしょ。
よほどのことがない限りは通常利用でSSDが物理的に破損するなんて無いからスナップショットで十分だよ。 >>892
>SSDが物理的に破損するなんて無い
そなの? 熱で歪んではんだクラックすることはあるよ
基板を使った全ての電子機器に言えることだけど >>892
物理的な破損じゃなくてもコントローラーのバグでデータ消失とかあるだろ。SanDiskとか。
バックアップは物理的に分けるのが基本。 >それともその上のcpコマンドとかrsyncでファイルとして複製するのかな?
そうだよ、スナップショットをマウントして、ファイルを「別の場所に」コピーしてはじめて正当なバックアップと言える。
これらの手順を簡略化できるsend/recvコマンドが用意されていて、
こっちの方が効率いいし、メタデータも丸ごとクローンできる。 >>896
>そうだよ、スナップショットをマウントして、
なるほどね
俺はrsyncで良いや
夜中に寝てる間にやるから問題なし /をスナップショット撮ってその領域を別筐体にrsync or cpし、ブートローダー入れれば普通に動くものですか?
やはりddが必要ですか? /var以下とか書き込み途中のファイルがあるだろうから
そこは影響あるかもしれんが多分大丈夫でしょ Debianは単なるマウントポイントで起動ディスクを指定してるから動く。
FedoraはUUIDで起動ディスクを指定してるから動かない。 SSDはHDDより気楽にセルが死んで内部のECCで誤魔化すつくりだから大手のちゃんとした奴でも壊れないって発想は絶対できないなあ
まあ結局は本人がどれくらいの信頼性とデータの保全を重視してるかだけど SSDは電気的に壊れたりしそうだしHDDより信頼していいとも思えない HDDのような故障の予兆はネエと思った方がイイですぬ マジで重要なデータならHDDはデータ復旧業者に持ち込めばほぼデータ救える
SSDは難しそう >>900
DebianだってUUIDで指定してるぞ fstabの指定じゃない?
sda,sdbとかデバイス名使うと順序が保証されないからいかんよ >>899
ありがとうございます!
明日試してみます! >>897
KVMとかで何十GBのイメージ(常時書き込みあり)を扱ってるんだけど、rsyncで不整合起きないものかね?
怪しいと思ってrsync(rsnapshotだけど)の対象にはしてなくて、イメージの中身のファイルをrsyncしてるけど。 >>908
fstabじゃなくてカーネルの起動オプション(cmdline)とinitramfsじゃないの?トラブるとめんどい。 cpした後chrootしてinitramfs作り直したら駄目なの? >>910
チェックサム確認して更新するオプションあるけど、そういうのはrsyncに合わない。
あくまで個々のファイル単位でのコピー。
また、チェックサム確認つけるとサイズが大きいファイルはコピーにその分時間かかる。 メインで使うLinux端末なりサーバなりはxfs+LVM
バックアップ用ストレージをbtrfsの構成にして物理的に分ければストレージ側で好きにバックアップ取れば良い
または仮想環境ならNAS上に仮想ボリュームがあるだろうからNASのバックアップ機能に任せる 複雑なことしてないけど、自分はこのやり方でdisk移行したことあるよ。
ttps://wiki.archlinux.org/title/Rsync#Full_system_backup >>915
/varの下は特に用量が大きいから、何箇所かは除外したいな。 >>912
/etc/fstab のUUID書き換えた後に (chroot 不要かも?) grub2-mkconfig かな。
書き換えが必要なのは fstab と grub.cnf (もしくはgrubenv) だ。
LVM ありなら initramfs 再作成も必要だったかも。 USB+cryptsetup(x3)をbtrfsでraid0にしてですな
使ってるうちにcsumエラーが出るようになるけどmd5sumは正常
カーネル4系だけどもう6出てるの? いまだにラズパイがbtrfsに標準対応しない理由が全然わからない そもそもラズパイはストレージがmicroSD/emmc前提で
SDカード内部のコントローラは基本的にfat等しか想定しておらず安物でSSD最適化が入りまくったbtrfs使うと不安定になりやすいしCOWの性能的なデメリットもバカにならない
ラズパイ6か7が出てNVMe標準搭載してから高級なFSのプリインストール願えばいいんじゃないかね csum error、dm-crypt + btrfs raid1 で出たことある。
用途はqemuのcache none で↓に引っかかっていた様だった。
ttps://archive.kernel.org/oldwiki/btrfs.wiki.kernel.org/index.php/Gotchas.html#Direct_IO_and_CRCs 918です
一個がno medium foundになりまして生来ブキッチョでして壊したのでしょうか
oldoldstable(4系)からbookworm(6系)にアプデしたらなんかsyncが激遅くなった\(^o^)/ 自分なら怪しそうな動きをしているならまっさらの新しいストレージとファイルシステム用意して構築しなおすかなあ
データロストは怖い >>923
単に物理的に壊れかけてたのがいよいよぶっ壊れただけじゃないの?
カーネル上げた/ソフトウェアの不具合で no medium found になるとは思えないんだが...
あと raid0 でドライブ1つ死んでも sync できちゃうものなの?
その状態でマウントが read-only に落ちないのは不具合ではあると思うんだが。 BcachefsがやっとLinuxにマージされたぞ btrfs遅いって言われてたけどアップデートのペースが凄くてどんどん速くなってるからな
btrfsが使えるならそれでいいんだよ btrfs早くdfコマンドとか対応してくれ。
CoWだと無理なんかな? 今のBtrfsは開発が活発で安心感すらある
RAID56のバグもいよいよ修正作業が本格化したようだし bcachefsはビルトインで暗号化や階層キャッシュ出来るのが明確な強みなんだから言われてるほどbtrfsと競合しない筈なんだよな〜
ただ実績無いし長期的な開発体制も怪しいからまじで先が読めない
一方btrfsもRAID5,6に関してはライトホール問題はどうしようもないんだから長い長い道のりになる気がするな Microsoft の Dev Drive もちょい気になる bcachefsも追従してきたということはサブボリュームをディレクトリ扱いするのはそこまで利点あるのだろうか
zfs他のようにパーティション扱いで、加えてスワップファイルやVMイメージ用にスナップショット対象外フラグでも設ければ充分な気がするけども bcachefs のベンチマーク記事、bcachefsは bcache ベースで堅牢性と信頼性重視、とされてるから、速度なら低速デバイス+キャッシュ(dm-cache、L2ARC、bcacheなど)同士の比較が欲しかった。 >>936
本格的なベンチマークは6.7カーネルのリリースまで待つしかないんじゃないかな
喜び勇んで自分でビルドしてベンチマークしようとしたPhoronixで悲惨な結果になってるし
実際にZFSを置き換えられるのか等運用や評判の話は良くも悪くももっと後だろう fscryptかあ…dm-cryptの方が好みかなあ
ただ現状btrfs raid dmcrypt automountの連携に難ありというか…正しく調整するにはudevまでいじる必要があるのが面倒 ファイル暗号化だとシステムはTPMで暗号化して(起動時のパスワード入力不要)
ホームディレクトリはログインパスワードで暗号化といった使い分けしやすいのが利点らしい。
ユーザーが大量にいるケースでも個別のフレーズで暗号化出来る。
同じことを他の方式で実現するのは現実的ではない。 予行練習で試しにext4のfscryptを使ってみたけどめっちゃ便利だなこれ
ログインしていないユーザーのhomeフォルダは暗号化されたままだからdm-cryptよりも安心感がある
ほぼ起動したままだったから全体の暗号化にあまり意味を感じてなかったし Fedoraはfscryptによる暗号化をインストール時のオプションとして提供する計画みたいだね
xfsからbtrfsに乗り換えたディストリの強みを活かしていく ブロックグループの導入でマウントが遅い問題も解決されたし
Btrfsは最強のファイルシステムへの道を着実に歩んでいるな bitlot防止機能が素晴らしい
なぜ窓と林檎はbitlot防止できないんだい? マジレスするところなのかボケるところなのかわからんけどbitrotのtypoじゃない?
どう優れてんのか知らんけど bit rotという言葉は初見だったので勉強になりました。
ありがとうございます。
bit rot防止 login:Penguin 圧縮って使わないほうがいいかも
CPUが100%張り付いてる状況だとめっちゃ低速化する CPUが100%に張り付くようなマシンスペックが問題ってだけ
圧縮や重複排除はコアとメモリに余裕がないマシンでは使えねーのは
今も昔も変わらん ソースベースディストリで作業ディレクトリをcompressオプションでマウントとか? 結局Btrfsはやめてext4に乗り換えた
Btrfs自体は安定してくれてるんだけど
たまにext4に決め打ちされてる古いプログラムを踏んで不具合が出るのがキツかった >>921
信頼性が低いSDカードだからこそ
cowの堅牢性やチェックサムでデータ化けを検出できるのは頼もしい
ただ確かに普通のSDカードをシステムやスワップに使うと長時間のランダムライトについてこれずに激遅になるので
ハイエンデュランスのSDカードを選ぶ必要がある Linuxはbcacheを使ってssd+hddの階層キャッシュを簡単に組めるのは良いな
カーネルの標準機能だから起動や互換性のトラブルはまず起きないし。
Windowsはサードパーティのソフトに頼る必要があるし、
どれもデータ破損などのトラブルの報告がある bcacheって意味あるのかな?
良く分かってないのだけど
もっと高速なRAMにキャッシュされるので
RAMをたくさん積んどけば良いんでない? 一生懸命作っているから文句を言いにくいというだけで実用面ではBtrfsが安定した今としては必要ないね >>958
すみませんBtrfsってbcacheと関係あるんですか?
名前は似てるけども >>959
958じゃないけど、無関係だね。btrfsとbcache bcache使うなら kernel は LTS が良いかも。過去にやらかしがあったらしいので。 bcacheは大容量データを扱う機会の多いWindowsでこそ欲しいよね
>>958
bcacheとbcachefsは別物
紛らわしい名付けしたものだ 作者同じだし似たような技術使ってるから似た名前になってるんだが カーネルの標準機能だからトラブルはまず起きない、ってことはないんじゃないかな?と思った
カーネルの実装には問題なくてもユーザーランドのコマンドのバグで破壊とかないとはいえないし カーネルモジュールはコンパイルしなくてもいいんやで 一つだけWindowsがLinuxより優れている点がある
デフラグソフトが充実していて配置方法を選べることも多く
適切に使うことで再断片化を緩和できる Linuxは断片化が起きる前提にファイルを配置していくからデフラグの意味がないんだよ
だからデフラグソフトが無い デフラグせんでも別ストレージにコピーすればいいのだ vfatがデフラグ必要なのって毎回再配置しないので性能を稼ぐ意味合いだよね >>971
いらない
HDDでもSMRならデフラグしないほうがいい Linuxのfsもエクステント、b木の最適化くらいはどこかでやってるよね RAID-Z3みたいな機能をbtrfsが備えてくれればいいんだが… Btrfs Enjoys Performance Optimizations With Linux 6.9
https://www.phoronix.com/news/Btrfs-Linux-6.9 良いよ。
大半のパフォーマンスはext4が一番良いくらい。
xfs はファイル数などの上限が上がるので企業みたいな使い方をするならよい選択。
btrfs はCoW で条件によりコピーが速かったりファイルシステムを圧縮したり、高機能だし色々出来るけども、使い方を調べないといかん。 昔xfsでファイル削除が激重だったけど、何年か前に改善されたらしい 日本語版wikipediaによると
2020年 仮釈放の審査に落ち、2022年に予定されていた仮釈放がさらに伸びた。
2027年 仮釈放の予定
刑期短縮の為模範囚を演じてるだけじゃないかと思う 自分のプロダクトに自分の名前を付けるやつはやべぇ奴の法則 たしかに、リーナスは自分の名前を取ってgitを作ったからな バックアップ取らない派なので先日ext4のディレクトリをrmコマンド打つの間違って全部消して
結局復活できなかった
extundeleteもext4magicも結局だめだわ
btrfsはどこまで削除したやつを戻せるかわからんけどこれを期にもうこの際まず/homeをbtrfsに変えてみた
お、なんか動きは良い感じノードサイズは32kでやってみた
dmesgで「BTRFS info (device sda4): enabling ssd optimizations」なんて出てるのでSSD使ってる
からなんか良さげw
不具合なければファイルシステムはこれでいくかも >>980
あったね、10年ちょっと前にxfsにしてた。/も/homeも。要するに全部xfs
大きなファイルやディレクトリをrmすると重い
しかもこの頃のlinuxってIOの割り込みとかで結構へんな処理待ちが出る感じだった
IOの割り込み処理待ちでほぼ固まってる感じに近かったw
それはxfsだけじゃなくext3等も状況により処理待ちですごかったけどxfsはホント固まる感じだったね
今は本当に割り込みの処理待ちとかほぼ感じさせないカーネルになったんだね
ファイルシステムは実はその頃ReiserFSを使ってた時も有り、これは本当に速かった
開発者逮捕て使うの辞めたけどある意味逮捕なきゃ凄く良かったファイルシステムだったと思う
陰謀かなにかではめられて逮捕?
とりあえず暫くbtrfsかな。あ、電源バチバチ切ったりしてもなんだかんだ強かったのはntfsですね btrfsだいぶ枯れてきたよな
zfsから引っ越してまた1年ちょっとだが今のところド安定だわ レス数が950を超えています。1000を超えると書き込みができなくなります。