X



トップページLinux
1002コメント329KB
ファイルシステム総合スレ その17 [転載禁止]©2ch.net
レス数が1000を超えています。これ以上書き込みはできません。
0001login:Penguin
垢版 |
2015/01/17(土) 22:41:58.83ID:E5//dQrz
● 前スレ ファイルシステム総合スレ その16
http://hayabusa6.2ch.net/test/read.cgi/linux/1363315915/

● 関連スレ
ジャーナリングファイルシステム
http://peace.2ch.net/test/read.cgi/unix/979408065/

OpenSolaris/Illumos (OpenIndiana, etc.) 6
http://peace.2ch.net/test/read.cgi/unix/1337411922/

FS関連スレ
http://kanae.2ch.net/test/read.cgi/os/1137387538/
過去スレ, 関連リンクは >>2-10 あたりで.
0952login:Penguin
垢版 |
2017/12/06(水) 19:37:17.39ID:VGGMSTZG
ext4に透過圧縮があれば十分なんだがなあ
以前は/usr以下をsquashfsしてaufs被せる荒業が使えたんだがsystemdが起動に必要なファイル置きやがるからだめになったし
0953login:Penguin
垢版 |
2017/12/08(金) 23:03:43.37ID:6zLhmCQN
圧縮機能だけでzfs-fuseを使っていたんだけど、(CentOS 6)
さっきダウンしていた。マウント先ディレクトリにアクセスできなくなっていた。

service zfs-fuse restart を時間を置いて二度行なったら、復帰した。

/var/log/message を確認したら、エラーが記録されていた。
segfault at 70 ip xxxxxxx sp yyyyyyy error 4 in libpthread-2.12.so[zzzzzz]

もう怖くて、zfs-fuse使えない。
重複機能はとっくに諦めていたけど、圧縮機能も諦めて、
もうzfs-fuse使わない。ext4のまま使うことにする。
圧縮効果は1.6倍だったのでもったいないけど、安全の方が大事。
0954login:Penguin
垢版 |
2017/12/08(金) 23:16:17.83ID:6zLhmCQN
>>953自己レス

メールのINBOXフォルダとして使っていたので、
大量に入ってくるメールの取扱でバグったのかなあ。
0955login:Penguin
垢版 |
2017/12/08(金) 23:43:11.94ID:ZOJyABBF
評判の悪いfuseなんぞわざわざ使ってる方に問題がある
ZoL使え
0956login:Penguin
垢版 |
2017/12/09(土) 01:16:59.24ID:ybA/9ws5
>>955
ZFS on Linux ググってみたけど、標準の機能でないために躊躇します。
yum update みたいに、カーネルごとアップデートされるようになったら使いたいなあ。
0957login:Penguin
垢版 |
2017/12/09(土) 01:36:43.20ID:FOEDyt7P
fuseのzfsも標準の機能じゃないしw
てかOracleもFSFもLinux界隈もPC衰退期の現状にライセンスが合ってない
もうソースに手入れた人が把握できなくて身動き取れないだけかも知れんけど
0958login:Penguin
垢版 |
2017/12/09(土) 18:17:19.19ID:XKNRzaCn
>>956
ZOLが標準に組み込まれないのはライセンスの問題
FUSEはZOLまでの繋ぎで今はメンテもされていない
0959login:Penguin
垢版 |
2017/12/09(土) 22:41:04.18ID:FOEDyt7P
事実上、まともな透過圧縮は起動に使うには面倒なZOLだけか
透過圧縮って、パフォーマンス低下させない様にって細工が面倒なのはわかるんだけど
ext4で特定の圧縮アルゴリズムで標準化みたいな動き、出ないもんかな
0961login:Penguin
垢版 |
2017/12/09(土) 23:12:17.71ID:ybA/9ws5
>>960
btrfsってもう詰んだんでしょ。

>>958
永久にカーネルに組み込まれないってことでしょうか。
それともオリンピックまでになんとかなる話?
なんとかしてほしい。ド素人にも使えるようにしてほしい。

ZFS on Linuxなんてつかったら、多分、カーネルアップデートしたりしたときに、
データにアクセス不能にしてしまいそうでこわい。
凍結的に使いつづけるのならよいのかも知れないけど。
0962login:Penguin
垢版 |
2017/12/09(土) 23:12:47.98ID:xfEywRlo
遅い、不安定、糞サポート
0963login:Penguin
垢版 |
2017/12/09(土) 23:16:30.67ID:XOliZqnc
red hatが作るXFSベースのfsに透過圧縮付いたりしたら良いのにね
0964login:Penguin
垢版 |
2017/12/09(土) 23:24:22.93ID:xfEywRlo
なければつくるんや!
0965login:Penguin
垢版 |
2017/12/09(土) 23:24:35.67ID:xkiGrhs4
正直、圧縮はbtrfsだのzfsだのでなく、ストレージに提供させる機能とした方がよさそうだが
0966login:Penguin
垢版 |
2017/12/10(日) 00:01:52.98ID:g66QiYsp
>>961
特定のFSに限らんだろうが暗号化ディスクをマウントしたままカーネルアップデートするとディスク構成壊れて起動不能というのはある
0967login:Penguin
垢版 |
2017/12/10(日) 00:23:50.05ID:up+XnWG1
>>965
ブロックレイヤーでってことか?
メタやジャーナルまで圧縮することになるし
FS側で圧縮した方が良さそうじゃない?

俺は使ってないファイルとか圧縮効果の高いファイルだけ圧縮して欲しいわ
0968login:Penguin
垢版 |
2017/12/10(日) 00:25:19.66ID:wGxcaYra
起動時のえっらい小さなローダーがパスワード入力とか求めた上で
暗号化解除やら、場合によっては圧縮の解凍しながらとか、相当難しいからね
FreeBSDでも/boot/だけは圧縮とかすらできない様に、あちこちにブロック入ってる
(抜け道があったりで完全じゃないけど(それ言い出したら何でもできるけど))
0969login:Penguin
垢版 |
2017/12/10(日) 00:44:32.70ID:wGxcaYra
>>967
ちょいと考えてみたけど、ブロックレベルでってのは、特にSSDで無理があるな
透過圧縮の類って、実際の圧縮は確か16KB単位とかでやってる筈
頻度表を扱うアルゴリズムを使うってなった時点で、最悪値で無条件に
256×出現回数の表現に必要なビット数 の頻度の情報が必要になるから
4KB単位での圧縮なんて(テキストファイル限定とかでもなきゃ)先ず意味がない
0970login:Penguin
垢版 |
2017/12/10(日) 01:50:22.76ID:ZifqXvj+
>>967
>>969
内蔵HDDとかというよりかは、FCとかiSCSIとかで接続するような外部ストレージね

OSからは4kbのブロックとして見えるけど、実態はストレージによりそう見せられている
仮想的なブロックの、更に下位のレイヤーでの圧縮や展開
ストレージ内蔵のASICや専用アクセラレータが圧縮や展開をするようなモノ
0971login:Penguin
垢版 |
2017/12/10(日) 03:46:19.19ID:N0TrNYo4
Windowsの世界では、透過圧縮、重複排除は安定的に実現できているのかな? > NTFS
smbaclientでくっつけるとか。
0972login:Penguin
垢版 |
2017/12/10(日) 08:57:11.81ID:4pWsPUuO
>>969
同じ意見だわ
余談だけど、圧縮で書き込み量減らしてSSDの寿命を延ばすとか試みはあったそうで
効果は不明

>>970
bio下位ならブロックレイヤーだね

ASICとかハード実装ならインライン圧縮になる
平均IOサイズ考えると圧縮効果低くなるからなあ

ポスト、セミポストならデータマージして圧縮効果上げられるけど、今度はファイル読み込み時の伸長コストに無駄が出るしなあ

iSCSIならネットワークに出すデータ量減らせると考えればFSで圧縮するのが良いと思うぞ
0973login:Penguin
垢版 |
2017/12/10(日) 10:16:59.64ID:C8L1/GFy
>>961
家のCentOSでなんとなしにカーネルじゃないけどアップデートしたら、OSが壊れた。
というか起動に使ってたUSBメモリが完全死亡。
新しいUSBメモリにOSに入れ直して前と同じ環境にするだけで済むだろうと思ったけど、5,6年前に組んだマシンで、当時何をどうやったかの記憶も記録も全くなくなってたw
ただのファイルバックアップ用マシンだったけど、元のファイルサーバーに不調が出て一新しようとしてる作業中だったから血の気が引いた。
0974login:Penguin
垢版 |
2017/12/10(日) 14:37:23.88ID:wGxcaYra
>>970
ファイルシステム回りを眺めて(読んだとは言ってない)思ったけど、
圧縮で空いた分のブロックとか認識して追従するファイルシステムとかめっちゃ複雑そう
zfsみたいに上で全部管理しないとすぐ限界が来るに1ペソ
0975login:Penguin
垢版 |
2017/12/10(日) 14:40:30.94ID:N0TrNYo4
https://news.mynavi.jp/article/20170804-a056/

Red Hatはすでに実装し利用している技術を精査し、
当面はXFSとLVM2を機能拡張していくことでZFSと同様の機能を実現していく計画としている。
この取り組みは「Stratis」プロジェクトと呼ばれており、
2018年には最初のリリースを見込んでいる。
0976login:Penguin
垢版 |
2017/12/10(日) 17:57:32.78ID:nqYNH5+E
>>971
Windowsで重複排除はReFSからじゃないかったかな
評判は知らないけど
0977login:Penguin
垢版 |
2017/12/10(日) 19:37:49.67ID:fs9xD2lp
>>974
ext4で暗号化が実装されてるのに圧縮がされてないのはその辺だろうね
0978login:Penguin
垢版 |
2017/12/11(月) 08:12:40.95ID:lx+fHSVz
>>976
逆。
今の所、NTFSでしか使えない。
オフラインなのもあって、まぁ、普通に使えてる。
0979login:Penguin
垢版 |
2017/12/11(月) 12:47:32.50ID:OK6Xudye
しかしSUSEはどうすんだろね
0980login:Penguin
垢版 |
2017/12/11(月) 13:10:43.52ID:JQ1AKkZN
SUSEは当分xfsとbtrfsでいくんじゃないの
0982login:Penguin
垢版 |
2017/12/18(月) 03:36:58.10ID:GyMlMt5D
Ext4でも標準でジャーナリングシステムをつかっているのだと知りました。
それなら、xfsをわざわざ選択する意義ってなんなのでしょうか。
xfsか、枯れたExt4を使うか迷っています。
0983login:Penguin
垢版 |
2017/12/18(月) 05:14:36.61ID:KgitDdCc
>>982
XFSはファイル一つ一つのサイズがデカい場合に良い性能を発揮するらしいので、
普段使いはext4でいいんじゃないだろうか。

> 枯れたExt4
ext4って枯れてるか?絶賛開発中だと思うのだけど。
0984login:Penguin
垢版 |
2017/12/18(月) 08:21:54.12ID:x84wA0wv
枯れてるかどうかはわからんけど
xfsのほうがはるこに歴史はあるが
0985login:Penguin
垢版 |
2017/12/18(月) 11:20:01.45ID:GyMlMt5D
>>982です。

>>983-984
ext4ってまだ開発中だったんですか。すっかり枯れたものだと思いこんでました。
それどこか、xfsの方が歴史が長かったなんて。
CentOS 7ではxfsが標準になっているので、逆転現象ですね。

IMAPサーバの構築でメールファイルの管理だけをしたいなら、
使い慣れたCentOS 6で、ext4を使う方がいいかなあと思ってきました。
0986login:Penguin
垢版 |
2017/12/18(月) 21:55:50.85ID:zF3vE5KP
ext4にしとけ
extundeleteできるのは便利やぞ
0987login:Penguin
垢版 |
2017/12/18(月) 22:08:00.85ID:GyMlMt5D
>>986
xfsは復活できないそうですね。
メモリも食うらしいので、
はい。もう少し、CentOS6でいきます。
0988login:Penguin
垢版 |
2017/12/28(木) 12:29:00.51ID:bgFTfYxx
SSDのような記録形式は、劣化してくるとコンデンサでいうリフレッシュみたいなことをしないと
あまり頻繁にアクセスしないデータはいつの間にか電荷?の自然消失で壊れると聞いたんですが
ZFSのスクラブはリフレッシュの代わりになりますか?
0989login:Penguin
垢版 |
2017/12/28(木) 13:02:12.19ID:vYCrbjN4
そんなことしても気休めにしかならないからバックアップ取ったほうがいいぞ
0990login:Penguin
垢版 |
2017/12/28(木) 13:18:13.61ID:fkEzUj9L
>>988
バックアップしたのを丸々リストアするのが一番負担の負担が少ない
細かいファイルを1個1個同じSSD内で完全にコピー→上書き移動とかしてると
ディレクトリのエントリ(ファイルの一覧)への書き込み回数がとんでもない事になる
0991login:Penguin
垢版 |
2017/12/28(木) 13:18:59.35ID:fkEzUj9L
負担の負担とかw SSDの負担
0992login:Penguin
垢版 |
2017/12/28(木) 17:49:23.94ID:bgFTfYxx
ありです

やっぱりきちんとバックアップも取っておいた方が良いですか

定期的にddでディスクを丸ごとHDDに保存してみようと思います
0993login:Penguin
垢版 |
2017/12/28(木) 18:25:04.32ID:W1FLaU/H
SSDも劣化対策にRAIDにしておくべきだよね
0994login:Penguin
垢版 |
2017/12/28(木) 18:39:00.12ID:fkEzUj9L
zfsとかReFSみたいなのなら劣化には有効なんだけど、従来のFSじゃ無理
だからデータ化け対策にMSまでもがわざわざ今頃になってReFSとかし始めてる訳で

3DMLCTLCのエラー訂正がどうなるかわからんけど、少なくとも寿命が来たUSBメモリに
ソフトウェアRAID組んでext4辺りで適当なでかいzipとか放り込んでしばらく放っておいた後、
(フラッシュの類の寿命って読み書きできないじゃなくて、
 データを保持できる時間が短くなる、だから待つのが重要)
データレベルでのエラーが検出できないから、エラーが起きたり起きなかったりする
ソフトウェアRAIDだけじゃなくて、ハードウェアRAIDも同じ
あれは律儀に両方の物理ドライブから読み込んで、両方のセクタの内容を比較とかしてない
(ハードウェアRAID0+1だと、先ず間違いなく片方からしか読んでないし、
 普通のミラーリングでも定期的に読み出す物理ドライブを切り替えて寿命を延ばそうとしてる)
Win10の記憶域プールの類も同じで、プールから作った論理ドライブにNTFS切ると同じ問題が起きる

RAIDはヘッドとかモータとかコントローラが死んだ時には止まらず動き続けてくれたり、
片方のデータで助けてくれたりはしてくれるけど、ECCかファイルシステムのどっちかが
データの正当性を検証し続けてくれない環境だと、運用中のデータ化けには無力(特にSSD)
0995login:Penguin
垢版 |
2017/12/28(木) 18:56:15.30ID:aFTO9rA1
つまりエンプラSSDは期違いってこと?
0996login:Penguin
垢版 |
2017/12/28(木) 19:25:06.39ID:NbmI0QOw
HDD も SSD も同じことだが、
RAID で DISK故障を発見したとき、 他の DISK のデータが一部消えてたという事態は避けなければいけない。
そのために、全データを 定期的に read することが重要。アクセスすることによって 訂正可能な範囲の劣化は修整される。
ダメならダメでデータが消えたことが発見できて RAID 使ってたら 修正も可能。

コピーオンライトなFSは、GC もあるし、そういう機能を持ってると思うけれども、詳細は知らない。
0997login:Penguin
垢版 |
2017/12/28(木) 19:25:16.21ID:fkEzUj9L
鯖向けのSSDでも、暗号化の類の保護はあっても、正当性の保証って意味での保護は滅多にない筈
(ちょっと考えればわかる)だからSLCとかで物理的な耐久で耐えようとしてるっしょ
で、わざわざ電源断の保護とか謳ってたりするとこからわかると思うけど、
一般的なSSDの多くは書き込み中に電源落とすと、内部での イレース→書き込み で、
イレース直後に力尽きた時はセクタの内容がオール0とかになる
物理的な書き込みの順番を守ってないジャーナリングだと、
下手するとディレクトリエントリぶっ壊れて、ディレクトリ内のファイルの一部か全部ロストする

鯖向けの3Dは知らん
0998login:Penguin
垢版 |
2017/12/28(木) 20:36:57.08ID:W1FLaU/H
複数SSD + ZFS + 定期scrub でいい?
0999login:Penguin
垢版 |
2017/12/28(木) 23:22:58.51ID:1cm7+jyT
SSDは記憶場所の再配置も自動でやっているのでscrubなんて無価値だよ
10011001
垢版 |
Over 1000Thread
このスレッドは1000を超えました。
新しいスレッドを立ててください。
life time: 1076日 0時間 45分 40秒
10021002
垢版 |
Over 1000Thread
5ちゃんねるの運営はプレミアム会員の皆さまに支えられています。
運営にご協力お願いいたします。


───────────────────
《プレミアム会員の主な特典》
★ 5ちゃんねる専用ブラウザからの広告除去
★ 5ちゃんねるの過去ログを取得
★ 書き込み規制の緩和
───────────────────

会員登録には個人情報は一切必要ありません。
月300円から匿名でご購入いただけます。

▼ プレミアム会員登録はこちら ▼
https://premium.5ch.net/

▼ 浪人ログインはこちら ▼
https://login.5ch.net/login.php
レス数が1000を超えています。これ以上書き込みはできません。

ニューススポーツなんでも実況