自社保有のデータセンター、HDDを100本搭載するサーバー、高速なファイル同期の秘密、AI時代の400Gbネットワーク……
【保存版】ファイル1兆個=470万テラバイト! 巨大クラウド・Dropboxのインフラを支える最新技術
提供: Dropbox
サーバー:用途に応じて役割分担、異なるハードウェアを採用
――Dropboxのサービスの中心を担うコアデータセンターですが、どんなサーバーが設置されているのでしょうか。
岡崎氏:サービスのコア部分を構成するサーバー群は、いくつかの役割に分かれています。
クラウドストレージサービスですので、まず中心となるのはファイルの分割処理や保存をする「ブロックサーバー」と「ブロックストレージサーバー」です(通称「Magic Pocket」)。ただしそのほかにも、プレビュー画像を保存するサーバー、ファイルのメタデータ(ファイル名、ファイル形式などの情報)を記録するデータベースサーバーもあります。
・ブロックサーバー:アップロードされたファイルの内容をブロックに分割&暗号化
・ブロックストレージサーバー:分割後のブロックを保存
・プレビューサーバー:ファイルのプレビュー画像をブロックに分割&暗号化
・プレビューストレージサーバー:プレビュー画像のブロックを保存
・メタデータサーバー:ファイルのメタデータを記録するデータベース
――細かく役割が分かれているんですね。それぞれハードウェアも違うのですか?
岡崎氏:はい、違います。
Dropboxが自社データセンターでの運用を選択したときから、サーバーはずっと改良を重ねてきており、現在は主に、2021年から導入されている“Gen 6(第6世代)”サーバーシリーズを使っています。
たとえば、ファイルの内容(データブロック)を保存するブロックストレージサーバーは大容量が必要ですから、大量の台数のHDDが搭載できるようになっていて、ネットワークも100Gb(100ギガビット)に対応しています。一方、たとえばメタデータサーバーは容量の小さいメタデータしか扱いませんが、高速にレスポンスを返さないとサービスの使い心地が悪くなりますから、記録媒体としてNVMe SSDを搭載しています。
ちなみに一部のサーバーは、POPに配置されている場合もあります。たとえば、東京のPOPにはメタデータサーバーが設置されていて、日本でDropboxを使う場合のレスポンスを向上させています。一時期、日本のユーザーが増えてレスポンスが悪化したため、日本から依頼して設置してもらいました。
――なるほど、もともとサーバーの役割を分けているから、そうした分散配置もできるわけですね。
ストレージサーバー:100本のHDDが詰め込まれた大容量サーバー
――おそらく一般的なクラウドサービス基盤と大きく違うのが、大量のファイル(データブロック)を保存するブロックストレージサーバーの存在だと思います。「大量の台数のHDDが搭載できる」とのことでしたが、どんなハードウェアなんでしょうか。
岡崎氏:Dropboxのサービスを低コストでご提供し続けるためには、なるべく少ないサーバー台数で、より大容量のデータを保存できることが理想です。全体の保存容量が増えても、サーバー台数を抑えることができれば、データセンタースペース、消費電力、空調能力などの節約になりますからね。
Gen 6のブロックストレージサーバーは、3.5インチHDDをタテ挿しにする(地面に対して垂直に挿す)形になっており、4Uサイズのサーバー1台に、およそ100本のHDDが内蔵できます。18TBのHDDを100本搭載したとすると、サーバー1台で1.8PBの物理容量ですね。
――HDDが100本も! まさに“HDDを詰め込む箱”という感じですね。ただ、サーバーの上側からHDDを抜き差しする形だと、HDDが故障しても交換が難しいのでは?
岡崎氏:実際の運用では、一部のHDDが故障しても交換することはありません。データブロックをほかのHDDやサーバーに複製、復元したうえで、壊れたHDDはそのまま放置して運用を続けます。あらかじめデータブロックの分散保存や冗長化をしていることで、こうした運用の簡素化もできるわけです。
――なるほどねえ。では、サーバーに載っているHDDも特殊なものですか?
岡崎氏:HDDそのものは、サーバー向けに販売されている一般的なものです。これも、その時点での価格と容量のバランスを考えながら、できるだけ大容量のものを採用しています。
HDDの世界でも、記録技術が進化することで1台あたりの容量が急拡大しています。2013年時点では1台あたり4TBだったものが、現在では18TB以上、20TBや30TBといったHDDも出てきています。Dropboxでは主要なHDDメーカーとパートナーシップを組んでいて、SMR、HAMRといった最新技術を採用したHDDの技術検証にも協力しています。
この記事の編集者は以下の記事もオススメしています
過去記事アーカイブ
- 2013年
- 11月



