■成果論文タイトル
「大規模情報基盤のための分散キー・バリューストアokuyamaによる分散共有ストレージの構築」
※「ビッグデータ」の処理において発生する問題を新技術で解決しよう!というプロジェクトです。
■共同研究プロジェクト開始の背景
近年、ICT業界だけでなく、ソーシャルネットワークサービスやスマートフォンの普及に伴い、社会的にも注目されるようになった「ビッグデータ」というキーワード。インターネット上に莫大な情報が増加し続ける現在、ビッグデータに対応できる新たなデータベース技術の開発が課題視されてきました。そこで、新しいデータベース技術であるNOSQLの一種、分散キーバリューストア(以下、分散KVS)「okuyama」を独自開発したKDLと、NICTとの共同研究プロジェクト(プロジェクト名「大規模Webアーカイブのための分散データストア基盤に関する実証実験研究」)が2012年4月にスタート、成果論文を発表しました。共同研究にあたり、「okuyama」の開発者であるKDL上級技術者・岩瀬高博がNICTの特別研究員として参画しています。
■プロジェクトの目標
本プロジェクトの目標として、数百億レコード規模のデータの管理が可能なデータストアの構築を設定しています。この目標を達成するために、本プロジェクトでは下記のテーマに基づく研究を実施しています。
【研究テーマ】
1. 大規模データを用いた分散KVS「okuyama」の実証実験と高度化に関する研究開発
2. 分散KVSの特性を考慮した最適な計算機基盤および大規模Webアーカイブの構成法に関する実証実験
「大規模情報基盤のための分散キー・バリューストアokuyamaによる分散共有ストレージの構築」
※「ビッグデータ」の処理において発生する問題を新技術で解決しよう!というプロジェクトです。
■共同研究プロジェクト開始の背景
近年、ICT業界だけでなく、ソーシャルネットワークサービスやスマートフォンの普及に伴い、社会的にも注目されるようになった「ビッグデータ」というキーワード。インターネット上に莫大な情報が増加し続ける現在、ビッグデータに対応できる新たなデータベース技術の開発が課題視されてきました。そこで、新しいデータベース技術であるNOSQLの一種、分散キーバリューストア(以下、分散KVS)「okuyama」を独自開発したKDLと、NICTとの共同研究プロジェクト(プロジェクト名「大規模Webアーカイブのための分散データストア基盤に関する実証実験研究」)が2012年4月にスタート、成果論文を発表しました。共同研究にあたり、「okuyama」の開発者であるKDL上級技術者・岩瀬高博がNICTの特別研究員として参画しています。
■プロジェクトの目標
本プロジェクトの目標として、数百億レコード規模のデータの管理が可能なデータストアの構築を設定しています。この目標を達成するために、本プロジェクトでは下記のテーマに基づく研究を実施しています。
【研究テーマ】
1. 大規模データを用いた分散KVS「okuyama」の実証実験と高度化に関する研究開発
2. 分散KVSの特性を考慮した最適な計算機基盤および大規模Webアーカイブの構成法に関する実証実験
■実証実験で得られた成果
実証実験では、複数クライアントからの同時並列アクセス時の処理能力と大容量データの管理能力という二つの側面を検証するために、okuyamaを用いた大規模分散メモリストレージを構築し、40億件余りのデータを用いた書き込みおよび読込みテストを実施し、高速なI/O性能を発揮する数値結果を得ることができました。
本実験を踏まえて、okuyamaのもつ単体データへの高速なアクセス特性と同時接続への耐性を活かすことで、複数ユーザが同時に利用しても高速な応答性を維持できるストレージの構築が可能であると考えています。
■今後の展望
KDLとNICTは、今後本プロジェクトで得た特性を活かし、ビッグデータ分析基盤の構築およびネットワークでの共有が可能なビッグデータファイルシステムのの研究開発といったさらなる研究の高度化を進めてまいります。
【okuyamaとは】
当プロジェクトで採用した分散KVS「okuyama」は、ペタバイト(1,000兆)級のデータを高速に処理でき、開発元のKDLが企業サポートも行っているデータベースサービスです。分散KVSの優れた特徴は、単一データの処理が高速で、データと負荷を構成サーバー内で分散しながら管理することが可能な点にあります。
分散KVS「okuyama」について詳細はこちらをご覧ください。 ※okuyamaは商標登録済です。
公式サイトURL:http://okuyama-project.com/
【引用文献】
岩瀬高博,藤井秀明,田中康司,原口弘志,泥谷誠,岩爪道昭:
『大規模情報基盤のための分散キー・バリューストアokuyama による分散共有ストレージの構築』
人工知能学会誌vol.28 No.6(2013年1月) P104
【独立行政法人 情報通信研究機構(NICT)について】
独立行政法人 情報通信研究機構(NICT:National Institute of Information and Communications Technology)は社会の様々な課題の改善・解決に貢献するため、情報通信分野を専門とする唯一の公的研究機関として、最先端の研究開発を実施するとともに、海外の研究機関との連携を推進している研究開発機関です。
環境負荷を低減し、大容量で高度な信頼性・安全性を備え、多様なニーズを応えることができる新世代ネットワークの実現をめざし、産学官連携で光通信・ワイヤレス通信・ネットワークセキュリティなどの技術の研究開発を進めています。
【会社概要】
社名 : 株式会社神戸デジタル・ラボ
代表者 : 代表取締役社長 永吉 一郎
所在地 : (神戸本社) 〒650-0033 兵庫県神戸市中央区江戸町93番 栄光ビル2F・5F (東京支社) 〒150-0022 東京都渋谷区恵比寿南1-5-5 JR恵比寿ビル11F
設立 : 1995年10月
資本金 : 2億995万円
従業員数 : 133名(2013年1月現在)
URL : http://www.kdl.co.jp/
【お問い合わせ先】
株式会社神戸デジタル・ラボ
先端技術開発事業部
担当:佐々木 幸一
TEL:078-327-2280 FAX:078-327-2278
実証実験では、複数クライアントからの同時並列アクセス時の処理能力と大容量データの管理能力という二つの側面を検証するために、okuyamaを用いた大規模分散メモリストレージを構築し、40億件余りのデータを用いた書き込みおよび読込みテストを実施し、高速なI/O性能を発揮する数値結果を得ることができました。
本実験を踏まえて、okuyamaのもつ単体データへの高速なアクセス特性と同時接続への耐性を活かすことで、複数ユーザが同時に利用しても高速な応答性を維持できるストレージの構築が可能であると考えています。
■今後の展望
KDLとNICTは、今後本プロジェクトで得た特性を活かし、ビッグデータ分析基盤の構築およびネットワークでの共有が可能なビッグデータファイルシステムのの研究開発といったさらなる研究の高度化を進めてまいります。
【okuyamaとは】
当プロジェクトで採用した分散KVS「okuyama」は、ペタバイト(1,000兆)級のデータを高速に処理でき、開発元のKDLが企業サポートも行っているデータベースサービスです。分散KVSの優れた特徴は、単一データの処理が高速で、データと負荷を構成サーバー内で分散しながら管理することが可能な点にあります。
分散KVS「okuyama」について詳細はこちらをご覧ください。 ※okuyamaは商標登録済です。
公式サイトURL:http://okuyama-project.com/
【引用文献】
岩瀬高博,藤井秀明,田中康司,原口弘志,泥谷誠,岩爪道昭:
『大規模情報基盤のための分散キー・バリューストアokuyama による分散共有ストレージの構築』
人工知能学会誌vol.28 No.6(2013年1月) P104
【独立行政法人 情報通信研究機構(NICT)について】
独立行政法人 情報通信研究機構(NICT:National Institute of Information and Communications Technology)は社会の様々な課題の改善・解決に貢献するため、情報通信分野を専門とする唯一の公的研究機関として、最先端の研究開発を実施するとともに、海外の研究機関との連携を推進している研究開発機関です。
環境負荷を低減し、大容量で高度な信頼性・安全性を備え、多様なニーズを応えることができる新世代ネットワークの実現をめざし、産学官連携で光通信・ワイヤレス通信・ネットワークセキュリティなどの技術の研究開発を進めています。
【会社概要】
社名 : 株式会社神戸デジタル・ラボ
代表者 : 代表取締役社長 永吉 一郎
所在地 : (神戸本社) 〒650-0033 兵庫県神戸市中央区江戸町93番 栄光ビル2F・5F (東京支社) 〒150-0022 東京都渋谷区恵比寿南1-5-5 JR恵比寿ビル11F
設立 : 1995年10月
資本金 : 2億995万円
従業員数 : 133名(2013年1月現在)
URL : http://www.kdl.co.jp/
【お問い合わせ先】
株式会社神戸デジタル・ラボ
先端技術開発事業部
担当:佐々木 幸一
TEL:078-327-2280 FAX:078-327-2278