三菱電機、100兆件規模のセンサデータ処理が可能な高性能センサデータベースを開発

Submitted by Bob Mick on

三菱電機は2016年2月3日、モノのインターネット(IoT)時代のシステムを支える基盤として、安価なハードウエア構成で、各種センサから得られた100兆件規模の大量のセンサデータを高速に蓄積・検索・集計する高性能センサデータベースを開発したと発表した。

道路や鉄道などの社会インフラ設備の維持管理における劣化箇所の検出、工場やプラントの稼働状況の分析による製品品質の向上や劣化診断、ビルや住宅の電力消費量の見える化による省電力など、様々な分野で100兆件にもおよぶ大量のセンサデータを活用する事例が増えている。100兆件は、レーザセンサなどで得られた道路・鉄道周辺構造物約20万km 分の三次元計測データのデータ量、また工場やプラントで10万個のセンサから100ミリ間隔で計測される3年分のデータ量に相当する。

従来、このような大規模データを高速処理する方法として、多数のサーバによる並列分散処理、大容量メモリを利用したインメモリ処理、フラッシュメモリを利用した高速ストレージの利用などが採られていたが、これらを実現するサーバは非常に高価になる。今回、三菱は、安価なハードウエア構成で100兆件のセンサデータの処理が可能なデータベースの開発に成功した。

具体的には、データ圧縮方式の最適化、データ配置の最適化、データ処理単位の最適化の各技術を新たに開発し、データ蓄積に要する容量と時間をそれぞれ従来比最大1,000分の1に削減し、蓄積したセンサデータを検索・集計する時間を従来比最大1,000分の1に削減した。これにより、センサデータ100兆件を処理する場合、従来型のリレーショナルデータベースとの比較では、蓄積に要する容量約950TB を約15TB で、蓄積時間約430分を約8.8分で、検索・集計時間約1,700秒を約2秒で実現することを可能にした。

また、センサデータベースを1~2個のCPU ・主メモリ4GB のサーバ1台上に構築しても高速処理を可能にした。これにより従来10台から数千台のサーバを要していたセンサデータの蓄積、検索・集計処理をサーバ1台から数台に集約することで、安価なハードウエア構成を可能にし、あわせて運用の容易化や省電力化に寄与する。

さらに、センサデータを長期間保存して活用するシステムでは、時間とともに蓄積データ量が増加する。また小規模の実データで試験運用を行い、効果を確認した後に本格運用へ移行する場合がある。これらに対応して、今回、小規模な構成でのスタート後、データ量の増加に応じてサーバを最大256台まで追加可能とした。これにより、データ移行やアプリケーション・ソフトウエアの変更なしに、ストレージ容量の拡張と処理速度の向上が可能になる。

/blog/arcwire-industry-news