Microsoft PowerPoint - Sep2110_桜井.ppt

Size: px
Start display at page:

Download "Microsoft PowerPoint - Sep2110_桜井.ppt"

Transcription

1 Data Mining Using High Performance Data Clouds: Experimental Studies Using Sector and Sphere R. Grossman & Y.Gu, ACM SIGKDD, 2008, pp (September 21, 2010, 櫻井担当 ) September 21, 2010 DMUHPDC 1

2 Index Related Work GFS( 要約と実験詳細は前期 ppt を参照 ) Hadoop Project 分散ファイルシステム Hadoop の広域環境への適応 高遅延環境における分散ファイルシステム Hadoop の動作解析 Data Mining Using High Performance Data Clouds 0.Abstract 1.Introduction 2.Background and Related Work 3.Design of Sphere 4.Design of Sector 5.Design of Networking Layer 6.Experimental Setup 7.Sphere Applications 8.Summary and Conclusion 9.References September 21, 2010 DMUHPDC 2

3 Related Work GFS [Sanjay Ghemawat, Howard Gobioff, and Shun-Tak Leung The Google File System(2003)] HDFS [Dhruba Borthaku The hadoop distributed file system: Architecture and design(2007)] September 21, 2010 DMUHPDC 3

4 The Google File System 目的 Google File System(GFS) の設計と実装 マイクロベンチマークと現実に実行して評価 GFS 特徴 分散ファイルシステム 信頼性 可用性 クライアントサーバモデル 安価で一般的なコンピュータ 巨大データ向け 高いスケーラビリティ 高い合計性能 シングルマスター 前提条件 シーケンシャルリード重視 レイテンシよりスループットを重視 September 21, 2010 DMUHPDC 4

5 GFS Architecture Simgle master ファイルシステムメタデータ 名前空間 Table アクセス制御情報 ファイルと chunk のマッピング chunk ロケーション オペレーション chunk リース管理 ガーベッジコレクション マイグレーション ( 移転 ) 数千の Chunkserver Chunk データ 64MB フラグメンテーション 通信回数 オーバーヘッド メタデータ量の減少 冗長度 3( 初期値 ) 数千の Client September 21, 2010 DMUHPDC 5

6 GFS Architecture September 21, 2010 DMUHPDC 6

7 GFS MEASUREMENTS 実験 1 マイクロベンチマーク Single master(m), 2 master replicas(mr) 16 chunkserver(cs), 16 clients(c) Dual 1.4GHz PIII, 2GB memory, 80GBx2, 100Mbps Full-duplex 実験方法 クライアント数 N を変化 Random Read 4MB* Write 1MB* 同一ファイルに Record Append M MR MR CS CS CS Switch Switch 100Mbps 1Gbps 100Mbps C C C C C N client September 21, 2010 DMUHPDC 7

8 GFS Aggregate Throughputs. 125MB/s 12.5MBx3/s N=1 10MB/sec client N=16 6MB/sec client 同 CS への Read による低下 N=1 6.3MB/sec client push による低下 N=16 2.2MB/sec client Read/Write の衝突 N=1 6.0MB/sec client N=16 4.8MB/sec 16client 輻輳 September 21, 2010 DMUHPDC 8

9 GFS Real World Clusters 実験 2 実環境測定 18TB* 冗長度 3=55TB MetaData 約 100B* ファイル数 (735k) 48MB Master restertが高速 システム起動 1 週間後 実験 2-A: 分析 (Read: 数 TB) 実験 2-B: 生成 / 処理 (Write: 数 TB) Table 2: Characteristics of two GFS Clusters September 21, 2010 DMUHPDC 9

10 GFS Performance 実験結果 2-A Read A: Network limit 750MB/s 実験結果 2-B Read B: Client の Application の性質上 380MB/s Write B (since restart): 書き込み集中による低下 その後速度改善 Master は正常 実験 3-1 Chunkserver 停止実験 1つのChunkserver (15k chunks) を停止 冗長度 分 実験 3-2 2つのChunkserver (16k chunks, 重複 266 chunks) を停止 冗長度 1 2まで2 分 高優先でclone Table 3: Performance Metrics for Two GFS Clusters September 21, 2010 DMUHPDC 10

11 6.3 Workload Breakdown 実験 4 実環境アプリケーションの特性調査 実験 4-X 分析と開発 (Read 多 ) 実験 4-Y 生成と処理 (Write 多 ) 実験結果 Write 二極化 アプリケーションによるバッファの有無 Write : Append の比 X 108:1( 転送量 ) X 8:1( オペレーション ) Y 3.7:1( 転送量 ) Y 2.1:1( オペレーション ) Table 4:Operations Breakdown by Size(%) Table 5: Bytes Transferred Breakdown by Size(%) September 21, 2010 DMUHPDC 11

12 6.3.4 Master Workload 実験結果 4 MasterNode Operation の特性 FindLocation が最多 Read FindLeaseHolder Write FilndMathingFIles ls(list) Table 6: Master Requests Breakdown by Type(%) GFS 結論 GFS を設計し実装 ユニークなパラメタ GFS の性能評価を行い また実環境にお ける特性を示した September 21, 2010 DMUHPDC 12

13 Hadoop Project Hadoop [The Apache Software Foundation Hadoop Project(2006)] GFS オープンソース実装 Pig Chukwa MapReduce Common HDFS Hive Avro HBase ZooKeeper Hive 分散データウェアハウス SQL MapReduce HBase 列指向分散データベース HDFS 分散ファイルシステム MapReduce 分散処理フレームワーク ZooKeeper 分散協調サービス Common ユーティリティ Avro データシリアライゼーションシステム Chukwa 分散データ収集解析システム Pig データフロー言語 September 21, 2010 DMUHPDC 13

14 Hadoop DFS(HDFS) GFS との対応 Chunk と Block SingleServer と NameNode ChunkServer と DataNode Client FileName Read NameNode MetaDATA HDFS と GFS は比較困難 根本的に同等 GFS がクローズド HDFS が日々開発 DATA DataNode DataNode Block Block Block 複製 Block September 21, 2010 DMUHPDC 14

15 MapReduce September 21, 2010 DMUHPDC 15

16 MapReduce WordCount 入力 :Nurses run! says sick Cissy as nurses run. Map nurses-1,run-1,says-1,sick-1,cissy-1,as- 1,nurses-1,run-1 Shuffle(Sort) as-1,cissy-1,nurses-1,nurses-1,run-1,run- 1,says-1,sick-1 Reduce as-1,cissy-1,nurses-2,run-2,says-1,sick-1 September 21, 2010 DMUHPDC 16

17 Data Mining Using High Performance Data Clouds September 21, 2010 DMUHPDC 17

18 0.Abstract 目的 高性能クラウドの設計と提供 インターネット上のリソースとサービスの基盤 Sectorストレージクラウド Sphereコンピュータクラウド プログラミングパラダイムの説明 Sector/SphereとHadoopの比較 データマイニングアプリケーション September 21, 2010 DMUHPDC 18

19 1.Introduction 高性能データマイニングの歴史 共有プロセッサプール Message passing or grid services library 問題はデータが撒き散らかされる ( 分散 ) プロセッサーを動き回るデータを集める必要性 Sector データ管理 長期永続ストレージを提供 巨大データセット向け 分散ファイルの管理 高性能 WAN 向け Sphere データ処理 ユーザー定義関数の並列処理を提供 ストリームパターン処理 Sector 上 September 21, 2010 DMUHPDC 19

20 2.Background and Related Work Application Cloud-based Compute Service Computation Cloud-based Data Services Record/Column/Object Cloud-based Storage Services Block/File Sort DataMining Angle BigTable EC2 MapReduce Sphere S3 GFS HDFS Sector Amazon S3 File 0.1US$/GB Amazon EC2 Virtual Machine 0.085US$/ 時間 or UL0.1US$/GB DL0.17US$/GB 32bit 1core RAM-1.7GB 160GB BigTable 超大規模列指向 DBMS SimpleDB 非リレーショナル DB September 21, 2010 DMUHPDC 20

21 2.Background and Related Work HDFS/GFS Architectureによる待ちが発生 Racks (Nodeの物理位置情報 ) が必要 比較的小さい帯域幅を想定 TCP Single Master/Namenode Chunk/Block Size 64/128MB Map and Reduce Function 一般的方法 Cording MPI Library Execute globus-url-copy, globus-job-run Sector 10Gbps+ の帯域を想定 UDT(UDP-based data transfer) TCP の Window Size 問題解決 転送レート推定 AIMD(1,1/2) AIMD(x,1/ 8~1/2) 1TB/64chunk(Chunk Size 15GB) HDFS/GFS 8,192chunk ストリームプログラミングモデル September 21, 2010 DMUHPDC 21

22 3.Design of Sphere 3.1 Sphere 概観 ストリームプログラミングモデル MapReduce より一般的 sphere.run (a, p); = for(int i=0;i<a.size;++i) p(a[i]); Sphere sphere DistributedDataSet a UserDefinedFunction p Sphere Code Stream sdss; sdss.init( ); Process* myproc = Sector::createJob(); myproc->run(sdss, findbrowndwarf ); myproc->read(result); grid は事前転送 3.2 Sphere コンピューティングモデル September 21, 2010 DMUHPDC 22

23 Sphere Architecture September 21, 2010 DMUHPDC 23

24 4.Design of Sector 1. 長期アーカイブストレージと巨大分散データへのアクセスを提供 2. 高性能 WAN の帯域を利用するためにデザイン 3. 異なるルーティングとネットワークプロトコルをサポート 4. コミュニティサポート 全ての人が Write Access しなくてもよい September 21, 2010 DMUHPDC 24

25 4.Design of Sector 複製 作成時 手動 1 回 / 日 ランダムロケーション 高性能 WAN UDT データコネクションキャッシュ コネクション接続の削減 レイヤー分離 Routing(OSI-3 層 ) と Transport(4 層 ) レイヤーと API UDT セキュリティ Read:ALL Write:IP-Based Access Control List (ACL) データアプリケーションに強い永続ストレージを提供 10Gbps 数 TByte~ September 21, 2010 DMUHPDC 25

26 September 21, 2010 DMUHPDC 26

27 Sector Architecture file0x.dat file0x.dat.idx セット SClient: Entity s name Location SServer: Location 探索 URLs SClient: Group Messaging Protocol (GMS) SClient: UDT September 21, 2010 DMUHPDC 27

28 5.Design of Networking Layer Peer-To-Peer Chord Protocol 分散 Lookup Log(Node 全体数 ) 往復遅延時間 (RTT) に基づく経路制御 実装予定 UDT Rate-based フロー制御 ネットワーク帯域を公平に利用 TCP フロー制御のようにフレンドリー Group Message Protocol (GMP) Message Passing Interface (MPI) September 21, 2010 DMUHPDC 28

29 6.Experimental Studies 実験環境 Chicago x2 Greenbelt x2 Pasadena x2 Chicago Pasadena は Greenbelt 経由 2x2core 2.4GHz, 4GB-RAM,10Gbps, 2TB RTT 16,55,71ms 4x2core 2.4Ghz, 16GB-RAM, 10Gbps, 5.5TB Hadoop JDK JRE b105 64bit September 21, 2010 DMUHPDC 29

30 6.2 実験 : 地理的分散ロケーション (WAN) 1~6 台 (10GB/ 台 ) Terasort 10GB Key:10Byte Record:100Byte Terasplit a single split tree-based 6.3 実験 : シングルロケーション (LAN) 1~8 台 (10GB/ 台 ) 6.2 より低スペック機 台数増加時のオーバーヘッドを調査 ローカルは Hadoop のほうが早いと期待 パラメタ設定 Hadoop 1Gbps September 21, 2010 DMUHPDC 30

31 % 400% 6.3 実験補足 File 生成 Hadoop:212 sec/file node 440Mbps Sphere: 68sec/file node 1100Mbps Execution Time[sec] Execution Time[sec] % 300% % % % % % 0 0% Size of Dataset[GB] WAN 地理的分散 Speedup 350% 300% 250% 200% 150% 100% Speedup Hadoop Trerasort Sphere Terasort Hadoop Terasplit Sphere Terasplit Speedup Terasort Speedup Terasplit Hadoop Trerasort Sphere Terasort Hadoop Terasplit Sphere Terasplit Speedup Terasort Speedup Terasplit % 0 0% Size of Dataset[GB] LAN Single rack September 21, 2010 DMUHPDC 31

32 Discussion Availability and Repeatability 6.4 Discussion Hadoop: multi-core S/S: single-coreのみ使用 WAN 倍 (Terasort), 倍 (Terasplit) 早い LAN 倍 (Terasort), 倍 (Terasplit) 早い Hadoop は 10Gbps 非最適化 6.5 Availability and Repeatability Sector/Sphere version 1.4 from Source Forge Terasort from Hadoop, Terasplit from Sector Angle data set from Large Data Archive September 21, 2010 DMUHPDC 32

33 7.Sphere Applications: Angle TCP Packet アノマリー検出 575pcap files 7.6GB 97MPacket 300,000pcap files 重心 a j, 1, a j,2, a j,3 a j, k j k 2 min a j, n a j 1, m i 1 n m ( x) k ( x) max ( x) k 2 k x a k exp 2 k 2 k k 2 Record Time Record/Time , ,000,000 5, ,000, , September 21, 2010 DMUHPDC 33

34 8.Summary and Conclusion 高性能 WAN 向け巨大分散データセットデータマイニング (Sector/Sphere ) の設計 WAN 環境 ( 高遅延 ) で約 80% の実行時間増加 Angle によるデータマイニング WAN 環境で 倍 (Terasort), 倍 (Terasplit) September 21, 2010 DMUHPDC 34

DEIM Forum 2012 C2-6 Hadoop Web Hadoop Distributed File System Hadoop I/O I/O Hadoo

DEIM Forum 2012 C2-6 Hadoop Web Hadoop Distributed File System Hadoop I/O I/O Hadoo DEIM Forum 12 C2-6 Hadoop 112-86 2-1-1 E-mail: momo@ogl.is.ocha.ac.jp, oguchi@computer.org Web Hadoop Distributed File System Hadoop I/O I/O Hadoop A Study about the Remote Data Access Control for Hadoop

More information

i Ceph

i Ceph 23 Ceph I/O 20 20115107 i 1 1 2 2 2.1.............................. 2 2.1.1..................... 2 2.1.2.................. 3 2.1.3....................... 3 2.2 Ceph........................ 4 2.2.1.................................

More information

無料セミナー資料:ビッグデータ管理基盤ソフトウェアHadoop入門

無料セミナー資料:ビッグデータ管理基盤ソフトウェアHadoop入門 ビッグデータ管理基盤ソフトウェア Hadoop 入門 NEC ラーニングテクノロジー研修事業部 土井正宏 アジェンダ Hadoopとは? HDFSの概要 Map/Reduceのしくみ Hadoopのエコシステム ( 関連製品 ) Hadoop 0.23について Page 2 NEC Corporation 2010 Hadoop の概要 高スケーラブルな分散管理基盤 グリッドコンピューティング 2つのコア機能

More information

データセンターの効率的な資源活用のためのデータ収集・照会システムの設計

データセンターの効率的な資源活用のためのデータ収集・照会システムの設計 データセンターの効率的な 資源活用のためのデータ収集 照会システムの設計 株式会社ネットワーク応用通信研究所前田修吾 2014 年 11 月 20 日 本日のテーマ データセンターの効率的な資源活用のためのデータ収集 照会システムの設計 時系列データを効率的に扱うための設計 1 システムの目的 データセンター内の機器のセンサーなどからデータを取集し その情報を元に機器の制御を行うことで 電力消費量を抑制する

More information

yamamoto_hadoop.pptx

yamamoto_hadoop.pptx Hadoop Streaming 2011/2/16 H22 ? SaaS (So5ware as a Service) (,etc.) PaaS (Pla?orm as a Service) (Google App Engine,, Mixi Appli etc.) IaaS (Infrastructure as a Service) (Amazon EC2) VMWare ESX, Hyper-

More information

IPSJ-HPC

IPSJ-HPC can effectively exploit the I/O performance of clusters with Gbit/sec-class flash memories. In this paper, we first outline our prototype MapReduce system which utilizes distributed key-value store. And

More information

Introduction

Introduction Introduction R&D More Than Web - - 3 R&D Vision Fusion Interaction Collaboration 3 6 Client Server Platform Client Server Platform Client Client Server Platform Server Client Server Platform Platform

More information

MATLAB® における並列・分散コンピューティング ~ Parallel Computing Toolbox™ & MATLAB Distributed Computing Server™ ~

MATLAB® における並列・分散コンピューティング ~ Parallel Computing Toolbox™ & MATLAB Distributed Computing Server™ ~ MATLAB における並列 分散コンピューティング ~ Parallel Computing Toolbox & MATLAB Distributed Computing Server ~ MathWorks Japan Application Engineering Group Takashi Yoshida 2016 The MathWorks, Inc. 1 System Configuration

More information

PC Development of Distributed PC Grid System,,,, Junji Umemoto, Hiroyuki Ebara, Katsumi Onishi, Hiroaki Morikawa, and Bunryu U PC WAN PC PC WAN PC 1 P

PC Development of Distributed PC Grid System,,,, Junji Umemoto, Hiroyuki Ebara, Katsumi Onishi, Hiroaki Morikawa, and Bunryu U PC WAN PC PC WAN PC 1 P PC Development of Distributed PC Grid System,,,, Junji Umemoto, Hiroyuki Ebara, Katsumi Onishi, Hiroaki Morikawa, and Bunryu U PC WAN PC PC WAN PC 1 PC PC PC PC PC Key Words:Grid, PC Cluster, Distributed

More information

Agenda Scalability Availability CAP Theorem Scalability Availability Consistency BASE Transaction

Agenda Scalability Availability CAP Theorem Scalability Availability Consistency BASE Transaction Cloud --- Scalability Availability --- Agenda Scalability Availability CAP Theorem Scalability Availability Consistency BASE Transaction Scale-out Scale-out Availability Scalabilty Availability Scalability

More information

Microsoft Word - Dolphin Expressによる10Gbpソケット通信.docx

Microsoft Word - Dolphin Expressによる10Gbpソケット通信.docx Dolphin Express による 10Gbps ソケット通信 Dolphin Express は 標準的な低価格のサーバを用いて 強力なクラスタリングシステムが構築できる ハードウェアとソフトウェアによる通信用アーキテクチャです 本資料では Dolphin Express 製品の概要と 実際にどの程度の性能が出るのか市販 PC での実験結果をご紹介します Dolphin Express 製品体系

More information

2011年11月10日 クラウドサービスのためのSINET 学認説明会 九州地区説明会 九州大学キャンパス クラウドシステムの導入 伊東栄典 情報基盤研究開発センター 1

2011年11月10日 クラウドサービスのためのSINET 学認説明会 九州地区説明会 九州大学キャンパス クラウドシステムの導入 伊東栄典 情報基盤研究開発センター 1 2011年11月10日 クラウドサービスのためのSINET 学認説明会 九州地区説明会 九州大学キャンパス クラウドシステムの導入 伊東栄典 情報基盤研究開発センター ito.eisuke.523@m.kyushu-u.ac.jp 1 用 方 } } } } } 用 (Public Cloud) } Amazon EC2/S3/ElasticMapReduce } (Community Cloud)

More information

MATLAB®によるビッグデータ解析

MATLAB®によるビッグデータ解析 MATLAB によるビッグデータ解析 MathWorks Japan アプリケーションエンジニアリング部 アプリケーションエンジニア 吉田剛士 2013 The MathWorks, Inc. 1 ビッグデータ解析とその背景増え続けるデータ量 ビッグデータとは 100TB ~ 10PB 程度のデータ量 データが膨大になる理由 データソースの多様化と高性能化 スマートフォン位置情報監視カメラ検索情報

More information

2 Hadoop MapReduce Hadoop, MapReduce Apache Hadoop Project Open Source Software Hadoop common MapReduce Hadoop Distributed File System( HDFS)

2 Hadoop MapReduce Hadoop, MapReduce Apache Hadoop Project Open Source Software Hadoop common MapReduce Hadoop Distributed File System( HDFS) DEIM Forum 2014 D1-6 Hadoop 780-8520 2-5-1 780-8520 2-5-1 780-8520 2-5-1 E-mail: {nishimae,b103k299,honda}@is.kochi-u.ac.jp Hadoop MapReduce Map-Reduce Hadoop,MapReduce,,,, 1. e- Apache Hadoop ( Hadoop)

More information

概要 ここでは先程デモを行った OpenStack の中で仮想マシンのデータがどのように管理されているかをご紹介致します OpenStack の中でデータがどのように配置され 管理されているかを知ることは 可用性を検討する上で非常に重要になります 2

概要 ここでは先程デモを行った OpenStack の中で仮想マシンのデータがどのように管理されているかをご紹介致します OpenStack の中でデータがどのように配置され 管理されているかを知ることは 可用性を検討する上で非常に重要になります 2 OSC Nagoya JOSUG 5th Study openstack Open source software to build public and private clouds. Storage System; Overview OpenStack ストレージとデータ管理 2012.06.04 日本 OpenStack ユーザ会 Tomoaki Nakajima/@irix_jp 1 概要

More information

スライド 1

スライド 1 SAS Loves Big Data via Hadoop ~Big Data Driven Innovation~ 惟高裕一, 北西由武, 都地昭夫 塩野義製薬株式会社 SAS Loves Big Data via Hadoop ~Big Data Driven Innovation~ Yuichi Koretaka, Yoshitake Kitanishi, Akio Tsuji SHIONOGI

More information

OSS 体験セミナー Hadoop の概要 高スケーラブルな分散管理基盤 2 つのコア機能 分散ファイルシステム (HDFS) 分散処理フレームワーク (Map/Reduce) BigData の管理基盤として注目 分散処理基盤 (Map/Reduce) Hadoop 分散ファイルシステム (HDF

OSS 体験セミナー Hadoop の概要 高スケーラブルな分散管理基盤 2 つのコア機能 分散ファイルシステム (HDFS) 分散処理フレームワーク (Map/Reduce) BigData の管理基盤として注目 分散処理基盤 (Map/Reduce) Hadoop 分散ファイルシステム (HDF Hadoop スタートアップセミナー Hadoop スタートアップセミナー NEC ラーニングテクノロジー研修事業部土井正宏 OSS 体験セミナー Hadoop の概要 高スケーラブルな分散管理基盤 2 つのコア機能 分散ファイルシステム (HDFS) 分散処理フレームワーク (Map/Reduce) BigData の管理基盤として注目 分散処理基盤 (Map/Reduce) Hadoop 分散ファイルシステム

More information

GPGPU

GPGPU GPGPU 2013 1008 2015 1 23 Abstract In recent years, with the advance of microscope technology, the alive cells have been able to observe. On the other hand, from the standpoint of image processing, the

More information

Joint Content Development Proposal Tech Docs and Curriculum

Joint Content Development Proposal Tech Docs and Curriculum 徹底解説!Hortonworks が提供する次世代データプラットフォーム 蒋逸峰 & 河村康爾 Hortonworks October 10, 2017 1 Hortonworks Inc. 2011 2016. All Rights Reserved 総合的な管理 セキュリティやガバナンス ON-PREMISES CLOUD EDGE MULTI-WORKLOADS MULTI-TYPE MULTI-TIER

More information

hpc141_shirahata.pdf

hpc141_shirahata.pdf GPU アクセラレータと不揮発性メモリ を考慮した I/O 性能の予備評価 白幡晃一 1,2 佐藤仁 1,2 松岡聡 1 1: 東京工業大学 2: JST CREST 1 GPU と不揮発性メモリを用いた 大規模データ処理 大規模データ処理 センサーネットワーク 遺伝子情報 SNS など ペタ ヨッタバイト級 高速処理が必要 スーパーコンピュータ上での大規模データ処理 GPU 高性能 高バンド幅 例

More information

P P P P P P P OS... P P P P P P

P P P P P P P OS... P P P P P P SAS Visual Analytics on MapR Converged Data Platform 2015 12 1. 1.1... P2 1.2... P2 2. 2.1... P3 2.2... P6 2.2.1... P6 2.2.2... P6 2.3... P10 3. 3.1 OS... P11 3.2... P12 3.3... P13 3.4... P13 3.5... P14

More information

目次 はじめに Introduction Analyzing Big Data Vectorwise and Hadoop Environments Vectorwise Hadoop Connector Perform

目次 はじめに Introduction Analyzing Big Data Vectorwise and Hadoop Environments Vectorwise Hadoop Connector Perform Vectorwise 3.0 Fast Answers from Hadoop Technical white paper - 1 - 目次 はじめに...- 3 - Introduction...- 3 - Analyzing Big Data...- 4 - Vectorwise and Hadoop Environments...- 5 - Vectorwise Hadoop Connector...-

More information

2 JSON., 2. JSON,, JSON Jaql [9] Spark Streaming [8], Spark [7].,, 2, 3 4, JSON [3], Jaql [9], Spark [7] Spark Streaming [8] JSON JSON [

2 JSON., 2. JSON,, JSON Jaql [9] Spark Streaming [8], Spark [7].,, 2, 3 4, JSON [3], Jaql [9], Spark [7] Spark Streaming [8] JSON JSON [ DEIM Forum 2016 G1-4,, 305 8573 1-1-1 305 8573 1-1-1 305 8573 1-1-1 E-mail: denam96@kde.cs.tsukuba.ac.jp, {shiokawa,kitagawa}@cs.tsukuba.ac.jp,,.,,,.,, (1), (2),.,, 1.,.,,.,,,,, Storm [2] STREAM [5], S4

More information

スライド 1

スライド 1 VMware CIT Japan 006 6 CIT Agenda VMWARE Pfizer Japan Inc. 953 648 6 09 -5-00 Discovery Approaches 7,000,000 Compounds Screened,000 Screening Hits Candidates 6 Candidates Product 700 MR* MR Medical Representative

More information

Microsoft PowerPoint - SWoPP2010_Shirahata

Microsoft PowerPoint - SWoPP2010_Shirahata GPU を考慮した MapReduce の タスクスケジューリング 白幡晃一 1 佐藤仁 1 松岡聡 1 2 3 1 東京工業大学 2 科学技術振興機構 3 国立情報学研究所 大規模データ処理 情報爆発時代における 大規模データ処理 気象 生物学 天文学 物理学など様々な科学技術計算での利用 MapReduce 大規模データ処理のためのプログラミングモデルデ スケーラブルな並列データ処理 GPGPU

More information

スライド 1

スライド 1 Hadoop とは Hadoop の二本柱 分散ファイルシステム HDFS(Hadoop Distributed File System) 分散プログラミングモデル MapReduce Hadoop の目的 大規模ファイル処理 格納, 加工 ペタバイト規模 複数計算機の協調動作 スケーラブルシステム 数百 ~ 数千台規模 Key-Value store MapReduce HDFS Node Node

More information

スライド 1

スライド 1 Zabbix のデータベース ベンチマークレポート PostgreSQL vs MySQL Yoshiharu Mori SRA OSS Inc. Japan Agenda はじめに Simple test 大量のアイテムを設定 Partitioning test パーティションイングを利用して計測 Copyright 2013 SRA OSS, Inc. Japan All rights reserved.

More information

卒業論文

卒業論文 PC OpenMP SCore PC OpenMP PC PC PC Myrinet PC PC 1 OpenMP 2 1 3 3 PC 8 OpenMP 11 15 15 16 16 18 19 19 19 20 20 21 21 23 26 29 30 31 32 33 4 5 6 7 SCore 9 PC 10 OpenMP 14 16 17 10 17 11 19 12 19 13 20 1421

More information

Agenda Hadoop Sahara Kilo Q&A Copyright 2015 Mirantis, Inc. All rights reserved Page 2

Agenda Hadoop Sahara Kilo Q&A Copyright 2015 Mirantis, Inc. All rights reserved Page 2 OpenStack Sahara Road to Kilo www.miran(s.com/jp Copyright 2015 Mirantis, Inc. All rights reserved Agenda Hadoop Sahara Kilo Q&A Copyright 2015 Mirantis, Inc. All rights reserved Page 2 Hadoop Open-source

More information

Microsoft PowerPoint VIOPS.ppt

Microsoft PowerPoint VIOPS.ppt ウェブサービスとはてなと 仮想化技術 はてな田中慎司 stanaka @ hatena.ne.jp 2009/05/29 アジェンダ Web サービスのインフラ 三つの指標 仮想化技術 Xen はてなでの取り組み 仮想化を前提としたハードウェア Xen の運用 仮想化のメリット クラウドと仮想化 はてなのサービス群 自己紹介 ( 株 ) はてな執行役員 担当領域 システムアーキテクチャ スケーラビリティ

More information

F コマンド

F コマンド この章では コマンド名が F で始まる Cisco Nexus 1000V コマンドについて説明します find 特定の文字列で始まるファイル名を検索するには find コマンドを使用します find filename-prefix filename-prefix ファイル名の最初の部分または全体を指定します ファイル名のプレフィクスでは 大文字と小文字が区別されます なし 任意 変更内容このコマンドが追加されました

More information

PowerPoint プレゼンテーション

PowerPoint プレゼンテーション vsmp Foundation スケーラブル SMP システム スケーラブル SMP システム 製品コンセプト 2U サイズの 8 ソケット SMP サーバ コンパクトな筐体に多くのコアとメモリを実装し SMP システムとして利用可能 スイッチなし構成でのシステム構築によりラックスペースを無駄にしない構成 将来的な拡張性を保証 8 ソケット以上への拡張も可能 2 システム構成例 ベースシステム 2U

More information

AWSSummitTokyo2018

AWSSummitTokyo2018 AWS Gunosy AWS Summit Tokyo 2018/06/01 自己紹介 - 米田 武 / Takeshi Yoneda / マスタケ - Github/Twitter: @mathetake - 2017/03/31: - MSc. in Mathematics at Osaka University - 2017/04/01~ - Machine learning engineer

More information

IBM クラウド事例から考える OSS による企業向けクラウドの可能性 日本アイ ビー エム株式会社 Linux/OSS エバンジェリスト中井悦司 Feb. 27, IBM Corporation

IBM クラウド事例から考える OSS による企業向けクラウドの可能性 日本アイ ビー エム株式会社 Linux/OSS エバンジェリスト中井悦司 Feb. 27, IBM Corporation IBM クラウド事例から考える OSS による企業向けクラウドの可能性 日本アイ ビー エム株式会社 Linux/OSS エバンジェリスト中井悦司 Feb. 27, 2010 目次 クラウドとは? IBM クラウド事例に見るクラウド構成技術 クラウドを作る / 使う技術としての OSS 参考資料 2 クラウドとは? 3 仮想化された IT リソースのライフサイクル管理を自動化するのが IBM のクラウド技術です

More information

8 P2P P2P (Peer-to-Peer) P2P P2P As Internet access line bandwidth has increased, peer-to-peer applications have been increasing and have great impact

8 P2P P2P (Peer-to-Peer) P2P P2P As Internet access line bandwidth has increased, peer-to-peer applications have been increasing and have great impact 8 P2P (Peer-to-Peer) P2P P2P As Internet access line bandwidth has increased, peer-to-peer applications have been increasing and have great impact on networks. In this paper, we review traffic issues for

More information

PowerPoint Presentation

PowerPoint Presentation AWS ビッグデータサービス Deep Dive アマゾンデータサービスジャパンソリューションアーキテクト蒋逸峰 July 17, 2014 Session #TA-01 2014 Amazon.com, Inc. and its affiliates. All rights reserved. May not be copied, modified, or distributed in whole

More information

データマネジメントを取り巻く IT の課題 大規模データの実践的活用に向けて レッドハット株式会社 Senior Solution Architect and Cloud Evangelist 中井悦司 2012/04/13 version1.0

データマネジメントを取り巻く IT の課題 大規模データの実践的活用に向けて レッドハット株式会社 Senior Solution Architect and Cloud Evangelist 中井悦司 2012/04/13 version1.0 データマネジメントを取り巻く IT の課題 大規模データの実践的活用に向けて レッドハット株式会社 Senior Solution Architect and Cloud Evangelist 中井悦司 2012/04/13 version1.0 はじめに あなたには何色が見えますか 2 Contents 3 ビジネスにおけるデータの役割 企業データの構造変化とデータマネジメントの課題 これからのビジネスを支える新しいデータ構造

More information

PowerPoint プレゼンテーション

PowerPoint プレゼンテーション LAN 1. LAN,. NAT,., LAN. NTMobile Network Traversal with Mobilty [1]. NTMobile. OS TUN/TAP, LAN. 2. NTMobile NTMobile NAT, IPv4/IPv6,,. NTMobile. DC Direction Coordinator. NTMobile. DC,. NTMobile NTMfw.

More information

SIOS Protection Suite for Linux v9.3.2 AWS Direct Connect 接続クイックスタートガイド 2019 年 4 月

SIOS Protection Suite for Linux v9.3.2 AWS Direct Connect 接続クイックスタートガイド 2019 年 4 月 SIOS Protection Suite for Linux v9.3.2 AWS Direct Connect 接続クイックスタートガイド 2019 年 4 月 本書およびその内容は SIOS Technology Corp.( 旧称 SteelEye Technology, Inc.) の所有物であり 許可なき使用および複製は禁止されています SIOS Technology Corp. は本書の内容に関していかなる保証も行いません

More information

分散ストレージシステム (4) (5) (6) 書き込み 書き込み 読み出し 読み出し (2) コーディネータ 1 Fig. 1 Image of distributed storage system. 2 Fig. 2 Process flow of ( 1 ) ( 2 ) ( 3 )

分散ストレージシステム (4) (5) (6) 書き込み 書き込み 読み出し 読み出し (2) コーディネータ 1 Fig. 1 Image of distributed storage system. 2 Fig. 2 Process flow of ( 1 ) ( 2 ) ( 3 ) 1 1 1 1 1 key-value store Application of Load Balancing Mechanism with Considering Data Access Frequency to Daisuke Kawakami, 1 Toshihiro Matsui, 1 Shoichi Saito, 1 Tomoaki Tsumura 1 and Hiroshi Matsuo

More information

VNX ファイル ストレージの管理

VNX ファイル ストレージの管理 VNX ファイル ストレージの管理 この章は 次の項で構成されています VNX ファイル ストレージ管理について, 1 ページ 手順の概要, 2 ページ CIFS の使用, 3 ページ NFS エクスポートの使用, 8 ページ VNX ファイル ストレージ管理について VNX ファイル および VNX Unified アカウントでは Common Internet File System CIFS

More information

develop

develop SCore SCore 02/03/20 2 1 HA (High Availability) HPC (High Performance Computing) 02/03/20 3 HA (High Availability) Mail/Web/News/File Server HPC (High Performance Computing) Job Dispatching( ) Parallel

More information

5GHz 作 15-4 DFS 試験時の通信負荷条件定義について 2019 年 3 月 1 日 NTT 東芝 クアルコムジャパン 1

5GHz 作 15-4 DFS 試験時の通信負荷条件定義について 2019 年 3 月 1 日 NTT 東芝 クアルコムジャパン 1 5GHz 作 15-4 DFS 試験時の通信負荷条件定義について 2019 年 3 月 1 日 NTT 東芝 クアルコムジャパン 1 経緯と提案 W53 における通信負荷率は ETSI のパルスパターンを採用する関係で 現行の 50 % から 30% に変更することが合意された ( パブコメの期間は終了 ) 第 13 回作業班で議論されたように ( 参照 :5GHz 作 13-6) 無線 LAN が検出することが可能なパルスパターンと通信負荷率の間には密接な関係がある

More information

DEIM Forum 2019 H2-2 SuperSQL SuperSQL SQL SuperSQL Web SuperSQL DBMS Pi

DEIM Forum 2019 H2-2 SuperSQL SuperSQL SQL SuperSQL Web SuperSQL DBMS Pi DEIM Forum 2019 H2-2 SuperSQL 223 8522 3 14 1 E-mail: {terui,goto}@db.ics.keio.ac.jp, toyama@ics.keio.ac.jp SuperSQL SQL SuperSQL Web SuperSQL DBMS PipelineDB SuperSQL Web Web 1 SQL SuperSQL HTML SuperSQL

More information

Leveraging Cloud Computing to launch Python apps

Leveraging Cloud Computing to launch Python apps (Twitter: @KenTamagawa) v 1.1 - July 21st, 2011 (Ken Tamagawa) Twitter: @KenTamagawa 2011 8 6 Japan Innovation Leaders Summit IT IT AWS 90% AWS 90% アーキテクチャ設計 Intro }7 Intro 1 2 3 4 5 6 7 Intro 1 2 3 4

More information

PowerPoint Presentation

PowerPoint Presentation グローバルバンクにおける最新クラウド活用事例 AWS で実現する ハイパフォーマンスコンピューティング Pawan Agnihotri Global Financial Services Solutions Architect 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 金融サービスにおけるリスク管理

More information

untitled

untitled Oracle Direct Seminar IT Agenda 1. Oracle RAC on Oracle VM 2. Oracle Database 11gR2 3. Oracle Exadata Oracle Direct Concierge SQL Server MySQL PostgreSQL Access

More information

よくある問題を解決する~ 5 分でそのままつかえるソリューション by AWS ソリューションズビルダチーム

よくある問題を解決する~ 5 分でそのままつかえるソリューション by AWS ソリューションズビルダチーム すぐに利用できる状態のソリューションを使って一般的な問題を 5 分以内に解決 Steve Morad Senior Manager, Solutions Builder Team AWS Solution Architecture May 31, 2017 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.

More information

HIS-CCBASEver2

HIS-CCBASEver2 Information Access Interface in the Immersive Virtual World Tetsuro Ogi, *1*2*3 Koji Yamamoto, *3*4 Tadashi Yamanouchi *3 and Michitaka Hirose *2 Abstract - In this study, in order to access database server

More information

Amazon EC2 IaaS (Infrastructure as a Service) HPCI HPCI ( VM) VM VM HPCI VM OS VM HPCI HPC HPCI RENKEI-PoP 2 HPCI HPCI 1 HPCI HPCI HPC CS

Amazon EC2 IaaS (Infrastructure as a Service) HPCI HPCI ( VM) VM VM HPCI VM OS VM HPCI HPC HPCI RENKEI-PoP 2 HPCI HPCI 1 HPCI HPCI HPC CS HPCI 1 2 3 4 5 1, 6 5 24 HPCI HPC OS HPC RENKEI-PoP Design of Advanced Software Deployment Infrastructure in HPCI Wide-area Distributed Environment Shinichiro Takizawa, 1 Masaharu Munetomo, 2 Atsuya Uno,

More information

~~~~~~~~~~~~~~~~~~ wait Call CPU time 1, latch: library cache 7, latch: library cache lock 4, job scheduler co

~~~~~~~~~~~~~~~~~~ wait Call CPU time 1, latch: library cache 7, latch: library cache lock 4, job scheduler co 072 DB Magazine 2007 September ~~~~~~~~~~~~~~~~~~ wait Call CPU time 1,055 34.7 latch: library cache 7,278 750 103 24.7 latch: library cache lock 4,194 465 111 15.3 job scheduler coordinator slave wait

More information

403-0702_‚Ofl¼

403-0702_‚Ofl¼ HP-UX HP System Insight Manager Whitepaper ..................................................................................2..............................................................2 SIM....................................................................................2.............................................................3................................................................................3

More information

AV 1000 BASE-T LAN 90 IEEE ac USB (3 ) LAN (IEEE 802.1X ) LAN AWS (Amazon Web Services) AP 3 USB wget iperf3 wget 40 MBytes 2 wget 40 MByt

AV 1000 BASE-T LAN 90 IEEE ac USB (3 ) LAN (IEEE 802.1X ) LAN AWS (Amazon Web Services) AP 3 USB wget iperf3 wget 40 MBytes 2 wget 40 MByt 1 BYOD LAN 1 2 3 4 1 BYOD 1 Gb/s LAN BYOD LAN LAN Access Point (AP) IEEE 802.11n BYOD LAN AP wget iperf3 1 AP [2] 2 IEEE 802.11ac [3] AP 4 AV (207 m 2 ) ( 1 2 )[4, 5] AP Wave2 Aruba AP-335 Aruba LAN 7210

More information

A Study on Traffic Characteristics in Multi-hop Wireless Networks 2010 3 Yoichi Yamasaki ( ) 21 Local Area Network (LAN) LAN LAN LAN (AP, Access Point) LAN AP LAN AP AP AP (MWN, Multi-hop Wireless Network)

More information

Congress Deep Dive

Congress Deep Dive Congress Deep Dive NTT 室井雅仁 2016 NTT Software Innovation Center 自己紹介 室井雅仁 ( むろいまさひと ) 所属 : NTT OpenStack を利用した OSS クラウドのアーキテクトを担当 社内向け OpenStack 環境の運用 コミュニティへフィードバック OpenStack Congress Core Reviewer https://wiki.openstack.org/wiki/congress

More information

Agileイベント・フレームワークとOracle BPELを使用したPLMワークフローの拡張

Agileイベント・フレームワークとOracle BPELを使用したPLMワークフローの拡張 Agile イベント フレームワークと Oracle BPEL を使用した PLM ワークフローの拡張 チュートリアル Jun Gao Agile PLM Development 共著 2009 年 10 月 目次 概要... 4 このチュートリアルについて... 4 目的および範囲... 4 使用ソフトウェア... 4 はじめに... 5 必要な環境の準備... 5 Agile PLM ワークフロー機能の拡張...

More information

160311_icm2015-muramatsu-v2.pptx

160311_icm2015-muramatsu-v2.pptx Linux におけるパケット処理機構の 性能評価に基づいた NFV 導 の 検討 村松真, 川島 太, 中 裕貴, 林經正, 松尾啓志 名古屋 業 学 学院 株式会社ボスコ テクノロジーズ ICM 研究会 2016/03/11 研究 的 VM 仮想 NIC バックエンド機構 仮想化環境 仮想スイッチ パケット処理機構 物理環境 性能要因を考察 汎 IA サーバ NFV 環境に適したサーバ構成を検討

More information

Slide 1

Slide 1 Microsoft SharePoint Server on AWS リファレンスアーキテクチャー 2012/5/24 アマゾンデータサービスジャパン株式会社 Amazon における SharePoint の利用事例 AWS 利用によるメリット インフラの調達時間 4~6 週間から数分に短縮 サーバのイメージコピー作成 手動で半日から 自動化を実現 年間のインフラコスト オンプレミスと比較して 22%

More information

実務に役立つサーバー運用管理の基礎 CompTIA Server+ テキスト SK0-004 対応

実務に役立つサーバー運用管理の基礎 CompTIA Server+ テキスト SK0-004 対応 実務に役立つサーバー運用管理の基礎 CompTIA Server+ テキスト SK0-004 対応 本書 前提知識 1 1-1 1-1-1 1-1-2 役割 1-1-3 形状 筐体 1-2 1-2-1 CPU 1-2-2 1-2-3 1-2-4 拡張 拡張 1-2-5 BIOS/UEFI 1-2-6 電源 1-2-7 2 2-1 2-1-1 通信 2-1-2 層 2-1-3 層 層 2-1-4 層

More information

(Microsoft PowerPoint - Hadoop\225\224\211\357.ppt)

(Microsoft PowerPoint - Hadoop\225\224\211\357.ppt) Hadoop 部会 株式会社エイビス株式会社富士通九州システムズ九州東芝エンジニアリング株式会社九州東芝エンジニアリング株式会社株式会社オーイーシー株式会社オーイーシー大分大学大学院工学研究科 1 ( 部長 ) 小池翼 ( 副部長 ) 小畑智博小原辰徳郷原慎之介高熊大将玉井達也大場紀彦 2 テーマ 実業務への Hadoop の適用 ~ 気象データを用いた分散処理の実装 ~ Hadoop とは Hadoop

More information

,., ping - RTT,., [2],RTT TCP [3] [4] Android.Android,.,,. LAN ACK. [5].. 3., 1.,. 3 AI.,,Amazon, (NN),, 1..NN,, (RNN) RNN

,., ping - RTT,., [2],RTT TCP [3] [4] Android.Android,.,,. LAN ACK. [5].. 3., 1.,. 3 AI.,,Amazon, (NN),, 1..NN,, (RNN) RNN DEIM Forum 2018 F1-1 LAN LSTM 112 8610 2-1-1 163-8677 1-24-2 E-mail: aoi@ogl.is.ocha.ac.jp, oguchi@is.ocha.ac.jp, sane@cc.kogakuin.ac.jp,,.,,., LAN,. Android LAN,. LSTM LAN., LSTM, Analysis of Packet of

More information

Microsoft Word - 楽天㇯ㅩ㇦ㅛIaaSㇵㅼã…fiã‡¹ä»Łæ§Ÿ.doc

Microsoft Word - 楽天㇯ㅩ㇦ㅛIaaSㇵㅼã…fiã‡¹ä»Łæ§Ÿ.doc サービス仕様 1. 提供機能一覧楽天クラウド IaaS では以下の機能をユーザに対し提供します 8.1.0-23 機能名 1 管理コンソール 2 仮想マシン 3 ファイアウォール 4 固定 IP アドレス 5 ブロックストレージ 6 テンプレート 7 ロードバランサ 8 アンチウイルス 概要 ユーザが楽天クラウド IaaS の各機能を操作するための Web インターフェースです 以下の全ての機能を操作できます

More information

PowerPoint プレゼンテーション

PowerPoint プレゼンテーション 1 Agenda Aspera GB ( ) IP FTP IP Aspera FASP Aspera Aspera Aspera FASP FTP Aspera Solution FASP WAN FTP 1. 2. 3. Aspera WAN 1. 2. 3. FASP FASP Aspera FASP UDP FASP UDP TCP Figure 1 FASP Adaptive Rate

More information

ビッグデータ分析を高速化する 分散処理技術を開発 日本電気株式会社

ビッグデータ分析を高速化する 分散処理技術を開発 日本電気株式会社 ビッグデータ分析を高速化する 分散処理技術を開発 日本電気株式会社 概要 NEC は ビッグデータの分析を高速化する分散処理技術を開発しました 本技術により レコメンド 価格予測 需要予測などに必要な機械学習処理を従来の 10 倍以上高速に行い 分析結果の迅速な活用に貢献します ビッグデータの分散処理で一般的なオープンソース Hadoop を利用 これにより レコメンド 価格予測 需要予測などの分析において

More information

Hortonworks Kitase

Hortonworks Kitase Data Platform エキスパートに聞く クラウドで実現するビッグデータ活 本マイクロソフト株式会社 本アイ ビー エム株式会社 ホートンワークスジャパン株式会社 佐藤 直 平 毅 北瀬 公彦 Hortonworks 2 アジェンダ メジャーなクラウドにおけるビッグデータ アナリティクス関連サービスについて確認 Azure のビッグデータ アナリティクス関連サービスについて IBM のビッグデータ

More information

NEEDS Yahoo! Finance Yahoo! NEEDS MT EDINET XBRL Magnetic Tape NEEDS MT Mac OS X Server, Linux, Windows Operating System: OS MySQL Web Apache MySQL PHP Web ODBC MT Web ODBC LAMP ODBC NEEDS MT PHP: Hypertext

More information

PassSureExam Best Exam Questions & Valid Exam Torrent & Pass for Sure

PassSureExam   Best Exam Questions & Valid Exam Torrent & Pass for Sure PassSureExam http://www.passsureexam.com Best Exam Questions & Valid Exam Torrent & Pass for Sure Exam : 1z0-950-JPN Title : Oracle Data Management Cloud Service 2018 Associate Vendor : Oracle Version

More information

OSS Mtg

OSS Mtg Hadoop ~Yahoo! JAPAN の活用について ~ 2011/01/15 ヤフー株式会社 R&D 統括本部 角田直行 吉田一星 自己紹介 角田直行 ( かくだなおゆき ) R&D 統括本部プラットフォーム開発本部検索開発部開発 3 2005 年ヤフー株式会社入社 ヤフー地図 ヤフー路線 ヤフー検索 2010 年現在 検索プラットフォームを開発中 1 自己紹介 吉田一星 ( よしだいっせい

More information

平成20年度成果報告書

平成20年度成果報告書 ベンチマークレポート - データグリッド Caché 編 - 平成 22 年 9 月 グリッド協議会先端金融テクノロジー研究会ベンチマーク WG - i - 目次 1. CACHÉ (INTERSYSTEMS)... 1 1.1 Caché の機能概要... 1 1.2 Caché の評価結果... 2 1.2.1 ベンチマーク実行環境... 2 1.2.2 評価シナリオ: 事前テスト... 3 -

More information

fse7_time_sample

fse7_time_sample NXPowerLite 7.1.16 ファイルサーバーエディション 軽量化処理時間について 株式会社オーシャンブリッジ 2018 年 1 月 18 日 FSE7116-20180118 マルチスレッド処理 バージョン 7.1.16 よりマルチスレッド処理に対応したことにより軽量化処理を同時並行させることが可能になりました 軽量化処理のスピードは従来通りですが 複数ファイルの並行処理が可能になったことで

More information

IPSJ SIG Technical Report Vol.2019-IOT-44 No /3/8 CRIU HTTP 1,a) 2 PC SNS Web FastContainer HTTP HTTP Web HTTP Web Web Low-cost and High Perfor

IPSJ SIG Technical Report Vol.2019-IOT-44 No /3/8 CRIU HTTP 1,a) 2 PC SNS Web FastContainer HTTP HTTP Web HTTP Web Web Low-cost and High Perfor CRIU HTTP 1,a) 2 PC SNS Web FastContainer HTTP HTTP Web HTTP Web Web Low-cost and High Performance Scheduling Method for Reactive Relocation of Containers Each HTTP Request Using CRIU Ryosuke Matsumoto

More information

untitled

untitled 2004 03 06 DEWS2004 in 1. 2. Continuous Query 3. 4. GPS HTML, XML RFID DB DB Web URL TS URL Load Description 7 /echo.cgi 0.41 CGI Prog. RDB TS Load Mem 1 0.38 8688k 6 0.41 7808k TS URL IP 5 /top.html

More information

PowerPoint プレゼンテーション

PowerPoint プレゼンテーション 総務省 ICTスキル総合習得教材 概要版 eラーニング用 [ コース2] データ蓄積 2-5: 多様化が進展するクラウドサービス [ コース1] データ収集 [ コース2] データ蓄積 [ コース3] データ分析 [ コース4] データ利活用 1 2 3 4 5 座学本講座の学習内容 (2-5: 多様化が進展するクラウドサービス ) 講座概要 近年 注目されているクラウドの関連技術を紹介します PCやサーバを構成するパーツを紹介後

More information

Python Perl JavaScript および PHP などの ランザクション ID を利用することで 重複する処理 な Tuple が流れるかはグルーピングより決定されま 多くの言語をサポートしています を判別することができます す 6 簡単なデプロイと運用 は簡単にデプロイし 動作させるこ

Python Perl JavaScript および PHP などの ランザクション ID を利用することで 重複する処理 な Tuple が流れるかはグルーピングより決定されま 多くの言語をサポートしています を判別することができます す 6 簡単なデプロイと運用 は簡単にデプロイし 動作させるこ 春の嵐吹く Twitter 社が公開したオープンソース リアルタイム分散処理 日々発生する大量なデータをリアルタイムに処理し続ける ストリームデータ処理 に対するニーズが高まっています 同じビッグデータでもバッチ処理の Hadoop とはまた違った解決方法が求められる分野です 本記事ではそのストリームデータ処理を実現するプロダクトとして 今 注目を集めている について解説します ビッグデータ リアルタイム

More information

Microsoft Word - nvsi_100222jp_oracle_exadata.doc

Microsoft Word - nvsi_100222jp_oracle_exadata.doc Article ID: NVSI-100222JP Created: 2010/10/22 Revised: -- Oracle Exadata v2 バックアップ動作検証 1. 検証目的 Oracle Exadata Version 2 上で稼動する Oracle Database11g R2 Real Application Clusters( 以下 Oracle11g R2 RAC) 環境において

More information

IPSJ SIG Technical Report Vol.2014-HPC-144 No /5/26 ES2 1,a) 1,b) 1,c) (ES2) The system architecture and operation results of the Earth Simulato

IPSJ SIG Technical Report Vol.2014-HPC-144 No /5/26 ES2 1,a) 1,b) 1,c) (ES2) The system architecture and operation results of the Earth Simulato ES2 1,a) 1,b) 1,c) (ES2) The system architecture and operation results of the Earth Simulator (ES2) Ken ichi Itakura 1,a) Hitoshi Uehara 1,b) Toshiyuki Asano 1,c) Abstract: This paper describes the system

More information

untitled

untitled Oracle RAC 10gRAC Agenda 1. Why Oracle on Dell Dell Oracle on Linux Dell Oracle Dell Oracle 2. Oracle Clustering Solution Oracle Real Application Cluster 3. Case Study 4. Oracle RAC Solution on Dell Oracle

More information

PowerPoint Presentation

PowerPoint Presentation Amazon EBS ボリュームの性能特性と構成方法を習得する! 松本大樹 (Matsumoto Hiroki) 2014 Amazon.com, Inc. and its affiliates. All rights reserved. May not be copied, modified, or distributed in whole or in part without the express

More information

슬라이드 1

슬라이드 1 K-Peer Solution GH ソリューション株式会社 1 11:23 PLAY Grid Technology とは? 既存方式 Pull/FTP -> 1:1 送信 1% 40% 送信に失敗時 最初から再送信 全ての送信負荷がサーバー側に集中 Internet Last Mile Middle Mile.. Last Mile K - P E E R Push/Sync/Pull -> 1:

More information

PowerPoint プレゼンテーション

PowerPoint プレゼンテーション Oracle GRID Center Flash SSD + 最新ストレージと Oracle Database で実現するデータベース統合の新しい形 2011 年 2 月 23 日日本オラクル Grid Center エンジニア岩本知博 進化し続けるストレージ関連技術 高速ストレージネットワークの多様化 低価格化 10GbE FCoE 8Gb FC ディスクドライブの多様化および大容量 / 低価格化

More information

[4] ACP (Advanced Communication Primitives) [1] ACP ACP [2] ACP Tofu UDP [3] HPC InfiniBand InfiniBand ACP 2 ACP, 3 InfiniBand ACP 4 5 ACP 2. ACP ACP

[4] ACP (Advanced Communication Primitives) [1] ACP ACP [2] ACP Tofu UDP [3] HPC InfiniBand InfiniBand ACP 2 ACP, 3 InfiniBand ACP 4 5 ACP 2. ACP ACP InfiniBand ACP 1,5,a) 1,5,b) 2,5 1,5 4,5 3,5 2,5 ACE (Advanced Communication for Exa) ACP (Advanced Communication Primitives) HPC InfiniBand ACP InfiniBand ACP ACP InfiniBand Open MPI 20% InfiniBand Implementation

More information

<Insert Picture Here> Oracle Cloud Computing Vision *Oracle Java Oracle Corporation Copyright 2009, Oracle. All rights reserved. 2 1

<Insert Picture Here> Oracle Cloud Computing Vision *Oracle Java Oracle Corporation Copyright 2009, Oracle. All rights reserved. 2 1 Oracle Cloud Computing Vision 2010 02 23 *Oracle Java Oracle Corporation 2 1 Cloud s Benefits and Challenges & volution 3 Why Cloud Computing? / Why ot Cloud Computing? Benefits Cost Agility ( ) Challenges/Issues

More information

情報処理学会研究報告 IPSJ SIG Technical Report Vol.2013-DBS-158 No /11/26 データ共有型マルチデータベースシステムにおけるクエリ効率化手法 齋藤和広 渡辺泰之 小林亜令 近年, データの大規模化やデータ利用の多様化に対応するために, 単

情報処理学会研究報告 IPSJ SIG Technical Report Vol.2013-DBS-158 No /11/26 データ共有型マルチデータベースシステムにおけるクエリ効率化手法 齋藤和広 渡辺泰之 小林亜令 近年, データの大規模化やデータ利用の多様化に対応するために, 単 データ共有型マルチデータベースシステムにおけるクエリ効率化手法 齋藤和広 渡辺泰之 小林亜令 近年, データの大規模化やデータ利用の多様化に対応するために, 単一のデータソースに対して特徴の異なる複数のクエリ処理エンジンを選択し利用可能となってきている. これらのクエリ処理エンジンは, それぞれデータの種類や規模に応じた最適化が施されているため, ユーザが各エンジンの特性を理解し, 使い分けることでクエリ処理性能を最大限活用することができる.

More information

PowerPoint プレゼンテーション

PowerPoint プレゼンテーション AWS クラウドデザインパターン - コンテンツ配信編 - 自己紹介 名前 片山暁雄 所属 アマゾンデータサービスジャパン ソリューションアーキテクト ID @c9katayama 好きなAWSサービス Amazon Simple Workflow 好きなCDP CloudDI AWS クラウドデザインパターンとは... AWS クラウドを使ったシステムアーキテクチャ設計を行う際に発生する 典型的な問題とそれに対する解決策

More information

I TCP 1/2 1

I TCP 1/2 1 I TCP 1/2 1 Transport layer: a birds-eye view Hosts maintain state for each transport endpoint Routers don t maintain perhost state H R R R R H Transport IP IP IP IP IP Copyright(C)2011 Youki Kadobayashi.

More information

Oracle Real Application Clusters 10g: 第4世代

Oracle Real Application Clusters 10g: 第4世代 Oracle Real Application Clusters 10g: Angelo Pruscino, Oracle Gordon Smith, Oracle Oracle Real Application Clusters RAC 10g Oracle RAC 10g Oracle Database 10g Oracle RAC 10g 4 Oracle Database 10g Oracle

More information

2ACL DC NTMobile ID ACL(Access Control List) DC Direction Request DC ID Access Check Request DC ACL Access Check Access Check Access Check Response DC

2ACL DC NTMobile ID ACL(Access Control List) DC Direction Request DC ID Access Check Request DC ACL Access Check Access Check Access Check Response DC NTMobile 103430037 1. IPv4/IPv6 NTMobileNetwork Traversal with Mobility [1] NTMobile NTMobile IPsec NAT IPsec GSCIPGrouping for Secure Communication for IPGSCIP NAT NTMobile ACL Access Control List ACL

More information

Introduction Purpose This training course demonstrates the use of the High-performance Embedded Workshop (HEW), a key tool for developing software for

Introduction Purpose This training course demonstrates the use of the High-performance Embedded Workshop (HEW), a key tool for developing software for Introduction Purpose This training course demonstrates the use of the High-performance Embedded Workshop (HEW), a key tool for developing software for embedded systems that use microcontrollers (MCUs)

More information

PowerPoint Presentation

PowerPoint Presentation VME Embedded System ユーザーズマニュアル ~ Slim VME Embedded ~ Tecstar Page: 1 Agenda 1. VME Embedded System 概要 2. VME Embedded の特徴 3. Embedded Overview 4. VMEファイルとHEXファイルについて 5. Slim VME について 6. Deployment Toolの起動方法について

More information

PowerPoint プレゼンテーション

PowerPoint プレゼンテーション AWS のいろは 株式会社神戸デジタル ラボ開発管理部情報システムチーム戎秀和 自己紹介 Hidekazu Ebisu ( 戎秀和 ) - 4 年目 - 情シス - わんこ 本日おはなしする内容 AWS について メリット セキュリティ コスト 3 本日おはなしする内容 AWS について メリット セキュリティ コスト 4 本日おはなしする内容 http://aws.amazon.com/jp/aws_history/

More information

Microsoft PowerPoint - CCS学際共同boku-08b.ppt

Microsoft PowerPoint - CCS学際共同boku-08b.ppt マルチコア / マルチソケットノードに おけるメモリ性能のインパクト 研究代表者朴泰祐筑波大学システム情報工学研究科 taisuke@cs.tsukuba.ac.jp アウトライン 近年の高性能 PC クラスタの傾向と問題 multi-core/multi-socket ノードとメモリ性能 メモリバンド幅に着目した性能測定 multi-link network 性能評価 まとめ 近年の高性能 PC

More information

PowerPoint プレゼンテーション

PowerPoint プレゼンテーション Mini-Cefore: Container-Based Large-Scale Cefore Emulator 大岡睦, 朝枝仁 National Institute of Information and Communications Technology (NICT) 目次 背景 実験プラットフォームの比較 テストベッド シミュレーター エミュレーター エミュレーターの実装方式の比較 VM (Virtual

More information

コンテンツセントリックネットワーク技術を用いた ストリームデータ配信システムの設計と実装

コンテンツセントリックネットワーク技術を用いた ストリームデータ配信システムの設計と実装 コンテンツセントリックネットワークにおけるストリームデータ配信機構の実装 川崎賢弥, 阿多信吾, 村田正幸 大阪大学大学院情報科学研究科 大阪市立大学大学院工学研究科 2 発表内容 研究背景 研究目的 ストリームデータ配信機構の設計 ストリームデータのモデル化 コンテンツの名前構造 ストリームデータの要求とフロー制御 ストリームデータ配信機構の実装 動作デモンストレーション 3 コンテンツセントリックネットワーク

More information

WebRTC P2P Web Proxy P2P Web Proxy WebRTC WebRTC Web, HTTP, WebRTC, P2P i

WebRTC P2P Web Proxy P2P Web Proxy WebRTC WebRTC Web, HTTP, WebRTC, P2P i 26 WebRTC The data distribution system using browser cache sharing and WebRTC 1150361 2015/02/27 WebRTC P2P Web Proxy P2P Web Proxy WebRTC WebRTC Web, HTTP, WebRTC, P2P i Abstract The data distribution

More information

【Cosminexus V9】クラウドサービスプラットフォーム Cosminexus

【Cosminexus V9】クラウドサービスプラットフォーム Cosminexus http://www.hitachi.co.jp/soft/ask/ http://www.hitachi.co.jp/cosminexus/ Printed in Japan(H) 2014.2 CA-884R データ管 タ管理 理 ノンストップデータベース データ管 タ管理 理 インメモリデータグリッド HiRDB Version 9 ucosminexus Elastic Application

More information

TeleOffice 3.7

TeleOffice 3.7 ご利用前の環境チェックリスト Document Date: 2017.06.18 Document Version: 3.7.001 1 目次 1 目次... 2 2 始めに... 3 3 利用環境について... 3 3.1 Windows 端末... 3 3.2 Android 端末... 4 3.3 ios 端末... 4 3.4 ブラウザ版 TeleOffice クライアント... 4 3.5

More information

…l…b…g…‘†[…N…v…“…O…›…~…fi…OfiÁŸ_

…l…b…g…‘†[…N…v…“…O…›…~…fi…OfiÁŸ_ 13 : Web : RDB (MySQL ) DB (memcached ) 1: MySQL ( ) 2: : /, 3: : Google, 1 / 23 testmysql.rb: mysql ruby testmem.rb: memcached ruby 2 / 23 ? Web / 3 ( ) Web s ( ) MySQL PostgreSQL SQLite MariaDB (MySQL

More information

10年オンプレで運用したmixiをAWSに移行した10の理由

10年オンプレで運用したmixiをAWSに移行した10の理由 10 年オンプレで運用した mixi を AWS に移行した 10 の理由 AWS Summit Tokyo 2016 株式会社ミクシィ オレンジスタジオ mixi システム部北村聖児 自己紹介 2 名前 北村聖児 所属 株式会社ミクシィオレンジスタジオ mixiシステム部 担当サービス SNS mixi 今日話すこと 3 mixi を AWS に移行した話 mixi 2004 年 3 月 3 日にオフィシャルオープンした

More information

SAS Campaign Management 5.4 システム必要条件

SAS Campaign Management 5.4 システム必要条件 92C553 システム必要条件 SAS Campaign Management 5.4 このドキュメントには SAS Campaign Management をインストールし 実行するための必要条件を記載します SAS Campaign Management を実行する前に必要条件を満たすようにシステムを更新する必要があります このドキュメントに記載されている主なシステム必要条件は 次のとおりです

More information