はじめての DataMagic セゾン情報システムズ HULFT 事業部
目的と学習内容 この動画では次の内容をご紹介していきます DataMagicとは システムデータ連携の課題と解決ポイント DataMagicの機能一覧のご紹介 DataMagicの導入事例 DataMagic 技術コラムのご紹介 All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 2
DataMagic とは DataMagic は 様々な形式のファイルや DB からデータを抽出し コード変換や加工処理をして ファイルや DB に出力することができるデータ変換ツールです システムのデータ連携時の課題を解決することができます 簡単 低コストでデータ変換を実現 コード変換 データ加工 変換 JEF UTF-16 KEIS EUC など 項目入替 マージなど DB 連携 ファイル形式の変換 oracle DB2 Postre SQL SQL Server 固定長 XML CSV Excel など All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 3
システムのデータ連携時の課題 高額なETLパッケージの導入は難しい マルチベンダーシステムを利用しているので 複数のコード種を扱う必要がある データ統合でのデータ量増加により高性能のデータ連携が必要 ファイルフォーマットやデータ属性が異なっているために 使えないファイルがある DataMagic が解決! All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 4
DataMagic 解決ポイント 豊富な機能 幅広いコード種やデータ形式に対応 DB Excel との連携も可能 高速な変換 マルチスレッド処理による高速な変換を実現 他社ツールと比較し 10~30 倍と圧倒的な変換速度 高い生産性 GUI による生産性の向上 開発負担の大幅軽減 システム変更や拡張が発生した場合も スピーディな開発が可能 低いコスト 6 万円から利用可能 オプションの選択で 要件に沿ったプロダクト購入が可能 (CPU 数による追加課金なし ) All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 5
DataMagic の基本機能 データ加工 項目結合 項目分離 西暦 和暦変換 マージ / ソート クレンジング, etc コード変換 各プラットフォーム システムで使用しているコード種に変換 1 2 外字 ユーザコードテーブルの利用 も可能 データ形式の変換 各社各様のファイル形式を自社システムフォーマットへ変換 DB 連携 各社 RDB への連携を実現 3 4 Microsoft Accessとの連携をサポート All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 6
機能 1: データ加工 データ加工 項目入れ替え 項目結合 分割 データ挿入 パック ゾーン変換 レコード抽出 出力先振り分け 数値演算 日付演算 西暦 和暦変換 右詰め 左詰め 連番付与など 提供変換ロジックだけでなく 独自処理を組込むことも可能 マージ / ソート マスタ参照による N 対 1 N 対 N のデータマージが可能 ( マッチング ) 最大 10 個のキー項目を優先順位付けソート クレンジング 入力書式の不統一なデータを統一 正規表現による柔軟な文字列検索例 : 株式会社 ( 株 ) 昭和 53 年 4 月 1 日 1978/04/01 1978-04-01 All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 7
機能 2: コード変換 コード変換機能の利用には オプションが必要です 漢字コード変換 Shift JIS JIS* KEIS JEF IBM 漢字 NEC 漢字 EUC UTF-8 UTF-16* 1 バイトコード変換 ASCII User table 英小文字 NEC カナ文字 IBM 英小文字拡張 IBM 英小文字 カナ文字 ASPEN 同一漢字コード種の外字変換も対応 Unicode の Windows 固有文字 (~ - ) サロゲートペアにも対応 全角 半角変換 ( カナ 記号 英数字 ) 対応 ( 項目単位指定可 ) All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 8
機能 3: データ形式変換 DB Excel への接続には オプションが必要です 固定長 oracle Postre SQL 可変長 散在する豊富なデータソースも DataMagic で連携実現 SQL Server DB2 XML ODBC TXT CSV Excel DataMagic for Windows のみ対応 All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 9
機能 4:DB 連携 INSERT, UPDATE 簡単に連携可能 各種 RDB DataMagic SELECT 対応データベース Oracle SQL Server PostgreSQL DB2 ODBC *DBへの接続には オプションが必要です (DataMagic for Windowsのみ対応 ) 簡単設定と SQL 文の直接設定による複雑な指定が可能 バイナリ型 大容量データの BLOB CLOB にも対応し 幅広いデータ型との高い親和性を実現 入出力前後に 特定の SQL 文を発行し より高度な DB 連携を実現例 ) 実行前 : DB テーブル全件削除後 データを INSERT する実行後 : 全件 INSERT が完了したら INDEX の作成を行う All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 10
性能 ~ 他社製品との比較 ~ 1 秒当たりの変換処理量は 他社製品の約 1/30! テキスト変換の場合 コード変換処理 ファイルサイズ :100Mbyte 変換コード :SJIS EUC [MB] 300-250 - 200-150 - 100-50 - ユーザ実運用データを使用した測定結果 他社ソフト : 16 分 32 秒 / DataMagic: 32 秒 CSV 変換の場合 コード変換 フォーマット変換処理 ファイルサイズ : 100 Mbyte, 変換コード : SJIS EUC [MB] 60-50 - 40-30 - 20-10 - A 社製品 B 社製品 DataMagic A 社製品 B 社製品 DataMagic All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 11
導入事例 1 ~ スクラッチ開発からの移行 ~ 課題 Oracle から後続アプリケーションに連携する際 データ抽出はストアドプロシージャで CSV ファイル化し 以降要件単位にスクリプト開発を行いデータ加工をしている その開発工数を軽減したい 導入前 CODE Project 1: コード変換 (Shift JIS EBCDIC) Project 2: ヘッダー フッター付与 ストアドプロシージャ Project 3: 数値レイアウト補正 ( 前 0 後 0 補填 ) 導入後 CSV? Oracle 10g データ抽出 DataMagic CSV 出力 コード変換 (Shift JIS EBCDIC) ヘッダー フッター付与 数値レイアウト補正 ( 前 0 後 0 補填 ) 解決 案件単位にプログラム開発という負荷の高い作業が GUI 設定のみで実現 開発者スキルに依存しないパッケージ製品として 高い品質を提供 All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 12
導入事例 2~ コード変換 クレンジング ~ 課題 複数のインターフェースがある受発注システムにおいて 統合 DB への格納前にデータの正規化 ( クレンジング ) を行いたい システム A マスタ参照 全角 / 半角チェック 文字数チェック 外字変換 FTP CSV システム B XML マスタ DB 統合データベース エラーレコード 解決 統合 DB 連携前にデータの妥当性を検証し 不正レコードを検出 使えないデータを使えるデータへ All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 13
DataMagic の技術コラムを掲載中!! ~DataMagic の機能をより知って頂くために ~ http://www.hulft.com/ に掲載しています 順次追加予定! All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 14
最後までご視聴いただき ありがとうございました お問い合わせ アンケートへのご協力をお願いします セミナー内容に関するお問い合わせアンケートのご質問欄にご記入ください 製品購入 お見積りなどのお問い合せ mail : info@hulft.com フリーダイヤル :0120-86-8620 利用時間 9:15~17:00 ( 土 日 祝日および年末年始を除く ) 製品の詳細情報 URL : http://www.hulft.com All Rights Reserved SAISON INFORMATION SYSTEMS CO.,LTD. 15