life x web Technology Design

コミュニケーションとテクノロジーを考えるブログ

[ #HCJ11F] レポート:(Lunch LT) Hadoopログを全員で使う方法と課題

TAGS: None

Hadoop Conference 2011 Fall

日時:2011/09/26
場所:ベルサール汐留

イベントの詳細:
http://hadoop-conference-japan-2011-fall.eventbrite.com/
【重要】イベントのアーカイブ
http://mit.recruit.co.jp/hadoop/conference2011fall/info/archive.html
———————

(ランチタイムLT)

『Hadoopログを全員で使う方法と課題』
株式会社ディー・エヌ・エー 宵 勇樹


・Mobageではデータ解析を用いて常にチューニングを行なっている。
データマイニングチームだけではなく一般部署への展開も行っているが、
・分析ニーズの拡大
・短期間の納期のものが増大

・マイニングエンジニアだけでは手が足りない
・業務内容に関する知識が必要

→Pig,Hiveなどを使ってもいいのではないか?
→データマイニングエンジニアじゃなくても作業できるように

△課題
担当する人によって見たいところ、見せていいところが違う
→アクセス制限の機構が必要

○Hueの活用
LDAPを実装し、アクセス制限付きで実行出来るようにした

△課題
・Hueのためのプラグインを作るのが若干面倒
・Pigのユーザについてはshellがそのユーザで使えるようになっている必要あり
・Hiveのグループ機能はnamenodeの再起動が必要 →LDAPで対応

TAGS: None

Leave a Reply

© 2009 life x web Technology Design. All Rights Reserved.

This blog is powered by the Wordpress platform and beach rentals.