Performansi Response Time Query Pada Hadoop-Hive Menggunakan Metode Partition

Authors

  • Marwan Marwan
  • Zawiyah Saharuna
  • Rini Nur

DOI:

https://doi.org/10.31963/elekterika.v5i1.2313

Abstract

Hive menggantikan teknik pemrosesan tradisional RDBMS yang tidak dapat digunakan pada big data. Tetapi, Hive dengan kondisi default akan mencari data secara menyeluruh  saat mengeksekusi query. Metode partition mampu mengelompokkan data, sehingga dilakukan pengujian untuk mengetahui apakah dengan mengelompokkan data akan memberikan peningkatan performansi response time query atau sebaliknya. Pada penelitian ini, dibangun infrastruktur Hadoop cluster dengan sistem multi node  menggunakan virtual machine. Dataset yang digunakan adalah dataset Movielens dengan kardinalitas atribut yaitu 5, 50 dan 100. Tiap dataset terdiri dari 15 juta records data. Berdasarkan hasil penelitian, metode partition selain mampu mengelompokkan data juga memberikan performansi response time query yang lebih cepat sebesar 30.8% dibandingkan kondisi default. Selain itu, Metode partition saat kardinalitas 100 lebih baik dibandingkan dua kardinalitas yang lebih kecil yaitu kardinalitas 5 dan kardinalitas 50.

Author Biography

Marwan Marwan

Teknik Elektro

References

A. Gupta, M. Saxena, and R. Gill, “Performance Analysis of RDBMS and Hadoop Components with Their File Formats for the Development of Recommender Systems,†2018 3rd Int. Conf. Converg. Technol. I2CT 2018, pp. 1–6, 2018.

M. Asha Kiran M and Sreedevi, “Hive Based Geospatial Analysis for Tracking and Envisioning of Geospatial Data in Hadoop Environment,†no. 6, pp. 570–573, 2019.

J. Mariam, “An Experimental Study On Different Data Models In Apache Hive,†vol. 6, no. 7, pp. 43–51, 2019.

T. A. Ashwitha, A. P. Rodrigues, and N. N. Chiplunkar, “Movie Dataset Analysis using Hadoop-Hive,†2017 2nd Int. Conf. Comput. Syst. Inf. Technol. Sustain. Solut., pp. 1–5, 2017.

A. S. Kumar, “Performance Analysis of MySQL Partition , Hive Partition-Bucketing and Apache Pig,†2016.

A. Ramadhana and I. Krisnadi, “Identifikasi Strategi Pendekatan Big Data Yang Tepat Dalam Perusahaan,â€

Y. Huai et al., “Major technical advancements in Apache Hive,†Proc. ACM SIGMOD Int. Conf. Manag. Data, pp. 1235–1246, 2014.

T. DataFlair, “Hive Data Model – Learn to Develop Data Models in Hive,†2020. [Online]. Available: https://data-flair.training/blogs/hive-data-model/.

A. Thusoo et al., “Hive - A petabyte scale data warehouse using hadoop,†Proc. - Int. Conf. Data Eng., pp. 996–1005, 2010.

Downloads

Published

2021-05-30

Issue

Section

Cover