BanditHijo.dev

Membuat Web Scraper dengan Ruby (Output: POSTGRESQL: ACTIVERECORD)

Created at: 2020-06-18
Author by: BanditHijo

PERHATIAN!

Data yang penulis gunakan adalah data yang bersifat free public data. Sehingga, siapa saja dapat mengakses dan melihat tanpa perlu melalui layer authentikasi.

Penyalahgunaan data, bukan merupakan tanggung jawab dari penulis seutuhnya.

Prerequisite

ruby 2.6.6 rails 5.2.4 postgresql 12.3

Pendahuluan

Web scraping adalah teknik mengambil atau mengekstrak sebagian data dari suatu website secara spesifik, spesifik dalam arti hanya data tertentu saja yang diambil. Script atau program untuk melakukan hal tersebut, disebut dengan web scraper.

Objektif

Catatan kali ini saya akan mendokumentasikan proses dalam membuat web scraper dengan tujuan untuk mengambil data nama-nama dosen yang ada pada website resmi Biro Akademik Universitas Mulia Balikpapan yang ada pada halaman ini.

Hasil yang akan di dapatkan dari script yang akan kita buat adalah daftar nama-nama dosen beserta nidn dalam bentuk tabel di dalam database PostgreSQL. Kita akan memasukkan data menggunakan Active Record yang merupakan salah satu komponen dari Ruby on Rails yang digunakan untuk menghandle model.

Penerapan

Langkah awal adalah persiapkan direktori untuk proyek.

Saya akan beri nama ruby-web-scraper-dosen.

Biasakan untuk memberi nama proyek tidak menggunakan karakter spasi.

$ mkdir ruby-web-scraper-dosen

Kemudian masuk ke dalam direktori proyek.

$ cd ruby-web-scraper-dosen

Buat file dengan nama Gemfile. dan kita akan memasang gem yang diperlukan di dalam file ini.

Gemfile
1source 'https://rubygems.org'
2
3gem 'httparty', '~> 0.18.1'
4gem 'nokogiri', '~> 1.10', '>= 1.10.9'
5gem 'byebug', '~> 11.1', '>= 11.1.3'
6gem 'activerecord', '~> 6.0', '>= 6.0.3.2'
7gem 'standalone_migrations', '~> 6.0'
8gem 'pg', '~> 1.2', '>= 1.2.3'

Setelah memasang gem pada Gemfile, kita perlu melakukan instalasi gem-gem tersebut.

$ bundle install

Proses bundle install di atas akan membuat sebuah file baru bernama Gemfile.lock yang berisi daftar dependensi dari gem yang kita butuhkan –daftar requirements–.

Pastikan kalau service dari PostgreSQL sudah berjalan.

$ sudo systemctl status postgresql.service
● postgresql.service - PostgreSQL database server
     Loaded: loaded (/usr/lib/systemd/system/postgresql.service; disabled; vendor preset: disabled)
     Active: active (running) since Thu 2020-06-18 11:06:53 WITA; 1m ago
   Main PID: 36698 (postgres)
      Tasks: 8 (limit: 4610)
     Memory: 28.9M
     CGroup: /system.slice/postgresql.service
             ├─ 36698 /usr/bin/postgres -D /var/lib/postgres/data
             ├─ 36700 postgres: checkpointer
             ├─ 36701 postgres: background writer
             ├─ 36702 postgres: walwriter
             ├─ 36703 postgres: autovacuum launcher
             ├─ 36704 postgres: stats collector
             ├─ 36705 postgres: logical replication launcher
             └─397565 postgres: bandithijo web_scraper [local] idle

Selanjutnya, untuk melihat database dan table, teman-tema dapat mengguakan PostBird (Database Management GUI) atau pgcli, saya akan menggunakan pgcli.

Jalankan pgcli,

$ pgcli
Server: PostgreSQL 12.3
Version: 3.0.0
Chat: https://gitter.im/dbcli/pgcli
Home: http://pgcli.com
bandithijo>

Pada tahap ini, kita tidak perlu membuat database secara manual, kita akan membuat database dengan bantuan rake.

Langkah pertama adalah membuat Rakefile di root direktori kita.

📂 ruby-web-scraper-dosen/
├── 📄 Gemfile
├── 📄 Gemfile.lock
└── 📄 Rakefile 👈️

Isi Rakefile seperti di bawah ini.

Rakefile
1require 'standalone_migrations'
2StandaloneMigrations::Tasks.load_tasks

Selanjutnya kita perlu membuat database konfiguration config.yml pada direktori db/.

📂 ruby-web-scraper-dosen/
├── 📂 db/
│   └── 📄 config.yml 👈️
├── 📄 Gemfile
├── 📄 Gemfile.lock
└── 📄 Rakefile

Lalu isikan config.yml seperti di bawah.

db/config.yml
1development:
2 adapter: postgresql
3 database: web_scraper_development
4 pool: 5
5 timeout: 5000
6 host: localhost
7 encoding: unicode

web_scraper_development adalah nama database yang akan kita gunakan.

Kalau sudah, sekarang kita akan membuat database dengan cara, buka Terminal dan jalankan perintah,

$ rake db:create
Created database 'web_scraper_development'

Perintah di atas akan menjalankan rake untuk membuat database dengan nama web_scraper_development seperti yang sudah kita definisikan pada file config.yml.

INFO

Untuk menghapus database, gunakan perintah:

$ rake db:drop
Dropped database 'web_scraper_development'

Setelah database dibuat, kita perlu membuat tabel untuk menyimpan data-data yang sudah kita parsing dari wbesite target.

Untuk membuat tabel, kita akan menggunakan migration.

Buat migration dengan cara seperti di bawah, dan berikan nama, seperti:

  1. CreateDaftarDosens (CamelCase), atau
  2. create_daftar_dosens (snake_case)
$ rake db:new_migration name=CreateDaftarDosens

atau,

$ rake db:new_migration name=create_daftar_dosens

Perintah migrasi di atas akan membuat sebuah file migrasi.

created db/migration/20200618031037_create_daftar_dosens.rb
📂 ruby-web-scraper-dosen/
├── 📂 db/
│   ├── 📄 config.yml
│   └── 📂 migrate/
│       └── 📄 20200618031037_create_daftar_dosens.rb 👈️
│
├── 📄 Gemfile
├── 📄 Gemfile.lock
└── 📄 Rakefile

Apabila kita membuat migrasi lagi, maka file-file migrasi akan terdapat pada direktori db/migrate/.

Migrasi yang kita buat di atas, dari namanya tentu sudah terbayang fungsinya adalah untuk membuat tabel dengan nama daftar_dosens. Penamanan tabel yang berbentuk jamak merupakan convention dari Ruby on Rails.

Pemberian awalan Create atau create_ pada awal migrasi memiliki maksud tertentu, yaitu untuk membuat tabel/schema. Dengan menambahkan awalan tersebut maka, isi dari file migrasi akan otomatis berbentuk seperti di bawah ini.

db/migrate/20200618031037_create_daftar_dosens.rb
1class CreateDaftarDosens < ActiveRecord::Migration[6.0]
2 def change
3 create_table :daftar_dosens do |t|
4 end
5 end
6end

Bari ke 3 & 4 adalah baris yang secara pintar dibuatkan apabila kita menambahkan awalan Create atau create_ pada nama migrasi. Enak banget yaa (^_^)

Selanjutnya, kita perlu menyempurnakan file migrasi. Kita perlu menambahkan nama kolom yang kita perlukan, yaitu kolom nama_dosen dan nidn_dosen.

db/migrate/20200618031037_create_daftar_dosens.rb
1class CreateDaftarDosens < ActiveRecord::Migration[6.0]
2 def change
3 create_table :daftar_dosens do |t|
4 t.string :nama_dosen, null: false
5 t.string :nidn_dosen
6 end
7 end
8end

Setelah kita memodifikasi file migrasi ..._create_daftar_dosens.rb, selanjutnya adalah menjalankan migrasi tersebut.

$ rake db:migrate
== 20200618031037 CreateDaftarDosens: migrating ===============================
-- create_table(:daftar_dosens)
   -> 0.0103s
== 20200618031037 CreateDaftarDosens: migrated (0.0104s) ======================

Kalau migrasi berhasil, outputnya akan seperti di atas.

Untuk mengecek status migrasi, gunakan perintah di bawah.

$ rake db:migrate:status
database: web_scraper_development

 Status   Migration ID    Migration Name
--------------------------------------------------
   up     20200618031037  Create daftar dosens

Terlihat, bahwa status migrasi dari “Create daftar dosens” sudah up. Artinya, sekarang pada database web_scraper_development sudah terdapat tabel bernama daftar_dosens.

Untuk mengeceknya, buka pgcli dan jalankan perintah di bawah.

web_scraper> \dt
+----------+----------------------+--------+------------+
| Schema   | Name                 | Type   | Owner      |
|----------+----------------------+--------+------------|
| public   | ar_internal_metadata | table  | bandithijo |
| public   | daftar_dosens 👈️     | table  | bandithijo |
| public   | schema_migrations    | table  | bandithijo |
+----------+----------------------+--------+------------+
SELECT 3
Time: 0.014s

Untuk melihat detail dari tabel, gunakan perintah di bawah.

web_scraper> \d daftar_dosens;
+------------+-------------------+-------------------------------------------------------------+
| Column     | Type              | Modifiers                                                   |
|------------+-------------------+-------------------------------------------------------------|
| id         | bigint            |  not null default nextval('daftar_dosens_id_seq'::regclass) |
| nama_dosen | character varying |  not null                                                   |
| nidn_dosen | character varying |                                                             |
+------------+-------------------+-------------------------------------------------------------+
Indexes:
    "daftar_dosens_pkey" PRIMARY KEY, btree (id)

Time: 0.026s

Tentu saja tabel tersebut belum ada isinya.

Langkah selanjutnya adalah membuat model.

Sambil mdembuat model, saya akan merapikan struktur direktori saya dan mengganti nama dari aktor utama dari scrapper.rb menjadi main.rb.

📂 ruby-web-scraper-dosen/
├── 📂 app/
│   ├── 📄 main.rb 👈️
│   └── 📂 models/
│       └── 📄 daftar_dosen.rb 👈️
├── 📂 db/
│   ├── 📄 config.yml
│   ├── 📂 migrate/
│   │   └── 📄 20200618031037_create_daftar_dosens.rb
│   └── 📄 schema.rb
├── 📄 Gemfile
├── 📄 Gemfile.lock
└── 📄 Rakefile

Penamaan dari model daftar_dosen.rb menggunakan penamaan tunggal karena convention dari Ruby on Rails mengharuskan kita membuat model dengan penamaan singular.

Buka file app/models/daftar_dosen.rb dan isi seperti di bawah ini.

app/models/daftar_dosen.rb
1class DaftarDosen < ActiveRecord::Base
2 validates :nama_dosen, presence: true
3end

Saya menambahkan validasi presence ke kolom nama_dosen. Teman-teman dapat mempelajari tentang validasi di sini.

Setelah membuat model, sekarang kita akan membuat aktor utamanya.

Buka file app/main.rb.

app/main.rb
1# daftar gem yang diperlukan
2require 'httparty'
3require 'nokogiri'
4require 'byebug'
5require 'active_record'
6require_relative './models/daftar_dosen'
7require 'rake'
8
9# blok untuk menghubungkan project dengan postgresql
10def db_configuration
11 db_configuration_file = File.join(File.expand_path('..', __FILE__), '..', 'db', 'config.yml')
12 YAML.load(File.read(db_configuration_file))
13end
14
15# blok untuk menghubungkan project dengan active record
16ActiveRecord::Base.establish_connection(db_configuration['development'])
17
18def scraper
19 # blok ini bertugas untuk mengambil data dengan output berupa variabel array
20 target_url = "http://baak.universitasmulia.ac.id/dosen/"
21 unparsed_page = HTTParty.get(target_url)
22 parsed_page = Nokogiri::HTML(unparsed_page)
23 dosens = Array.new
24 dosen_listings = parsed_page.css('div.elementor-widget-wrap')
25 dosen_listings.each do |dosen_list|
26 dosen = {
27 # perlu mengganti ' dengan ` agar tidak mengacaukan proses input data nama
28 nama_dosen: dosen_list.css("h2")[0]&.text&.gsub("\n", "")&.gsub(/'/, "`")&.squeeze,
29 nidn_dosen: dosen_list.css("h2")[1]&.text&.gsub("\n", "")
30 }
31 if dosen[:nama_dosen] != nil
32 dosens << dosen # dosens, variable array yang menampung data para dosen
33 end
34 end
35 # aktifkan byebug apabila diperlukan
36 #byebug
37
38 # blok ini bertugas untuk membuat membandingkan jumlah dosen dari target
39 # dengan jumlah dosen yang ada di lokal database
40 # apabila sama, maka tidak akan diinputkan ke database
41 # apabila berbeda, maka akan tabel akan dihapus dan data baru akan diinput
42 if dosens.size == DaftarDosen.all.size
43 puts "INFO: Data Dosen sudah diparsing. Tidak ada data baru."
44 puts "TOTAL DOSEN: #{DaftarDosen.all.size} dosen"
45 elsif DaftarDosen.all.size.nil? || dosens.size > DaftarDosen.all.size
46 unless DaftarDosen.all.size.nil?
47 total_dosen_lama = DaftarDosen.all.size
48
49 # blok ini untuk menjalankan rake task rollback & migrasi untuk menghapus & membuat tabel
50 rake = Rake.application
51 rake.init
52 rake.load_rakefile
53 rake['db:rollback'].invoke
54 rake['db:migrate'].invoke
55 else
56 total_dosen_lama = 0
57 end
58
59 # blok ini untuk memasukkan data ke dalam tabel
60 dosens.each do |dosen|
61 DaftarDosen.create(nama_dosen: dosen[:nama_dosen], nidn_dosen: dosen[:nidn_dosen])
62 puts "Dosen: #{dosen[:nama_dosen]}, berhasil diinputkan!"
63 end
64
65 puts "TOTAL DOSEN (remote): #{dosens.size} dosen"
66 puts "TOTAL DOSEN (local) : #{DaftarDosen.all.size} dosen"
67 puts "TOTAL DOSEN BARU : #{dosens.size - total_dosen_lama} dosen" if total_dosen_lama != 0
68 end
69end
70
71scraper

Setelah itu, jalankan dengan perintah,

$ ruby app/main.rb

Apabila berhasil, akan keluar output di Terminal seperti ini.

== 20200618031037 CreateDaftarDosens: reverting ===============================
-- drop_table(:daftar_dosens)
   -> 0.0028s
== 20200618031037 CreateDaftarDosens: reverted (0.0154s) ======================

== 20200618031037 CreateDaftarDosens: migrating ===============================
-- create_table(:daftar_dosens)
   -> 0.0144s
== 20200618031037 CreateDaftarDosens: migrated (0.0145s) ======================

Dosen: Abdul Fatah, berhasil diinputkan!
Dosen: Abdul Hamid Kurniawan, S.kom., M.TI, berhasil diinputkan!
Dosen: Abi Habibi, berhasil diinputkan!
...
...
Dosen: Teguh Pribadi, S.H., M.H, berhasil diinputkan!
Dosen: Sampara, S.H., M.H., berhasil diinputkan!
Dosen: Candra Bagus Agung P, S.E., M.M., berhasil diinputkan!
TOTAL DOSEN (remote): 138 dosen
TOTAL DOSEN (local) : 138 dosen

nah, data sudah masuk ke dalam database.

Sekarang coba cek ke database.

Masuk terlebih dahulu ke databse web_scraper.

bandithijo> \c web_scraper;
You are now connected to database "web_scraper" as user "bandithijo"
Time: 0.012s
web_scraper>

Setelah kita berada di dalam database web_scraper kita dapat melihat hasil dari data-data yang sudah diinputkan dengan cara.

web_scraper> SELECT * FROM daftar_dosens;
+------+------------------------------------------------+--------------+
| id   | nama_dosen                                     | nidn_dosen   |
|------+------------------------------------------------+--------------|
| 1    | Abdul Fatah                                    | 1114107001   |
| 2    | Abdul Hamid Kurniawan, S.kom., M.TI            | 1114107001   |
| 3    | Abi Habibi                                     | 1114107001   |
| 4    | Abiratno, S.T., M.Sc.                          | 1107017201   |
| 5    | Dr. Agung Sakti Pribadi, S.H., M.H.            | 1131036301   |
| 6    | Alfa                                           | 9911002592   |
...
...
| 133  | Zara Zerina Azizah, S.Pd.I, S.E., M.M          | 1103039301   |
| 134  | Heru Zulkifli, S.Kom., M.Kom                   | 1115027501   |
| 135  | M.Andhi Rohmat Basuki, S.Kom., M.Kom           | -            |
| 136  | Teguh Pribadi, S.H., M.H                       | -            |
| 137  | Sampara, S.H., M.H.                            | -            |
| 138  | Candra Bagus Agung P, S.E., M.M.               | -            |
+------+------------------------------------------------+--------------+
SELECT 138
(END)

Kalau kita coba jalankan kembali, tapi tidak ada data baru dari website target, maka akan seperti ini hasil outputnya.

INFO: Data Dosen sudah diparsing. Tidak ada data baru.
TOTAL DOSEN: 138 dosen

Selesai!

Demonstrasi Video

Referensi

  1. It’s Time To HTTParty!
    Diakses tanggal: 2020/06/18

  2. nokogiri.org
    Diakses tanggal: 2020/06/18

  3. pgcli
    Diakses tanggal: 2020/06/18

  4. Active Record Basics
    Diakses tanggal: 2020/06/18

  5. Active Record Validations
    Diakses tanggal: 2020/06/18

  6. thuss/standalone-migrations
    Diakses tanggal: 2020/06/18