Pengembangan Arsitektur Two-Stage Ekstraktif-Abstaktif Menggunakan IndoBERT-MMR dan mBART pada Peringkasan Teks Berita Bahasa Indonesia

Salmania Jesamine Putri, Arif Nurwidyantoro, S.Kom., M.Cs., Ph.D

2026 | Tesis | MAGISTER KECERDASAN ARTIFISIAL

Peringkasan teks otomatis berbahasa Indonesia masih menghadapi tantangan karena pendekatan ekstraktif dan abstraktif memiliki keterbatasan yang berbeda. Pendekatan ekstraktif cenderung menghasilkan ringkasan yang kurang koheren dan informasi yang redundan, sedangkan pendekatan abstraktif berisiko menghasilkan informasi yang tidak sesuai dengan fakta pada artikel sumber. Penelitian ini mengusulkan sistem peringkasan teks otomatis berbahasa Indonesia menggunakan pendekatan two-stage. Tahap pertama adalah ekstraksi menggunakan IndoBERT dengan penerapan Maximum Marginal Relevance (MMR) untuk mengurangi redundansi, lalu dilanjutkan dengan tahap abstraksi menggunakan mBART. Evaluasi dilakukan menggunakan metrik ROUGE dan BERTScore melalui serangkaian pengujian yang membandingkan arsitektur two-stage terhadap model baseline (Lead-3 dan Oracle) dan model tunggal (IndoBERT ekstraktif dan mBART abstraktif). Hasil eksperimen menunjukkan bahwa model abstraktif tunggal mBART memberikan performa terbaik pada kedua dataset, dengan skor ROUGE-1 sebesar 0,4046 pada Liputan6 dan 0,3453 pada XLSum. Sementara itu, pada arsitektur two-stage, penerapan MMR hanya memberikan sedikit peningkatan pada dataset Liputan6 yang ditunjukkan oleh kenaikan ROUGE-1 dari 0,3656 menjadi 0,3718 dan BERTScore F1 dari 0,7618 menjadi 0,7658. Sebaliknya, pada dataset XLSum, penggunaan MMR tidak memberikan peningkatan yang signifikan dibandingkan pipeline tanpa MMR. Secara keseluruhan, arsitektur two-stage yang diusulkan belum mampu melampaui performa model abstraktif tunggal karena kualitas ringkasan akhir sangat dipengaruhi oleh hasil ekstraksi pada tahap pertama. Informasi penting yang tidak berhasil dipilih selama proses ekstraksi tidak lagi tersedia sebagai masukan bagi proses abstraksi, sehingga dapat membatasi kualitas ringkasan yang dihasilkan.

Automatic text summarization for Indonesian news articles remains a challenging task because extractive and abstractive approaches exhibit different limitations. Extractive methods often produce summaries that are less coherent and contain redundant information, whereas abstractive methods are prone to generating information that is not fully consistent with the source article. This study proposes a two-stage automatic text summarization framework for Indonesian news articles, consisting of an extractive stage using IndoBERT with Maximum Marginal Relevance (MMR) to reduce redundancy, followed by an abstractive stage using mBART. Evaluation was conducted using the ROUGE and BERTScore metrics through a series of experiments comparing the proposed two-stage architecture against baseline methods (Lead-3 and Oracle) and single models (extractive IndoBERT and abstractive mBART). The experimental results show that the single abstractive model (mBART) achieved the best performance on both datasets, obtaining ROUGE-1 scores of 0.4046 on the Liputan6 dataset and 0.3453 on the XLSum dataset. Within the proposed two-stage architecture, incorporating MMR yielded a slight improvement on the Liputan6 dataset, increasing the ROUGE-1 score from 0.3656 to 0.3718 and the BERTScore F1 from 0.7618 to 0.7658. In contrast, MMR did not provide a significant improvement over the pipeline without MMR on the XLSum dataset. Overall, the proposed two-stage architecture does not outperform the single abstractive model because the quality of the final summary is heavily influenced by the extraction results from the first stage. Important information that fails to be selected during the extraction process is no longer available as input for the abstraction process, thereby limiting the quality of the generated summaries.

Kata Kunci : Peringkasan Two-Stage, Peringkasan Bahasa Indonesia, Ekstraktif-Abstraktif, IndoBERT, MMR, mBART, ROUGE, BERTScore