Paragraf Tabanlı Çıkarımsal Özetlemede Öbekleme Kullanan İki Yeni Yöntemin Kıyaslanması

Abstract

Özetleme, bir bakıma metinleri kısaltma işlemidir. Bu kısaltma işlemi metinlerdeki önemli bilgileri içerecek şekilde olmalıdır. Bu çalışmanın amacı da İngilizce dilinde yazılmış makale, haber vs. gibi doküman paragraflarının içerdiği bilgi önemine göre seçilerek özetleme yapılmasıdır. Çalışmanın ilk aşamasında doküman kümesini temsil edecek önemli kelimeler belirlenmiştir. Bu aşamada tüm dokümanlarda geçen kelimeler kök geçiş sıklıklarına göre büyükten küçüğe göre sıralanır ve belirli sayıda seçilen en sık kelimeler ile paragraf vektörü temsil edilir. Bir sonraki aşamada, istenilen özet oranına göre paragraflar kümelere ayrıştırılır. Kümeleme algoritması olarak K-Means kullanılmıştır. Kümeler oluşturulurken başlangıç noktalarının belirlenmesi amacıyla iki farklı yöntem kullanılmıştır. İlk yöntemde, geçiş sıklıkları en yüksek ilk 10 kelimeden birinin en fazla görüldüğü paragraflar küme başlangıçları olarak seçilir. İkinci yöntemde, kullanıcının belirlediği özet oranına göre seçilecek anahtar kelime sayısı belirlenir. Daha sonra bu anahtar kelimelerin en çok geçtiği paragraflar başlangıç noktaları olarak belirlenir. Özet oluşturmada çıkarım yöntemi olarak, ayrıştırılan her bir küme içinden kümenin merkez noktasına Jaccard uzaklığı bakımından en yakın olan paragraf seçimi uygulanmıştır. Çıkan sonuçlar kontrol edildiğinde ikinci yöntemin daha başarılı bir sonuç verdiği gözlemlenmiştir. İkinci yönteme göre başarı oranları %20 özet oranı için %40 , %40 özet oranı için %50 ve %60 özet oranı için %71 elde edilmiştir.

Keywords

• çoklu dokümanlarda özetleme
• paragraf tabanlı özetleme
• metin öbekleme
• özellik çıkarımı

Comparison of Two New Methodologies Using Paragraph Based Extractive Summarization

Abstract

Summarization is means of process of the abbreviation of a text. This abbreviation should be such that it contains important information about the texts. The purpose of this study is selecting paragraphs according to the importance of the information contained in  paragraphs of documents such as articles, news, etc. written in English. During the first phase of the study, important words that represents the document set were identified. At this stage, the words in all the documents are sorted according to the frequency of their stems in ascending order and paragraph vector are represented by a certain number of most frequently limited selected words. In the next step, the paragraphs are separated into clusters according to the desired summary ratio. K-Means was used as the clustering algorithm. Two different methods were used to determine the starting points when the clusters were constructed. In the first method, the paragraphs with the highest frequency of passage of one of the first 10 words are selected as the cluster starts. In the second method, the number of keywords to be selected is determined according to the summary ratio determined by the user. Then the paragraphs most often passed by these keywords are set as starting points. As an extraction method in the summarization, the paragraph selection which is closest to Jaccard distance to the central point of the cluster is applied for all clusters.When the results were checked, it was observed that the second method gave a more successful result. Success rates according to the second method were 40% for the 20% summary rate, 50% for the 40% summary rate and 71% for the summary rate.

Keywords

• multiple document summarize
• paragraph base summarization
• text grouping
• feature extraction

References

1. H. P., Lunh, “The Automatic Creation of Literature Abstracts,” IBM Journal, ss. 159-165, 1958.
2. H.P., Edmundson, “New Methods in Automatic Abstracting,” Journal of the ACM, ss. 264-285, 1969.
3. Brandow, Ron, Karl Mitze, and Lisa Ram, “Automatic condensation of electronic publications by sentence selection,” Information Processing and Management, c. 31, s. 5,ss. 675-685, 1995.
4. Meng Wang, Xiaorong Wang, Chungui Li, “Extracting Multi-document Summarization Based on Local Topics,” 2009 Sixth International Conference on Fuzzy Systems and Knowledge Discovery, 2009.
5. Jade Goldstein, Vibhu Mittal, Jaime Carbonell, Mark Kantrowitzt, “Multi-Document Summarization By Sentence Extraction,” NAACL-ANLP-AutoSum '00 Proceedings of the 2000 NAACL-ANLP Workshop on Automatic Summarization, ss. 40-48, 2000.
6. Jaruskulchai, C. ve Kruengkrai, C., “A Practical Text Summarizer by Paragraph Extraction for Thai,” The Sixth International Workshop on Information Retrieval with Asian Language, ss. 9-16, 2003.
7. Ebru Uzundere, Elda Dedja, Banu Diri, M.Fatih Amasyalı, “Türkçe Haber Metinleri İçin Otomatik Özetleme,” Akıllı Sistemlerde Yenilikler ve Uygulamaları Sempozyumu, 2008.
8. Fumiyo Fukumoto ve Yoshimi Suzuki, “Extracting key paragraph based on topic and event detection: towards multi-document summarization,” NAACL-ANLP-AutoSum '00 Proceedings of the 2000 NAACL-ANLPWorkshop on Automatic summarization, c.4, ss. 31-39, 2000.

9. Lloret, E. ve Palomar, M., “Challenging Issues of Automatic Summarization: Relevance Detection and Quality-based Evaluation,” Informatica, s. 34, ss. 29-35, 2010.
10. Min, W., Zhensheng, L. ve Yuqing, G. “Study on Semantic ParagraphPartition in Automatic Abstracting System,” Systems, Man and Cybernetics, ss. 892-897, 2001
11. Vance Faber ,”Clustering and the Continuous k-Means Algorithm,” Los Alamos Science Number 22, 1994.
12. Metin Turan, “Özgün Paragraf Tabanlı Çıkarım Tekniği Kullanarak Otomatik Çoklu Doküman Özetleme”, Doktora Tezi, Bilgisayar Mühendisliği Programı, Yıldız Teknik Üniversitesi, İstanbul, Türkiye, 2015.