Przejdź do głównej zawartości

Referat: Słownik morfologiczny języka polskiego i jego zastosowanie w korekcie gramatycznej

W ramach seminarium „Przetwarzanie języka naturalnego” (Instytut Podstaw Informatyki PAN, ul. Ordona 21, Warszawa) zostanie dnia 16.10.06 (poniedziałek) o godz. 12.15 wygłoszony następujący referat:

AUTOR: Marcin Miłkowski
AFILIACJA: Instytut Filozofii i Socjologii PAN
TYTUŁ: Słownik morfologiczny języka polskiego i jego zastosowanie w korekcie gramatycznej

STRESZCZENIE:

W referacie opiszę, w jaki sposób na podstawie danych pochodzących tzw. słownika alternatywnego do sprawdzania pisowni tworzony jest słownik morfologiczny zawierający znaczniki bardzo zbliżone do stosowanych w korpusie IPI PAN (rozbieżności zostaną
wskazane). Opisany zostanie prosty hybrydowy algorytm generowania słownika na postawie słownika korelacji między znacznikami morfologicznymi a oznaczeniami formatu ispell oraz na podstawie osobnego słownika form nieregularnych. Obecnie słownik morfologiczny
zawiera prawie 3,5 miliona form i jest największym tego rodzaju zasobem dostępnym na licencji typu open source. Systemy korekty gramatycznej oparte na regułach wykrywania błędów korzystają z systemów anotacji morfologicznej; jednak zastosowanie probabilistycznych parserów w tym kontekście jest przeciwskuteczne, gdyż w parserach zakłada się gramatyczność wypowiedzi. Pokażę, w jaki sposób wykorzystanie słownika morfologicznego, zakodowanego w postaci automatu skończonego, w korektorze LanguageTool prowadzi do wzbogacenia zestawu znaczników i kontroli jakości ich przypisania.

Podobne słowniki morfosyntaktyczne w programie LanguageTool są stosowane dla języka niemieckiego, angielskiego, francuskiego, hiszpańskiego i włoskiego; w przygotowaniu jest słownik języka Malayalam.

Tu znajduje się prezentacja do tego referatu.

Dodatkowe informacje o seminarium znajdują się na stronie:
http://nlp.ipipan.waw.pl/seminar-p.html

Komentarze

Popularne posty z tego bloga

Imiesłów przysłówkowy bez orzeczenia

W zdaniach z imiesłowami przysłówkowymi (-ąc i -wszy), zakończonych znakiem interpunkcyjnym, powinno występować orzeczenie. Dopuszczalne jest opuszczenie orzeczenia w tytule. W tytule nie stosuje się jednak kropek na końcu. Na przykład: Czekając na Godota Czekając na Godota, zabawiali się rozmową. Błąd ten jest tym bardziej rażący w zdaniach, w których występuje zdanie podrzędne: !Czekając na Godota, który nie przychodził. Usterka zostanie wykryta także w błędnie formułowanych pytaniach: !Rozmawiając o sporcie, który sport uprawiasz? W powyższym przykładzie podmiot imiesłowu jest inny od podmiotu pytania (my rozmawiamy, a sport uprawiasz tylko ty). Powinno być: Skoro już mowa o sporcie, którą dyscyplinę uprawiasz?

Gromadzimy błędy językowe

Tu zbieram błędy, które mają być wykrywane regułami. Część z tych błędów można dodać także do list autokorekty w Ooo (a nawet w programie MS Word). Warto pamiętać, że na liście muszą być tylko te błędy, których nie wykryje już korektor pisowni (a zatem błędne formy fleksyjne i proste błędy ortograficzne nie muszą być tutaj umieszczane). Zapraszam do komentowania i uzupełniania tej listy, na pewno nie jest wyczerpująca. Mówiąc krótko, to taki negatywny słownik języka polskiego ;) Nowomowa, ale nie błąd: wychodzić|wyjść * naprzeciw -> popierać *, iść na rękę * wprowadzić kogo w co -> zapoznać kogo z czym [fałszywe alarmy] w przypomnieniu -> przypominając [za dużo fałszywych alarmów] do wojny -> przed wojną [fałszywe alarmy, wiele poprawnych zwrotów] więcej chory -> coraz bardziej chory [rzadkie] widzieć się zmuszonym -> być zmuszonym w uzupełnieniu -> uzupełniając do roku -> przed upływem roku [za dużo fałszywych alarmów] trzymać wagę, firmę, mowę ś

Wikipedia history diff as a revision corpus

(As this is of interest not only to the Polish-speaking community, this post is in English.) Recently, after some discussions on the lingucomponent list at OpenOffice.org on the method of finding frequent typos, I did some experiments on the revision history logs. Background. The developers of grammar checkers, and autocorrect lists, have hard times with finding relevant corpora. Revision history is an excellent source about native speakers perception of linguistic norms. Frequently revised typos are perceived as errors that need to be corrected, so using these typos on autocorrect lists is justified. The same goes for style, grammar and usage errors. Method . Experiments involved three steps: Clean the history dump (??wiki-latest-pages-meta-history.xml), to get only relevant parts of the dump. Using XML tools isn't recommended (I tried XSLT, forget it). Using a simple awk script, I was able to clean the > 30GB dump in an hour or so, and got a >17 GB file. The script is simp