Langs: различия между версиями

Материал из Wiki FU-Lab
Перейти к навигации Перейти к поиску
 
(не показана 1 промежуточная версия этого же участника)
Строка 173: Строка 173:
kpv-phon.lookup.hfst<br/>
kpv-phon.lookup.hfst<br/>
kpv-phon.lookup.xfst<br/>
kpv-phon.lookup.xfst<br/>
kpv-phon.xfscript<br/> <font color="green">- ранее он назывался kpv-phon.twolc</font><br/>
kpv-phon.xfscript <font color="green">- ранее он назывался kpv-phon.twolc</font><br/>


А в папке '''src/morphology''' следующие папки и файлы:<br/>
А в папке '''src/morphology''' следующие папки и файлы:<br/>

Текущая версия от 13:50, 29 сентября 2015

Перед началом работы

Работа осуществляется в терминале (не забывайте ваши основные команды: pwd -- где я? ls -- что здесь? некоторым, возможно, понадобится команда whoami -- а кто я вообще такой?).

Перед началом работы предполагается, что вы в свою UNIX-систему (Mac OS или Linux) установили все необходимые программы и библиотеки.

И в своей рабочей папке, например, /home/user (в дальнейшем ~/) создали папку main, выполнив следующую команду:

svn co https://victorio.uit.no/langtech/trunk main

Также, перед началом работы с любым проектом (возьмите себе за правило!) не забывайте обновлять каталог main на своём компьютере:

cd ~/main/
svn up

Начало работы

При работе с инфраструктурой центра "Гиеллатекно" в папке ~/main/langs/ вы видите папки, в основном, состоящие из 3-х трёх букв: bak, bxr, chp, chr, ... - эти трёхбуквенные обозначения: коды ISO 639-3 языков, соответственно в папке mhr - проект для марийского (лугового), kpv - коми (зырянского), rus - русского языков.

Например, в папке rus (cd ~/main/langs/rus/) изначально находятся следующие файлы и папки:
AUTHORS
INSTALL
LICENCE
Makefile.am
README
am-shared
autogen.sh
configure.ac
devtools
doc
giella-rus.pc.in
m4
misc
src
test
tools
und.timestamp

После компиляции:

./autogen.sh
./configure --with-hfst --enable-spellers
make
sudo make install

Мы видим следующие папки (выделены жирным) и файлы:
AUTHORS
INSTALL
LICENCE
Makefile
Makefile.am
Makefile.in
README
aclocal.m4
am-shared
autogen.sh
autom4te.cache
build-aux
config.log
config.status
configure
configure.ac
devtools
doc
giella-rus.pc
giella-rus.pc.in
m4
misc
src - исходные коды
test
tools
und.timestamp

Если после команды "./configure --with-hfst --enable-spellers" выходит сообщение, что у вас устаревшая версия gtd-core, обновите его:

cd ~/main/gtcore
svn up
./autogen.sh
./configure
make
sudo make install

Далее снова перейдите в папку ~/main/langs/kpv:

cd ~/main/langs/kpv

И повторите:

./configure --with-hfst --enable-spellers
make
sudo make install

В папке src (после компиляции) мы видим следующие папки и файлы:
FSTflavors_STRESS.txt
Makefile
Makefile.am
Makefile.in
analyser-disamb-gt-desc.hfstol
analyser-disamb-gt-desc.xfst
analyser-gt-desc.hfst
analyser-gt-desc.hfstol
analyser-gt-desc.xfst
analyser-gt-norm.hfstol
analyser-gt-norm.xfst
analyser-raw-gt-desc.hfst
analyser-raw-gt-desc.tmp1.xfst
analyser-raw-gt-desc.xfst
filters - фильтры
generator-gt-desc.hfstol
generator-gt-desc.xfst
generator-gt-norm.hfstol
generator-gt-norm.xfst
generator-raw-gt-desc.hfst
generator-raw-gt-desc.tmp1.hfst
hyphenation - расстановка переносов
morphology - морфология
orthography - орфография
phonetics - фонетика
phonology - фонология
syntax - синтаксис
tagsets - установки тегов
transcriptions - транскрипции

И командой:

lookup analyser-gt-desc.xfst

Можете, например, проверить как работает морфологический анализатор:

Hfst.png

Морфологический анализатор

Рассмотрим на примере коми языка. Перейдите в папку ~/main/langs/kpv/:

cd ~/main/langs/kpv/

Обновитесь:

svn up

Компиляция осуществляется стандартным набором команд:

./autogen.sh
./configure --with-hfst --enable-spellers
make
sudo make install

Обратите внимание, если после команды ./autogen.sh у вас появится предупреждение о необходимости выполнить команду ./autogen.sh -l, значит в вашем файле ~/.profile (или ~/.bash_profile) не прописана подобная строка:

export GTLANG_kpv=$GTHOME/langs/kpv

И она будет прописана в вышеуказанном файле после выполнения команды:

./autogen.sh -l

Проверить работу морфоанализатора можно программой lookup:

lookup src/analyser-gt-desc.xfst

Hfst2.png

Где V, Ind, Fut, Sg1... - грамматические теги

Выход из программы: комбинация клавиш CTRL + C.

Исходные коды

Исходники находятся в папке src.

В папке src/phonology находятся следующие файлы:
Makefile
Makefile.am
Makefile.in
kpv-phon.compose.hfst
kpv-phon.compose.xfst
kpv-phon.lookup.hfst
kpv-phon.lookup.xfst
kpv-phon.xfscript - ранее он назывался kpv-phon.twolc

А в папке src/morphology следующие папки и файлы:
Makefile
Makefile.am
Makefile.in
affixes - аффиксы
generated_files
incoming
lexicon.hfst
lexicon.lexc
lexicon.xfst
missing6freq.txt
missingfreq.txt
root.lexc
stems - стемы (основы)

В папке src/morphology/affixes видим следующие файлы:
adjectives.lexc
adpositions.lexc
adverbs.lexc
conjunctors.lexc
interjections.lexc
nouns.lexc
particles.lexc
pronouns.lexc
propernouns.lexc
quantifiers.lexc
verbs.lexc

А в папке src/morphology/stems следующие файлы:
Not-V_kvru-lex.xml
abbreviations.lexc
acronyms.lexc
adjectives-russian-like.lexc
adjectives-russian-like.xml
adjectives-russian-like_newwords.lexc
adjectives.lexc
adjectives.xml
adjectives_newwords.lexc
adpositions.lexc
adpositions.xml
adverbs.lexc
adverbs.xml
adverbs_newwords.lexc
conjunctors.lexc
conjunctors.xml
descriptives.lexc
descriptives.xml
exceptions.lexc
gerunds.lexc
gerunds.xml
interjections.lexc
interjections.xml
mwe-adjectives.xml
mwe-nouns.xml
mwe-verbs.xml
nouns-acronyms.xml
nouns-deverbal.lexc
nouns-deverbal.xml
nouns-russian-homographs.lexc
nouns-russian-homographs.xml
nouns.lexc
nouns.xml
nouns_newwords.lexc
participles.xml
particles.lexc
particles.xml
pronouns.lexc
pronouns.xml
propernouns-malenames-cyrillic.lexc
propernouns-malenames-cyrillic.xml
propernouns-malesurnames-cyrillic.lexc
propernouns-malesurnames-cyrillic.xml
propernouns-toponyms-Russian.lexc
propernouns-toponyms-Russian.xml
propernouns.lexc
propernouns.xml
propernouns_newwords.lexc
punctuation.lexc
quantifiers.lexc
quantifiers.xml
verbs-A2M.lexc
verbs-A2M.xml
verbs-N2END.lexc
verbs-N2END.xml
verbs_newwords.lexc

Некоторые команды

Перейти в папку ~/main/langs/kpv:

cd ~/main/langs/kpv

Перейти в домашнюю папку:

cd ~/

Перейти на 1 уровень вверх:

cd ../

Перейти на 2 уровня вверх:

cd ../../

Редактирование файла text.txt текстовым редактором gedit:

gedit text.txt

А для Mac OS:

see text.txt

Для отправки на SVN ваших изменений, например, изменили файлы test1.xml, test2.xml, используйте команду:

svn ci -m "внесение исправления в файлы test1.xml, test2.xml."

Ссылки