Предварительная обработка текстов учебников

Материал из Wiki FU-Lab
Перейти к навигации Перейти к поиску
  1. Сканируем, распознаем и вычитываем текст в программе ABBYY FineReader.
  2. Сохраняем текст в файл name.odt и просматриваем его в программе LibreOffice Writer на предмет ошибок с помощью спелл-чекера komi.oxt.
  3. Копируем текст учебника в name.txt файл. > копия уходит в корпус коми языка.
  4. В оставшейся копии, назовем ее name_kv.txt, проводим автоматическую разбивку на предложения скриптом pt.py (в Linux'е!).
  5. Включаем в xed / gedit коми спеллер и удаляем подчеркиваемый контент на русском языке и поурочные словарики.
  6. Ищем по поиску все строки, не заканчивающиеся точкой, восстанавливаем единство предложений в стихотворных отрывках и удаляем все строки, не содержащие предложения / словосочетания.
  7. Сортируем все строки по алфавиту с автоматическим удалением повторов.
  8. Удаляем нумерацию и повторяющиеся начальные элементы строк.
  9. Повторно сортируем и просматриваем весь текст, заполняя пропуски, восстанавливая сознательно нарушенный порядок предложений и т.п. (для справки смотрим исходный файл name.txt или name.odt).
  10. Проводим контрольную вычитку всех строк в name_kv.txt.
  11. Делаем копию файла, назвав его name_ru.txt, в которой все строки поочередно переводим, заменяя коми предложение / словосочетание русским.
  12. В программе WinMerge, открыв name_kv.txt и name_ru.txt, проводим контрольную сверку оригинала и перевода, попутно выравнивая строки двух файлов (если случайно была нарушена последовательность строк).
  13. Сохраненные файлы с параллельными текстами name_kv.txt и name_ru.txt готовы для дальнейшей обработки программистами.