Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Instituto Federal do Espírito Santo Bacharelado em Sistemas de Informação

Sistema web de arquitetura modular para processamento de corpora

Ádler Oliveira Silva Neves

Orientador: Me. Ernani Leite Ribeiro Filho

Sumário O título do trabalho

Sistema .5 (“elementos que interagem para realizar objetivos”^{1})

web .5 (navegadores, cliente-servidor, HTML, HTTP)

de arquitetura

modular

para processamento de

corpora

1STAIR, R. M.; REYNOLDS, G. W. Princípios de Sistemas de Informação. 9^{a} ed. São Paulo: Cengage Learning, 2011. ISBN: 978-85-221-0797-1. p. 7.

Figura 1: As tecnologias utilizadas nos diferentes espaços do sistema

Fonte: O autor

O título do trabalho

Sistema

web

de arquitetura .5 (como os elementos estão organizados)

modular .5 (baixo acoplamento, plug-ins)

para processamento de

corpora Figura 2: A arquitetura modular utilizada no sistema

Fonte: O autor

O título do trabalho

Sistema

web

de arquitetura

modular

para processamento de .5 (o objetivo é processar algo)

corpora .5 (entrada do sistema)

Corpus

plural: corpora

O que é? Um conjunto de textos relevante para estudar um determinado grupo de pessoas ou um ramo do conhecimento^{2}. Uma aplicação?

Compilação das palavras mais frequentes da língua inglesa em 1921; Revolução no ensino de inglês enquanto língua estrangeira.

De qual área do conhecimento estamos falando?

Processamento automático da linguagem natural; Linguística de corpus.

2TAGNIN, S. E. Glossário de linguística de corpus. São Paulo: HUB Editorial, 2010. p. 358.

Processamento automático da linguagem natural Tratamento computacional das estruturas da língua que se repetem.

Linguística de corpus O estudo da língua a partir de seus usos em conjuntos de documentos que representam a área estudada.

O domínio da linguística de corpus

Figura 3: Evolução do tamanho dos corpus no tempo

Fonte: Visualização produzida pelo autor com os dados de Sardinha^{3}

3SARDINHA, Tony Berber. Lingüística de Corpus: histórico e problemática. DELTA, São Paulo, v. 16, n. 2, p. 323-367, 2000. Disponível em: <http://dx.doi.org/10.1590/S0102-44502000000200005>. Acessado em: 28 jun 2018. p. 330.

Uma aplicação Compilação das palavras mais frequentes da língua inglesa em 1921; Revolução no ensino de inglês enquanto língua estrangeira.

Até década de 1960: processamento manual lento, caro e passível de erros; Computadores se popularizaram; 51% do total de domicílios brasileiros de estudantes possuem acesso à internet^{4}; E que ferramentas computacionais para processar corpora temos hoje?

4CETIC.BR. Pesquisa sobre o uso das tecnologias de informação e comunicação nas escolas brasileiras - tic educação 2015. 2016.

Ferramentas para linguística de corpus

que fazem o processamento automático da linguagem natural

É o que o WordSmith faz; .5 (pago) É o que o CorpusEye faz; .5 (limitado) É o que o SketchEngine faz; .5 (pago) É o que o Unitex/Gramlab faz; .5 (limitado) É o que o COCA Online Corpus faz; .5 (limitado) É o que o sistema proposto pelo título fará:

O que ele faz que os outros não fazem?

Público alvo:pesquisadores linguistas, professores de letras, alunos de línguas ou tradutores que não programam.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O que falta nos atuais?

Tabela 1: Tabela comparativa resumida de softwares de Processamento de Linguagem Natural

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Geral

Objetivo geral

Desenvolver uma aplicação web de código aberto para marcação e busca de partes do discurso em corpora, visando ampliar as funcionalidades em relação a softwares similares existentes e com interface amigável ao usuário.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Específicos

Objetivos específicos

Analisar comparativamente os recursos das ferramentas WordSmith, CorpusEye, COCA Online Corpus, Unitex/GramLab e Sketch Engine; Desenvolver ou adaptar um módulo extrator de sentenças; Desenvolver ou adaptar um módulo extrator de lista de palavras; Desenvolver ou adaptar um módulo etiquetador de partes do discurso que atue sobre sentenças; Desenvolver ou adaptar um módulo concordanciador que suporte busca por etiquetas; Integrar os módulos desenvolvidos ou adptados numa aplicação web; Disponibilizar uma ferramenta livre para uso educacional.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Um overview sobre os objetivos

Análise comparativa

Tabela 4, seção 3.1; .5 (p. 29) Várias funcionalidades desejáveis:

Não há tempo hábil para implementar todas;

A tabela ?? era uma versão resumida desta; Deu origem aos objetivos subsequentes.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Um overview sobre os objetivos

Separador de sentenças

Separador de frases

O que faz: Separa um texto em frases; Desafios: Siglas, abreviações e abreviaturas; .5 (Sr., Sra.,

V.Exa.)

Implementação:Adaptada do Unitex/Gramlab;

Figura 4: Lista de sentenças do Unitex/GramLab sobre o livro Senhora de José de Alencar

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Um overview sobre os objetivos

Extrator de lista de palavras

O que faz: Identifica as palavras do texto e as classifica como simples ou composta, seu lema, e suas possíveis flexões;

Implementação:Adaptada do Unitex/Gramlab;

Figura 5: Lista de palavras do Unitex/GramLab sobre o livro Senhora de José de Alencar

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Um overview sobre os objetivos

Concordanciador

O que faz: “extrai todas as ocorrências de uma palavra de busca

num corpus juntamente com seu cotexto [...]”^{5};

Implementação:Própria.

Figura 6: Concordâncias para a palavra “amigo” gerada pelo Unitex/GramLab sobre o livro Senhora de José de Alencar

Fonte: O autor

5TAGNIN, S. E. Glossário de linguística de corpus. São Paulo: HUB Editorial, 2010. p. 358.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Um overview sobre os objetivos

Etiquetador de partes do discurso

O que faz: Atribui etiquetas de partes do discurso a cada palavra da sentença;

Desafios: Ambiguidades; .5 (“casa” é verbo ou substativo?) Implementação:Se o treinamento do Unitex/Gramlab obtiver

precisão^{6} maior que 75%, será utilizado o etiquetador deste; caso contrário, serão utilizados os etiquetadores treinados por Aires^{7}, priorizados por precisão.

6“denota a proporção de casos preditos como positivos que são considerados positivos reais” POWERS, D. Evaluation: From Precision, Recall and F-Measure To Roc, Informedness, Markedness Correlation. Journal of Machine Learning Technologies, v. 2, n. 1, p. 37–63, 2011. ISSN 2229-3981. p. 38.

7AIRES, R. V. X. Implementaçao, adaptaçao, combinação e avaliação de etiquetadores para o português do Brasil. 154 p. Tese (Doutorado) — Universidade de São Paulo, São Carlos, 2000.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Um overview sobre os objetivos

Etiquetador de partes do discurso

Figura 7: Etiquetador do Unitex/GramLab sobre o livro A Volta ao Mundo em 80 Dias de Júlio Verne

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Aprofundando nos objetivos

Concordanciador

Problemas a serem resolvidos:

Figura 8: Tela de busca do concordanciador do COCA Online Corpus

Fonte: O autor

Qual a sintaxe disso? Como busco por etiquetas? Como o servidor vai entender o que digitei? O que eu queria buscar é o que o servidor me retornou?

Concordanciador

Ações possíveis:

Busca por etiqueta;

Busca por palavra exata ou partes desta;

Intervalo de fixo ou variável de palavras a ignoradas; Combinação das anteriores.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Aprofundando nos objetivos

Treino do etiquetador

1 de 3

Corpus: Floresta Sintática^{8} .5 (ordem de milhão de amostras) Etiquetador:Unitex/GramLab

Problema: Qual o significado das etiquetas de saída? Documentação incompleta; Dos 5 artigos citados, apenas um era de acesso público e não trazia dados sobre o significado das etiquetas.

Problema: O resultado obtido se compara a quê? O que seria um resultado ruim?

8LINGUATECA. Projecto Floresta Sinta(c)tica. 2010.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Aprofundando nos objetivos

Treino do etiquetador

2 de 3

Desenvolvido outro etiquetador, para ser o parâmetro de ruim:

Corpus: Floresta Sintática^{9} .5 (ordem de milhão de amostras) Etiquetador:YAS-Tagger Funcionamento:5 tabelas associativas de trigramas, bigramas e

unigramas para etiqueta;

Resultados inesperados levaram à dúvida: “qual seria o impacto se o corpus fosse uma ordem de grandeza menor?”

9LINGUATECA. Projecto Floresta Sinta(c)tica. 2010.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Aprofundando nos objetivos

Treino do etiquetador

3 de 3

Corpus: Aires^{10} .5 (ordem de centena de milhar de amostras) Etiquetador:YAS-Tagger

10AIRES, R. V. X. Implementaçao, adaptaçao, combinação e avaliação de etiquetadores para o português do Brasil. 154 p. Tese (Doutorado) — Universidade de São Paulo, São Carlos, 2000.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Aprofundando nos objetivos

Treinos dos etiquetadores

1 Floresta Sintática + Unitex/GramLab 2 Floresta Sintática + YAS-Tagger 3 Aires + YAS-Tagger

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Treino do etiquetador

Floresta Sintática + Unitex/GramLab

Precisão ≈ 60,76%; Precisão concentrada em 3 das 4 etiquetas mais frequentes:

PREP; PRON; V;

A frequência das etiquetas da saída do etiquetador não apresenta uma clara correlação com a frequência no treino e teste.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Treino do etiquetador

Floresta Sintática + Unitex/GramLab

Figura 9: Prevalência das 15 etiquetas mais frequentes do conjunto de treino, teste e etiquetado pelo Unitex/GramLab

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Treino do etiquetador

Floresta Sintática + YAS-Tagger

Precisão ≈ 76,93%; Precisão distribuída mais uniformemente por etiqueta; A frequencia no conjunto de saída do etiquetador é sempre menor que a frequência desta no treino e teste;

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Treino do etiquetador

Floresta Sintática + YAS-Tagger

Figura 10: Prevalência das 15 etiquetas mais frequentes do conjunto de treino, teste e etiquetado pelo YAS-Tagger

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Treino do etiquetador

Aires + YAS-Tagger

Precisão ≈ 53,40% (queda de 23,56%);

A etiqueta “???” agora representa 33,74% da saída do etiquetador:

aumento de 138%

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Treino do etiquetador

Aires + YAS-Tagger

Figura 11: Prevalência das 15 etiquetas mais frequentes do conjunto de treino, teste e etiquetado pelo YAS-Tagger sobre o copus de Aires

Fonte: O autor

Etiquetador Precisão
MXPOST  89, 66%
Brill Tagger 88, 76%
Tree Tagger 88, 47%
YAS-Tagger 76, 93%
Unitex/GramLab 60, 76%

Tabela 2: Comparação da precisão entre os etiquetadores MXPOST, Brill Tagger, Tree Tagger, YAS-Tagger e Unitex/GramLab

Fonte: Aires^{11} e o autor.

11AIRES, R. V. X. Implementaçao, adaptaçao, combinação e avaliação de etiquetadores para o português do Brasil. 154 p. Tese (Doutorado) — Universidade de São Paulo, São Carlos, 2000. p. 82.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

O sistema desenvolvido

                  https://corpusslayer.com

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 12: Página inicial do sistema desenvolvido

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 13: Detalhe do seletor de idiomas, desktop em cima e em dispositivos móveis em baixo

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 14: Página inicial do sistema desenvolvido, mostrando a listagem dos corpora dum usuário

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 15: Lista de documentos dum corpus

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 16: Opções de análises para um corpus

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 17: Lista de sentenças dum corpus

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 18: Lista de palavras dum corpus

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 19: Corpus processado pelo Tree Tagger

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 20: Tela de busca do concordanciador

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 21: Tela de resultados do concordanciador

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 22: Visualização de documento a partir dum clique na seta para trás

Fonte: O autor

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

O sistema desenvolvido

Figura 23: Listagem de documentos a partir dum clique na seta para trás

Fonte: O autor É possível conseguir uma ferramenta comparável às pagas apenas integrando softwares gratuitos existentes; Este trabalho deixa uma fonte de inspiração para concordanciadores existentes e futuros uma para aumentar a usabilidade destes por usuários inexperientes; Unitex/GramLab tem uma documentação incompleta que cobre apenas o uso da interface.

Introdução ao tópico O título do trabalho O domínio da linguística de corpus Objetivos Desenvolvimento Resultados obtidos  Conclusão

Trabalhos futuros

Trabalhos futuros

Garantir que o sistema desenvolvido seja acessível por cegos; Adicionar interoperabilidade do sistema desenvolvido com outros sistemas que usam este como execução remota de procedimento; Adicionar elementos de rede social, de foma a ser possível compartilhar resultados entre pesquisadores; Implementar todos os requisitos levantados, mas não concretizados neste trabalho; Implementar pontuador automático para auxiliar pessoas com dislexia.

Perguntas?