GPT e modelos de linguagem: disciplina da pós-graduação do CIn-UFPE 

Finalizamos, eu e o prof. Tsang, a primeira disciplina do CIn a abordar Generative Pre-trained Transformer (GPT) e Large Language Models (LLM), intitulada: GPT: métodos e desafios de modelos de linguagem. A disciplina foi oferecida para alunos de mestrado e de doutorado da pós-graduação em Ciência da Computação do CIn-UFPE.

Ao ser lançado, o ChatGPT nos fez refletir sobre várias possíveis direções quanto ao seu uso e quanto ao alcance de suas potencialidades. Aplicações como tradução, sumarização de documento, construção de textos, entre outras, atingiram novos patamares e deixaram vários métodos/estratégias/algoritmos obsoletos. 

Para a construção de plataformas semelhantes ao ChatGPT, diversas tecnologias foram agregadas de forma inteligente para obtermos os resultados que enxergamos hoje. Uma dessas tecnologias consta na sigla do GPT, o “T” é de  Transformers (mais detalhes neste link) que é uma rede neural para treinar LLMs em grandes bancos de dados. 

Os LLMs transformaram a área de processamento de linguagem natural e compõem a base de uma ampla gama de sistemas de última geração que têm demonstrado uma excelente capacidade de gerar textos legíveis e fluidos. Porém, como toda nova tecnologia, esses modelos trazem consigo novos desafios, entre eles, desafios relacionados a aspectos éticos e de escalabilidade. A disciplina focou em fundamentos e, também, em diversos aspectos relacionados ao uso destes modelos.

Nesta primeira edição, o curso contou com a participação de 27 alunos (13 de doutorado e 14 de mestrado). Os orientadores desses alunos, no programa de pós-graduação do CIn, formam um grupo heterogêneo composto por 16 professores que atuam em diversas áreas, tais como: inteligência artificial, aprendizagem de máquina, ciência de dados, otimização, realidade aumentada e engenharia de software. 

Esta diversidade trouxe desafios, mas, foi frutífera, em especial, nas discussões que expuseram pontos de vistas que, embora convergentes, tinham alvos díspares. Por outro prisma, esta diversidade também reforça a ubiquidade da aprendizagem de máquina nas mais diversas áreas de pesquisa.

Sigamos para a próxima edição!

Como irritar seu orientador?

Em post anterior, discuti as atribuições do orientador que representam apenas uma parte da engrenagem. A orientação é um trabalho em conjunto, uma parceria. Logo, é fundamental que os alunos saibam quais são suas atribuições e obrigações. Estar plenamente consciente, em relação às responsabilidades de cada parte, torna a jornada mais simples. Além do mais, fazer um doutorado é, por si só, uma aventura desafiadora.

Uma maneira de abordar a questão, sobre as responsabilidades do aluno, é listar o que se espera de um bom estudante. Entretanto, vou focalizar o problema por uma perspectiva diferente. Ao invés de elencar os desejáveis atributos de um aluno, vou indicar os comportamentos dos alunos que mais irritam os orientadores. Assim, caso um estudante deseje contrariar o orientador e fazê-lo perder a paciência, esse será seu guia.

Sumir

Simplesmente, desapareça. Não responda e-mail. Não se comunique nem por sinal de fumaça. Essa é a maneira mais simples de irritar seu orientador. Durante o período de orientação, o aluno e o orientador devem ter reuniões regulares e, provavelmente, várias reuniões curtas, diria até, informais. O estudante deve aproveitar esses momentos não apenas para se familiarizar no enredo da pesquisa, mas também para melhor entender o microcosmos da academia.

Entregar um relatório desleixado

Avaliar um relatório mal escrito, mal formatado e desorganizado é uma tarefa desagradável. Se o próprio autor do relatório não é zeloso com sua obra, por que os outros devem ser? O estudante deve cuidar de todos os detalhes: fonte, espaçamento, figuras, tabelas, equações, referências, uso correto da linguagem, escrita científica, entre outros. Vale destacar que o orientador não é um corretor ortográfico e nem um professor de português (ou de inglês). Ele é o especialista no assunto da pesquisa. Assim, não desperdice o tempo dele com atividades simples que você poderia facilmente realizar, como usar um corretor ortográfico. Dica: ao finalizar o relatório, guarde-o por um tempo e depois releia-o prestando atenção tanto à forma quanto ao conteúdo. Você, provavelmente, encontrará vários pontos de melhoria antes de enviá-lo ao seu orientador.

Não cumprir prazos

Prometeu, cumpra. Se não está certo de quanto tempo necessitará para escrever um relatório, para sintetizar os artigos do estado-da-arte ou para avaliar/implementar um técnica, simplesmente infome que precisa de uns dias para melhor estimar e planejar as atividades. Porém, depois que o cronograma estiver pronto, informe o seu orientador e cumpra-o. Imprevistos ocorrem com todos. Entretanto, não informar que irá se atrasar e não explicar o motivo, fere o acordo previamente firmado.

Pedir ajuda antes de tentar resolver o problema sozinho

“Professor, como faço para adicionar uma equação no Latex? Qual é a data da matrícula?” Esse tipo de pergunta, certamente, deixará o orientador irritado, pois, com um mínimo de pró-atividade, o aluno resolveria essas questões facilmente. Para a primeira questão, resolva conversando com outros estudantes ou buscando na Internet, google it! Já para a segunda questão, uma ida a secretaria, ou ao site do programa, seria suficiente. Novamente, não gaste o tempo do seu orientador com atividades pouco proveitosas para o âmago do seu doutorado.

Sair da reunião sem a menor noção do que foi discutido

Ao final de uma reunião com o orientador, o aluno sai com algumas tarefas definidas. Ao regressar à sala do orientador, quinze dias depois, o aluno informa ao orientador que não realizou o experimento acordado, pois não entendeu o que foi solicitado na reunião. Para sanar esse tipo de situação: pergunte! Peça ajuda. O orientador não lerá a sua mente. Dica para o orientador: peça para o aluno lhe explicar o que foi planejado para os próximos dias. Visto que, o aluno só conseguirá explanar o que entendeu. Dica ao aluno: ao final da reunião escreva uma e-mail/ata com o que foi discutido e acordado na reunião. Caso o aluno tenha esquecido algo, ou incompreendido algum ponto, o orientador estará ciente e poderá auxiliar.

Concordar com tudo o que o orientador diz

Concorda com tudo? Esse é o seu doutorado! No início é natural que você concorde com muito do que é dito pelo orientador; além do mais, ele é o pesquisador experiente. Mas, ao longo do percurso, o aluno deve amadurecer e começar a liderar algumas iniciativas relacionadas ao desenvolvimento da pesquisa.


As principais causas de conflitos entre alunos e orientadores são: i) os alunos reclamam da falta de feedback do supervisor e ii) os orientadores reportam falta de habilidade em pesquisa do aluno.

Diante do exposto, é dever de ambos manter uma relação respeitosa, amigável e construtiva. Mas, do ponto de vista do estudante, ele pode controlar melhor a relação se: i) cumprir os prazos, ii) preparar-se para as reuniões, iii) estar aberto a receber críticas, e iv) demonstrar conhecimento e amadurecimento na área da pesquisa.

Atribuições do orientador

Vários fatores podem influenciar a busca pelo título de doutor, ou de mestre, e esses fatores são classificados em internos e externos. Motivação, autoestima e confiança são exemplos de fatores internos. Dentre os fatores externos, é possível citar: vida pessoal, financiamento da pesquisa, estrutura do departamento, além, claro, da supervisão/orientação.

De todos os fatores, a supervisão é o mais importante para se alcançar o sucesso almejado pelas instâncias envolvidas: aluno, orientador, programa de pós-graduação e sociedade.

O trabalho de supervisionar o aluno é atribuição do orientador (tipos de orientador). A relação do orientador com o orientando varia de orientação para orientação. Cada aluno possui características particulares que devem ser levadas em consideração durante o progresso da pesquisa. Mas, independente dessas especificidades, podem-se listar algumas atribuições/propriedades de uma boa orientação, tais como:

Dedicação/Disponibilidade: refere-se ao tempo que o orientador dispõe para trabalhar com o estudante. É imprescindível que tenham reuniões regulares, assim, o orientador pode aferir o andamento da pesquisa e o amadurecimento do aluno, e o aluno pode ser aconselhado mais rapidamente. Dicas para o aluno: i) antes da reunião, envie um relatório reportando os avanços alcançados, bem como as limitações/desafios, e, ii) sempre, ao final de uma reunião, envie um email/ata registrando o que foi discutido.

Condução/Opiniões precisas: a pesquisa é uma tarefa mal-definida (ill-posed problem) que pode gerar ansiedade e sensação de estar andando em círculos. Um bom orientador deve ser capaz de i) auxiliar o aluno a desbravar esse ambiente recheado de incertezas, e ii) dar opiniões precisas sobre alternativas para os percalços que sucedem durante a pesquisa. Também é papel do orientador sugerir um redirecionamento da pesquisa caso perceba que uma “rua sem saída” se avizinha. Esse acompanhamento, constante e próximo, tem por objetivo verificar se a tese será finalizada no prazo, além de informar, de maneira clara, caso tenha chegado o momento de interromper a parceria.

Suporte/Relação de apoio: é senso comum que, para orientar, é necessário conhecimento técnico aprofundado na área da pesquisa. Sem tal conhecimento, o orientador fica impossibilitado de guiar o aluno nos meandros da pesquisa. Mas, apenas dominar técnicas e métodos não é suficiente. O bom orientador deve dispor de algumas características pessoais que facilitem sua comunicação com os orientandos. Ele deve inspirar o aluno e ser um entusiasta na pesquisa, além de ser respeitoso e altruísta. Tais características permitem que o aluno sinta-se mais seguro em relação aos desafios da pesquisa e, também, ajudam-no a desenvolver habilidades fundamentais para sua vida profissional.

Mesmo correndo o risco de ser redundante, reforço que é atributo do orientador revisar e avaliar relatórios, artigos e teses de seus orientandos em um prazo viável. Se um artigo, uma proposta de tese ou mesmo uma tese ou dissertação ainda não tem a qualidade necessária para ser submetido aos avaliadores, o orientador tem o dever de comunicar isso ao aluno e, também, de ajudá-lo indicando o que é preciso ser melhorado.

Por outro lado, vale salientar que o aluno deve estar ciente que o orientador possui várias atividades, além da orientação. Assim, o aluno deve escrever seu documento de uma maneira que facilite a vida do orientador e que lhe desperte o desejo de ler aquele documento o quanto antes. Mas, as atribuições dos alunos é assunto para outro post.

É papel do orientador manter a sinergia durante o fluxo de trabalho. Não é papel do aluno provar para o orientador que ele consegue fazer pesquisa sozinho, pois, se assim fosse, o orientador seria desnecessário. A pesquisa deve ser desenvolvida em conjunto, é uma parceria na qual o aluno está sendo treinado para realizar pesquisa de alto nível. Desse modo, a qualidade do processo de supervisão pode ser definida como uma função que mede a interação entre orientador e orientando.

Afinal, orientadores disponíveis, que deem opiniões precisas e que mantenham uma relação profissional saudável, podem ser decisivos na formação da próxima geração de pesquisadores.

Tipos de orientador

O orientador é o responsável por guiar e auxiliar o treinamento em pesquisa de alunos em diversos níveis, e.g., mestrado e doutorado. Essa é uma tarefa desafiadora que deve formar o aluno, facilitar seu entendimento sobre as bases da ciência e gerar conhecimento.

Entretanto, não existe uma fórmula mágica. Cada orientação é única. A relação entre o orientador e o aluno envolve diversos fatores de ambas as partes, tais como: background, desejos, expectativas e motivação. Em razão disso, a orientação é um processo personalizado, ou seja, um orientador se comporta de maneira diferente mesmo entre seus alunos.

São vários os estilos de orientação. Existe orientador que sempre está presente, e o que nunca aparece; tem o orientador experiente, e até, o marinheiro de primeira viagem; tem o orientador inseguro, e também, aquele que sempre tem uma opinião precisa sobre os próximos passos. A lista é vasta…

Tomando como base minha experiência, elenquei alguns tipos de orientador. Está é uma lista particular que não tem a pretensão de ser exaustiva. Mas, pode ajudar a identificar algumas características desejáveis ou não do seu (futuro) orientador, e também, pode servir para que você saiba que não está só.

Fantasma

Esse orientador nunca aparece, logo não faz ideia das questões de pesquisa que o aluno está desbravando. Esse tipo também é conhecido como orientador tartaruga, pois põe os ovos na praia (ou seja, aceita os alunos sob sua tutela) e desaparece. Para alunos autônomos, esse tipo de orientador pode funcionar até o momento em que uma crise se avizinha (e tais momentos desafiadores sempre chegam). Mas, para os alunos que precisam de suporte com certa frequência, é, sem dúvida, um pesadelo, uma angústia.

Superstar

É uma estrela de grande magnitude. Encontros são raros. Uma vantagem é que esse tipo de orientador pode abrir portas no futuro e, também, facilitar a obtenção de recursos para o desenvolvimento da pesquisa. Por outro lado, não é incomum que os alunos sejam compelidos a realizar tarefas de ensino e tarefas administrativas para o orientador, em detrimento de sua pesquisa.

Sufocador

Esse orientador deseja saber, em detalhes, todos os passos dos alunos, dentro e fora do ambiente de pesquisa. É controlador e busca a vida dos alunos nas redes sociais. Vai todos os dias, de manhã e de tarde, verificar se o aluno está no laboratório. Cada reunião, em particular ou em grupo, é um processo inquisitório e exaustivo. Quando chega ao ponto de desprestigiar tudo o que o aluno apresenta, é um tormento.

Clone

Esse tipo de orientador deseja que o aluno seja sua réplica em relação à visão de mundo. Os alunos devem trabalhar para solidificar o que o orientador construiu e, assim, aumentar sua reputação. Um aluno muito “criativo” pode ser “podado”. Nesses casos, é comum verificar que a relação patrão-empregado permanece por muito tempo após a defesa.

Generalista

Esse orientador está disposto a “orientar” alunos em qualquer área do conhecimento; é o sabe-tudo. Qualquer tópico de pesquisa existente ou não nessa galáxia, ou em outra, é assunto do seu interesse. Além do mais, ele se acha o maior especialista no assunto, ou melhor, em qualquer assunto. Rapidamente, o aluno percebe que está órfão no tema escolhido.

Amigão

Esse orientador é, normalmente, presente, mas nunca dá uma crítica contundente. Sempre bonzinho, incapaz de desafiar o aluno, mesmo nas situações em que o aluno não cumpre as obrigações. Muitas vezes se mostra indiferente ao progresso na pesquisa, mas reforça o relacionamento pessoal.


Os orientadores são amálgamas das diferentes personas listadas acima, e de algumas não listadas. Independente do caso, o orientador deve enxergar que o aluno está em processo de treinamento para, em breve, se tornar um colega de profissão. Esse é um relacionamento profissional e, como tal, cada um deve ter seu papel claramente delimitado e seu trabalho respeitado.

Definição do tema de pesquisa

A escolha do tema é uma etapa desafiadora e deve ser realizada antes do início da pesquisa. A diversidade de possíveis temas é imensa. Porém, independente da escolha, é importante verificar algumas questões que podem indicar se um caminho promissor será trilhado. Seguem algumas perguntas (figura a seguir) que devem ser levadas em consideração para ajudar nessa escolha:

Afinco e dedicação passam a ser palavras de ordem quando se trabalha em algo que se tem interesse, algo que supõe-se promissor. Essa motivação extra, que advém do prazer associado ao desenvolvimento de algo que lhe é importante, contribuí, uma enormidade, para se atingir o objetivo. Escolha um tema do seu interesse ou se interesse por um tema que lhe foi sugerido.

Caso você ainda não tenha conhecimento amplo sobre o tema, você deve estar disposto a amadurecer rápido. Esse amadurecimento será guiado pelo orientador. Ele lhe indicará referências (artigos, livros, teses, entre outras) que, por sua vez, devem ser de fácil acesso.

Outra questão diz respeito aos dados para realizar a pesquisa. Se os dados estiverem disponíveis, um trabalho a menos. Mas, se você tiver que coletar os dados, tenha o cuidado de analisar a viabilidade e, também, o tempo necessário para essa tarefa. Falando em tempo, averigue se o cronograma cabe no tempo que você dispõe para desenvolver a pesquisa.

Ligue o sinal de alerta se você respondeu não para alguma questão acima, pois o trabalho já é árduo quando essas variáveis estão sob controle. Para os que responderam sim, sucesso na pesquisa.

Competências de um doutor

Um doutorado inicia-se com a escrita de um projeto contendo pelo menos uma questão original. Essa questão é avaliada e o projeto se transforma em uma tese que é defendida em um evento público. De maneira simplista, esses são os passos para a obtenção de um título de doutor.

Além de ser aprovado na defesa de tese, o doutorando almeja produzir um documento relevante e de alta qualidade. Esses também são os anseios dos programas de pós-graduação e dos orientadores, pois esses documentos respaldados pelo método científico podem gerar papers. Mas, do ponto de vista de formação para o mercado, seja academia ou indústria, quais competências esse recém-doutor deve ter?

competencia-dic

Vários fatores são basilares para a geração de doutores de alta qualidade. Entre eles, é possível destacar:

Orientação: o orientador deve ser especialista na área do projeto de pesquisa e deve ter tempo para trabalhar com o aluno;

Instituição: o ambiente de pesquisa no qual o aluno está inserido deve propiciar condições para que a pesquisa seja desenvolvida tanto em relação a equipamentos/infra-estrutura quanto em relação ao convívio com outros pesquisadores; e,

Financiamento: o aluno deve ter acesso a recursos financeiros para dedicar-se ao doutorado.

Entretanto, esses três fatores são necessários mas não garantem o sucesso. Daí surge a pergunta: como verificar se um doutorando reune as competências para se tornar doutor? Ao perguntar quais competências o doutorando precisar ter para obter o título de doutor, a resposta mais comum é provavelmente a seguinte: você deve ser um especialista em sua área de pesquisa e, além disso, deve ser capaz de desenvolver pesquisa de alto nível sem a ajuda do seu orientador e, também, deve ser capaz de ajudar na formação de uma nova geração de pesquisadores.

Diante da resposta dada no parágrafo anterior, não é possível delinear de maneira clara e precisa quais são as exigências/competências requeridas para se tornar um doutor. Essa imprecisão gera desconforto e insegurança no doutorando e não ajuda o programa de pós-graduação a aferir a qualidade de seus formandos. Com o intuito de iniciar uma discussão e minimizar esse desconforto, descrevo a seguir algumas competências que são vitais para a formação de um doutor.

Conhecimento

O doutorando deve conhecer muito bem a área de pesquisa do seu doutorado e deve ter conhecimento profundo em uma das linhas de pesquisa dessa área. Por exemplo: um pesquisador que trabalha na linha de pesquisa de “sistemas de múltiplos classificadores” deve ter um bom conhecimento em aprendizagem de máquina.

Pensamento crítico

A busca pela questão de pesquisa, que será o foco do doutorado, passa pela análise crítica de trabalhos previamente publicados. Ao lermos trabalhos da literatura, devemos não apenas absorver o conhecimento neles acumulados, mas também, devemos ponderar sobre possíveis caminhos não percorridos. Importante destacar que essa análise deve ser balizada por hipóteses plausíveis que diminuam o amplo espectro de possibilidades caso adotássemos uma busca cega baseada em tentativa e erro. Dica: fique alerta se você não encontra possíveis alternativas ou pontos de melhorias nos trabalhos que lê.

competencia

Habilidade para realizar experimentos

Delinear o protocolo para realizar um experimento correto, no qual a pergunta de pesquisa será respondida a contento, é uma competência requerida e que deve ser aprendida ao longo do doutorado. Durante o planejamento dos experimentos, questione (lista não exaustiva) se o tamanho da amostra é adequado, se nenhum erro foi cometido, se os métodos selecionados são apropriados e se o aparato estatístico está aderente aos dados que você possui. Ao realizar experimentos, deve-se estar atento ao viés de confirmação. Este viés ocorre quando o pesquisador está tão imerso em sua pesquisa que não consegue enxergar alguns pontos cruciais que podem afetar a plausibilidade de suas conclusões. 

Habilidade para trabalhar em grupo e liderança

Para se trabalhar bem em equipe, é necessário ganhar a confiança do grupo, ser respeitoso, firme e empático. Assim, seja como aluno de doutorado, como orientador, após finalizar seu doutorado e ingressar na vida acadêmica, ou como empregado em uma indústria, certamente você trabalhará em uma equipe. Em todos esses ambientes, o mais importante é trabalhar como uma equipe e não apenas trabalhar em uma equipe. Para que uma equipe funcione bem é preciso um líder. No caso específico de uma equipe formada por um orientador e seus alunos, o orientador é o líder e, ele deve gerenciar os liderados sabendo que cada um possui uma pesquisa particular e que cada orientação é diferente.

Comunicação

A última etapa do método científico é “reportar os resultados/conclusões”. Assim, habilidades de escrita e de exposição oral do trabalho são mandatórias para melhor divulgar a pesquisa. Na vida acadêmica, as pesquisas são compartilhadas com a comunidade científica através de artigos em revistas e em congressos. Além disso, as agências de fomento, que concedem financiamento para a pesquisa, avaliam pedidos de projetos de pesquisas. Logo, artigos e projetos de pesquisa mal-escritos serão recusados.

Resiliência e determinação 

Pesquisa é um processo de se aventurar pelo desconhecido. Ao investigar um problema original e importante, inerentemente, o doutorando desbravará terras inexploradas. Nessa aventura, é necessário ser resiliente e determinado para não desistir antes do término. Adianto que tais características de sobrevivência serão bastante úteis na vida futura do doutor.

As competências listadas não estão em ordem de importância. Mas, juntas, elas compõem um corpo de atributos que fortalece os alicerces para a formação de um bom profissional que poderá atuar tanto na academia quanto na indústria. Vale destacar que, num passado recente, formava-se doutor para a academia. Dessa forma, o foco da formação estava em prover ao futuro doutor capacidades para realizar pesquisa. Pouca atenção era dada para outras competências, tais como trabalho em grupo e comunicação, hoje indispensáveis.