A maioria das ferramentas atuais baseadas em IA são generativas — elas geram textos e imagens utilizando transformadores pré-treinados generativos (GPTs) para esse fim. Para casos de uso que exigem trabalhar com textos existentes, como classificar trechos de texto ou determinar a intenção, os transformadores de sentença são a ferramenta de escolha. Nesse campo, SetFit é uma estrutura para o ajuste fino de transformadores de sentença. Gostamos do SetFit porque ele utiliza aprendizado contrastivo para separar diferentes classes de intenção umas das outras, frequentemente alcançando uma separação nítida com um número muito pequeno de exemplos, até mesmo 25 ou menos. Transformadores de sentença também podem desempenhar um papel em um sistema de IA generativa. Utilizamos com sucesso o SetFit para detecção de intenção em um sistema de chatbot voltado para a cliente que utiliza um LLM, e mesmo estando cientes da API de moderação da OpenAI, optamos por um classificador baseado no SetFit para realizar um ajuste fino adicional visando alcançar um filtro mais rigoroso.
