La mayoría de las herramientas basadas en IA disponibles actualmente, son generativas — generan textos e imágenes y usan transformers generativos pre-entrenados (GPTs por sus siglas en inglés) para hacerlo. Para casos de uso que requieren trabajar con texto existente — para clasificar fragmentos de texto o determinar intención — los transformers de oraciones son la herramienta a elegir. En este contexto SetFit es un framework para el fine-tuning de transformers de oraciones. Nos gusta SetFit porque usa aprendizaje contrastivo para separar diferentes clases de intención, a menudo logrando una separación clara con un conjunto pequeño de ejemplos, 25 o incluso menos. Los transformers de oraciones también pueden jugar un rol en un sistema de IA generativa. Hemos utilizado con éxito SetFit para la detección de intención en un chatbot de atención al cliente que usa un LLM; y a pesar de que conocemos la API de moderación de OpenAI, hemos elegido un clasificador basado en SetFit para realizar fine-tuning adicional y obtener un filtrado más estricto.
