Enable javascript in your browser for better experience. Need to know to enable it? Go here.

Dónde pueden fallar los modelos de lenguaje grande en los negocios y cómo evitar las trampas comunes

Los modelos de lenguaje grandes (LLMs) se consideran ampliamente con el potencial de transformar la productividad de las empresas debido a sus excepcionales capacidades de procesamiento del lenguaje. Sin embargo, aunque el potencial de los LLMs es emocionante, existen limitaciones notables en sus capacidades actuales.

 

Esto significa que deben utilizarse con atención, con una estrategia clara, sistémica y adaptativa. Moverse rápidamente para adoptar los LLMs puede ser tentador, pero debes hacerlo de manera segura y complementa a tu equipo.

 

Pero, ¿qué implica eso exactamente? En este blog, explicaré cómo puedes aprovechar los LLMs para obtener una ventaja competitiva y evitar errores comunes.

 

Comprender qué son los LLMs y qué no son 

 

Si deseas aprovechar con éxito los LLMs en un contexto empresarial, un buen punto de partida es obtener una comprensión sólida de lo que son realmente los LLMs. Dada la publicidad en torno a los LLMs y las a menudo acusaciones abruptas sobre ellos (como la franqueza), es importante seguir centrado en lo que es y no es posible con los LLMs. Recomiendo a esta inmersión para principiantes en el funcionamiento de los LLMs.

 

Aunque el término LLMs puede parecer increíblemente nuevo, en realidad se han utilizado en el sector desde 2018, cuando OpenAI lanzó su primer modelo GPT generativo habilitado por los hallazgos del artículo de Google “Attention Is All You Need” de 2017. También merece la pena señalar que un LLM no es una aplicación o plataforma como lo es ChatGPT: es un modelo de aprendizaje automático que toma el texto como entrada y produce texto estadísticamente probable como salida.

 

El siguiente gráfico muestra cómo encaja un LLM en una pila tecnológica.

 

Capa tecnológica de una aplicación con tecnología LLM

Piensa en los LLMs como un componente del software para la comprensión y generación del lenguaje natural. Al integrar los LLMs, puede añadir capacidades avanzadas de procesamiento de idiomas a tus aplicaciones, muchas de las cuales habrían sido imposibles anteriormente.

 

Cuando se utilizan eficazmente, los LLMs pueden mejorar las aplicaciones y crear valor tanto para los clientes como para las partes interesadas internas. Pueden, por ejemplo, permitir una experiencia de lenguaje natural para los usuarios que se enfrentan a grandes cantidades de datos de texto no estructurados.

 

Los LLMs no son un atajo a la transformación empresarial

 

Dado que todas las empresas tratan con el lenguaje en tus operaciones diarias, las oportunidades para los LLMs son reales. Sin embargo, es importante recordar que los procesos suelen implicar varios pasos consecutivos en los que no se procesa el lenguaje o no se pueden utilizar los LLMs debido a sus limitaciones. Esto hace que lograr una transformación de IA integral en toda la empresa sea un desafío.

 

Echemos un vistazo a algunas de las limitaciones del LLMs.

 

  • Capacidades limitadas: Los LLMs son excelentes para tareas que realmente requieren generación de texto, como la escritura de texto, pero que no tienen suficientes tareas predictivas, como la clasificación de texto, en comparación con los modelos de lenguaje no generativo entrenados para la tarea. Algunos también pueden intentar utilizar los LLMs para automatizar tareas que requieren capacidades de razonamiento y planificación similares a las humanas, pero aunque los LLMs están capacitados para producir un razonamiento de aspecto plausible, aún carecen de verdadera capacidad de razonamiento y planificación.

     

  • Fiabilidad de los resultados: Para muchos casos de uso, un factor importante es la fiabilidad con la que el componente LLMs genera correctamente lo que se solicitó cuando se integró en sus aplicaciones y procesos. Aunque se pueden utilizar varias técnicas de incitación, la generación aumentada de recuperación y las barandillas de posprocesamiento para reducir las confabulaciones, lograr una fiabilidad suficiente en casos de uso críticos sigue siendo un verdadero desafío. Además, los LLMs no suelen ser componentes deterministas, lo que significa que pueden producir diferentes salidas para la misma entrada en diferentes momentos.

     

  • Latencia de generación: Esto puede ser de cualquier tipo, desde un par de segundos hasta decenas de segundos con los productos LLM públicos actuales como las API GPT de OpenAI. Esto se convierte en un factor aún más significativo cuando se necesitan múltiples solicitudes de LLM y complementos externos añadidos. En las interfaces de usuario basadas en chat, hacer que el usuario espere unos segundos puede ser aceptable, pero las oportunidades de LLM van más allá de los chatbots.

 

Merece la pena considerar el caso de los agentes autónomos de LLM, un sistema de software que intenta completar de forma autónoma las tareas necesarias para lograr un objetivo determinado, como ejemplo de una innovación aparentemente emocionante pero actualmente limitada. Aunque han captado una atención pública significativa, cuando combinas todas las limitaciones mencionadas anteriormente, la realidad es que incluso el mejor agente de GPT-4 de hoy en día realiza solo el 15% de las tareas con éxito en comparación con los humanos, que tienen una tasa de éxito del 92% en un índice de referencia diseñado para asistentes generales de IA. Embra, una empresa emergente de agentes de LLM, también anunció recientemente que se están alejando de los agentes autónomos debido a la falta de fiabilidad y lentitud de los LLMs en el uso de la automatización.

 

Encontrar oportunidades de negocio con los LLMs

 

Aunque los LLMs no revolucionarán inmediatamente a empresas enteras, pueden servir como herramientas valiosas para agilizar las tareas relacionadas con el lenguaje. Por ejemplo, utilizamos una solución LLM para ayudar a Bolt.Works a aumentar el flujo de trabajo de sus reclutadores transformando grandes cantidades de datos de texto no estructurados en formato estructurado. Por otro lado, Nestlé y Unilever están aumentando su marketing con LLMs, mientras que aquí en Thoughtworks, desarrollamos una herramienta de generación de ideas y conceptos de estrategia impulsada por LLM.

 

Estos ejemplos de la vida real demuestran que las empresas están viendo el éxito al aplicar los LLMs a sus procesos en varias funciones. A medida que la madurez de la IA y el LLM de una organización crece con cada nueva implementación, existe la posibilidad de reinventar partes más grandes del negocio, en lugar de simplemente renovar los pasos existentes. Convertirse en una empresa que prioriza la IA puede conducir a nuevas y emocionantes oportunidades de negocio, pero para hacerlo, debe adoptar un enfoque sistémico y adaptativo de la estrategia y la innovación de IA, como escribió Andy Nolan en este blog.

 

En general, la generación actual de LLMs es mejor para aumentar las capacidades humanas en el trabajo que para la automatización generalizada de tareas. La automatización consiste en hacer las cosas eficientes, rápidas, fiables y con una variación aleatoria mínima, como en las líneas de montaje de fábrica. A su vez, el aumento consiste en apoyar a los humanos para que sean más creativos, productivos y aprendan cosas nuevas, como tener una sesión de lavado enriquecedora con un compañero. Aquí es donde los LLMs actuales pueden ser los más eficaces.

 

Experimenta con los servicios disponibles, obtén ventajas con modelos personalizados

 

Cuando la fiebre del oro de integrar los LLMs y crear selecciones dinámicas especiales se está agotando, es bueno recordar que todos tienen acceso a los mismos servicios públicos de LLM, como OpenAI y Anthropic, y las selecciones dinámicas inteligentes no serán una ventaja duradera.

 

La única forma de obtener una ventaja competitiva real con los LLMs es con tus datos empresariales patentados. Por ejemplo, puedes aumentar el LLM con tus propios datos para generar resultados más reales y personalizados para tu negocio. Otra opción es utilizar tus datos para ajustar modelos más pequeños adaptados a las necesidades específicas de tu negocio, lo que requiere una mayor madurez en las capacidades de datos y aprendizaje automático, pero proporciona ventajas como ahorro de costes y ganancias de precisión a largo plazo. Tú posees y proteges tus activos de datos, por lo que la verdadera propiedad de tus modelos de IA también es importante.

 

Aunque los servicios de LLM disponibles públicamente no te darán una ventaja competitiva en sí mismos, siguen teniendo su lugar. Estos servicios ofrecen opciones fáciles, rápidas y relativamente baratas para experimentar con diferentes tareas de comprensión y generación de lenguaje natural antes de profundizar en la formación de modelos personalizados que se basan en lo que es distintivo para tu organización. Si careces de los datos necesarios para entrenar modelos personalizados, incluso podría generar datos de entrenamiento con LLMs disponibles públicamente.

 

Conclusión

 

Al ser pragmáticos, las empresas pueden liberar el verdadero potencial de los LLMs y utilizarlos para crear valor tanto para tus clientes como para las operaciones internas. Solo recuerda centrarte en:

 

  • Aumentar las capacidades de tu personal en el trabajo

  • Uso de datos de propiedad exclusiva con los LLMs

  • Experimentar con servicios de LLM existentes

  • Creación de modelos personalizados para una ventaja competitiva sostenida

 

Adoptar los LLMs de forma cuidadosa y con una estrategia clara, sistémica y adaptativa puede posicionar a tu negocio a la vanguardia de la competencia, independientemente del ciclo de sobreexpectación actual.

 

Aviso legal: Las declaraciones y opiniones expresadas en este artículo son las del autor/a o autores y no reflejan necesariamente las posiciones de Thoughtworks.

Explora más información