Un análisis reciente de McKinsey & Company revela que la inteligencia artificial generativa podría generar entre 2.6 y 4.4 billones de dólares en valor económico a nivel mundial. Este potencial se visualiza especialmente en sectores como operaciones con clientes, marketing, ventas, ingeniería de software e investigación y desarrollo. Motivadas por este atractivo, numerosas empresas han comenzado a desarrollar aplicaciones de inteligencia artificial generativa utilizando Amazon Web Services (AWS).
No obstante, la gestión de productos y la arquitectura empresarial encaran un desafío importante: comprender y optimizar los costos derivados de estas aplicaciones. Este análisis se centra precisamente en esas consideraciones económicas, partiendo del supuesto de que los lectores ya poseen un conocimiento básico sobre modelos de base, modelos de lenguaje grandes, tokens y bases de datos vectoriales en el ecosistema de AWS.
Una de las metodologías más habituales empleadas en soluciones de IA generativa es la Generación Aumentada por Recuperación (RAG). Este enfoque permite a los modelos de lenguaje generar respuestas basadas en datos específicos de una compañía, incluso si durante su entrenamiento no se utilizó dicha información. En este marco, los pilares fundamentales para optimizar costos y rendimiento abarcan la selección, elección y personalización de modelos, así como el manejo eficiente de tokens y la elección de planes de precios de inferencia.
La selección del modelo es vital y se basa en identificar el que mejor responda a las diversas necesidades presentes. Una vez seleccionado, su validación se lleva a cabo con conjuntos de datos de calidad. La elección se enfoca en las características de precios y rendimiento del modelo, mientras que la personalización apunta a incrementar la eficiencia ajustando modelos preexistentes mediante entrenamiento con datos específicos.
El manejo de tokens es un aspecto crucial para el control de costos; el funcionamiento de un modelo de IA generativa tiene un costo proporcional al número de tokens procesados. Implementar estrategias de almacenamiento en caché y limitar el número de tokens puede ayudar a reducir los gastos significativamente.
AWS ofrece diferentes estrategias de precios para la inferencia, como la modalidad bajo demanda, adecuada para la mayoría de modelos, y el rendimiento provisionado, que proporciona un nivel de rendimiento constante a un costo mayor. Otros factores a considerar son las medidas de seguridad, el costo de las bases de datos vectoriales y las estrategias de fragmentación de datos que inciden en la precisión y en los costos generales.
Por ejemplo, para aplicaciones como los asistentes virtuales, los costos pueden variar notablemente según el volumen de interacciones. Se presentan casos donde el costo anual oscila entre 12,577 y 134,252 dólares al usar modelos de lenguaje como Claude 3 de Anthropic.
Finalmente, se abordan las ventajas de utilizar servicios avanzados, como Amazon Bedrock, que facilitan el acceso a modelos de alto rendimiento, al igual que la implementación de guardrails para controlar el contenido y elevar la seguridad de las aplicaciones. Esto es esencial para que un asistente virtual interactúe adecuadamente con usuarios sobre diversos temas, evitando la producción de contenido inadecuado.
Mientras la inteligencia artificial generativa sigue evolucionando, las empresas deben mantenerse informadas sobre las fluctuaciones en costos y las estrategias para optimizarlos, maximizando así su valor. En futuras ediciones, se explorarán aspectos adicionales como la estimación del valor comercial y los factores que lo afectan.
