GoDaddy, el prestigioso registrador de dominios y proveedor de servicios de comercio electrónico, ha dado un paso adelante en la optimización de su sistema de categorización de productos mediante una solución innovadora de inteligencia artificial generativa. Esta estrategia está diseñada para ofrecer insights personalizados a más de 21 millones de clientes, algo que hasta ahora solo estaba al alcance de grandes corporaciones.
La implementación de modelos de lenguaje grandes (LLMs) en aplicaciones de inteligencia artificial ha visto un aumento significativo, pero también conlleva desafíos, especialmente en términos de escalabilidad. En respuesta, GoDaddy ha optado por la inferencia por lotes, permitiendo el procesamiento asíncrono de múltiples solicitudes y aumentando la eficiencia en el manejo de volúmenes de datos masivos.
Desarrollado con el equipo de Generative AI Innovation Center, el nuevo sistema utiliza Amazon Bedrock para procesar datos de productos mediante un modelo Meta Llama 2 de categorización. Este sistema tiene como tarea principal clasificar cerca de seis millones de productos basándose en sus nombres, tarea que anteriormente presentaba problemas como categorías incompletas o incorrectas, lo cual elevaba los costos operativos.
El proceso comienza con la transferencia de archivos JSONL a un bucket de S3, lo que activa funciones Lambda para el procesamiento por lotes, generando salidas categorizadas y almacenándolas para su posterior análisis. Además, la seguridad está garantizada a través de los servicios de AWS, asegurando la confidencialidad e integridad de los datos.
A través de esta implementación, se optimiza no solo la categorización, sino que se ofrece un marco integral para generar insights valiosos para los clientes. La solución es compatible con varios modelos LLM en Amazon Bedrock, proporcionando flexibilidad para futuras actualizaciones.
La incorporación de técnicas de «n-packing», que combinan múltiples nombres de productos en una sola consulta, ha permitido reducir tanto la latencia como los costos, evidenciando un potencial ahorro significativo en la operación de GoDaddy.
Invirtiendo en mejorar la calidad de sus servicios, GoDaddy planea ampliar su base de datos de ejemplos verificados y aumentar los controles de calidad. La colaboración entre la empresa y el equipo de innovación en inteligencia artificial promete transformar la experiencia del cliente y hacer que los recursos de comercialización sean más accesibles para los emprendedores. Se espera que esta solución permita procesar miles de productos en un tiempo reducido, mejorando significativamente la eficiencia y la satisfacción del cliente.
