Las empresas enfrentan un reto constante en la actualidad: la urgente necesidad de proporcionar respuestas rápidas y eficaces a sus clientes, mientras los equipos de soporte luchan por no verse sobrepasados. La documentación de soporte, compuesta por manuales de productos y artículos de bases de conocimiento, frecuentemente implica un arduo trabajo de búsqueda para los usuarios, quienes deben navegar por cientos de páginas de información. Al mismo tiempo, los agentes de soporte enfrentan el desafío de manejar de manera eficiente entre 20 y 30 consultas al día para localizar datos específicos y útiles.
En respuesta a esta problemática, se ha desarrollado una solución innovadora que consiste en la creación de un asistente web potenciando por inteligencia artificial (IA), utilizando para ello las herramientas de Amazon Bedrock y Amazon Bedrock Knowledge Bases. Esta tecnología promete significativos beneficios tanto para los equipos internos como para los clientes externos, destacándose la capacidad de proporcionar respuestas inmediatas y precisas, un sistema eficiente de recuperación del conocimiento para los agentes de soporte que disminuye el tiempo de resolución de problemas, y un soporte automatizado disponible las 24 horas del día.
La propuesta se sustenta en la Generación Aumentada por Recuperación (RAG), un enfoque que permite recuperar información relevante desde una base de conocimientos, devolviéndola al usuario conforme a su permiso de acceso. Los componentes principales de esta solución incluyen las bases de conocimientos de Amazon Bedrock, que almacenan los contenidos del sitio web de la empresa, tales como manuales y guías de resolución de problemas; modelos de lenguaje de gran tamaño (LLM) gestionados por Amazon Bedrock; y una arquitectura escalable y sin servidor, que utiliza Amazon Elastic Container Service (ECS) para alojar la interfaz de usuario y AWS Lambda para gestionar las solicitudes de los usuarios.
El proceso de funcionamiento de esta solución abarca varias etapas, comenzando con el procesamiento de documentos subidos a Amazon S3. Estos documentos se segmentan y se generan representaciones que permiten a una aplicación web acceder a ellos. Al recibir una pregunta, una función Lambda se activa utilizando las API de Amazon Bedrock para recuperar la información pertinente de la base de conocimientos, generando una respuesta que se devuelve al usuario según su tipo de acceso.
Para implementar este sistema, es necesario crear una base de conocimientos que absorba datos de páginas web y documentos operativos desde un bucket S3. Esto requerirá llevar a cabo varios pasos dentro de la consola de Amazon Bedrock, incluyendo configuración de fuentes de datos, ingesta de contenido web y gestión de documentos internos. Luego de establecer la infraestructura, se pueden realizar pruebas con usuarios de diversos tipos, tanto internos como externos, quienes accederán a diferentes niveles de información dependiendo de su rol.
Por último, se resalta que esta solución no solo optimiza el tiempo de respuesta en las consultas de soporte, sino que también hace la información más accesible para los clientes. Además, se abre la posibilidad de usar este enfoque para el desarrollo de otros prototipos y aplicaciones de IA generativa, sentando las bases para un soporte al cliente moderno y eficiente. Para los interesados en profundizar en los fundamentos de la IA generativa y en cómo trabajar con modelos de lenguaje, se encuentran disponibles cursos en línea que proporcionan conocimientos prácticos y aplicaciones en el ámbito de la inteligencia artificial.