En un movimiento estratégico para abordar los desafíos inherentes al uso de inteligencia artificial generativa, Amazon Web Services (AWS) ha lanzado oficialmente Amazon Bedrock Guardrails. Este innovador servicio está diseñado para ofrecer salvaguardias personalizables a las empresas, con el objetivo de fortalecer la seguridad y alinearse con prácticas de inteligencia artificial responsable.
La inteligencia artificial generativa ha revolucionado la capacidad de generar información sobre diversos temas. Sin embargo, con este avance tecnológico surgen desafíos significativos, como asegurar la pertinencia del contenido, evitar la difusión de material dañino, salvaguardar información sensible y mitigar el fenómeno conocido como «alucinaciones», donde la IA puede generar información incorrecta o engañosa. Aunque Amazon Bedrock proporciona ciertas protecciones integradas, estas a menudo son específicas para cada modelo y pueden no alinearse completamente con las necesidades particulares de cada organización.
En este escenario, los desarrolladores a menudo enfrentan la necesidad de implementar controles adicionales para garantizar la seguridad y privacidad de sus aplicaciones. Esta demanda es aún más crucial cuando las organizaciones emplean múltiples modelos para diferentes propósitos, ya que la consistencia en las salvaguardias es esencial para agilizar los ciclos de desarrollo y adoptar un enfoque uniforme hacia una inteligencia artificial responsable.
Para responder a estos desafíos, AWS ha introducido Amazon Bedrock Guardrails a partir de abril de 2024. Esta herramienta permite a los desarrolladores integrar salvaguardias personalizadas en aplicaciones de inteligencia artificial generativa, las cuales pueden configurarse para adaptarse a diferentes casos de uso y aplicarse en múltiples modelos. Esta flexibilidad mejora la experiencia del usuario y estandariza las medidas de seguridad.
Una de las características más destacadas de Amazon Bedrock Guardrails es su API ApplyGuardrail, que permite la evaluación de las entradas de los usuarios y las respuestas de los modelos en entornos personalizados y de terceros, incluso fuera del ecosistema de Amazon Bedrock. Este API es aplicable a arquitecturas de inteligencia artificial generativa, como aquellos modelos de lenguaje autoalojados o dentro de una estructura de Recuperación de Generación Aumentada.
Con el fin de demostrar la aplicación práctica de esta herramienta, AWS ha presentado un caso de uso en el que se implementa un guardrail para prevenir que un modelo ofrezca asesoramiento fiduciario. Este ejemplo abarca políticas de filtrado que moderan temas prohibidos y aseguran la coherencia de las respuestas del modelo, fundamentándolas en información confiable y relevante para la consulta del usuario.
El lanzamiento de Amazon Bedrock Guardrails marca un importante paso adelante en el establecimiento de medidas de seguridad para aplicaciones de inteligencia artificial generativa, permitiendo a las empresas integrar salvaguardias estandarizadas y probadas en profundidad, independientemente del modelo que utilicen.
