Amazon ha anunciado la incorporación de Amazon Bedrock Guardrails, una innovadora herramienta destinada a facilitar la creación de aplicaciones de inteligencia artificial generativa de confianza. Este avance proporciona salvaguardias configurables que integran medidas de seguridad y privacidad adaptables a diversos modelos de IA, ya sean aquellos de Amazon Bedrock u otros alojados externamente. Con la ayuda de la API independiente ApplyGuardrail, las empresas pueden implementar políticas de IA responsable de forma rápida y eficiente.
Este nuevo sistema introduce seis salvaguardias clave, tales como filtros de contenido, temas denegados, filtros de palabras, controles de información sensible, controles de contextualización y Checks de Razonamiento Automatizado. Estas medidas ayudan a prevenir la generación de contenido inapropiado y aseguran que las interacciones con la IA sigan políticas responsables específicas de cada empresa.
Un reto importante para las organizaciones es equilibrar la seguridad con las demandas de rendimiento y de lenguaje de las aplicaciones. Para enfrentarlo, Amazon ha creado niveles de salvaguardia que permiten elegir las medidas más adecuadas según las necesidades de cada aplicación. Por ejemplo, una empresa financiera podría requerir protección integral multilingüe para sus asistentes de IA, mientras que podría optar por salvaguardias más rápidas para análisis internos.
Las salvaguardias se dividen en dos categorías: el «nivel clásico», que mantiene las características actuales de Amazon Bedrock, y el «nivel estándar», que ofrece soporte en más de 60 idiomas y mejoras en la detección de contenido potencialmente dañino. Este sistema permite a las empresas personalizar sus medidas de protección, adaptándolas al contexto y uso específico de cada aplicación.
Para evaluar la eficacia de estos sistemas, se sugiere la creación de conjuntos de datos de prueba que incluyan ejemplos seguros e inseguros. La API ApplyGuardrail permite testar estos sistemas sin generar costos asociados con modelos de lenguaje de gran escala.
Con la creciente adopción de la inteligencia artificial, la introducción de Amazon Bedrock Guardrails representa un avance significativo, proporcionando a las empresas herramientas para desarrollar aplicaciones innovadoras que respeten valores éticos y regulaciones, fortaleciendo así la confianza de los usuarios.
