Amazon ha dado a conocer una importante innovación en el desarrollo de aplicaciones de inteligencia artificial con el lanzamiento de la inferencia global cross-Region en la región de AWS Cape Town. Esta nueva funcionalidad permite a los desarrolladores utilizar modelos desde Ciudad del Cabo, mientras Amazon Bedrock redirige las solicitudes a las regiones con la capacidad necesaria, asegurando tiempos de respuesta consistentes y experiencias confiables para los usuarios.
Los modelos disponibles para esta inferencia, como Claude Sonnet 4.5, Haiku 4.5 y Opus 4.5, ofrecen a los clientes sudafricanos acceso a perfiles de inferencia global que mejoran el rendimiento y la resiliencia. Durante períodos de alta demanda, esta característica optimiza los recursos y permite un mayor rendimiento del modelo. Cabe destacar que la inferencia global cross-Region mantiene logs centralizados en la región de origen, simplificando la supervisión y el control.
El proceso de inferencia global se efectúa a través de la red segura de AWS, asegurando la protección de los datos tanto en tránsito como en reposo. Aun cuando el procesamiento puede ocurrir en otra región, los datos almacenados, como logs y bases de conocimiento, se mantienen en la región de origen, garantizando la protección de la información sensible.
Para implementar este sistema, los desarrolladores deben completar varios pasos, como utilizar el ID del perfil de inferencia global y configurar los permisos necesarios mediante AWS Identity and Access Management (IAM). Esto asegura que las solicitudes sean autorizadas y procesadas correctamente. Además, los interesados en la inferencia cross-Region pueden solicitar aumentos de cuota a través de la consola de AWS Service Quotas en la región específica, adaptándose así a la carga presupuestaria del uso de modelos de inferencia.
Aunque la inferencia cross-Region es una herramienta flexible y potente, las organizaciones deben evaluar su adecuación en términos de seguridad y cumplimiento normativo, considerando aspectos como la Ley de Protección de Información Personal de Sudáfrica (POPIA). Aquellos que determinen que no es adecuado para ciertos trabajos tienen la opción de desactivar la inferencia global, garantizando así el control y la seguridad de sus datos.
