Mistral AI ha dado un paso significativo al anunciar la disponibilidad de su modelo de lenguaje de última generación, Mistral-Small-24B-Instruct-2501. Este modelo, compuesto por veinticuatro mil millones de parámetros, ha sido diseñado específicamente para optimizar las tareas de generación de texto con baja latencia, ofreciendo sus capacidades a través de Amazon SageMaker JumpStart y el nuevo Amazon Bedrock Marketplace. La inclusión en estas plataformas de Amazon permite a los desarrolladores no solo descubrir y probar este modelo de Mistral, sino también acceder a una amplia variedad de más de 100 modelos, tanto de gran popularidad como especializados, junto con otros líderes de la industria ya disponibles.
El innovador Mistral-Small-24B-Instruct-2501 combina un rendimiento excepcional con eficiencia computacional. Presenta la capacidad de gestionar una ventana de contexto de 32,000 tokens, y su última versión se centra en mejorar su habilidad para seguir instrucciones complejas y mantener conversaciones coherentes. Según los responsables de Mistral AI, su modelo ha mostrado un rendimiento superior en áreas como la generación de código, matemáticas y conocimiento general, lo que lo convierte en una herramienta ideal para tareas de inteligencia artificial generativa que demandan un sólido rendimiento y respuestas rápidas.
En el ámbito de la asistencia conversacional, Mistral-Small-24B-Instruct-2501 destaca con un tiempo de respuesta de menos de 100 milisegundos, posicionándose como una opción excelente para la automatización del servicio al cliente y la asistencia interactiva. Con una precisión que supera el 81% en pruebas de comprensión de lenguaje multitarea, el modelo se destaca por su eficiencia en su categoría y ha logrado competir con modelos superiores en tamaño, pero ofreciendo un rendimiento más dinámico.
Amazon SageMaker JumpStart brinda a los usuarios la capacidad de acceder a una colección diversa de modelos preentrenados para múltiples casos de uso, como la escritura de contenido, la generación de código y las respuestas a preguntas. A través del nuevo marketplace, los desarrolladores tienen la posibilidad de encontrar modelos que mejor se adapten a sus requerimientos, gracias a opciones de filtrado por proveedor y modalidad.
Para implementar el modelo Mistral-Small-24B-Instruct-2501, los usuarios deben ingresar a la consola de Amazon Bedrock, donde podrán buscar en el catálogo de modelos. El proceso de implementación incluye la selección de la instancia adecuada, la configuración de opciones de seguridad y red, culminando con el despliegue del modelo. Una vez instalado, los usuarios pueden experimentar con las capacidades del modelo en un entorno interactivo.
La introducción del Mistral-Small-24B-Instruct-2501 resalta la creciente demanda de modelos de lenguaje optimizados para la inteligencia artificial generativa. Estos modelos proporcionan herramientas accesibles para desarrolladores y empresas, permitiéndoles mejorar sus capacidades de interacción automatizada y contextual de una manera eficiente y eficaz.
