¿Quién Decide el Modelo de IA para Cada Tarea en las Empresas?

La adopción de la inteligencia artificial generativa está en auge en las empresas, generando un debate crucial sobre la gestión de los modelos de lenguaje: ¿quién decide cuál modelo responderá a cada solicitud? A menudo, esta decisión recae en servicios externos con criterios poco transparentes, o se elige usar siempre el modelo más reciente. En respuesta a esta problemática, TIMIA, una empresa especializada en inteligencia artificial y analítica avanzada, ha lanzado RouterKit, un marco que permite a las empresas crear y entrenar su propio enrutador de modelos, adaptado a sus necesidades específicas, el catálogo de modelos disponibles y las prioridades que establezcan.

RouterKit se presenta como una solución eficiente que disminuye considerablemente los costos de uso de la IA generativa, sin comprometer la calidad de los modelos más avanzados. TIMIA ha anunciado su intención de liberar el código de RouterKit bajo la licencia Apache 2.0, lo que facilita su uso, modificación y distribución con objetivos comerciales.

Este nuevo producto funciona como una capa de decisión, no como un competidor de los grandes modelos de lenguaje. Al recibir una solicitud, RouterKit evalúa sus características sin resolverla, estimando qué modelos podrían proporcionar la respuesta más adecuada, basándose en criterios fijados por la organización, como calidad, tiempo de respuesta o coste. Si la respuesta inicial no es satisfactoria, el sistema puede derivar la solicitud a otro modelo, hasta un número configurable de intentos.

La propuesta de TIMIA destaca por diferenciarse de otros servicios de enrutamiento, que a menudo son considerados cajas negras. Con RouterKit, cada decisión es explicable y auditable, permitiendo al sistema adaptarse a cambios en los modelos o en las necesidades empresariales. Sandro Calzada, director de Innovación de TIMIA, comenta: «La pregunta ya no es qué modelo utilizar, sino quién decide qué modelo resuelve cada tarea y con qué criterio. Queremos que cada organización tenga el control, utilizando sus propios datos de manera comprensible».

Para validar el sistema, TIMIA utilizó 1.135 tareas de programación en Python del repositorio público BigCodeBench. Compararon siete modelos, accesibles mediante API o alojados en su propia infraestructura, registrando sus resultados en diferentes ejecuciones para evaluar la tasa de resolución y la variabilidad de las respuestas. Basándose en estos datos, entrenaron un modelo predictivo que identificó las alternativas más efectivas para resolver cada tarea. El sistema logró una tasa de resolución del 68 %, superando el 66,6 % del mejor modelo individual evaluado.

La evaluación inicial se enfocó en la programación, un campo donde las pruebas automáticas permiten una verificación objetiva de soluciones. De cara al futuro, TIMIA planea expandir las aplicaciones de RouterKit a otros usos como consultas a bases de datos, extracción de información y procesos con agentes de IA, lo que requerirá nuevas estrategias de evaluación. También están sopesando incluir el tiempo de respuesta como criterio de optimización y simplificar la integración de nuevos modelos.

Con la liberación del código de RouterKit, TIMIA busca que otras organizaciones adopten este marco, lo adapten a sus propios procesos y contribuyan a su desarrollo, promoviendo una mayor transparencia y control en el uso de la inteligencia artificial generativa.

Scroll al inicio