JetBrains presenta Mellum, un modelo de IA abierto especializado en autocompletado de código

JetBrains ha lanzado públicamente Mellum, su primer modelo de lenguaje abierto enfocado a la programación, tras haberlo utilizado de forma interna desde el año pasado. Este modelo de IA, similar en propósito a GitHub Copilot, está especializado en la generación y autocompletado de código. Con 4.000 millones de parámetros y entrenado con más de 4 billones de tokens, Mellum se ha construido usando código con licencias permisivas de GitHub y artículos en inglés de Wikipedia. El entrenamiento del modelo, que duró unos 20 días, fue realizado con un clúster de 256 GPUs Nvidia H200. El modelo está disponible en Hugging Face bajo una licencia Apache 2.0, aunque no es de uso inmediato, ya que requiere ajuste fino para tareas concretas. JetBrains ha proporcionado algunos modelos ajustados para Python con fines de prueba, pero advierte que no están listos para entornos de producción. Mellum está pensado para integrarse en entornos profesionales de desarrollo, y también puede ser útil en contextos educativos y de investigación. La empresa reconoce limitaciones del modelo, incluyendo la posibilidad de sesgos heredados del código fuente utilizado en el entrenamiento. JetBrains enfatiza que este lanzamiento es solo un primer paso, esperando que la comunidad contribuya al desarrollo y mejora de Mellum.