Era solo cuestión de días para que Meta lo hiciera oficial. Luego que se filtraran algunas de sus características, la firma de Mark Zuckerberg ha lanzado Code Llama, su nuevo modelo de inteligencia artificial capaz de escribir y corregir código. La nueva herramienta, especialmente pensada para programadores, funciona tanto a partir de instrucciones de lenguaje natural, como desde otros fragmentos de código.
Vale mencionar que Code Llama no es un chatbot como ChatGPT o Bard, que entre tantísimas funciones son capaces de escribir código. La nueva IA de Meta se creó específicamente para esa tarea e incorpora varios elementos muy interesantes.
Como bien lo indica su nombre, Code Llama se basa en LLaMA 2, el poderoso modelo de lenguaje masivo (LLM) que se lanzó tiempo atrás. Los de Menlo Park explican que su inteligencia artificial es compatible con los lenguajes de programación más populares. Entre ellos, Python, Javascript, PHP, C++, C# y Bash.
Code Llama se puede utilizar para completar bloques de código, o para encontrar errores y recomendar correcciones. Pero la empresa californiana asegura que, además de programar, la IA puede generar explicaciones en lenguaje natural sobre código o a partir de un fragmento de él.
Code Llama tendrá versiones especializadas
Otro elemento muy interesante a considerar es que Meta lanzará tres variantes de este modelo. Code Llama es el modelo fundacional para la generación de código, mientras que Code Llama-Python es una versión especializada, justamente, en ese lenguaje de programación. En tanto que Code Llama-Instruct está optimizada para comprender instrucciones en lenguaje natural.
Vale mencionar que Meta no recomienda usar Code Llama o Code Llama-Python para labores donde el método de entrada sean instrucciones en lenguaje natural. Dichos modelos solamente están preparados para tareas específicas a partir de código, indicaron desde la compañía. Code Llama-Instruct, en cambio, sí está pensada para "entender mejor qué esperan obtener los humanos con sus prompts".
Los californianos también comprenden que no todas las labores donde se use IA para programar tienen la misma exigencia o requieren los mismos recursos. Es por ello que las tres variantes de Code Llama se ofrecerán en 3 tamaños. La más pequeña llega con 7.000 millones de parámetros; la intermedia con 13.000 millones y la más grande con 34.000 millones.
Más allá de las diferencias entre sí, todas las versiones se entrenaron con 500.000 millones de tokens de datos sobre código y otras informaciones vinculadas con programación. La gran diferencia radica en su velocidad de funcionamiento y en la complejidad de los resultados a ofrecer.
Es por ello que Meta explica que, por ejemplo, la versión de Code Llama con 7.000 millones de parámetros puede funcionar en un ordenador con una sola GPU. Además, ofrece respuestas más rápidas en tareas como completar líneas de código. Por su parte, la versión de 34.000 millones de parámetros es más precisa y ofrece mejores resultados, pero no está optimizada para labores en tiempo real.
Mitigando la amenaza del malware creado con IA
Con el furor por la IA generativa, herramientas como ChatGPT y Bard están siendo cada vez más utilizadas para crear malware. Y si bien hasta ahora han demostrado no ser muy buenas para ello, es una preocupación creciente en el sector. Es por ello que Meta afirma que ha analizado la situación y ha tomado medidas para mitigar el mal uso de su tecnología.
"Como ocurre con toda tecnología de vanguardia, Code Llama conlleva riesgos. Construir modelos de IA de manera responsable es crucial y tomamos numerosas medidas de seguridad antes de lanzar Code Llama. Como parte de los esfuerzos de nuestro equipo rojo, realizamos una evaluación cuantitativa del riesgo de Code Llama de generar código malicioso. Creamos mensajes que intentaban solicitar código malicioso con una intención clara y comparamos las respuestas de Code Llama con las de ChatGPT (GPT3.5 Turbo). Nuestros resultados encontraron que Code Llama respondió con respuestas más seguras".
Meta.
Code Llama ya se encuentra disponible y es de uso gratuito tanto para fines comerciales como investigativos. Quienes deseen conocer a fondo —y de un modo más técnico— este nuevo modelo de IA, pueden leer este detallado paper publicado por los de Menlo Park.