Si bien se esperaba que ocurriera en mayo, Meta se ha adelantado y ha lanzado oficialmente Llama 3, su nuevo modelo de inteligencia artificial. Siguiendo los pasos de sus predecesores, la IA es de código abierto y los de Mark Zuckerberg aseguran que es la mejor de su clase.
Llama 3 llega en dos versiones preentrenadas y otras dos preparadas especialmente para instrucciones. Dos de ellas llegan con 8.000 millones de parámetros y las dos restantes con 70.000 millones. Meta asegura que gracias a mejoras implementadas antes y después de entrenarla, su nueva inteligencia artificial da un salto drástico en calidad.
Los de Menlo Park sostienen que esto le permite a Llama 3 ser el mejor modelo de inteligencia artificial disponible, en comparación con otros dentro de la misma escala de parámetros. La IA llega con mejoras a nivel de generación de código, razonamiento y seguimiento de instrucciones, entre otras optimizaciones.
Pero Meta aspira a llevar su inteligencia artificial a otro nivel de la mano de Llama 3. Es por ello que los californianos están desarrollando una versión con 400.000 millones de parámetros. Una auténtica bestia, pero que todavía se encuentra en etapa de entrenamiento.
La compañía indica que su intención en el futuro cercano es que Llama 3 sea multimodal y multilenguaje. De hecho, Meta ya ha comenzado a prepararse para ello. Es por ello que el 5 % de los datos usados para su pre entrenamiento no estaban en inglés y abarcaban otros 30 idiomas. Vale decir, de todos modos, que por lo pronto los desarrolladores esperan que el mejor rendimiento del modelo se siga dando en inglés.
Llama 3 ya está disponible en Meta AI
Llama 3 es el modelo que potencia a Meta AI, el chatbot de inteligencia artificial integrado en WhatsApp, Instagram y Messenger. Además, al ser de código abierto, ya se encuentra disponible en Hugging Face y pronto será accesible también desde AWS, Databricks, Google Cloud, Microsoft Azure y NVIDIA NIM, entre otras plataformas.
Los de Mark Zuckerberg han compartido algunas comparativas que colocan a Llama 3, tanto en sus versiones de instrucción como preentrenadas, por encima de tecnologías rivales como Mistral 7B, Gemma 7B, Gemini Pro y Claude 3 en los principales benchmarks.
Meta insiste en que Llama 3 se ha desarrollado con el enfoque puesto en la seguridad. Las versiones preparadas especialmente para instrucciones han sido puestas a prueba para evitar su mal uso en temas siempre sensibles como la ciberseguridad y el desarrollo de amenazas químicas o biológicas.
Así mismo, los californianos han actualizado su guía de uso responsable para el desarrollo con modelos de lenguaje de gran tamaño. Pero eso no es todo, puesto que también han introducido tres nuevas salvaguardias:
- Llama Guard 2: la segunda versión de la tecnología a cargo de lidiar con prompts y respuestas de forma segura.
- Code Shield: se encarga de filtrar por tiempo de inferencia el código inseguro que pueda crear la IA.
- CyberSecEval 2: una capa a cargo de evitar abusos en el intérprete de código del modelo de inteligencia artificial o ataques a través de inyecciones de prompt, entre otras labores de ciberseguridad.
Sobre la versión de 400.000 millones de parámetros de Llama 3, aún no hay novedades sobre cuándo podría estar disponible. Como indicamos previamente, Meta ha aclarado que por lo pronto sigue en entrenamiento. Quedaremos a la espera de más novedades oficiales.