Meta lanza Llama 3.1 una inteligencia artificial desarrollada código abierto con características más avanzada que sus pares. A la fecha ya suma más de 300 millones de descargas en todas las versiones disponibles de Llama y aquí te contamos todo acerca de su nuevo modelo 405B.
¿Qué es Llama 3.1 405B?
Llama 3.1 405B es la nueva versión de inteligencia artificial desarrollada por Meta. Sus principales funciones se basan en ofrece conocimientos generales, una mayor capacidad de conducción, resolución de problemas matemáticos, uso de la herramienta y traducción multilingüe.
De acuerdo con Meta, esta nueva versión de Llama dará paso a una serie de nuevas aplicaciones y paradigmas de modelización. En ellas se incluyen datos sintéticos que ayudarán a mejorar el entrenamiento de los modelos más pequeños. Además, de una destilación de modelos que actualmente no ha podida la IA de código abierto.
Llama 3.1 cuenta con un nivel de razonamiento mucho mayor que los modelos anteriores. Ofrece una gran capacidad para realizar resúmenes de textos muchos más largos, traducciones de más idiomas y asistentes de codificación. Además, para los desarrolladores se han incluido cambios en la licencia, así puedes utilizar los resultados del modelo y mejorar otros modelos.
Para los usuarios interesados en acceder a estos modelos, Meta ha puesto a sus disposición a la comunidad para su descarga. Puedes hacerlo desde llama.meta.com y desde Hugging Face, accede a estos enlaces y obtén los modelos ahora.
Características del modelo IA de Meta
De acuerdo con un análisis de Llama 3.1 405B, se pudo conocer que este modelo de IA es muy competitivo con sus pares, entre ellos ChatGPT-4, Nometron 3.1 y Claude 3.5. Hacen referencia a los modelos más básicos y los más pequeños de Meta, tano con modelos de código abierto como de código cerrado.
Llama 3.1 405B ha sido el modelo de IA con el mejor entrenamiento, contando con más de 15 billones de token hasta la fecha. El resultado es una sistema altamente entrando a gran escala, siendo así el primero de su clase.
Con respecto a la seguridad y el rendimiento, Llama 3.1 405B ha recibido un entrenamiento de calidad en materia de ciberseguridad, seguridad infantil, ataques químicos y biológicos, de inyección rápida, entre otros. Además, de un sistema de filtración de entrada y salida a través de «llama Guard 3».
La puntuación de la IA de Meta ha sido de 51,1 y 96,6% a nivel universitario y posgrado, estando a un nivel muy similar a otras IA como Claude 3.5 Sonnet y GPT-4.0. Llama no sabe nada más allá de diciembre de 2023, pero es capaz de recopilar información reciente en línea utilizando Brave Search, para problemas matemáticos recurre a Wolfram Alpha y para codificaciones en Python utiliza la web oficial del lenguaje.
Requisitos para utilizar Llama 3.1 405B
Para utilizar Llama 3.1 405B de forma local debes tener un ordenador muy potente, con hasta 705 GB de almacenamiento disponible. Si quieres ejecutar el modelo en su totalidad, el procesador debe ser de 8 núcleos GPU Nivia A100 o similares. Con doble nodo de MP16 y 810 GB de VRAM de GPU. La RAM un mínimo de 1 TB. Las versiones pequeñas de Llama requieren un hardware menos exigente, con una VRAM de 16 GB un NVIDIA 4090 o similares.
Para Meta este es el comienzo de nuevos desarrollos con la IA que marcan el inicio de futuras creaciones más potentes y útiles para todos los usuarios. Aunque queda mucha tela que cortar y con ella construir mejores modelos. ¿Qué opinas de esta evolucionada forma de gestionar tus solicitudes e inquietudes con inteligencia artificial?