El Instinct MI300X es el chip de IA más reciente y avanzado de AMD, diseñado para manejar grandes modelos de lenguaje y aplicaciones de IA generativas. El chip es parte de la arquitectura CDNA 3 y consta de múltiples chips de GPU interconectados por memoria compartida y enlaces de red.
El MI300X puede ejecutar un modelo de 40 mil millones de parámetros llamado Falcon directamente en la memoria, eliminando la necesidad de transferencias de datos a la memoria externa. El chip también cuenta con un alto ancho de banda de memoria de 5,2 terabytes por segundo y una gran capacidad de memoria de 192 gigabytes.Se espera que el MI300X comience a enviarse a algunos clientes a finales de este año, según la directora ejecutiva de AMD, Lisa Su. El chip es visto como un fuerte competidor de la GPU H100 de Nvidia, que actualmente domina el mercado de IA. AMD afirma que el MI300X ofrece 2,4 veces la densidad de memoria y 1,6 veces el ancho de banda de memoria del H100 de Nvidia. El precio del MI300X aún no se ha revelado, pero sus competidores cuestan cerca de $ 30,000 USD. El MI300X está configurado para revolucionar la computación de IA y permitir modelos de IA más grandes y complejos en el futuro.
Crédito de la imagen: AMD
No hay comentarios:
Publicar un comentario
Nota: solo los miembros de este blog pueden publicar comentarios.