Vortex Gaming

· El panorama del mercado de la memoria está cambiando a medida que el paradigma de los centros de datos de IA se desplaza del 'aprendizaje' a la 'inferencia'.
· En el pasado, la inversión y la expansión de la producción de HBM eran la norma debido a su alto valor, pero actualmente el valor de HBM ya no es tan abrumador como antes, lo que genera una competencia con la memoria de propósito general.
· Esto está llevando a una guerra de nervios entre los tres principales actores de la industria mundial de la memoria (Samsung Electronics, SK Hynix y Micron).

· La importancia de la fase de 'inferencia' en los centros de datos de IA está creciendo, y desempeña un papel crucial en el procesamiento de las entradas del usuario y la generación de información.
· El procesamiento de 'tokens' es importante en el proceso de inferencia, y la HBM de última generación actual está teniendo dificultades para procesar cientos de miles de tokens.
· Como resultado, la memoria, no la GPU, se está convirtiendo en el cuello de botella de la inferencia, y se requieren soluciones técnicas para eludir esto o aumentar la capacidad de memoria, ya que la HBM por sí sola tiene limitaciones.

· La estructura de verticalización de la memoria consta de varias etapas, como núcleos de procesamiento, procesamiento de datos y almacenamiento de datos. Cuanto más cerca está del núcleo, más rápida es la velocidad pero menor es la capacidad, y cuanto más lejos, más lenta es la velocidad pero mayor es la capacidad.
· HBM y DRAM han desempeñado un papel importante en esta estructura, pero a medida que la intensidad de las operaciones de inferencia aumenta, la HBM por sí sola es insuficiente y están surgiendo discusiones sobre la necesidad de una nueva solución técnica entre HBM y DRAM.

· El mejor rendimiento de SK Hynix se debe a sus altos ingresos en HBM, pero la proporción de HBM de Samsung Electronics sigue siendo pequeña.
· En el pasado, debido al alto valor de HBM, los fabricantes de memoria de propósito general también preferían la producción de HBM, pero la situación está cambiando recientemente a medida que la diferencia de precio por gigabyte de HBM con la memoria de propósito general se reduce.
· En consecuencia, el consenso se está desplazando hacia una estrategia de asegurar efectivo reduciendo costos y aumentando la capacidad de producción para satisfacer el aumento de la demanda de semiconductores de propósito general, en lugar de invertir masivamente en HBM. Esto está llevando a una guerra de nervios en la industria mundial de la memoria.

· La industria de la memoria se encuentra en una situación en la que debe decidir si invertir el efectivo asegurado en instalaciones de producción de HBM de próxima generación o aumentar la capacidad de producción de semiconductores de propósito general.
· La producción de HBM solo es posible para unas pocas empresas, y la competencia entre ellas es feroz. SK Hynix está considerando si mantener su estrategia centrada en HBM, y un rendimiento inferior al esperado puede interpretarse como una señal del cambio en el centro de gravedad del mercado.
· La industria de los semiconductores, a pesar de sus enormes beneficios, tiene la característica de requerir inversiones continuas en reemplazo de equipos y I+D, lo que significa que se necesitan inversiones de decenas de billones de wones periódicamente.

· Se está formando un panorama de la combinación de TSMC y SK Hynix, y la combinación de Samsung Foundry y Samsung Memory.
· Samsung Foundry tiene una competitividad tecnológica similar a la de TSMC, pero tiene debilidades en la optimización de procesos personalizados para fabless y la 확보 de canales de acceso. Sin embargo, puede ser ventajoso para la producción de memoria de próxima generación como HBM4E utilizando su propia tecnología de proceso (2nm, 3nm).
· SK Hynix ha estado desarrollando tecnología de empaquetado a través de la cooperación con TSMC, y existe la posibilidad de que se expanda a la cooperación de fundición en el futuro. Además, es necesario aumentar la capacidad de negociación y la inversión asegurando la capacidad de producción de su propia base die.

· La próxima etapa de la IA será la IA en el dispositivo, que se integrará y operará en el mundo real, más allá de la inferencia en línea.
· Se espera que Apple desempeñe un papel importante en el mercado de inferencia de IA en el dispositivo, basándose en su diseño de chip energéticamente eficiente y su sólido ecosistema de hardware.
· Existe la posibilidad de que surja un nuevo estándar de memoria optimizado para el factor de forma del teléfono inteligente, lo que podría provocar un gran cambio diferente al de los estándares de memoria del mercado de PC/servidores existente. Esto podría crear una situación similar a la del pasado, cuando las empresas de semiconductores japonesas no pudieron responder a los cambios en el mercado móvil.

· Apple, basándose en la alta eficiencia energética de sus chips de la serie M, puede crear un nuevo mercado exigiendo el desarrollo de memoria dedicada de baja potencia para IA.
· Samsung, basándose en su alta cuota de mercado de teléfonos inteligentes Galaxy, puede responder a Apple a través de sinergias con sus propias divisiones de fundición y memoria. El desarrollo integrado de chips Exynos y DRAM móvil es importante.
· La estrategia de optimización de hardware de Apple es desafiante, pero si tiene éxito, tiene el potencial de hacer crecer significativamente el mercado de IA basado en teléfonos inteligentes. Samsung debe responder activamente a estos cambios para aprovechar la oportunidad.

· Aunque existe una controversia sobre las bonificaciones debido a los altos resultados recientes de la industria de semiconductores, también hay un aspecto positivo que muestra un caso de éxito en una industria estratégica avanzada.
· La industria de los semiconductores debe reinvertir una parte significativa de sus beneficios en gastos de capital para el futuro, como el reemplazo de equipos y la inversión en I+D. Los costos de I+D también están aumentando significativamente debido al aumento de los precios de los equipos y la creciente dificultad técnica.
· Por lo tanto, las empresas necesitan una estrategia equilibrada que asegure efectivo y al mismo tiempo motive a los empleados a través de una compensación adecuada en efectivo y acciones (RSU, etc.), y al mismo tiempo asegure fondos para inversiones futuras. Este es un desafío importante tanto para Samsung como para SK Hynix.