Vortex Gaming

· O cenário do mercado de memória está mudando à medida que o paradigma dos data centers de IA se move de 'aprendizado' para 'inferência'.
· No passado, devido ao alto valor do HBM, o investimento e a expansão da produção de HBM eram o padrão, mas atualmente o valor do HBM não é mais tão esmagador quanto antes, formando uma competição com memórias de propósito geral.
· Isso leva a uma disputa de olhares entre os três principais players globais da indústria de memória (Samsung Electronics, SK Hynix, Micron).

· A importância da fase de 'inferência' nos data centers de IA está crescendo, e ela desempenha um papel crucial no processamento de entradas do usuário e na geração de informações.
· O processamento de 'tokens' é importante no processo de inferência, e apenas a geração HBM mais avançada atualmente está se tornando difícil para processar centenas de milhares de tokens.
· Devido a isso, a memória, e não a GPU, está se tornando o gargalo da inferência, e soluções técnicas que contornam isso ou aumentam a capacidade da memória são necessárias, pois o HBM sozinho tem limitações.

· A estrutura de verticalização da memória é composta por várias etapas, como núcleos de computação, processamento de dados e armazenamento de dados. Quanto mais perto do núcleo, mais rápida a velocidade, mas menor a capacidade, e quanto mais longe, mais lenta a velocidade, mas maior a capacidade.
· HBM e DRAM desempenharam papéis importantes nessa estrutura, mas com o aumento da intensidade da computação de inferência, o HBM sozinho é insuficiente, e discussões estão surgindo sobre a necessidade de novas soluções técnicas entre HBM e DRAM.

· O melhor desempenho da SK Hynix é devido à alta lucratividade do HBM, mas a participação da Samsung Electronics no HBM ainda é pequena.
· No passado, devido ao alto valor do HBM, as fabricantes de memória de propósito geral também preferiam a produção de HBM, mas recentemente a situação mudou, pois a diferença de preço por gigabyte do HBM diminuiu em relação às memórias de propósito geral.
· Consequentemente, o consenso está mudando para uma estratégia de focar em reduzir custos e aumentar a capacidade de produção para memórias de propósito geral, em vez de investir pesadamente em HBM, para garantir o fluxo de caixa. Isso leva a uma disputa de olhares na indústria global de memória.

· A indústria de memória está em uma situação em que precisa decidir se investirá o fluxo de caixa obtido em instalações de produção de HBM de próxima geração ou se aumentará a capacidade de produção de semicondutores de propósito geral.
· A produção de HBM só é possível para um pequeno número de empresas, e a competição entre elas é acirrada. A SK Hynix está considerando manter uma estratégia focada em HBM, e um desempenho inferior ao esperado pode ser interpretado como um sinal da mudança no centro de gravidade do mercado.
· A indústria de semicondutores, apesar de lucros enormes, tem a característica de precisar investir continuamente na substituição de equipamentos e P&D, o que significa que investimentos de dezenas de trilhões de won são necessários periodicamente.

· Está se formando um cenário de combinação TSMC e SK Hynix, e combinação Samsung Foundry e Samsung Memory.
· A Samsung Foundry tem competitividade tecnológica semelhante à TSMC, mas tem fraquezas na otimização de processos personalizados para fabless e na obtenção de canais de acesso. No entanto, pode ser vantajosa na produção de memórias de próxima geração, como HBM4E, utilizando suas próprias tecnologias de processo (2nm, 3nm).
· A SK Hynix tem desenvolvido tecnologia de empacotamento através da colaboração com a TSMC, e há potencial para expansão futura para colaboração em foundry. Além disso, é necessário aumentar o poder de negociação e o investimento, garantindo a capacidade de produção de base própria.

· O próximo passo da IA será a IA on-device, que opera integrada ao mundo real, além da inferência online.
· A Apple é esperada para desempenhar um papel importante no mercado de inferência de IA on-device, com base em seu design de chip energeticamente eficiente e forte ecossistema de hardware.
· Existe a possibilidade de surgirem novos padrões de memória otimizados para o formato de smartphone, o que pode causar uma grande convulsão diferente dos padrões de memória do mercado de PC/servidor existente. Isso pode criar uma situação semelhante ao passado, quando as empresas de semicondutores japonesas não conseguiram responder às mudanças no mercado móvel.

· A Apple, com base na alta eficiência energética de seus chips da série M, pode criar um novo mercado exigindo o desenvolvimento de memória de IA de baixo consumo de energia.
· A Samsung, com base em sua alta participação de mercado em smartphones Galaxy, pode responder à Apple através da sinergia com suas próprias divisões de foundry e memória. O desenvolvimento integrado de chips Exynos e DRAM móvel é importante.
· A estratégia de otimização de hardware da Apple é desafiadora, mas se for bem-sucedida, tem o potencial de impulsionar significativamente o mercado de IA baseado em smartphones. A Samsung deve responder ativamente a essas mudanças para aproveitar a oportunidade.

· Embora haja um debate sobre bônus devido aos altos lucros recentes na indústria de semicondutores, isso também tem um lado positivo, mostrando exemplos de sucesso em indústrias estratégicas avançadas.
· A indústria de semicondutores deve reinvestir uma parte significativa de seus lucros em despesas de capital para o futuro, como substituição de equipamentos e investimentos em P&D. Os custos de P&D também estão aumentando significativamente devido ao aumento dos preços dos equipamentos e à crescente dificuldade técnica.
· Portanto, as empresas precisam de uma estratégia equilibrada que motive os funcionários através de remuneração em dinheiro e ações apropriadas (como RSU), ao mesmo tempo em que garante fundos para investimentos futuros, juntamente com a garantia de fluxo de caixa. Esta é uma tarefa importante para ambas, Samsung e SK Hynix.