Vortex Gaming

· Cán cân thị trường bộ nhớ đang thay đổi khi mô hình trung tâm dữ liệu AI chuyển dịch từ 'học' sang 'suy luận'.
· Trước đây, việc đầu tư và mở rộng sản xuất HBM là điều hiển nhiên do giá trị cao của HBM, nhưng hiện tại giá trị của HBM không còn vượt trội như trước, tạo ra cục diện cạnh tranh với bộ nhớ thông thường.
· Điều này dẫn đến cuộc đấu trí giữa ba ông lớn ngành bộ nhớ toàn cầu (Samsung Electronics, SK Hynix, Micron).

· Tầm quan trọng của giai đoạn 'suy luận' trong các trung tâm dữ liệu AI ngày càng lớn, đóng vai trò cốt lõi trong quá trình xử lý đầu vào của người dùng và tạo ra thông tin.
· Việc xử lý 'token' trở nên quan trọng trong quá trình suy luận, và HBM thế hệ tiên tiến nhất hiện nay gặp khó khăn trong việc xử lý hàng trăm nghìn token.
· Do đó, bộ nhớ chứ không phải GPU đang trở thành nút thắt cổ chai cho suy luận, và các giải pháp kỹ thuật để khắc phục hoặc tăng dung lượng bộ nhớ đang được yêu cầu vì HBM là không đủ.

· Cấu trúc xếp chồng dọc bộ nhớ bao gồm nhiều giai đoạn như lõi xử lý, xử lý dữ liệu, lưu trữ dữ liệu, với đặc điểm là càng gần lõi thì tốc độ càng nhanh nhưng dung lượng càng nhỏ, và càng xa thì tốc độ càng chậm nhưng dung lượng càng lớn.
· HBM và DRAM đã đóng vai trò quan trọng trong cấu trúc này, nhưng khi cường độ suy luận tăng lên, HBM là không đủ và đang có những thảo luận về sự cần thiết của một giải pháp kỹ thuật mới giữa HBM và DRAM.

· Lợi nhuận kỷ lục của SK Hynix đến từ doanh thu cao của HBM, nhưng tỷ trọng HBM của Samsung Electronics vẫn còn nhỏ.
· Trước đây, các nhà sản xuất bộ nhớ phổ thông cũng ưu tiên sản xuất HBM do giá trị cao của nó, nhưng gần đây, tỷ lệ giá mỗi gigabyte của HBM đã thu hẹp khoảng cách với bộ nhớ phổ thông, dẫn đến sự thay đổi.
· Do đó, thay vì đầu tư ồ ạt vào HBM, xu hướng chung đang dịch chuyển sang chiến lược đảm bảo dòng tiền bằng cách giảm chi phí và tăng năng lực sản xuất theo nhu cầu bán dẫn phổ thông tăng. Điều này dẫn đến cuộc đấu trí trong ngành bộ nhớ toàn cầu.

· Ngành bộ nhớ đang đứng trước quyết định liệu có nên đầu tư dòng tiền thu được vào cơ sở sản xuất HBM thế hệ tiếp theo hay tăng năng lực sản xuất bán dẫn phổ thông.
· Sản xuất HBM chỉ có thể thực hiện bởi một số ít công ty và cạnh tranh giữa họ rất khốc liệt. SK Hynix đang cân nhắc việc duy trì chiến lược tập trung vào HBM, và kết quả thấp hơn dự kiến có thể được diễn giải là tín hiệu thay đổi trọng tâm thị trường.
· Ngành công nghiệp bán dẫn có đặc điểm là phải liên tục đầu tư vào thay thế thiết bị và R&D bất chấp lợi nhuận khổng lồ, điều này có nghĩa là cần đầu tư hàng chục nghìn tỷ won theo chu kỳ.

· Một cục diện đang hình thành là sự kết hợp giữa TSMC và SK Hynix, cùng với sự kết hợp giữa Samsung Foundry và Samsung Memory.
· Samsung Foundry có năng lực công nghệ tương đương TSMC, nhưng yếu về tối ưu hóa quy trình tùy chỉnh cho fabless và đảm bảo kênh tiếp cận. Tuy nhiên, việc sử dụng công nghệ quy trình riêng (2nm, 3nm) có thể có lợi cho việc sản xuất bộ nhớ thế hệ tiếp theo như HBM4E.
· SK Hynix đã phát triển công nghệ đóng gói thông qua hợp tác với TSMC và có khả năng mở rộng hợp tác đúc trong tương lai. Ngoài ra, cần tăng cường khả năng đàm phán và đầu tư bằng cách đảm bảo năng lực sản xuất đế bán dẫn riêng.

· Giai đoạn tiếp theo của AI sẽ là AI trên thiết bị, hoạt động tích hợp trong thế giới thực, vượt ra ngoài suy luận trực tuyến.
· Apple được kỳ vọng sẽ đóng vai trò quan trọng trong thị trường suy luận AI trên thiết bị nhờ thiết kế chip tiết kiệm năng lượng và hệ sinh thái phần cứng mạnh mẽ.
· Có khả năng xuất hiện một tiêu chuẩn bộ nhớ mới được tối ưu hóa cho dạng yếu tố điện thoại thông minh, điều này có thể gây ra một cuộc đại biến đổi khác với tiêu chuẩn bộ nhớ của thị trường PC/máy chủ hiện tại. Điều này có thể tạo ra tình huống tương tự như quá khứ khi các công ty bán dẫn Nhật Bản không ứng phó kịp với sự thay đổi của thị trường di động.

· Apple, với hiệu quả năng lượng cao của chip dòng M, có thể tạo ra một thị trường mới bằng cách yêu cầu phát triển bộ nhớ chuyên dụng cho AI, tiêu thụ ít năng lượng.
· Samsung, với thị phần cao của điện thoại thông minh Galaxy, có thể đối phó với Apple thông qua sức mạnh tổng hợp giữa bộ phận đúc và bộ nhớ của mình. Việc phát triển tích hợp chip Exynos và DRAM di động là rất quan trọng.
· Chiến lược tối ưu hóa phần cứng của Apple đầy thách thức, nhưng nếu thành công, nó có tiềm năng thúc đẩy mạnh mẽ thị trường AI dựa trên điện thoại thông minh. Samsung cần chủ động ứng phó với những thay đổi này để nắm bắt cơ hội.

· Gần đây có tranh cãi về thưởng hiệu suất do lợi nhuận cao của ngành bán dẫn, nhưng đây cũng là một khía cạnh tích cực cho thấy sự thành công của ngành công nghiệp chiến lược tiên tiến.
· Ngành công nghiệp bán dẫn phải tái đầu tư phần lớn lợi nhuận vào chi tiêu vốn cho tương lai như thay thế thiết bị, đầu tư R&D. Chi phí R&D cũng đang tăng đáng kể do giá thiết bị tăng và độ khó kỹ thuật ngày càng cao.
· Do đó, các công ty cần có một chiến lược cân bằng, vừa đảm bảo dòng tiền, vừa có hình thức đãi ngộ phù hợp như thưởng tiền mặt và thưởng cổ phiếu (RSU, v.v.) để tạo động lực cho nhân viên, đồng thời đảm bảo nguồn vốn cho đầu tư tương lai. Đây là nhiệm vụ quan trọng đối với cả Samsung và SK Hynix.