Thiếu hụt GPU tái diễn: Các nhà cung cấp đám mây như Microsoft thắt chặt nguồn cung, các công ty khởi nghiệp AI thuê chip tăng giá 32% và còn phải xếp hàng đến cuối năm

Theo theo dõi Beating, nhiều công ty khởi nghiệp AI phản ánh rằng các nhà cung cấp đám mây như Microsoft, Amazon đang tập trung GPU vào các nhóm nội bộ và khách hàng lớn (OpenAI, Anthropic), trong khi khách hàng nhỏ và vừa phải đối mặt với việc tăng giá, thời gian chờ đợi kéo dài và các điều khoản hợp đồng khắt khe hơn. Ban quản lý bán hàng của Microsoft Azure gần đây đã thông báo cho nhân viên rằng thời gian chờ GPU của khách hàng đám mây dự kiến sẽ kéo dài đến cuối năm 2026.

Ví dụ cụ thể: Công ty khởi nghiệp tạo hình ảnh Krea (vốn $8300 triệu USD, có các nhà đầu tư bao gồm Andreessen và Bain Capital Ventures) đã thuê hàng trăm chip Blackwell với giá 2,80 USD mỗi giờ mỗi card cách đây nửa năm, hợp đồng 6 tháng. Khi gia hạn, nhiều nhà cung cấp đám mây không bắt máy, cuối cùng thương lượng thành công với giá 3,70 USD/giờ, tăng 32%, hợp đồng được kéo dài đến 1 năm. CEO Victor Perez cho biết, một số nhà cung cấp trực tiếp không phản hồi, một số chỉ đồng ý hợp đồng dài 3 năm để thương lượng. CEO của Lightning AI, nhà cung cấp GPU đám mây, Will Falcon tiết lộ rằng công ty có 40.000 GPU trực tuyến, nhưng tổng nhu cầu của khoảng 40 khách hàng xếp hàng chờ đợi lên tới 400.000 GPU, giá thuê đã tăng hơn 25% trong nửa năm.

Microsoft áp dụng quản lý phân cấp truy cập GPU: khoảng 1.000 khách hàng lớn nhất (Tier 1) được ưu tiên phân phối; khách hàng nhỏ hơn muốn thuê chip Blackwell phải cam kết ít nhất 1.000 chiếc, ít nhất một năm, hợp đồng trị giá hàng chục triệu USD. Khách hàng trả phí theo mức sử dụng (pay-as-you-go) nếu để GPU bị bỏ không vài giờ, Microsoft có thể thu hồi quyền truy cập ngay lập tức. Các công ty khởi nghiệp tham gia chương trình miễn phí “Microsoft for Startups” cũng được thông báo rằng nếu không sử dụng đầy đủ sẽ bị thu hồi quyền truy cập GPU.

Đối tác của General Catalyst, Hemant Taneja, đã gửi khảo sát các công ty đầu tư về các hạn chế về công suất tính toán, tổ chức này đang lên kế hoạch chia sẻ các bể công suất hoặc đàm phán tập thể qua các công ty đại lý. Một số công ty khởi nghiệp bắt đầu xem xét tự mua GPU: Công ty AI trong ngành dầu khí Collide dự định chi khoảng $50 triệu USD để mua trực tiếp GPU của Nvidia, thuê không gian trung tâm dữ liệu để tự vận hành, nhằm tránh xếp hàng và các rủi ro không chắc chắn.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Ghim