Sau giai đoạn khuyến khích nhân viên sử dụng AI càng nhiều càng tốt, nhiều doanh nghiệp công nghệ đang chuyển sang chiến lược tiết kiệm chi phí và sử dụng token hiệu quả hơn.

Chỉ vài tháng trước, việc sử dụng càng nhiều token càng được xem là dấu hiệu tích cực tại không ít công ty AI. Theo Business Insider, xu hướng này hiện đang đảo chiều khi doanh nghiệp ngày càng quan tâm đến bài toán chi phí.

Tại startup AI Bold Metrics (Mỹ), Giám đốc công nghệ Morgan Linton cho biết ông chủ động phân công đội ngũ 16 kỹ sư sử dụng các mô hình khác nhau tùy từng nhiệm vụ. Hai lần mỗi tuần, ông sẽ hướng dẫn nhóm nào dùng Claude Fable ở mức thấp, nhóm nào sử dụng GPT-5.5 ở mức cao hoặc làm việc với Cursor cùng Composer 2.5.

Theo Linton, cách phân bổ này giúp đội ngũ vẫn tiếp cận những công cụ phù hợp nhất mà không cần áp đặt giới hạn cứng về lượng token - đơn vị dữ liệu đầu vào cơ bản gồm từ, một phần của từ, ký tự hoặc dấu câu mà mô hình AI xử lý để tạo đầu ra. Ông đánh giá phương pháp này mang lại "kết quả hoàn hảo", đồng thời giúp sử dụng tài nguyên hiệu quả hơn.

Khi lượng token từng trở thành thước đo nội bộ

Trước đây, nhiều doanh nghiệp từng coi mức tiêu thụ token là chỉ số phản ánh mức độ ứng dụng AI của nhân viên.

Hồi tháng 3, New York Times dẫn nguồn tin thân cận cho biết nhân viên tại một số công ty công nghệ như Meta và OpenAI thậm chí cạnh tranh trên bảng xếp hạng nội bộ dựa trên lượng token đã sử dụng. Tại Anthropic, một nhân viên dùng công cụ lập trình Claude Code tiêu tốn hơn 150.000 USD chỉ trong một tháng.

CEO Nvidia Jensen Huang cũng từng nhấn mạnh tầm quan trọng của việc sử dụng nhiều token trong chương trình All-In Podcast hồi tháng 3. Ông cho rằng nếu một kỹ sư nhận lương 500.000 USD nhưng không tiêu thụ lượng token trị giá ít nhất 250.000 USD thì đó là điều đáng lo ngại.

Tuy nhiên, quan điểm này đang vấp phải nhiều ý kiến trái chiều.

Scott Wu, CEO startup AI Cognition, cho rằng doanh nghiệp nên đánh giá nhân viên dựa trên kết quả tạo ra thay vì lượng token đã sử dụng. Theo ông, việc xếp hạng kỹ sư theo mức tiêu thụ token không phản ánh đúng năng suất làm việc.

Cristina Cordova, Giám đốc vận hành tại Linear, cũng đưa ra so sánh trên X hồi tháng 4 rằng việc đánh giá kỹ sư theo token chẳng khác nào xếp hạng đội ngũ marketing dựa trên số tiền họ chi tiêu, thay vì hiệu quả mang lại.

Chi phí AI tăng buộc doanh nghiệp thay đổi cách sử dụng

Áp lực ngân sách là nguyên nhân khiến nhiều công ty điều chỉnh chiến lược.

Praveen Neppalli Naga, Giám đốc công nghệ Uber, cho biết với The Information hồi tháng 4 rằng công ty đã sử dụng hết toàn bộ ngân sách AI dành cho năm 2026 chỉ sau bốn tháng. Ông nói phải lập lại toàn bộ kế hoạch vì khoản kinh phí dự kiến đã nhanh chóng cạn kiệt. Trước đó, Uber cũng từng khuyến khích nhân viên sử dụng AI thông qua các bảng xếp hạng nội bộ.

Financial Times hồi tháng 5 cho biết Amazon đã đóng bảng xếp hạng theo dõi mức độ sử dụng AI sau khi một số nhân viên cố tình giao cho tác nhân AI thực hiện những công việc không cần thiết nhằm tăng điểm, khiến chi phí điện toán tăng lên.

Trong khi đó, The Verge đưa tin Microsoft đang hủy phần lớn giấy phép sử dụng trực tiếp Claude Code và khuyến khích nhân viên chuyển sang GitHub Copilot CLI để ưu tiên sản phẩm nội bộ. Một số nguồn tin cho biết nguyên nhân thực sự là chi phí dành cho Claude Code tăng mạnh khi lượng người dùng ngày càng lớn.

Tesla cũng siết việc sử dụng AI. Đầu tháng 7, công ty thông báo giới hạn mức sử dụng công cụ AI của nhân viên ở 200 USD. Quy định này không áp dụng với Grok của xAI - công ty do Elon Musk sáng lập, hiện đã sáp nhập vào SpaceX và đổi tên thành SpaceXAI.

Chuyển đổi mô hình để tiết kiệm token trở thành xu hướng

Thay vì sử dụng một mô hình AI cho mọi tác vụ, nhiều doanh nghiệp và lập trình viên đang chuyển sang chiến lược kết hợp nhiều mô hình khác nhau.

Các nhà sáng lập, kỹ sư phần mềm, nhà thiết kế UX và cả những người theo xu hướng "vibe coding" giao các nhiệm vụ đòi hỏi tư duy cao cho những mô hình tiên tiến, trong khi những công việc đơn giản hoặc lặp lại được chuyển sang các mô hình cũ hơn với chi phí thấp hơn. Cách làm này giúp tối ưu ngân sách nhưng vẫn duy trì hiệu quả làm việc.

Đầu tháng 6, CEO Coinbase Brian Armstrong dự báo trong 12-18 tháng tới, khoảng 80% khối lượng công việc sẽ được xử lý trên những mô hình có chi phí rẻ hơn tới 99%, còn 20% sẽ tiếp tục sử dụng các mô hình mới nhất khi cần năng lực xử lý cao nhất.

Alejandra Thomas, kỹ sư phần mềm đồng thời là nhà sáng tạo nội dung công nghệ tại New York, cũng cho biết cô luôn thử nghiệm các mô hình mới nhưng không mặc định chọn mô hình đắt tiền nhất. Với các tác vụ đơn giản, Thomas ưu tiên sử dụng mô hình nhẹ, thậm chí không dùng AI nếu không cần thiết.

Theo nhà nghiên cứu kinh tế học hành vi Dan Ariely, giáo sư tại Đại học Duke, việc tối ưu từng token phản ánh "tư duy khan hiếm". Ông ví điều này giống thời dịch vụ di động còn giới hạn số phút gọi, khi nhiều người cố sử dụng hết hạn mức vào cuối tháng dù không thực sự có nhu cầu.

Xu hướng này cũng mở ra cơ hội cho các startup phát triển phần mềm định tuyến AI, tự động phân bổ từng nhiệm vụ đến mô hình phù hợp, bao gồm cả các mô hình mã nguồn mở. Theo Ara Kharazian, nhà kinh tế trưởng của công ty công nghệ tài chính Ramp, tỷ lệ doanh nghiệp sử dụng các phần mềm định tuyến đã tăng từ khoảng 1% năm ngoái lên 5% trong năm nay, cho thấy nhu cầu tối ưu hiệu quả và chi phí AI đang ngày càng rõ nét.