Nhà Thông Minh | Tinh chỉnh mô hình AI: Bí quyết giảm tiêu thụ năng lượng

Theo một báo cáo mới công bố của Tổ chức Giáo dục, Khoa học và Văn hóa Liên hợp quốc (UNESCO), những điều chỉnh nhỏ trong các mô hình ngôn ngữ lớn (LLM) – nền tảng cốt lõi của nhiều ứng dụng AI hiện nay – có thể giúp tiết kiệm năng lượng đáng kể, giảm thiểu tác động môi trường và tối ưu chi phí vận hành. Hãy cùng Nhà Thông Minh Ario – Nhà Thông Minh Thế Hệ Mới làm rõ vấn đề trên nhé!

Báo cáo UNESCO chỉ ra ba chiến lược giảm tiêu thụ năng lượng AI

Báo cáo dài 35 trang mang tên “Thông minh hơn, nhỏ hơn, mạnh hơn: AI tạo ra hiệu quả tài nguyên và tương lai chuyển đổi số” đã nêu ra ba cách để các nhà phát triển và người dùng AI có thể giảm bớt sự “ngốn điện” của công nghệ này.

Sử dụng mô hình nhỏ hơn

Theo UNESCO, các mô hình nhỏ hơn vẫn có thể thông minh và chính xác như các mô hình lớn. Đặc biệt, các mô hình nhỏ được thiết kế chuyên biệt cho từng tác vụ cụ thể có khả năng cắt giảm mức tiêu thụ năng lượng tới 90%.

Hiện nay, người dùng thường dựa vào các mô hình lớn, đa năng cho mọi nhu cầu. Tuy nhiên, nghiên cứu chỉ ra rằng việc sử dụng các mô hình nhỏ hơn được thiết kế riêng cho những nhiệm vụ như dịch thuật hoặc tóm tắt văn bản có thể giúp tiết kiệm đáng kể năng lượng mà không làm giảm hiệu suất.

Các mô hình nhỏ hơn cũng mang lại lợi ích khác như dễ triển khai hơn trong những môi trường có tài nguyên hạn chế, cung cấp thời gian phản hồi nhanh và giảm chi phí vận hành.

Tối ưu lời nhắc và rút gọn câu trả lời

Báo cáo cũng nhấn mạnh rằng việc đơn giản hóa truy vấn đầu vào và rút gọn phản hồi có thể giúp giảm hơn 50% mức tiêu thụ năng lượng. Rút ngắn các đoạn đầu vào và đầu ra không chỉ giảm lượng dữ liệu xử lý mà còn giúp tiết kiệm chi phí khi vận hành các mô hình ngôn ngữ lớn.

Nén mô hình để giảm kích thước và tiết kiệm năng lượng

Ứng dụng các kỹ thuật nén mô hình, chẳng hạn như lượng tử hóa, có thể tiết kiệm tới 44% năng lượng bằng cách giảm độ phức tạp trong tính toán. Ngoài ra, nén mô hình giúp giảm chi phí vận hành, thu nhỏ kích thước và tăng tốc độ xử lý.

Vì sao mô hình nhỏ hơn tiêu tốn ít năng lượng hơn?

Các mô hình AI nhỏ tiêu thụ ít năng lượng hơn nhờ yêu cầu ít tham số, sử dụng ít bộ nhớ và thông lượng GPU thấp hơn đáng kể. Điều này có nghĩa là cả quá trình đào tạo và suy luận đều tiêu tốn ít điện năng hơn.

Jim Olsen, Giám đốc Công nghệ của ModelOp, giải thích:
“Bạn không cần chạy hàng tỷ phép tính trên mỗi token. Khi tối ưu hóa độ chính xác trong phạm vi hẹp hơn, chi phí tính toán sẽ bền vững hơn.”

Trong khi đó, Wyatt Mayham, trưởng bộ phận tư vấn AI tại Northwest AI Consulting, so sánh:
“Càng nhiều tham số thì càng nhiều phép tính, đòi hỏi sức mạnh xử lý lớn hơn từ GPU và tiêu thụ nhiều năng lượng hơn. Giống như một động cơ V8 tiêu tốn nhiều xăng hơn động cơ bốn xi-lanh, mô hình lớn sẽ ngốn năng lượng nhiều hơn mô hình nhỏ.”

Tối ưu lời nhắc: Giữ ngắn gọn để tiết kiệm năng lượng

Mặc dù các mô hình AI thường được gọi là “chatbot”, nhưng việc trò chuyện dài dòng với AI không mang lại lợi ích gì. Mel Morris, CEO của Corpora.ai, chia sẻ:
“AI hiểu được ý định của bạn. Nó không cần những lời xã giao hay câu chữ dư thừa. Các từ ngữ bổ sung đó chỉ khiến mô hình mất thêm thời gian và năng lượng để xử lý.”

Ian Holmes, giám đốc tại SAS, cũng đồng tình rằng việc tối ưu lời nhắc và phản hồi ngắn gọn sẽ giúp giảm lượng dữ liệu mà mô hình cần xử lý, từ đó giảm công suất tính toán cần thiết.

Tuy nhiên, các chuyên gia lưu ý rằng không phải lúc nào lời nhắc ngắn gọn cũng phù hợp. Với những tác vụ phức tạp, việc cung cấp đầy đủ bối cảnh và ví dụ chi tiết vẫn là cần thiết để đảm bảo độ chính xác của kết quả.

Nén mô hình: Tiềm năng và thách thức

Việc nén mô hình AI cũng đi kèm rủi ro nếu làm quá mức, có thể dẫn đến giảm độ chính xác hoặc khả năng suy luận logic. Đồng thời, việc triển khai kỹ thuật nén hiệu quả đòi hỏi chuyên môn kỹ thuật sâu và nhiều lần thử nghiệm.

Charles Yeomans, CEO của Atombeam, nhận định:
“Chìa khóa để giảm tiêu thụ năng lượng là kết hợp nhiều phương pháp tối ưu hóa – sử dụng mô hình nhỏ hơn, nén, lời nhắc hiệu quả và phần cứng tối ưu – để đạt hiệu quả cao nhất.”

Axel Abulafia, giám đốc kinh doanh tại CloudX, bổ sung:
“Mặc dù sử dụng LLM đa năng cho mọi tác vụ nghe có vẻ hấp dẫn, nhưng nguyên tắc thông minh hơn là bắt đầu từ các mô hình nhỏ, được tinh chỉnh kỹ lưỡng và chỉ chuyển sang mô hình lớn khi thực sự cần thiết.”

Smarthome – Kết luận

Việc tinh chỉnh mô hình AI không chỉ giúp giảm tiêu thụ năng lượng mà còn tạo ra chi phí vận hành bền vững hơn. Các doanh nghiệp và nhà phát triển AI cần cân nhắc kỹ lưỡng để lựa chọn phương pháp tối ưu nhất, kết hợp giữa hiệu suất và tính bền vững cho tương lai.

Nguồn: technewsworld.com