Cách Apple áp dụng trí tuệ nhân tạo vào iPhone cũ

Cách Apple đưa AI tổng hợp vào iPhone đời cũ
Bài viết tiết lộ cách Apple sử dụng trí tuệ nhân tạo (AI) trên các mẫu iPhone cũ, giúp tăng tốc độ suy luận và cung cấp tính năng AI tổng hợp ngay trên thiết bị.

Cách Apple áp dụng trí tuệ nhân tạo vào iPhone cũ

Một bài nghiên cứu mới của Apple đã tiết lộ cách công ty này đưa trí tuệ nhân tạo (AI) vào các mẫu iPhone cũ của mình. Theo tài liệu nghiên cứu của Apple, công ty đã tìm ra giải pháp để chạy các mô hình ngôn ngữ lớn (LLM) trên các thiết bị có RAM hạn chế.

Thay vì tải toàn bộ mô hình vào RAM, Apple đã tìm cách lưu trữ "các thông số mô hình" và chỉ đưa một phần của chúng vào RAM khi cần thiết. Phương pháp này cho phép chạy các mô hình yêu cầu bộ nhớ RAM gấp đôi mà iPhone có thể có, đồng thời đảm bảo tốc độ suy luận tăng gấp 4-5 lần và 20-25 lần so với các phương pháp tải đơn giản vào CPU và GPU tương ứng.

Ưu điểm của việc triển khai AI tổng hợp trên thiết bị có nhiều RAM

Ưu điểm của việc triển khai AI tổng hợp trên thiết bị có nhiều RAM là tốc độ đọc/ghi nhanh hơn. Điều này rất quan trọng đối với AI trên thiết bị, giúp giảm thời gian suy luận và cung cấp phản hồi nhanh chóng cho người dùng. Với giải pháp này, trợ lý AI trên iPhone có khả năng chạy ở tốc độ đàm thoại, xử lý hình ảnh/văn bản nhanh hơn và tóm tắt bài viết một cách hiệu quả.

Điều đáng chú ý là giải pháp của Apple cho phép cung cấp tính năng AI tổng hợp ngay trên các mẫu iPhone cũ và mới. Điều này quan trọng vì iPhone của Apple thường có ít RAM hơn so với các điện thoại Android cao cấp. Ví dụ, dòng iPhone 11 chỉ có 4 GB bộ nhớ RAM, trong khi ngay cả iPhone 15 thông thường cũng chỉ có 6 GB bộ nhớ RAM.

Apple không phải là hãng di động duy nhất đang nỗ lực thu nhỏ LLM. Các chip hàng đầu của Qualcomm và MediaTek cũng hỗ trợ độ chính xác INT4 để thu nhỏ các mô hình AI. Các công ty đều đang tìm kiếm giải pháp mới để giảm yêu cầu hệ thống đối với AI trên thiết bị, giúp ngay cả điện thoại cấp thấp cũng có thể cung cấp tính năng này.

Với cách tiếp cận mới này, Apple đã thể hiện sự đổi mới và sáng tạo trong việc áp dụng trí tuệ nhân tạo vào các mẫu iPhone cũ. Điều này không chỉ nâng cao trải nghiệm người dùng mà còn mở ra nhiều tiềm năng cho phát triển công nghệ AI trên thiết bị di động.

Nguồn: [Tên nguồn]

Nguồn: Báo Thanh Niên

[question] Apple đã tìm cách nào để đưa trí tuệ nhân tạo vào các phiên bản iPhone cũ có RAM hạn chế?,Những lợi ích gì mà việc triển khai AI tổng hợp trên thiết bị có nhiều RAM mang lại?