Theo đó, hai công ty sẽ bắt tay xây dựng một mô hình ngôn ngữ AI trên thiết bị và tích hợp công nghệ mô hình ngôn ngữ nhỏ (SLM) hàng đầu lên các mẫu laptop LG Gram.
“Hai công ty sẽ phát triển tính năng AI và dịch vụ bổ sung để tích hợp lên LG Gram, mang tới trải nghiệm mới, cá nhân hoá cho người sử dụng hằng ngày”, công ty Hàn Quốc cho biết. “Chẳng hạn, AI có thể nhận diện câu lệnh và truy vấn của chủ nhân để đưa ra đề xuất hay tóm tắt nội dung mà người dùng yêu cầu dựa trên dữ liệu đang lưu trữ trên laptop”.
Về phía Upstage, công ty này kỳ vọng mở rộng SLM Solar sang hoạt động phát triển AI “on-device” cho PC và các ứng dụng. SLM Solar được coi là giải pháp tối ưu cho AI trên thiết bị vì nó có thể cung cấp nhiều chức năng AI khác nhau mà không ảnh hưởng đến tốc độ suy luận và mức tiêu thụ điện năng. Theo xếp hạng mô hình ngôn ngữ lớn của nền tảng AI Hugging Face, Solar đứng đầu với số điểm đánh giá hiệu suất là 74,2 điểm.
AI “on-device” là công nghệ cho phép thực hiện các tính năng AI ngay trên thiết bị mà không cần kết nối Internet. Việc xử lý thông tin ngay thiết bị sẽ giúp nâng cao tốc độ hoạt động và tiết kiệm năng lượng sử dụng hơn so với các dịch vụ AI kết nối đám mây.
Bên cạnh đó, công nghệ cũng giải quyết mối lo ngại liên quan đến dữ liệu riêng tư và phục vụ người dùng ở những khu vực kết nối Internet không ổn định hay trong trường hợp mất kết nối mạng, từ đó cho phép trải nghiệm AI diễn ra xuyên suốt.
Khái niệm AI “on-device” đang thu hút sự chú ý khi các dịch vụ AI ngày càng trở nên quan trọng. Samsung gần đây vừa tung ra loạt smartphone Galaxy S24 được trang bị các tính năng AI này. Trong khi đó, Apple dự kiến cũng sẽ đưa AI “on-device” lên iPhone.
Tâm An (t/h)
