Trong cuộc đua không ngừng tối ưu hóa AI, các nhà phát triển luôn tìm cách đưa mô hình ngôn ngữ lớn (LLM) hoạt động hiệu quả trên phần cứng yếu nhất, với chi phí thấp nhất. Tuy nhiên, một dự án đầy tham vọng đã vượt xa mọi giới hạn thông thường: chạy một mô hình AI trên phần cứng ra đời từ năm 1982 – chiếc máy tính huyền thoại Commodore 64. Đây là câu chuyện về Llama2.c64, một nỗ lực đáng kinh ngạc nhằm mang khả năng của Llama2 đến với một cỗ máy đã 42 tuổi.
Llama2.c64: Công Nghệ AI Mới Gặp Gỡ Lịch Sử Phần Cứng Cổ Điển
Dự án mang tên “Llama2.c64” là sáng kiến của Maciej Witkowiak, người đang hiện thực hóa ý tưởng đưa AI đơn giản hoạt động trên chiếc Commodore 64. Mặc dù chắc chắn không thể sánh kịp với GPT-4o về hiệu năng, nhưng việc khởi chạy bất kỳ mô hình trí tuệ nhân tạo nào trên phần cứng lỗi thời này vẫn là một thành tựu kỹ thuật phi thường.
Bàn phím cơ 8BitDo C64 mang hơi thở Commodore hoài cổ
Như Hackaday đã đưa tin đầu tiên, Maciej Witkowiak đã công bố Llama2.c64, một dự án chuyển đổi mã nguồn llama2.c sang môi trường Commodore C64. Để hoạt động, chiếc C64 cần được trang bị ít nhất 2MB bộ nhớ mở rộng REU (RAM Expansion Unit). Llama2.c64 sử dụng mô hình 260K tinystories từ Hugging Face, mang khả năng tạo văn bản của Llama2 vào một hệ thống phần cứng độc đáo như C64. Điều quan trọng cần lưu ý là đây không phải là một mô hình chat AI đa năng. Witkowiak mô tả nó giống như việc “yêu cầu một đứa trẻ 3 tuổi kể tiếp câu chuyện – chúng sẽ tiếp tục theo vốn từ vựng và khả năng của mình”.
Giao diện Llama2.c64 hiển thị quá trình tạo văn bản trên Commodore 64
Ví dụ minh họa trên cho thấy Llama2.c64 tạo ra một câu chuyện, với văn phong và nội dung đơn giản, gợi nhớ đến cách một đứa trẻ hồn nhiên kể chuyện. Với lượng dữ liệu đầu vào tối thiểu và khả năng tiếp nối câu chuyện ấn tượng, đây thực sự là một kết quả tuyệt vời đối với một chiếc máy tính ra đời từ năm 1982.
Ưu và Nhược Điểm của Llama2.c64 Theo Góc Nhìn Nhà Phát Triển
Về những lợi ích của dự án này, Witkowiak chỉ ra rằng AI hoàn toàn nằm dưới sự kiểm soát của người dùng và hoạt động được trên phần cứng yếu. Ông còn khẳng định: “Việc chờ đợi từng token tiếp theo trên C64 cũng thú vị không kém so với việc chờ đợi kết quả từ DeepSeek chạy trên laptop của bạn.” Trong khi đó, về nhược điểm, tác giả cho rằng “thực sự không có, điều này thật tuyệt vời,” dù cũng thừa nhận rằng nó có thể hơi chậm.
Dự án Llama2.c64 không chỉ là một bằng chứng cho sự sáng tạo không giới hạn của cộng đồng công nghệ, mà còn là minh chứng cho tiềm năng của việc tối ưu hóa các mô hình AI để chạy trên những nền tảng tưởng chừng như không thể. Nó mở ra một hướng đi mới, cho thấy rằng trí tuệ nhân tạo có thể tiếp cận nhiều người hơn thông qua các thiết bị phần cứng khiêm tốn.
Khám phá thêm: Nếu bạn quan tâm đến việc chạy AI trên các thiết bị mạnh mẽ hơn một chút (nhưng vẫn đủ ấn tượng), hãy tìm hiểu thêm về các bo mạch đơn SBC lý tưởng cho AI tại nhà.