Mô hình tiền huấn luyện là gì? Nền tảng của mọi AI bạn đang dùng

Mô hình tiền huấn luyện (pre-trained model) là hệ thống đã được huấn luyện trên tập dữ liệu khổng lồ để học các đặc trưng tổng quát, trước khi được tinh chỉnh cho một nhiệm vụ cụ thể.

Thay vì khởi tạo trọng số ngẫu nhiên, bạn bắt đầu từ những trọng số đã nắm được cấu trúc của ngôn ngữ hoặc hình ảnh.

Khoảng cách về quy mô giữa các thế hệ mô hình rất lớn: GPT-4 tiêu tốn khoảng 2e25 FLOP (phép tính dấu phẩy động), còn các đợt huấn luyện lớn nhất năm 2030 được dự báo chạm mức 2e29 FLOP. Chênh lệch 10.000 lần đó chính là bước chuyển sang mô hình nền tảng, nơi quy mô tính toán quyết định khả năng của hệ thống.

Nhiều ứng dụng AI khác nhau cùng đặt trên một lớp nền chung là mô hình tiền huấn luyện

Mô hình tiền huấn luyện là gì?

Thuật ngữ "foundation model" (mô hình nền tảng) do Stanford CRFM đặt ra, để phân biệt với cách xây dựng AI truyền thống, nơi mỗi mô hình chỉ giải quyết một nhiệm vụ đơn lẻ. Điểm khác biệt nằm ở chữ "nền tảng": mô hình tiền huấn luyện được huấn luyện tập trung một lần, nhưng thích ứng được cho hàng nghìn nhiệm vụ hạ nguồn. Bạn không còn dựng từng hệ thống rời rạc nữa, mà bắt đầu từ một thực thể đã có hiểu biết rộng về thế giới.

So sánh AI chuyên biệt mỗi bài toán một mô hình riêng với mô hình nền tảng một mô hình gốc phục vụ hàng nghìn nhiệm vụ hạ nguồn

Đây là bước dịch chuyển từ trí tuệ nhân tạo chuyên biệt (Narrow AI) sang AI đa năng. Sự hội tụ vào một vài mô hình nền tảng giúp tối ưu hiệu suất, nhưng đồng thời tạo ra phụ thuộc vào số ít mô hình gốc. Về mặt kỹ thuật, đó là thay đổi trong cách dựng hệ thống AI: từ lập trình logic sang tinh chỉnh những tham số đã học sẵn.

Một mô hình được tiền huấn luyện như thế nào?

Quy trình dựa trên học tự giám sát (self-supervised learning): mô hình tự tạo nhãn từ dữ liệu thô, không cần người gán nhãn. Có hai cơ chế chính. Causal language modelling dự đoán token tiếp theo trong chuỗi — cách dòng GPT được huấn luyện. Masked language modelling che ngẫu nhiên một số vị trí rồi bắt mô hình điền vào chỗ trống, như dòng BERT. Cả hai đều buộc mô hình phải dựng được biểu diễn nội tại về ngữ pháp và quan hệ giữa các sự kiện thì mới làm tốt được. Để tối ưu, kỹ sư hiện nay ưu tiên định dạng số thực FP8 thay vì FP16, đổi lấy hiệu suất tính toán và mức tiết kiệm điện gần gấp đôi.

Hai cơ chế học tự giám sát đặt cạnh nhau: causal language modelling đoán token tiếp theo và masked language modelling điền vào chỗ trống bị che

Về nguồn lực, một đợt tiền huấn luyện kéo dài từ 2 đến 9 tháng trên các cụm GPU lớn. Llama 3.1 405B được huấn luyện trên cụm 16.000 GPU H100 trong 72 ngày; tổng tải lắp đặt của cụm này lên tới 27 MW, tương đương mức tiêu thụ điện cả năm của 23.000 hộ gia đình Mỹ. Một con H100 kéo tới khoảng 1.700 W nếu tính cả làm mát, CPU và hạ tầng đi kèm, còn chỉ số PUE (hiệu quả sử dụng điện) của trung tâm dữ liệu rơi vào 1,2–1,5x. Đây không còn là bài toán phần mềm thuần túy, mà là bài toán phân phối điện và giải nhiệt ở cấp độ gigawatt.

Vì sao không ai huấn luyện mô hình lại từ đầu?

Huấn luyện lại từ đầu, trong hầu hết trường hợp, là phát minh lại cái bánh xe. Học chuyển tiếp (transfer learning) cho phép tái sử dụng những bộ lọc đặc trưng gần như bất biến. Trong thị giác máy tính, một mạng ConvNet huấn luyện trên ImageNet (1,2 triệu ảnh) đã học được các lớp phát hiện cạnh (edge detector) và đốm màu (color blob) — những thứ dùng lại được cho nhiệm vụ khác mà không cần huấn luyện lại.

Xét về kinh tế, chi phí tiền huấn luyện đã vượt khả năng của gần như mọi tổ chức. Stargate — khu trung tâm dữ liệu mà Microsoft và OpenAI dự kiến vận hành từ 2028 — cần tới vài gigawatt điện, và mở rộng lên 5 GW vào năm 2030. Để đẩy quy mô huấn luyện lên mức 2e29 FLOP, cả ngành phải sẵn sàng rót hàng trăm tỷ USD vào hạ tầng AI trong vài năm tới. Trong khi đó, tinh chỉnh (fine-tuning) rẻ hơn nhiều lần, vì bạn chỉ điều chỉnh phần cuối để mô hình hiểu mục đích cụ thể, thay vì học lại toàn bộ cấu trúc ngôn ngữ.

Từ mô hình gốc đến mô hình bạn chat hằng ngày

Một mô hình vừa tiền huấn luyện xong — gọi là base model — chưa dùng để trò chuyện được. Nó thuần túy là một máy viết tiếp văn bản. Bạn hỏi một câu, nó có thể viết tiếp bằng một câu hỏi khác, vì xác suất thống kê nói rằng chỗ đó thường là một câu hỏi nữa, chứ không phải vì nó hiểu bạn đang cần câu trả lời. Kiến thức thô thì có, còn khả năng tuân thủ chỉ dẫn thì chưa.

Chuỗi bước biến mô hình gốc thành trợ lý: base model rồi tinh chỉnh có giám sát SFT rồi RLHF rồi mô hình hướng dẫn và suy luận

Để thành mô hình hướng dẫn (instruct model) hoặc mô hình suy luận (reasoning model), nó phải đi qua bước thích ứng: tinh chỉnh có giám sát (SFT) rồi học tăng cường từ phản hồi con người (RLHF). Đây là giai đoạn biến xác suất thống kê thô thành thứ tương tác được. Bước này không chỉ dạy mô hình cách trả lời, mà còn dựng lên các rào chắn an toàn và khả năng suy luận từng bước.

Mô hình tiền huấn luyện có những giới hạn nào?

Rủi ro lớn nhất là đồng nhất hóa (homogenization): nếu mọi ứng dụng đều dựng trên cùng một mô hình gốc, một lỗi sai trong tiền huấn luyện sẽ di truyền sang toàn bộ hệ sinh thái phía trên. Kế đến là bức tường dữ liệu (data wall) — kho văn bản chất lượng cao do con người viết đang cạn dần, ở ngưỡng khoảng 500 nghìn tỷ token. Dữ liệu đa phương thức và dữ liệu tổng hợp (synthetic data) có thể nới ngưỡng này lên cỡ mười lần, nhưng đó là nới chứ không phải gỡ bỏ.

Ba bức tường chặn đà mở rộng của mô hình tiền huấn luyện: đồng nhất hóa, bức tường dữ liệu và bức tường độ trễ

Giới hạn cuối cùng là vật lý: bức tường độ trễ (latency wall). Mô hình càng lớn thì số thao tác tuần tự giữa các lớp càng nhiều, tạo ra một mức trễ tối thiểu không cách nào vượt qua. Tín hiệu trong sợi quang chỉ chạy bằng khoảng hai phần ba tốc độ ánh sáng trong chân không, nên khi cụm GPU quá lớn và phân tán, thời gian mỗi lần cập nhật gradient bị kéo dài: tối thiểu 110 µs mỗi lớp trong cùng một node, và 270–400 µs khi huấn luyện phân tán. Vượt qua ngưỡng batch size tới hạn, hiệu suất bắt đầu giảm dần — thêm GPU không còn rút ngắn được thời gian huấn luyện nữa.

Khi nào điều này thực sự ảnh hưởng đến bạn?

Nếu bạn không phải hyperscaler sở hữu hạ tầng cỡ gigawatt, câu trả lời thực dụng là đừng bao giờ huấn luyện mô hình từ đầu — chi phí phần cứng và điện năng là rào cản tuyệt đối. Việc đáng làm là tinh chỉnh trên nền một mô hình có sẵn, hoặc dùng RAG để đưa dữ liệu nghiệp vụ của bạn vào mô hình mà không phải động đến trọng số.

Sự phụ thuộc vào mô hình nền tảng sẽ còn tăng khi các đợt huấn luyện 2e29 FLOP thành chuẩn mực vào năm 2030. Hiểu cấu trúc và giới hạn vật lý của mô hình tiền huấn luyện là cách để bạn thiết kế hệ thống AI ổn định, hiệu quả và không đổ tài nguyên vào một cuộc đua tính toán không cân sức.