Mô hình AI là một chương trình được đào tạo trên một tập dữ liệu để nhận dạng các mẫu nhất định hoặc đưa ra quyết định nhất định mà không cần sự can thiệp thêm của con người. Các mô hình trí tuệ nhân tạo áp dụng các thuật toán khác nhau cho dữ liệu đầu vào có liên quan để hoàn thành các nhiệm vụ hoặc đầu ra mà chúng đã được lập trình.
Nói một cách đơn giản, một mô hình AI được định nghĩa bởi khả năng tự động đưa ra quyết định hoặc dự đoán, thay vì mô phỏng trí thông minh của con người. Trong số những mô hình AI thành công đầu tiên là các chương trình chơi cờ đam và cờ vua vào đầu những năm 1950: các mô hình này cho phép chương trình thực hiện các nước đi để phản ứng trực tiếp với đối thủ, thay vì tuân theo một chuỗi nước đi được lập trình sẵn.
Các loại mô hình AI khác nhau phù hợp hơn với các nhiệm vụ hoặc lĩnh vực cụ thể mà logic ra quyết định của chúng hữu ích hoặc phù hợp nhất. Các hệ thống phức tạp thường sử dụng nhiều mô hình cùng lúc, sử dụng các kỹ thuật học tập tổng hợp như đóng gói, tăng cường hoặc xếp chồng.
Khi các công cụ AI ngày càng phức tạp và đa năng, chúng đòi hỏi lượng dữ liệu và sức mạnh tính toán ngày càng lớn để đào tạo và thực thi. Để ứng phó, các hệ thống được thiết kế để thực hiện các tác vụ cụ thể trong một miền duy nhất đang dần nhường chỗ cho các mô hình nền tảng, được đào tạo trước trên các tập dữ liệu lớn, chưa được gắn nhãn và có khả năng ứng dụng rộng rãi. Các mô hình nền tảng đa năng này sau đó có thể được tinh chỉnh cho các tác vụ cụ thể.
Thuật toán so với mô hình
Mặc dù hai thuật ngữ này thường được sử dụng thay thế cho nhau trong bối cảnh này, nhưng chúng không hoàn toàn có nghĩa giống nhau.
- Thuật toán là các thủ tục, thường được mô tả bằng ngôn ngữ toán học hoặc mã giả, được áp dụng cho một tập dữ liệu để đạt được một chức năng hoặc mục đích nhất định.
- Mô hình là kết quả của thuật toán được áp dụng cho một tập dữ liệu.
Nói một cách đơn giản, mô hình AI được sử dụng để đưa ra dự đoán hoặc quyết định và thuật toán là logic mà mô hình AI đó hoạt động theo.
Mô hình AI và học máy (Machine Learning – ML)
Các mô hình AI có thể tự động hóa việc ra quyết định, nhưng chỉ những mô hình có khả năng học máy (ML) mới có thể tự động tối ưu hóa hiệu suất theo thời gian.
Mặc dù tất cả các mô hình ML đều là AI, nhưng không phải AI nào cũng liên quan đến ML. Các mô hình AI cơ bản nhất là một chuỗi các câu lệnh if-then-else, với các quy tắc được lập trình rõ ràng bởi một nhà khoa học dữ liệu. Các mô hình như vậy còn được gọi là công cụ quy tắc, hệ thống chuyên gia, đồ thị tri thức hoặc AI biểu tượng.
Các mô hình học máy sử dụng AI thống kê thay vì AI biểu tượng. Trong khi các mô hình AI dựa trên quy tắc phải được lập trình rõ ràng, các mô hình ML được “đào tạo” bằng cách áp dụng các khuôn khổ toán học của chúng vào một tập dữ liệu mẫu, với các điểm dữ liệu làm cơ sở cho các dự đoán trong thế giới thực của mô hình.
Các kỹ thuật mô hình ML thường có thể được chia thành ba loại chính: học có giám sát, học không giám sát và học tăng cường.
- Học có giám sát: Còn được gọi là học máy “cổ điển”, học có giám sát yêu cầu một chuyên gia con người dán nhãn dữ liệu huấn luyện. Một nhà khoa học dữ liệu đang huấn luyện một mô hình nhận dạng hình ảnh để nhận dạng chó và mèo phải dán nhãn các hình ảnh mẫu là “chó” hoặc “mèo”, cũng như các đặc điểm chính – như kích thước, hình dạng hoặc lông – để xác định các nhãn chính đó. Sau đó, trong quá trình huấn luyện, mô hình có thể sử dụng các nhãn này để suy ra các đặc điểm thị giác đặc trưng của “chó” và “mèo”.
- Học không giám sát: Không giống như các kỹ thuật học có giám sát, học không giám sát không giả định sự tồn tại bên ngoài của câu trả lời “đúng” hay “sai”, và do đó không cần gán nhãn. Các thuật toán này phát hiện các mẫu hình cố hữu trong tập dữ liệu để phân cụm các điểm dữ liệu thành các nhóm và đưa ra dự đoán. Ví dụ, các doanh nghiệp thương mại điện tử như Amazon sử dụng các mô hình liên kết không giám sát để hỗ trợ các công cụ đề xuất.
- Học tăng cường: Trong học tăng cường, một mô hình học tập toàn diện thông qua thử nghiệm và sai sót thông qua việc thưởng một cách có hệ thống cho kết quả đầu ra đúng (hoặc phạt cho kết quả đầu ra sai). Các mô hình tăng cường được sử dụng để cung cấp thông tin cho các đề xuất trên mạng xã hội, giao dịch chứng khoán theo thuật toán, và thậm chí cả xe tự lái.
Học sâu (Deep Learning – DL) là một tập hợp con phát triển hơn của học không giám sát, với cấu trúc mạng nơ-ron cố gắng mô phỏng cấu trúc não người. Nhiều lớp nút được kết nối với nhau sẽ dần dần thu thập dữ liệu, trích xuất các đặc điểm chính, xác định mối quan hệ và tinh chỉnh các quyết định trong một quy trình gọi là lan truyền thuận. Một quy trình khác gọi là lan truyền ngược áp dụng các mô hình tính toán lỗi và điều chỉnh trọng số cũng như độ lệch của hệ thống cho phù hợp. Hầu hết các ứng dụng AI tiên tiến, chẳng hạn như các mô hình ngôn ngữ lớn (LLM) hỗ trợ chatbot hiện đại, đều sử dụng học sâu. Nó đòi hỏi tài nguyên tính toán khổng lồ.
Mô hình tạo sinh (Generative models – GM) so với mô hình phân biệt (discriminative models – DM)
Một cách để phân biệt các mô hình học máy là dựa trên phương pháp luận cơ bản của chúng: Hầu hết có thể được phân loại thành mô hình tạo sinh hoặc mô hình phân biệt. Sự khác biệt nằm ở cách chúng mô hình hóa dữ liệu trong một không gian nhất định.
Mô hình tạo sinh
Các thuật toán tạo sinh, thường bao gồm học không giám sát, mô hình hóa phân phối của các điểm dữ liệu, nhằm mục đích dự đoán xác suất kết hợp P(x,y) của một điểm dữ liệu nhất định xuất hiện trong một không gian cụ thể. Do đó, một mô hình thị giác máy tính tạo sinh có thể xác định các mối tương quan như “những thứ trông giống ô tô thường có bốn bánh xe” hoặc “mắt ít có khả năng xuất hiện phía trên lông mày”.
Những dự đoán này có thể giúp tạo ra các kết quả đầu ra mà mô hình cho là có khả năng xảy ra cao. Ví dụ, một mô hình sinh được đào tạo trên dữ liệu văn bản có thể hỗ trợ các đề xuất chính tả và tự động hoàn thành; ở mức độ phức tạp nhất, nó có thể tạo ra văn bản hoàn toàn mới. Về cơ bản, khi một LLM xuất ra văn bản, nó đã tính toán được xác suất cao rằng chuỗi từ đó sẽ được lắp ráp để đáp ứng yêu cầu được đưa ra.
Các trường hợp sử dụng phổ biến khác của mô hình tạo sinh bao gồm tổng hợp hình ảnh, sáng tác nhạc, chuyển giao phong cách và dịch ngôn ngữ.
Ví dụ về mô hình tạo sinh bao gồm:
- Mô hình khuếch tán: Mô hình khuếch tán dần dần thêm nhiễu Gauss vào dữ liệu đào tạo cho đến khi không thể nhận dạng được, sau đó tìm hiểu quá trình “khử nhiễu” ngược có thể tổng hợp đầu ra (thường là hình ảnh) từ nhiễu hạt ngẫu nhiên.
- Bộ mã hóa tự động biến thiên (VAE): VAE bao gồm một bộ mã hóa nén dữ liệu đầu vào và một bộ giải mã học cách đảo ngược quy trình và lập bản đồ phân phối dữ liệu có thể xảy ra.
- Mô hình biến áp: Mô hình biến áp sử dụng các kỹ thuật toán học được gọi là “chú ý” hoặc “tự chú ý” để xác định cách các yếu tố khác nhau trong một chuỗi dữ liệu ảnh hưởng lẫn nhau. “GPT” trong Chat-GPT của OpenAI là viết tắt của “Generative Pretrained Transformer” (Biến áp được huấn luyện trước khi sinh).
Các mô hình phân biệt
Các thuật toán phân biệt, thường bao gồm học có giám sát, mô hình hóa ranh giới giữa các lớp dữ liệu (hay “ranh giới quyết định”), nhằm mục đích dự đoán xác suất có điều kiện P(y|x) của một điểm dữ liệu (x) cho trước rơi vào một lớp nhất định (y). Một mô hình thị giác máy tính phân biệt có thể học được sự khác biệt giữa “ô tô” và “không phải ô tô” bằng cách phân biệt một vài điểm khác biệt chính (chẳng hạn như “nếu nó không có bánh xe, nó không phải là ô tô”), cho phép nó bỏ qua nhiều mối tương quan mà một mô hình sinh phải tính đến. Do đó, các mô hình phân biệt thường đòi hỏi ít năng lực tính toán hơn.
Các mô hình phân biệt đương nhiên rất phù hợp với các tác vụ phân loại như phân tích cảm xúc – nhưng chúng có nhiều ứng dụng. Ví dụ, các mô hình cây quyết định và rừng ngẫu nhiên chia nhỏ các quy trình ra quyết định phức tạp thành một chuỗi các nút, tại đó mỗi “lá” đại diện cho một quyết định phân loại tiềm năng.
Các trường hợp sử dụng
Mặc dù các mô hình phân biệt hoặc tạo sinh nhìn chung có thể vượt trội hơn nhau trong một số trường hợp sử dụng thực tế, nhiều tác vụ có thể được thực hiện với cả hai loại mô hình. Ví dụ, các mô hình phân biệt có nhiều ứng dụng trong xử lý ngôn ngữ tự nhiên (NLP) và thường vượt trội hơn AI tạo sinh trong các tác vụ như dịch máy (bao gồm việc tạo ra văn bản đã dịch).
Tương tự, các mô hình sinh có thể được sử dụng để phân loại bằng định lý Bayes. Thay vì xác định một thể hiện nằm ở phía nào của ranh giới quyết định (như mô hình phân biệt), một mô hình sinh có thể xác định xác suất của mỗi lớp tạo ra thể hiện đó và chọn lớp có xác suất cao hơn.
Nhiều hệ thống AI sử dụng cả hai phương pháp song song. Ví dụ, trong một mạng đối kháng sinh sinh , một mô hình sinh tạo ra dữ liệu mẫu và một mô hình phân biệt sẽ xác định xem dữ liệu đó là “thật” hay “giả”. Đầu ra từ mô hình phân biệt được sử dụng để huấn luyện mô hình sinh cho đến khi bộ phân biệt không còn phân biệt được dữ liệu “giả” được tạo ra nữa.
Mô hình phân loại so với mô hình hồi quy
Một cách khác để phân loại mô hình là dựa trên bản chất của các tác vụ mà chúng được sử dụng. Hầu hết các thuật toán mô hình AI cổ điển đều thực hiện phân loại hoặc hồi quy. Một số phù hợp với cả hai, và hầu hết các mô hình nền tảng đều tận dụng cả hai loại chức năng.
Thuật ngữ này đôi khi có thể gây nhầm lẫn. Ví dụ, hồi quy logistic là một mô hình phân biệt được sử dụng để phân loại.
Mô hình hồi quy
Mô hình hồi quy dự đoán các giá trị liên tục (như giá, tuổi, kích thước hoặc thời gian). Chúng chủ yếu được sử dụng để xác định mối quan hệ giữa một hoặc nhiều biến độc lập (x) và biến phụ thuộc (y): với x cho trước, dự đoán giá trị của y.
- Các thuật toán như hồi quy tuyến tính và các biến thể liên quan như hồi quy phân vị rất hữu ích cho các nhiệm vụ như dự báo, phân tích độ co giãn giá và đánh giá rủi ro.
- Các thuật toán như hồi quy đa thức và hồi quy vectơ hỗ trợ (SVR) mô hình hóa các mối quan hệ phi tuyến tính phức tạp giữa các biến.
- Một số mô hình sinh, chẳng hạn như tự hồi quy và bộ mã hóa tự động biến phân, không chỉ tính đến mối quan hệ tương quan giữa các giá trị quá khứ và tương lai mà còn cả mối quan hệ nhân quả. Điều này khiến chúng đặc biệt hữu ích trong việc dự báo các kịch bản thời tiết và dự đoán các hiện tượng khí hậu cực đoan.
Mô hình phân loại
Các mô hình phân loại dự đoán các giá trị rời rạc. Do đó, chúng chủ yếu được sử dụng để xác định nhãn phù hợp hoặc phân loại (tức là phân loại). Đây có thể là phân loại nhị phân – như “có hoặc không”, “chấp nhận hoặc từ chối” – hoặc phân loại đa lớp (như công cụ đề xuất gợi ý Sản phẩm A, B, C hoặc D).
Thuật toán phân loại có nhiều ứng dụng, từ phân loại trực tiếp đến tự động trích xuất tính năng trong mạng học sâu cho đến những tiến bộ trong chăm sóc sức khỏe như phân loại hình ảnh chẩn đoán trong X quang.
Các ví dụ phổ biến bao gồm:
- Naïve Bayes: Một thuật toán học có giám sát tạo sinh thường được sử dụng trong lọc thư rác và phân loại tài liệu.
- Phân tích phân biệt tuyến tính: Được sử dụng để giải quyết sự chồng chéo mâu thuẫn giữa nhiều tính năng ảnh hưởng đến phân loại.
- Hồi quy logistic: dự đoán xác suất liên tục sau đó được sử dụng làm đại diện cho phạm vi phân loại.
Đào tạo mô hình AI
Quá trình “học” trong học máy được thực hiện bằng cách huấn luyện các mô hình trên các tập dữ liệu mẫu. Các xu hướng xác suất và tương quan được phân tích trong các tập dữ liệu mẫu này sau đó được áp dụng vào hiệu suất chức năng của hệ thống.
Trong học có giám sát và bán giám sát, dữ liệu huấn luyện này phải được các nhà khoa học dữ liệu gắn nhãn cẩn thận để tối ưu hóa kết quả. Với việc trích xuất đặc trưng phù hợp, học có giám sát đòi hỏi tổng lượng dữ liệu huấn luyện ít hơn so với học không giám sát.
Lý tưởng nhất là các mô hình ML được đào tạo dựa trên dữ liệu thực tế. Điều này, về mặt trực quan, đảm bảo tốt nhất rằng mô hình phản ánh đúng các tình huống thực tế mà nó được thiết kế để phân tích hoặc mô phỏng. Tuy nhiên, việc chỉ dựa vào dữ liệu thực tế không phải lúc nào cũng khả thi, thiết thực hay tối ưu.
Tăng kích thước và độ phức tạp của mô hình
Mô hình càng có nhiều tham số, càng cần nhiều dữ liệu để huấn luyện. Khi các mô hình học sâu phát triển về quy mô, việc thu thập dữ liệu này ngày càng trở nên khó khăn. Điều này đặc biệt rõ ràng trong các chương trình Thạc sĩ Học thuật (LLM): cả GPT-3 của Open-AI và BLOOM mã nguồn mở đều có hơn 175 tỷ tham số.
Mặc dù thuận tiện, việc sử dụng dữ liệu công khai có thể gây ra các vấn đề pháp lý, chẳng hạn như khi nào dữ liệu phải được ẩn danh, cũng như các vấn đề thực tế. Ví dụ, các mô hình ngôn ngữ được đào tạo trên các chủ đề mạng xã hội có thể “học” được các thói quen hoặc thông tin không chính xác, không lý tưởng cho mục đích sử dụng trong doanh nghiệp.
Dữ liệu tổng hợp cung cấp một giải pháp thay thế: một tập hợp dữ liệu thực nhỏ hơn được sử dụng để tạo ra dữ liệu đào tạo gần giống với dữ liệu gốc và tránh được các lo ngại về quyền riêng tư.
Loại bỏ sự thiên vị
Các mô hình học máy (ML) được đào tạo dựa trên dữ liệu thực tế chắc chắn sẽ hấp thụ những thành kiến xã hội được phản ánh trong dữ liệu đó. Nếu không được loại bỏ, những thành kiến này sẽ tiếp tục và làm trầm trọng thêm sự bất bình đẳng trong bất kỳ lĩnh vực nào mà các mô hình này cung cấp thông tin, chẳng hạn như chăm sóc sức khỏe hoặc tuyển dụng. Nghiên cứu khoa học dữ liệu đã tạo ra các thuật toán như FairIJ và các kỹ thuật tinh chỉnh mô hình như FairReprogram để giải quyết vấn đề bất bình đẳng vốn có trong dữ liệu.
Quá khớp và quá khớp
Quá khớp (overfitting) xảy ra khi mô hình ML khớp dữ liệu huấn luyện quá chặt, khiến thông tin không liên quan (hay “nhiễu”) trong tập dữ liệu mẫu ảnh hưởng đến hiệu suất của mô hình. Ngược lại, quá khớp (underfitting) là tình trạng huấn luyện không đúng hoặc không đầy đủ.
Mô hình nền tảng
Còn được gọi là mô hình cơ sở hoặc mô hình được đào tạo trước, mô hình nền tảng là các mô hình học sâu được đào tạo trước trên các tập dữ liệu quy mô lớn để học các đặc điểm và mẫu chung. Chúng đóng vai trò là điểm khởi đầu để tinh chỉnh hoặc điều chỉnh cho các ứng dụng AI cụ thể hơn.
Thay vì xây dựng mô hình từ đầu, các nhà phát triển có thể thay đổi các lớp mạng nơ-ron, điều chỉnh các tham số hoặc điều chỉnh kiến trúc để phù hợp với nhu cầu cụ thể của từng lĩnh vực. Thêm vào chiều rộng và chiều sâu của kiến thức và chuyên môn trong một mô hình lớn và đã được chứng minh, điều này giúp tiết kiệm đáng kể thời gian và tài nguyên trong việc đào tạo mô hình. Do đó, các mô hình nền tảng cho phép phát triển và triển khai các hệ thống AI nhanh hơn.
Việc tinh chỉnh các mô hình được đào tạo trước cho các nhiệm vụ chuyên biệt gần đây đã nhường chỗ cho kỹ thuật điều chỉnh nhanh , đưa ra các tín hiệu đầu vào cho mô hình để hướng dẫn mô hình tới loại quyết định hoặc dự đoán mong muốn.
Theo David Cox, đồng giám đốc Phòng thí nghiệm AI Watson của MIT-IBM, việc triển khai lại một mô hình học sâu đã được đào tạo (thay vì đào tạo hoặc đào tạo lại một mô hình mới) có thể cắt giảm mức sử dụng máy tính và năng lượng hơn 1.000 lần, do đó tiết kiệm đáng kể chi phí 1.
Kiểm tra các mô hình AI
Kiểm thử tinh vi là điều cần thiết cho quá trình tối ưu hóa, vì nó đo lường xem một mô hình có được đào tạo tốt để hoàn thành nhiệm vụ dự định hay không. Mỗi mô hình và nhiệm vụ khác nhau sẽ có các số liệu và phương pháp luận khác nhau.
Xác thực chéo
Việc kiểm tra hiệu suất của một mô hình đòi hỏi một nhóm đối chứng để đánh giá, vì việc kiểm tra mô hình với chính dữ liệu được huấn luyện có thể dẫn đến hiện tượng quá khớp. Trong kiểm chứng chéo, một phần dữ liệu huấn luyện được giữ lại hoặc lấy mẫu lại để tạo ra nhóm đối chứng đó. Các phương pháp bao gồm các phương pháp không đầy đủ như k-fold, holdout và kiểm chứng chéo monte carlo hoặc các phương pháp đầy đủ như kiểm chứng chéo leave-p-out.
Số liệu mô hình phân loại
Các số liệu phổ biến này kết hợp các giá trị kết quả riêng biệt như kết quả dương tính thật (TP), kết quả âm tính thật (TN), kết quả dương tính giả (FP) và kết quả âm tính giả (FN).
- Độ chính xác là tỷ lệ giữa số dự đoán đúng và tổng số dự đoán: (TP+TN) / (TP+TN+FP+FN). Tỷ lệ này không hiệu quả với các tập dữ liệu mất cân bằng.
- Độ chính xác đo lường mức độ thường xuyên mà các dự đoán tích cực là chính xác: TP/(TP+FP).
- Thu hồi đo lường tần suất thu thập thành công các kết quả dương tính: TP/(TP+FN).
- Điểm F1 là giá trị trung bình hài hòa của độ chính xác và độ thu hồi: ((2×Precision×Recall)/(Precision+Recall). Nó cân bằng sự đánh đổi giữa độ chính xác (khuyến khích kết quả âm tính giả) và độ thu hồi (khuyến khích kết quả dương tính giả).
- Ma trận nhầm lẫn biểu diễn trực quan mức độ tin cậy (hoặc nhầm lẫn) của thuật toán đối với từng phân loại tiềm năng.
Số liệu mô hình hồi quy 2
Vì thuật toán hồi quy dự đoán các giá trị liên tục thay vì các giá trị rời rạc, chúng được đo lường bằng các số liệu khác nhau, trong đó “N” biểu thị số quan sát. Sau đây là các số liệu phổ biến được sử dụng để đánh giá các mô hình hồi quy.
- Sai số tuyệt đối trung bình (MAE) đo lường sự khác biệt trung bình giữa các giá trị dự đoán (ypred) và các giá trị thực tế (yactual) theo nghĩa tuyệt đối: ∑(ypred – yactual) / N.
- Lỗi bình phương trung bình (MSE) bình phương lỗi trung bình để phạt mạnh tay các giá trị ngoại lai: ∑(ypred – yactual)2 / N.
- Lỗi bình phương trung bình căn bậc hai (RSME) đo độ lệch chuẩn theo cùng đơn vị với kết quả: √ (∑(ypred – yactual)2 / N).
- Sai số phần trăm tuyệt đối trung bình (MAPE) thể hiện sai số trung bình dưới dạng phần trăm.
Triển khai các mô hình AI
Việc triển khai và chạy một mô hình AI đòi hỏi một thiết bị điện toán hoặc máy chủ có đủ sức mạnh xử lý và dung lượng lưu trữ. Việc không lập kế hoạch đầy đủ cho các quy trình AI và tài nguyên điện toán có thể dẫn đến việc các nguyên mẫu thành công không thể vượt qua giai đoạn chứng minh khái niệm.
- Các khuôn khổ học máy nguồn mở như PyTorch, Tensorflow và Caffe2 có thể chạy các mô hình ML chỉ với một vài dòng mã.
- Bộ xử lý trung tâm (CPU) là nguồn sức mạnh tính toán hiệu quả để học các thuật toán không yêu cầu tính toán song song mở rộng.
- Bộ xử lý đồ họa (GPU) có khả năng xử lý song song tốt hơn, giúp chúng phù hợp hơn với các tập dữ liệu khổng lồ và tính phức tạp về mặt toán học của mạng nơ-ron học sâu.
Nguồn: https://www.ibm.com/think/topics/ai-model
