Cẩm nang công nghệ

Cùng khám phá Technology Newsletter với chủ đề AI Governance Platforms để hiểu hơn về các công cụ quản trị AI cũng như tính năng và ứng dụng của chúng trong các ngành nghề.

1. Giới thiệu

Hình 1: AI ngày càng được ứng dụng trên nhiều lĩnh vực

Sự phổ biến của Trí tuệ Nhân tạo (AI) trên ngày càng nhiều lĩnh vực đánh dấu một kỷ nguyên chuyển đổi trong cách các doanh nghiệp hoạt động và cách các cá nhân tương tác với công nghệ. AI được áp dụng rộng rãi, từ tự động hóa các tác vụ lặp đi lặp lại, phân tích các tập dữ liệu lớn và phức tạp đến tạo ra nội dung sáng tạo và khám phá khoa học. AI còn được ứng dụng trong các hệ thống phát hiện gian lận tinh vi trong ngành tài chính, cũng như tự động hóa các quy trình phức tạp trong sản xuất. Sự xuất hiện và phát triển nhanh chóng của các công cụ AI tạo sinh (Generative AI) gần đây càng cho thấy rõ khả năng của AI trong việc nâng cao năng suất và mở ra những khả năng mới trên nhiều lĩnh vực khác nhau.

Dù vậy sự phát triển nhanh chóng và rộng rãi của AI cũng làm phát sinh các thách thức và rủi ro tiềm ẩn. Khi các hệ thống AI ngày càng thâm nhập vào cuộc sống và quy trình làm việc của con người, đã có nhiều lo ngại hơn về các tác động đạo đức của chúng, các thành kiến cố hữu, việc đảm bảo an toàn và bảo mật, cũng như việc sử dụng chúng sai mục đích. Nếu thiếu các cơ chế quản trị đầy đủ có thể dẫn đến những hậu quả nghiêm trọng, bao gồm vi phạm các quyền riêng tư cơ bản, thực hiện các hoạt động kinh doanh phi đạo đức và gây ra những thiệt hại đáng kể về tài chính, pháp lý và uy tín cho các tổ chức. Ngoài ra, sự phức tạp vốn có của một số hệ thống AI có thể gây khó khăn cho người dùng và các bên liên quan trong việc hiểu và tin tưởng vào các kết quả và quyết định mà chúng tạo ra.

Để khai thác tiềm năng của AI một cách có trách nhiệm, nhu cầu sử dụng các công cụ quản trị AI đã trở nên hết sức cần thiết. Các công cụ này giúp quản lý quá trình ứng dụng AI đang diễn ra trong các tổ chức, giảm thiểu các rủi ro khác nhau liên quan đến việc triển khai AI, đáp ứng các yêu cầu về tuân thủ ngày càng nghiêm ngặt và cuối cùng tối đa hóa giá trị thu được từ các công nghệ AI.

2. Công cụ quản trị AI

Quản trị AI là sự phối hợp các quy trình, tiêu chuẩn và biện pháp bảo vệ để đảm bảo các hệ thống và ứng dụng AI được phát triển và sử dụng một cách an toàn và đạo đức. Quản trị AI nên được tiến hành trên toàn bộ vòng đời của AI, từ giai đoạn nghiên cứu và phát triển ban đầu đến áp dụng thực tế, với mục tiêu bao trùm là đảm bảo an toàn, công bằng và tôn trọng các quyền cơ bản của con người. Quản trị AI hiệu quả đòi hỏi việc thiết lập các cơ chế giám sát được thiết kế đặc biệt để giải quyết các rủi ro tiềm ẩn như thành kiến, sự xâm phạm quyền riêng tư cá nhân và khả năng sử dụng sai mục đích AI.

Các công cụ quản trị AI thường được thiết kế và phát triển dựa trên các mục tiêu cơ bản gồm:

• Xây dựng niềm tin vào các hệ thống AI bằng cách đảm bảo chúng minh bạch trong hoạt động, có thể giải thích được các quy trình ra quyết định và chịu trách nhiệm về hành động của chúng
• Đảm bảo tuân thủ nghiêm ngặt tất cả các luật hiện hành, các quy định không ngừng được điều chỉnh và các tiêu chuẩn đạo đức đã được thiết lập chi phối việc phát triển và triển khai AI
• Chủ động giảm thiểu các rủi ro khác nhau vốn có trong các công nghệ AI, chẳng hạn như việc đưa vào các thành kiến, khả năng vi phạm quyền riêng tư thông qua việc sử dụng sai mục đích dữ liệu, mối đe dọa về bảo mật và các hậu quả không lường trước
• Xác định vai trò và trách nhiệm giải trình rõ ràng cho tất cả các quyết định và hành động liên quan đến việc phát triển và triển khai các hệ thống AI.

                                        Hình 2: Tiếp cận chủ động trong việc sử dụng AI có trách nhiệm với các công cụ Quản trị AI

Sử dụng Công cụ Quản trị AI là một cách tiếp cận chủ động để đảm bảo việc ứng dụng AI có trách nhiệm. Chúng được thiết kế không chỉ để giám sát các hệ thống AI đang hoạt động mà còn để đưa vào các cân nhắc về đạo đức và tuân thủ quy định vào mọi giai đoạn trong vòng đời của AI. Bằng cách thiết lập các khuôn khổ, chính sách và kiểm soát ngay từ đầu, các nền tảng này nhằm mục đích ngăn chặn các vấn đề tiềm ẩn trước khi chúng phát sinh, thay vì chỉ phản ứng với các vấn đề sau khi chúng xảy ra. Phương pháp phòng ngừa này rất quan trọng để xây dựng và duy trì lòng tin vào các công nghệ AI và đảm bảo tính bền vững lâu dài và lợi ích xã hội của chúng.

3. Các tính năng chính của công cụ Quản trị AI
Một công cụ Quản trị AI đầy đủ cung cấp nhiều tính năng được thiết kế để giải quyết các thách thức khác nhau trong việc quản lý các hệ thống AI một cách có trách nhiệm.

• Quản lý tài nguyên AI gồm việc khám phá, lập danh mục chi tiết và quản lý liên tục tất cả các tài nguyên và công cụ AI được triển khai trên toàn tổ chức cung cấp một cái nhìn rõ ràng về sử dụng AI trong tổ chức.

Hình 3: Màn hình quản lý tài nguyên AI trong công cụ ModelOp

• Đánh giá và giảm thiểu rủi ro cho phép các tổ chức xác định các rủi ro tiềm ẩn liên quan đến hệ thống AI, chẳng hạn như sự hiện diện của các thành kiến có hại, vi phạm quyền riêng tư, các lỗ hổng đối với các mối đe dọa bảo mật và các vấn đề liên quan đến hiệu suất mô hình. Sau khi được xác định, các công cụ này cho phép đánh giá mức độ nghiêm trọng của các rủi ro này và thực hiện các chiến lược để giảm thiểu chúng một cách hiệu quả.

Hình 4: Màn hình tổng quan về rủi ro tiềm ẩn của các hệ thống AI trong tổ chức trên Holistic AI

• Phát hiện và giảm thiểu thành kiến giúp các tổ chức xác định các thành kiến có thể có trong các mô hình AI hoặc dữ liệu được sử dụng để huấn luyện các mô hình AI. Sau khi được phát hiện, các cung cụ này thường cung cấp các kỹ thuật và chiến lược để giảm hoặc loại bỏ các thành kiến này, giúp đưa ra các kết quả công bằng và bình đẳng hơn. Các kỹ thuật giúp phát hiện thành kiến trong dữ liệu huấn luyện mô hình như thống kê sự phân bố của các nhóm nhân khẩu học (giới tính, độ tuổi, chủng tộc, …) để phát hiện sự mất cân bằng trên các chỉ số như Equalized Odds (cân bằng xác suất kết quả đúng sai giữa các nhóm) hoặc Demographic Parity (kết quả đồng đều giữa các nhóm nhân khẩu). Khi phát hiện có thành kiến trong dữ liệu, có thể áp dụng các kỹ thuật như Reweighing (điều chỉnh trọng số của từng nhóm trong dữ liệu huấn luyện) hoặc Resampling (lấy mẫu lại để cân bằng giữa các nhóm) để chuẩn hóa dữ liệu. Đối với mô hình AI thì kiểm tra kết quả đầu ra của mô hình trên các nhóm khác nhau để tìm sự khác biệt và giảm thiểu khác biệt bằng cách điều chỉnh thuật toán như Adversarial Debiasing (dùng mô hình thứ hai để điều chỉnh kết quả của mô hình chính) hoặc Reject Option Classification (điều chỉnh quyết định của mô hình với các trường hợp có xác suất thấp để tăng công bằng).

Hình 5: Phân tích hiệu suất và tính công bằng của mô hình với What-If Tool

• Tính minh bạch và khả năng giải thích giúp cung cấp thông tin chi tiết về quy trình ra quyết định của các mô hình AI, giúp các bên liên quan dễ hiểu hơn. Các kỹ thuật như SHAP (SHapley Additive exPlanations) và LIME (Local Interpretable Model-agnostic Explanations) thường được tích hợp để cung cấp giải thích cho các dự đoán riêng lẻ.

Hình 6: Phân tích nhân quả (Causal Analysis) trong MS Azure ML Responsible AI Dashboard cung cấp khả năng giải thích

• Trách nhiệm giải trình và khả năng kiểm tra là rất quan trọng đối với AI có trách nhiệm, giúp xác định rõ ràng trách nhiệm đối với các kết quả do hệ thống AI tạo ra. Chúng cũng cho phép truy vết kiểm tra toàn diện về các hoạt động của hệ thống AI, cho phép theo dõi và xem xét các hành động và quyết định. Các kỹ thuật liên quan như ghi nhật ký (logging) toàn bộ tương tác giữa AI và người dùng, bao gồm đầu vào, đầu ra, thời gian xử lý; theo dõi và phát hiện hành vi bất thường như phản hồi sai hoặc thành kiến; lưu trữ nguồn gốc dữ liệu để biết thông tin nào được dùng để huấn luyện mô hình, theo dõi thay đổi dữ liệu nhằm đảm bảo rằng không có dữ liệu sai lệch gây ảnh hưởng đến quyết định của AI; liên kết các quyết định AI với nguồn dữ liệu, đảm bảo tính minh bạch; truy vết cách AI đưa quyết định bằng cách phân tích các thông số mô hình và trọng số.
• Quản lý vòng đời mô hình AI giúp quản lý phiên bản, giám sát và kiểm soát các mô hình trong suốt vòng đời của chúng từ giai đoạn phát triển ban đầu đến khi triển khai và cuối cùng là ngừng hoạt động.

Hình 7: Quản lý vòng đời mô hình AI trong Monitaur AI

• Giám sát và báo cáo tuân thủ giúp các tổ chức luôn cập nhật các quy định đang phát triển (ví dụ: GDPR, CCPA, Đạo luật AI của EU, HIPAA) và tạo ra các báo cáo cần thiết để chứng minh sự tuân thủ các yêu cầu pháp lý và quy định.
• Quản trị dữ liệu giúp đảm bảo tính chính xác, quyền riêng tư và bảo mật của dữ liệu được sử dụng để huấn luyện và vận hành các hệ thống AI.
• Giám sát và can thiệp theo thời gian thực cho phép các tổ chức liên tục theo dõi hiệu suất của hệ thống AI của họ và cung cấp khả năng can thiệp kịp thời khi phát hiện các bất thường hoặc vấn đề.
• Quản lý cộng tác và quy trình làm việc giúp cho việc cộng tác giữa các nhóm và bên liên quan được thuận tiện, đảm bảo rằng các bộ phận khác nhau tham gia vào vòng đời AI có thể làm việc cùng nhau một cách hiệu quả.

4.  Phân loại Công cụ Quản trị AI

Có thể phân loại các công cụ Quản trị AI dựa trên các chức năng chính mà chúng hỗ trợ. Một số công cụ có thể tập trung vào rủi ro, ưu tiên các tính năng để đánh giá, giảm thiểu rủi ro và tuân thủ quy định. Số khác có thể tập trung vào tính minh bạch, nhấn mạnh khả năng giải thích và kiểm tra của các mô hình AI. Cũng có công cụ tập trung vào quản lý vòng đời, tập trung vào việc giám sát và quản lý các mô hình AI trong suốt vòng đời của chúng, từ phát triển đến ngừng hoạt động.

Công cụ Quản trị AI cũng có thể được phân loại theo đối tượng người dùng. Một số công cụ được thiết kế cho đối tượng người dùng phổ thông, bao gồm những người không phải là chuyên gia về quyền riêng tư như nhà tiếp thị, chuyên gia CNTT và nhà phát triển sản phẩm. Một số công cụ khác được thiết kế riêng cho các nhóm Pháp lý và Tuân thủ, cung cấp các công cụ để theo dõi, xử lý và đảm bảo các vấn đề pháp lý. Các chuyên gia về rủi ro và bảo mật thường yêu cầu các công cụ có khả năng đánh giá và giảm thiểu rủi ro mạnh mẽ. Các nhà khoa học dữ liệu và chuyên gia AI cần các công cụ có thể tích hợp với quy trình phát triển của họ và cung cấp thông tin chi tiết về hiệu suất các mô hình AI. Các nhà lãnh đạo và giám đốc kinh doanh lại muốn các công cụ có khả năng cung cấp thông tin tổng quan về rủi ro AI và tình trạng tuân thủ.

Mô hình triển khai cũng là một yếu tố quan trọng khác trong việc phân loại các công cụ quản trị AI. Công cụ quản trị AI dựa trên đám mây (cloud-based) mang lại khả năng mở rộng, tính linh hoạt và dễ dàng triển khai qua Internet. Trong khi đó, công cụ quản trị AI nội bộ (on-premise), được cài đặt và vận hành trong cơ sở hạ tầng vật lý của tổ chức, mang lại khả năng kiểm soát dữ liệu và bảo mật cao hơn. Mô hình triển khai kết hợp (hybrid) kết hợp các yếu tố của cả hai, mang lại sự kết hợp giữa tính linh hoạt và khả năng kiểm soát.

5.  Một số công cụ quản trị AI
Ngày càng nhiều các công cụ Quản trị AI chuyên dụng cung cấp các giải pháp chuyên biệt. Credo AI tập trung vào quản lý rủi ro và tuân thủ mô hình AI, đặc biệt nhấn mạnh vào AI tạo sinh. Holistic AI cung cấp một công cụ toàn diện để quản lý và kiểm soát rủi ro AI, nhằm đảm bảo việc triển khai AI đạo đức và an toàn. ModelOp cung cấp một công cụ quản trị AI tập trung vào tự động hóa và tích hợp với cơ sở hạ tầng AI hiện có. Monitaur chuyên về quản trị AI với nền tảng ML Assurance, cung cấp các tính năng để giám sát và quản lý các mô hình AI.

Hình 8: Màn hình tổng quan về quản trị AI trên công cụ Credo AI

Các nhà cung cấp dịch vụ đám mây lớn cũng tích hợp các khả năng quản trị AI vào các nền tảng đám mây của họ. IBM Watsonx.governance cung cấp một bộ công cụ để quản lý toàn bộ vòng đời AI, tập trung vào khả năng giải thích và ngăn chặn thành kiến. Microsoft Azure Machine Learning với Responsible AI Dashboard cung cấp các tính năng để quản trị AI đạo đức, dựa trên các nguyên tắc công bằng, minh bạch và trách nhiệm giải trình. AWS AI Governance cung cấp các công cụ như Bedrock và SageMaker để đánh giá rủi ro và giám sát tuân thủ trong hệ sinh thái AWS. Collibra cung cấp một nền tảng trí tuệ dữ liệu (data intelligence) với các khả năng quản trị AI mạnh mẽ, tập trung vào truy xuất nguồn gốc dữ liệu và chất lượng dữ liệu.

Hình 9: Phân tích hiệu suất của mô hình (dựa trên độ lỗi) trên các nhóm dữ liệu khác nhau theo sơ đồ cây trong MS Azure ML Responsible AI Dashboard

VerifyWise nổi bật là một nền tảng mã nguồn mở được thiết kế rõ ràng để giúp các doanh nghiệp tận dụng sức mạnh của AI một cách an toàn và có trách nhiệm. VerifyWise cung cấp các tính năng như theo dõi tuân thủ và quản lý rủi ro, cung cấp cho các tổ chức các công cụ để thiết lập và duy trì các hoạt động AI có trách nhiệm. Chọn giải pháp mã nguồn mở có thể mang lại hiệu quả chi phí và khả năng tự do sửa đổi và tùy chỉnh phần mềm để đáp ứng các nhu cầu cụ thể của tổ chức, tuy nhiên, việc triển khai và duy trì các công cụ quản trị AI mã nguồn mở thường đòi hỏi mức độ chuyên môn kỹ thuật cao hơn so với các giải pháp thương mại có sẵn.

Hình 10: Màn hình kiểm soát việc tuân thủ của các úng dụng AI trong VerifyWise

Hình 11: So sánh các công cụ quản trị AI

6.  Ví dụ về ứng dụng công cụ quản trị AI trong Tài chính

Việc ứng dụng thực tế công cụ quản trị AI có sự khác nhau đáng kể giữa các ngành công nghiệp khác nhau. Trong ngành tài chính, các công cụ này có tầm quan trọng rất lớn trong việc đảm bảo tuân thủ nghiêm ngặt một mạng lưới các quy định phức tạp, bao gồm các tiêu chuẩn như SR 11-7, GDPR và nhiều hướng dẫn cụ thể khác của ngành tài chính. Chúng đóng một vai trò quan trọng trong việc quản lý một loạt các rủi ro tài chính, chẳng hạn như đánh giá chính xác khả năng tín dụng, phát hiện và ngăn chặn hiệu quả các hoạt động gian lận, và đảm bảo tính toàn vẹn và công bằng của các hệ thống giao dịch dựa trên thuật toán. Hơn nữa, công cụ quản trị AI giúp các tổ chức tài chính duy trì sự minh bạch và trách nhiệm giải trình cần thiết trong các quy trình ra quyết định tài chính dựa trên AI, thúc đẩy lòng tin giữa khách hàng và các nhà quản lý.

Hình 12: Quản trị AI trong lĩnh vực tài chính

7. Kết luận

Khi AI tiếp tục phát triển nhanh chóng, ngày càng trở nên tinh vi và thâm nhập sâu hơn vào xã hội của chúng ta, các công cụ quản trị AI cũng ngày càng đóng vai trò quan trọng hơn, góp phần định hình một tương lai mà ở đó các hệ thống AI được khai thác vì lợi ích chung của tất cả mọi người. Bằng cách triển khai tích cực các công cụ quản trị AI, các tổ chức có thể chủ động xây dựng và duy trì lòng tin của các bên liên quan, giảm thiểu một cách hiệu quả các rủi ro vốn có liên quan đến các công nghệ AI và cuối cùng khai thác toàn bộ tiềm năng của AI đồng thời bảo vệ danh tiếng của họ và đảm bảo tính bền vững lâu dài trong một thế giới ngày càng hướng đến AI. Việc triển khai các công cụ này sớm sẽ mang lại lợi thế cạnh tranh dài hạn và tạo nền móng vững chắc cho các chiến lược AI sau này của các tổ chức. Để đạt được mục tiêu này các tổ chức nên:

• Thành lập nhóm công tác về quản trị AI gồm đại diện từ các bộ phận pháp lý, CNTT, dữ liệu và ban điều hành
• Đánh giá hiện trạng ứng dụng AI nội bộ và các rủi ro tiềm ẩn
• Lập kế hoạch triển khai từng bước các công cụ quản trị AI phù hợp với mô hình hoạt động và ngành nghề
• Cập nhật định kỳ các thay đổi pháp lý trong và ngoài nước liên quan đến AI, đặc biệt tại EU và Mỹ
• Tích hợp quản trị AI ngay từ đầu vào quy trình phát triển sản phẩm và dịch vụ sử dụng AI để tránh hậu kiểm.