Những rủi ro từ việc ứng dụng AI tạo sinh trong lĩnh vực dịch vụ tài chính

Ảnh Internet

Trung tâm Chiến lược Pháp chế Deloitte châu Á - Thái Bình Dương (ACRS) vừa phát hành Báo cáo "Generative AI: Ứng dụng và Quy định tại khu vực châu Á - Thái Bình Dương", trong đó chỉ ra những rủi ro phát sinh từ việc sử dụng GenAI trong lĩnh vực dịch vụ tài chính, "bức tranh" toàn cảnh về các quy định hiện nay tại châu Á - Thái Bình Dương, cũng như đưa ra các hướng dẫn hỗ trợ các công ty chuẩn bị tốt nhằm đáp ứng những thay đổi về quy định và pháp chế sắp tới trong lĩnh vực tài chính đang phát triển nhanh chóng.

Theo ACRS, trong khi tính minh bạch, trách nhiệm giải trình, tính công bằng, phát triển lành mạnh, quyền riêng tư và bảo mật dữ liệu vẫn còn là những vấn đề cần xem xét, thì quan ngại với những thành kiến tiềm ẩn và quyền sở hữu trí tuệ tiếp tục đặt ra cho các cơ quan quản lý bài toán phải cân bằng lợi ích giữa việc đổi mới công nghệ và việc bảo đảm an toàn của người dùng.

Hàng loạt công ty lớn cấm nhân viên sử dụng ChatGPT

Ngành dịch vụ tài chính đang trải qua thời kỳ thay đổi và gián đoạn sâu sắc. GenAI đang thay đổi cách thức cung cấp dịch vụ, nhưng, cũng như bất kỳ thay đổi nào, mối quan tâm về mặt pháp lý và giám sát đối với AI vẫn đang gia tăng. Các công ty tài chính hiện phải đối mặt với những rủi ro mới và ngày càng trầm trọng hơn như công tác quản trị, trách nhiệm giải trình và bảo vệ dữ liệu trong chu kỳ ứng dụng AI, cũng như các rủi ro pháp lý và rủi ro chiến lược.

Báo cáo mới nhất của Deloitte đưa ra những khuyến nghị để hỗ trợ các công ty dịch vụ tài chính chuẩn bị sẵn sàng cho những thay đổi trong tương lai, sớm thiết lập khuôn khổ quản trị AI của riêng các doanh nghiệp, đồng thời có những động thái để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI.

Theo Báo cáo, các công ty ngành dịch vụ tài chính nên chuẩn bị để đáp ứng các yêu cầu tuân thủ quy định liên quan đến GenAI, ngay khi các quy định đang trong quá trình xây dựng.

Các công ty ngành dịch vụ tài chính đã sử dụng hoặc đang cân nhắc sử dụng các ứng dụng AI nên bắt đầu phát triển khuôn khổ quản trị AI nhằm hỗ trợ quản trị rủi ro tốt hơn, cũng như tuân thủ các quy định trong tương lai liên quan lĩnh vực này. Các công ty dịch vụ tài chính phải có trách nhiệm và chịu trách nhiệm về kết quả đầu ra từ các ứng dụng GenAI.

Bên cạnh đó, các công ty ngành dịch vụ tài chính cần đánh giá yếu tố có thể góp phần tạo ra những tổn thương cho khách hàng như trình độ học vấn, thu nhập, hoặc tuổi tác và bảo đảm việc áp dụng các ứng dụng GenAI không kéo theo thành kiến hoặc phân biệt đối xử với các khách hàng cho dù đó là hệ quả chủ đích hoặc hệ quả không dự tính trước.

Báo cáo của ACRS chỉ ra, các công ty ngành dịch vụ tài chính đang sử dụng hoặc có kế hoạch sử dụng các ứng dụng GenAI nên đầu tư vào việc thu hút nhân tài và cung cấp các chương trình đào tạo về công nghệ AI cho đội ngũ nhân sự hiện tại, bao gồm ban lãnh đạo và quản cấp cao, góp phần nâng cao hiểu biết về các rủi ro trọng yếu và trách nhiệm của họ trong việc giảm thiểu những rủi ro đó.

"Mặc dù các quy định và hành lang pháp lý về AI vẫn đang trong giai đoạn đầu xây dựng hoặc triển khai ở hầu hết các quốc gia, nhưng điều quan trọng với các công ty dịch vụ cần sớm thực hiện cách tiếp cận có thể đo lường thông qua việc thiết lập khuôn khổ AI của riêng doanh nghiệp càng sớm càng tốt và có kế hoạch hành động để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI", ông Akihiro Matsuyama, Lãnh đạo Dịch vụ tư vấn rủi ro tại Deloitte châu Á - Thái Bình Dương cho biết.

Theo ông Wong Nai Seng, Lãnh đạo phụ trách Quy định Chiến lược tại Deloitte Đông Nam Á, các công nghệ AI như GenAI mang lại tiềm năng lớn giúp gia tăng hiệu suất và đẩy nhanh tốc độ số hóa trong ngành dịch vụ tài chính. Tuy nhiên, những rủi ro phát sinh từ việc sử dụng công nghệ vẫn cần được đặc biệt lưu ý, với mức độ ưu tiên cao.

"Khi hành lang pháp lý liên quan đến công nghệ AI vẫn đang trong quá trình xây dựng và phát triển, trên toàn cầu và tại khu vực Đông Nam Á, các công ty ngành dịch vụ tài chính đang cân nhắc áp dụng các công nghệ AI nên thận trọng đánh giá mức độ tương thích của các rủi ro liên quan đến AI với khẩu vị rủi ro hiện tại và khuôn khổ quản trị rủi ro của mình", ông Wong Nai Seng nhận xét.