Đại diện Techcombank: Muốn ứng dụng AI an toàn, ngân hàng phải trả lời được câu hỏi ‘ai bấm nút dừng khẩn cấp’?

Nút tắt khẩn cấp và 'thị lực' của ngân hàng

Ngày 5/8, Ủy ban Công nghệ và Ủy ban Chính sách (Hiệp hội Ngân hàng Việt Nam) phối hợp cùng Tạp chí Thị trường Tài chính Tiền tệ tổ chức Hội thảo “AI và quản trị dữ liệu trong hoạt động ngân hàng”.

Chia sẻ tại hội thảo, bà Nguyễn Thu Hạnh, Giám đốc Quản trị Dữ liệu và AI của Techcombank chia sẻ một số kinh nghiệm thực tiễn về ứng dụng và quản trị AI trong hoạt động ngân hàng.

Bà cho biết trong một năm qua, các hệ thống AI phát hiện bất thường của Techcombank đã ngăn chặn khoảng 100 tỷ đồng có nguy cơ bị thất thoát cho khách hàng.

Bên cạnh đó, AI giúp tăng 20% tỷ lệ chuyển đổi nhờ cá nhân hóa đúng nhu cầu, đúng thời điểm; mở rộng cơ hội tiếp cận tín dụng khi có thêm 20% khách hàng đủ điều kiện vay nhờ đánh giá toàn diện hơn từ dữ liệu được khách hàng đồng ý chia sẻ; đồng thời nâng năng suất khoảng 50%, hỗ trợ chuyên viên hiểu khách hàng và tư vấn hiệu quả hơn thay vì cắt giảm nhân sự.

Theo bà Hạnh, khi AI chỉ hỗ trợ tư vấn hoặc vận hành, việc triển khai tương đối đơn giản. Tuy nhiên, khi AI tham gia các quyết định quan trọng như phê duyệt tín dụng hay phát hiện gian lận, bài toán không còn nằm ở công nghệ mà chuyển sang quản trị: làm thế nào để mở rộng ứng dụng AI nhưng vẫn kiểm soát rủi ro và duy trì niềm tin của khách hàng.

Để thấy rõ hơn những khó khăn khi triển khai quản trị AI, bà Hạnh chia sẻ một ví dụ chỉ xoay quanh hai từ: kill switch, tức nút tắt khẩn cấp. Kill switch là một yêu cầu trong quy định của Ngân hàng Nhà nước. Theo đó, khi phát hiện bất kỳ bất thường nào trong hệ thống AI có tác động đến khách hàng, ngân hàng phải có cơ chế dừng khẩn cấp.

Ngân hàng phải xác định rõ sẽ dừng ở đâu khi xảy ra sự cố: dừng mô hình AI, dữ liệu đầu vào hay toàn bộ dịch vụ cung cấp cho khách hàng? Nếu sự cố xảy ra lúc 2 giờ sáng thì ai là người có quyền kích hoạt cơ chế dừng? Nếu mô hình được triển khai trên nền tảng của đối tác thì sẽ ngắt bằng cách nào? Và quan trọng nhất, sau khi dừng hệ thống thì quy trình ứng phó sẽ được triển khai ra sao.

“Ví dụ, nếu một hệ thống phát hiện bất thường hoặc gian lận phải dừng trong một khoảng thời gian, ngân hàng sẽ giống như mất đi một phần "thị lực" trong giai đoạn đó. Đây cũng là một rủi ro rất lớn. Chỉ từ một yêu cầu rất ngắn trong quy định với hai từ "kill switch" (dừng khẩn cấp), để biến thành một chốt kiểm soát có thể vận hành hiệu quả trên hệ thống AI là cả một hành trình dài”, bà nói.

'Quản trị AI không thất bại vì thiếu chính sách, mà do ai cũng nghĩ là việc của người khác'

Bà Hạnh cho biết, với Techcombank, quản trị AI không chỉ là một dự án tuân thủ mà là quá trình nâng cao năng lực của cả tổ chức. Hành trình này thường trải qua bốn giai đoạn: khởi tạo, xây dựng khung quản trị, vận hành và tự động hóa.

Chia sẻ về kinh nghiệm triển khai, bà Hạnh cho rằng khung quản trị AI không nên chỉ được xây dựng trong phòng họp mà phải song hành với các trường hợp sử dụng và hệ thống AI đang vận hành để liên tục hoàn thiện từ thực tiễn.

Bài học thứ hai là phải tính đến tự động hóa ngay từ khi thiết kế mô hình quản trị. Theo bà, AI có thể xử lý hàng nghìn giao dịch chỉ trong tích tắc, nên các phương thức kiểm soát thủ công sẽ không còn phù hợp.

Bài học thứ ba cũng là bài học khó nhất và quan trọng nhất: quản trị AI thực chất là hành trình thay đổi văn hóa của cả doanh nghiệp.

“Chúng tôi nhận thấy quản trị AI không thất bại vì thiếu chính sách. Các ngân hàng đều có rất nhiều quy trình, quy định và chính sách. Điều khiến quản trị AI thất bại thường là mọi người đều nghĩ đó là việc của người khác. Trong khi đó, AI đang đi vào công việc hằng ngày. Mỗi cán bộ, nhân viên trong ngân hàng đều có thể là người sử dụng, xây dựng, triển khai hoặc vận hành AI. Vì vậy, quản trị AI phải là trách nhiệm chung của toàn tổ chức”, bà nhấn mạnh. 

Phan Trang