More

    Finastra viết lại các điều khoản của nhà phát triển để chống lại sự thiên vị thuật toán

    Finastra đã xuất bản một kế hoạch năm điểm để giải quyết sự thiên vị giới tính trong các thuật toán.

    Việc sử dụng các thuật toán trong các dịch vụ tài chính ngày càng trở thành trọng tâm của việc giám sát theo quy định, với những lo ngại về biểu hiện của những thành kiến ​​vô thức trong các ứng dụng được xây dựng để hướng dẫn các quyết định quan trọng của người tiêu dùng đối với việc chấm điểm tín dụng, thiết lập tỷ lệ và bảo hiểm.

    Các nhà cung cấp dịch vụ tài chính ngày càng dựa vào các thuật toán để đưa ra quyết định về cách định giá một chính sách hoặc có cung cấp tín dụng hay không và ở mức giá nào.

    Các nhà quản lý Hoa Kỳ hy vọng một cuộc điều tra về thuật toán được sử dụng để xác định mức độ tín dụng của những người đăng ký Apple Card vào năm 2019 sau khi một người đàn ông lên Twitter gọi nó là “phân biệt giới tính” vì đã cấp cho anh ta một hạn mức tín dụng cao gấp 20 lần so với vợ anh ta.

    Để hiểu được quy mô của vấn đề, Finastra đã ủy quyền cho KPMG thực hiện một báo cáo liệt kê 12 thành kiến ​​phổ biến mà các tổ chức cần lưu ý khi thiết kế, xây dựng và đưa các thuật toán vào sản xuất. Chúng bao gồm những thành kiến ​​cụ thể đối với dữ liệu, thiết kế thuật toán và sự tham gia của con người.

    Simon Paris, Giám đốc điều hành tại Finastra, cho biết: “Nếu không có điều này được ưu tiên trong ngành tài chính, AI sẽ trở thành một bánh đà đẩy nhanh tác động tiêu cực đến cuộc sống con người. Finastra không có tất cả các câu trả lời nhưng chúng tôi tin rằng ngành công nghiệp trước tiên phải thừa nhận rằng có vấn đề với sự sai lệch thuật toán. ”

    Về phần mình, Finastra dự định cải tổ thỏa thuận dành cho nhà phát triển, cập nhật các điều khoản và điều kiện cho FusionFnai.cloud, nền tảng mở và thị trường dành cho các nhà phát triển. Theo các điều khoản mới, các nhà phát triển sử dụng nền tảng sẽ phải tính đến sai lệch thuật toán và Finastra có quyền kiểm tra sự thiên vị này trong bất kỳ ứng dụng mới nào.

    Nhà cung cấp cũng đang trong giai đoạn chứng minh khái niệm của một sản phẩm mới, FinEqual, sẽ cung cấp cho các ngân hàng cơ sở công nghệ để giải quyết sự sai lệch thuật toán trong doanh nghiệp của họ. Paris cho biết công ty đặt mục tiêu đưa FinEqual trở thành thương mại trong 18 tháng tới.

    Bài viết liên quan

    Bình luận

    BÌNH LUẬN

    Vui lòng nhập bình luận của bạn
    Vui lòng nhập tên của bạn ở đây

    Mới nhất