Sử dụng AI an toàn cho phần mềm: Mẹo và phương pháp hay nhất

Tìm hiểu cách sử dụng AI một cách an toàn và có đạo đức trong các dự án phần mềm của bạn. Khám phá những lợi ích, rủi ro và nguyên tắc của AI trong phát triển phần mềm.

Tìm hiểu Đạo luật AI của EU

Bạn có thể đang nghĩ về việc đạo luật này tác động như thế nào đến cách bạn sử dụng AI trong các dự án của mình và có thể tự hỏi liệu đạo luật này có áp dụng với bạn không! Đây đều là những câu hỏi hợp lệ, vì vậy hãy đi sâu vào vấn đề đó.

Khu vực áp dụng

Điều quan trọng là phải hiểu rằng đạo luật này chỉ áp dụng cho các hệ thống và ứng dụng AI được phát triển, triển khai hoặc sử dụng ở Liên minh Châu Âu. Điều này có nghĩa là nếu ứng dụng hoặc hệ thống của bạn rơi vào các khu vực áp dụng này thì việc tuân thủ đạo luật này là rất quan trọng để duy trì sự tuân thủ.

Bạn không nên bỏ qua điều này ngay cả khi ứng dụng hoặc hệ thống của bạn không nằm trong các khu vực áp dụng này vì đạo luật này có thể là hướng dẫn toàn diện để bạn tuân theo cho dự án dựa trên AI tiếp theo của mình nhằm duy trì hoạt động có đạo đức và an toàn.

Phương pháp tiếp cận dựa trên rủi ro đối với việc áp dụng AI

Cũng giống như bất kỳ khuôn khổ toàn diện nào khác, Đạo luật AI của Liên minh Châu Âu thực hiện cách tiếp cận dựa trên rủi ro đối với các biện pháp kiểm soát cần thiết cho từng trường hợp sử dụng. Cách tiếp cận này cho phép kiểm soát chi tiết và nghiêm ngặt đối với các trường hợp sử dụng có rủi ro cao và kiểm soát nhẹ nhàng hơn đối với các trường hợp khác.

Đây là các phân loại rủi ro theo Đạo luật AI của Liên minh Châu Âu:

Hệ thống AI bị cấm
Hệ thống AI có rủi ro cao
Hệ thống AI có rủi ro hạn chế
Hệ thống AI rủi ro tối thiểu

Hệ thống AI bị cấm

Các hệ thống được phân loại là “Hệ thống AI bị cấm” cấm sử dụng AI trong hệ thống do có những rủi ro không thể chấp nhận được đối với sự an toàn, bảo mật và quyền của người dùng. Các trường hợp sử dụng này bao gồm tính điểm xã hội có thể dẫn đến đối xử bất lợi, hệ thống nhận dạng cảm xúc tại nơi làm việc, phân loại sinh trắc học để xử lý dữ liệu nhạy cảm, chính sách dự đoán cho các cá nhân và các trường hợp sử dụng khác gây tổn hại đến sự an toàn và quyền riêng tư của người dùng.

Hệ thống AI có rủi ro cao

Không giống như Hệ thống AI bị cấm, các hệ thống được phân loại là Hệ thống AI có rủi ro cao có thể sử dụng AI trong các hệ thống hoặc chức năng nhưng sẽ phải tuân thủ các yêu cầu của Đạo luật AI. Các trường hợp sử dụng này bao gồm việc sử dụng AI trong tuyển dụng, giám sát nhận dạng sinh trắc học, các thành phần an toàn, thực thi pháp luật và các trường hợp sử dụng khác trong đó việc truy cập vào dữ liệu nhạy cảm là một rủi ro.

Hệ thống AI có rủi ro hạn chế

Hệ thống AI có rủi ro hạn chế bao gồm các hệ thống AI tương tác với con người như Chatbot, hình ảnh hoặc âm thanh, chẳng hạn như nội dung Deepfake đã bị hệ thống AI thao túng. Những hạn chế đối với các loại hệ thống này có nghĩa là chúng phải tuân theo các nghĩa vụ minh bạch cụ thể và bắt buộc phải công bố thông tin khi việc sử dụng các hệ thống này chỉ gây ra rủi ro hạn chế.

Hệ thống AI có rủi ro tối thiểu

Theo mặc định, đây là những hệ thống còn lại không thuộc các danh mục rủi ro còn lại. Việc sử dụng AI trong các hệ thống này không yêu cầu các yêu cầu bổ sung từ Đạo luật AI. Các hệ thống này thường bao gồm nhưng không giới hạn ở phần mềm chỉnh sửa ảnh, hệ thống đề xuất sản phẩm và bộ lọc thư rác.

Hình phạt

Giống như GDPR (Quy định chung về bảo vệ dữ liệu), Đạo luật AI của Liên minh Châu Âu cũng có các khoản phạt nếu không tuân thủ. Các khoản tiền phạt này được phân thành các loại vi phạm khác nhau:

1. Phạt hành chính đối với các vi phạm cụ thể

Lên tới 30 triệu euro hoặc 6% doanh thu hàng năm toàn cầu (tùy theo mức nào cao hơn) đối với:
Vi phạm quy định cấm một số hành vi AI (Điều 5).
Không tuân thủ các yêu cầu của hệ thống AI (Điều 10).

2. Phạt hành chính do không tuân thủ chung

Lên tới 20 triệu euro hoặc 4% doanh thu hàng năm toàn cầu (tùy theo mức nào cao hơn) đối với:
Hệ thống AI không đáp ứng các quy định khác của Luật AI.

3. Phạt do cung cấp thông tin không chính xác

Lên tới 10 triệu euro hoặc 2% doanh thu hàng năm toàn cầu (tùy theo mức nào cao hơn) đối với:
Cung cấp thông tin không chính xác, không đầy đủ hoặc gây nhầm lẫn cho các cơ quan quản lý.

Các phương pháp thực hành tốt nhất để tích hợp AI

Để duy trì sự tuân thủ Đạo luật AI của Liên minh Châu Âu, có một số nguyên tắc nhất định mà các nhà phát triển và các bên khác phải tuân theo. Chúng chủ yếu tập trung vào các Hệ thống AI có rủi ro cao do tính chất nhạy cảm của chúng.

Dưới đây là một số nghĩa vụ chung phải được tuân theo:

Thiết lập quản lý rủi ro AI toàn diện: Triển khai các hệ thống quản lý rủi ro tiên tiến để xác định, đánh giá và giảm thiểu mọi rủi ro liên quan đến AI.
Quản trị dữ liệu hiệu quả: Áp dụng các tiêu chuẩn quản trị dữ liệu mạnh mẽ để đảm bảo chất lượng, quyền riêng tư và tính bảo mật của dữ liệu được hệ thống AI sử dụng.
Duy trì tài liệu kỹ thuật: Duy trì tài liệu kỹ thuật kỹ lưỡng để hỗ trợ đánh giá tính minh bạch, trách nhiệm giải trình và sự phù hợp.
Tính minh bạch và thông tin người dùng: Người dùng phải được cung cấp thông tin rõ ràng và kỹ lưỡng về cách hệ thống AI hoạt động, những hạn chế của nó và những hậu quả tiềm ẩn.
Giám sát của con người: Triển khai các công cụ giám sát của con người để đảm bảo trách nhiệm giải trình và việc sử dụng công nghệ AI một cách có đạo đức.
Tuân thủ các tiêu chuẩn: Tuân thủ các tiêu chí về độ chính xác, mạnh mẽ và an ninh mạng đã được công nhận liên quan đến chức năng dự định của hệ thống AI.
Đăng ký trên cơ sở dữ liệu EU: Trước khi đưa các hệ thống AI có rủi ro cao ra thị trường, hãy đăng ký chúng trên cơ sở dữ liệu EU để đảm bảo tuân thủ các yêu cầu đăng ký.

Ứng dụng an toàn của AI

Bây giờ chúng ta đã xem xét các nghĩa vụ chung dự kiến đối với các hệ thống AI có rủi ro cao, hãy cùng xem xét một số yêu cầu cụ thể mà nhà phát triển phải tuân theo ở từng giai đoạn phát triển hệ thống.

Đánh giá sự phù hợp trước khi đưa ra thị trường

Tiêu chuẩn hài hòa và tự đánh giá: Nếu có thể, nhà cung cấp có thể tự đánh giá xem họ có tuân thủ các tiêu chuẩn kỹ thuật được EU phê duyệt (tiêu chuẩn hài hòa) cho phép giả định về sự tuân thủ hay không .
Đánh giá sự phù hợp của bên thứ ba: Trong trường hợp có liên quan đến các thành phần an toàn, hệ thống nhận dạng sinh trắc học hoặc tiêu chuẩn không hài hòa, hãy sử dụng các cơ quan được bên thứ ba công nhận để tiến hành đánh giá sự phù hợp.< /span>

Nghĩa vụ sau thị trường

Giám sát và đánh giá liên tục: Liên tục giám sát hiệu suất, độ an toàn và sự tuân thủ của các hệ thống AI trong suốt vòng đời của chúng.
Báo cáo sự cố: Báo cáo các sự cố và trục trặc lớn dẫn đến vi phạm các quyền cơ bản cho cơ quan có thẩm quyền càng sớm càng tốt.
Đánh giá sự phù hợp cho các sửa đổi: Để duy trì sự tuân thủ liên tục, hãy tiến hành đánh giá sự tuân thủ mới đối với những thay đổi đáng kể.

Nghĩa vụ của người triển khai

Đánh giá tác động cơ bản về quyền (FRIA): Hoàn thành FRIA trước khi áp dụng các hệ thống AI có rủi ro cao, đặc biệt đối với các tổ chức chính phủ và công ty cung cấp dịch vụ vì lợi ích chung.
Sự giám sát của con người và dữ liệu liên quan: Thực hiện giám sát con người với những người lao động được đào tạo và đảm bảo rằng dữ liệu đầu vào phù hợp với việc sử dụng hệ thống.
Cơ chế tạm dừng: Tạo các phương pháp hạn chế việc sử dụng hệ thống AI nếu nó gây ra rủi ro quốc gia.
Báo cáo sự cố: Thông báo cho nhà cung cấp hệ thống AI về mọi sự cố nghiêm trọng và giữ cho hồ sơ hệ thống được tạo tự động.
Xác minh tuân thủ: Kiểm tra việc tuân thủ Đạo luật AI và đảm bảo có tất cả tài liệu cần thiết.

Trách nhiệm của Nhà nhập khẩu và Nhà phân phối

Xác minh tuân thủ: Kiểm tra xem hệ thống AI có rủi ro cao có tuân thủ Đạo luật AI hay không và cung cấp các giấy tờ cần thiết.
Giao tiếp và cộng tác: Để đảm bảo tuân thủ, hãy giao tiếp hiệu quả với nhà cung cấp và cơ quan giám sát thị trường.

Hệ thống rủi ro tối thiểu

Tuy nhiên, các yêu cầu đối với hệ thống Rủi ro tối thiểu khá khác so với các yêu cầu đặt ra cho hệ thống Rủi ro cao. Những yêu cầu này được đề cập dưới đây:

Tính minh bạch và sự đồng thuận: Tạo hệ thống AI đảm bảo khả năng hiểu của người dùng, đặc biệt là với chatbot và cảnh báo người dùng về việc sử dụng công nghệ nhận dạng cảm xúc hoặc phân loại sinh trắc học.
Tiết lộ nội dung bị thao túng: Tiết lộ và đánh dấu nội dung âm thanh hoặc hình ảnh do AI thao túng, chẳng hạn như nội dung "giả mạo sâu".

#AI #software