“FL-WBC” (White Blood Cell for Federated Learning) là một thuật ngữ được đưa ra để mô tả một số phương pháp bảo vệ chống lại các cuộc tấn công độc hại trong học cộng tác.
WBC đề cập đến các phương pháp bảo vệ và kỹ thuật khác nhau, bao gồm phân tích độc hại (poisoning analysis), phân tích độ tin cậy (reliability analysis), bảo vệ dữ liệu và bảo mật mô hình. Việc áp dụng các phương pháp này có thể giúp cải thiện tính ổn định và độ tin cậy của quá trình học cộng tác và giảm thiểu tác động của các cuộc tấn công độc hại.
WBC đề cập đến các phương pháp bảo vệ và kỹ thuật khác nhau, bao gồm phân tích độc hại (poisoning analysis), phân tích độ tin cậy (reliability analysis), bảo vệ dữ liệu và bảo mật mô hình. Việc áp dụng các phương pháp này có thể giúp cải thiện tính ổn định và độ tin cậy của quá trình học cộng tác và giảm thiểu tác động của các cuộc tấn công độc hại.
Việc triển khai phương pháp White Blood Cell cho Federated Learning có thể được thực hiện bằng các bước sau:
Bước 1: Xác định các mô hình đào tạo chuẩn
Trong mỗi vòng lặp huấn luyện, tất cả các máy khách cục bộ sẽ thực hiện huấn luyện trên dữ liệu của riêng mình. Trong đó, sẽ có các mô hình cục bộ làm chuẩn – mô hình bảo vệ (các mô hình này phải đạt theo những yêu cầu nhất định về độ an toàn, uy tín theo các chuẩn mà người sử dụng đặt ra hoặc sẽ được áp dụng các phương pháp bảo vệ để đảm bảo an toàn cho mô hình)
Bước 2: Tích hợp các mô hình bảo vệ vào quá trình huấn luyện
Sau khi xác định các mô hình đào tạo cục bộ làm mô hình bảo vệ, các mô hình vẫn được thực hiện huấn luyện dựa trên tập dữ liệu mà mô hình đang có, ngoài ra các mô hình này sẽ phải được đảm bảo an toàn dưới nhiều biện pháp khác nhau để đảm bảo kẻ tấn công không thể tác động lên mô hình này.
Bước 3: Tích hợp các mô hình bảo vệ vào quá trình huấn luyện
Cập nhật mô hình toàn cục: Sau khi các máy khách cục bộ hoàn thành quá trình huấn luyện, các tham số mô hình sẽ được gửi đến máy chủ để cập nhật mô hình toàn cục. Tuy nhiên, các mô hình bảo vệ sẽ được tách riêng mà không cập nhập lên mô hình toàn cục. Trong các mô hình cục bộ còn lại sẽ có khả năng mang mã độc, từ đó làm cho mô hình cục bộ lúc này trở thành mô hình sai lệch, nhưng đây chưa phải là mô hình cuối cùng để sử dụng trong biện pháp này.
Bước 4: Kiểm tra tính ổn định của mô hình toàn cục
Sau khi cập nhật mô hình toàn cục, một mô hình tổng quát sẽ được gửi về các mô hình bảo vệ, các mô hình bảo vệ sẽ thực hiện kiểm tra tính ổn định của mô tổng quát bằng cách sử dụng các tập dữ liệu kiểm tra của chính mình. Nếu mô hình toàn cục không đạt được độ chính xác mong muốn, quá trình huấn luyện sẽ được lặp lại với các mô hình bảo vệ, kết quả huấn luyện sẽ được trả về lại mô hình toàn cục, thực hiện trung bình cộng các mô hình mới này sẽ thu được mô hình toàn cục cuối.
Kết luận
Việc triển khai White Blood Cell cho Federated Learning yêu cầu sự tích hợp của các mô hình bảo vệ vào quá trình huấn luyện cục bộ, cùng với việc kiểm tra tính ổn định của quá trình học cộng tác. Các mô hình bảo vệ này phải được thiết kế sao cho có khả năng phát hiện và loại bỏ các dữ liệu độc hại. Việc đảm bảo tính ổn định của quá trình học cộng tác là một yếu tố quan trọng để đảm bảo rằng mô hình huấn luyện cục bộ bảo vệ được cập nhật đúng và không bị ảnh hưởng bởi các cuộc tấn công. Đồng thời, việc sử dụng các mô hình bảo vệ cần được kiểm tra độ hiệu quả và tính khả thi để đảm bảo tính toàn vẹn và hiệu quả của quá trình học cộng tác.
