Bài viết này sẽ giúp bạn hiểu rõ hơn về các vấn đề AI và bảo mật dữ liệu, hãy cùng khám phá với INVIAI ngay bây giờ!

Trí tuệ nhân tạo (AI) đang thay đổi các ngành công nghiệp và xã hội, nhưng đồng thời cũng đặt ra những mối quan ngại nghiêm trọng về bảo mật dữ liệu. Các hệ thống AI hiện đại được vận hành dựa trên các bộ dữ liệu khổng lồ, bao gồm thông tin cá nhân và tổ chức nhạy cảm. Nếu dữ liệu này không được bảo vệ đầy đủ, độ chính xác và độ tin cậy của kết quả AI có thể bị ảnh hưởng.

Thực tế, an ninh mạng được xem là “một điều kiện tiên quyết cần thiết cho sự an toàn, khả năng phục hồi, quyền riêng tư, tính công bằng, hiệu quả và độ tin cậy của các hệ thống AI”. Điều này có nghĩa là bảo vệ dữ liệu không chỉ là vấn đề công nghệ thông tin – mà còn là nền tảng để đảm bảo AI mang lại lợi ích mà không gây hại.

Khi AI ngày càng được tích hợp vào các hoạt động thiết yếu trên toàn cầu, các tổ chức phải luôn cảnh giác trong việc bảo vệ dữ liệu làm nền tảng cho các hệ thống này.

Tầm quan trọng của bảo mật dữ liệu trong phát triển AI

Sức mạnh của AI đến từ dữ liệu. Các mô hình học máy học các mẫu và đưa ra quyết định dựa trên dữ liệu mà chúng được huấn luyện. Do đó, bảo mật dữ liệu là yếu tố then chốt trong việc phát triển và triển khai các hệ thống AI. Nếu kẻ tấn công có thể can thiệp hoặc đánh cắp dữ liệu, hành vi và kết quả của AI có thể bị sai lệch hoặc không đáng tin cậy.

Chiến lược quản lý dữ liệu AI thành công phải đảm bảo rằng dữ liệu không bị thao túng hay hư hỏng ở bất kỳ giai đoạn nào, không chứa nội dung độc hại hoặc không được phép, và không có các bất thường ngoài ý muốn.

Về cơ bản, việc bảo vệ tính toàn vẹn và tính bảo mật của dữ liệu trong tất cả các giai đoạn của vòng đời AI – từ thiết kế, huấn luyện đến triển khai và bảo trì – là điều cần thiết để đảm bảo AI hoạt động đáng tin cậy. Bỏ qua an ninh mạng ở bất kỳ giai đoạn nào cũng có thể làm suy yếu toàn bộ hệ thống AI. Hướng dẫn chính thức từ các cơ quan an ninh quốc tế nhấn mạnh rằng các biện pháp an ninh mạng cơ bản và vững chắc nên được áp dụng cho tất cả các bộ dữ liệu dùng trong thiết kế, phát triển, vận hành và cập nhật mô hình AI.

Tóm lại, nếu không có bảo mật dữ liệu mạnh mẽ, chúng ta không thể tin tưởng rằng các hệ thống AI an toàn hay chính xác.

Những thách thức về quyền riêng tư dữ liệu trong kỷ nguyên AI

Một trong những vấn đề lớn nhất tại giao điểm giữa AI và bảo mật dữ liệu là quyền riêng tư. Các thuật toán AI thường cần lượng lớn dữ liệu cá nhân hoặc nhạy cảm – từ hành vi trực tuyến, nhân khẩu học đến các chỉ số sinh trắc học – để hoạt động hiệu quả. Điều này đặt ra những lo ngại về cách dữ liệu được thu thập, sử dụng và bảo vệ. Việc sử dụng dữ liệu trái phép và thu thập dữ liệu bí mật đã trở thành những thách thức phổ biến: các hệ thống AI có thể khai thác thông tin cá nhân mà người dùng không hề hay biết hoặc không đồng ý.

Ví dụ, một số dịch vụ sử dụng AI đã thu thập dữ liệu trên internet – một trường hợp gây tranh cãi là một công ty nhận diện khuôn mặt đã xây dựng cơ sở dữ liệu hơn 20 tỷ hình ảnh được lấy từ mạng xã hội và các trang web mà không có sự đồng ý. Điều này đã dẫn đến phản ứng mạnh mẽ từ các cơ quan quản lý, với các khoản phạt nặng và lệnh cấm vi phạm luật bảo vệ quyền riêng tư tại châu Âu. Những sự việc này cho thấy các đổi mới AI có thể dễ dàng vượt qua ranh giới đạo đức và pháp lý nếu quyền riêng tư dữ liệu không được tôn trọng.

Các cơ quan quản lý trên toàn thế giới đang phản ứng bằng cách thực thi các luật bảo vệ dữ liệu trong bối cảnh AI. Các khung pháp lý như Quy định chung về bảo vệ dữ liệu của Liên minh châu Âu (GDPR) đã đặt ra các yêu cầu nghiêm ngặt về cách xử lý dữ liệu cá nhân, ảnh hưởng đến các dự án AI toàn cầu. Ngoài ra, các quy định riêng về AI cũng đang được xây dựng – ví dụ, Đạo luật AI của EU (dự kiến có hiệu lực vào năm 2025) sẽ yêu cầu các hệ thống AI có rủi ro cao phải thực hiện các biện pháp đảm bảo chất lượng dữ liệu, độ chính xác và độ bền vững về an ninh mạng.

Các tổ chức quốc tế cũng nhấn mạnh các ưu tiên này: khuyến nghị đạo đức AI toàn cầu của UNESCO bao gồm rõ ràng “Quyền riêng tư và Bảo vệ dữ liệu”, yêu cầu bảo vệ quyền riêng tư xuyên suốt vòng đời hệ thống AI và thiết lập các khung bảo vệ dữ liệu phù hợp. Tóm lại, các tổ chức triển khai AI phải điều hướng một môi trường phức tạp về các mối quan ngại và quy định về quyền riêng tư, đảm bảo dữ liệu cá nhân được xử lý minh bạch và an toàn để duy trì niềm tin của công chúng.

Những mối đe dọa đối với tính toàn vẹn dữ liệu và hệ thống AI

Bảo vệ AI không chỉ là ngăn chặn việc đánh cắp dữ liệu – mà còn là đảm bảo tính toàn vẹn của dữ liệu và mô hình trước các cuộc tấn công tinh vi. Các tác nhân độc hại đã tìm ra cách khai thác hệ thống AI bằng cách nhắm vào chính chuỗi cung ứng dữ liệu. Một khuyến cáo an ninh mạng chung năm 2025 đã chỉ ra ba lĩnh vực rủi ro bảo mật dữ liệu đặc thù của AI: chuỗi cung ứng dữ liệu bị xâm phạm, dữ liệu bị chỉnh sửa độc hại (“đầu độc”), và sự trôi dạt dữ liệu. Dưới đây là phân tích chi tiết các mối đe dọa chính:

• Tấn công đầu độc dữ liệu: Trong một cuộc tấn công đầu độc, kẻ thù cố ý chèn dữ liệu sai lệch hoặc gây hiểu nhầm vào bộ dữ liệu huấn luyện của hệ thống AI, làm hỏng hành vi của mô hình. Vì các mô hình AI “học” từ dữ liệu huấn luyện, dữ liệu bị đầu độc có thể khiến chúng đưa ra quyết định hoặc dự đoán sai.
  Ví dụ, nếu tội phạm mạng chèn các mẫu độc hại vào dữ liệu huấn luyện bộ lọc thư rác, AI có thể bắt đầu phân loại các email chứa mã độc nguy hiểm là an toàn. Một ví dụ nổi tiếng trong thực tế là sự cố chatbot Tay của Microsoft năm 2016 – những kẻ phá hoại trên internet đã “đầu độc” chatbot bằng cách cung cấp các đầu vào xúc phạm, khiến Tay học theo các hành vi độc hại. Điều này cho thấy hệ thống AI có thể bị lệch hướng nhanh chóng bởi dữ liệu xấu nếu không có biện pháp bảo vệ.

  Đầu độc dữ liệu cũng có thể tinh vi hơn: kẻ tấn công có thể chỉ thay đổi một tỷ lệ nhỏ trong bộ dữ liệu theo cách khó phát hiện nhưng làm lệch kết quả mô hình theo hướng có lợi cho họ. Việc phát hiện và ngăn chặn đầu độc là một thách thức lớn; các biện pháp tốt nhất bao gồm kiểm tra nguồn dữ liệu và sử dụng phát hiện bất thường để nhận diện các điểm dữ liệu đáng ngờ trước khi chúng ảnh hưởng đến AI.

• Đầu vào đối kháng (tấn công né tránh): Ngay cả khi mô hình AI đã được huấn luyện và triển khai, kẻ tấn công vẫn có thể cố gắng đánh lừa nó bằng cách cung cấp các đầu vào được thiết kế kỹ lưỡng. Trong một cuộc tấn công né tránh, dữ liệu đầu vào bị thao túng tinh vi để khiến AI hiểu sai. Những thay đổi này có thể không nhận thấy được với con người nhưng có thể hoàn toàn thay đổi kết quả của mô hình.
  Một ví dụ kinh điển liên quan đến hệ thống thị giác máy tính: các nhà nghiên cứu đã chứng minh rằng việc dán vài sticker nhỏ hoặc thêm chút sơn lên bảng dừng xe có thể khiến AI của xe tự lái “nhìn thấy” đó là biển giới hạn tốc độ. Hình ảnh dưới đây minh họa cách những điều chỉnh nhỏ, tưởng chừng vô hại với con người, lại có thể làm AI hoàn toàn bối rối. Kẻ tấn công có thể dùng kỹ thuật tương tự để vượt qua nhận diện khuôn mặt hoặc bộ lọc nội dung bằng cách thêm các nhiễu không nhìn thấy được lên hình ảnh hoặc văn bản. Những ví dụ đối kháng này làm nổi bật một điểm yếu cơ bản của AI – khả năng nhận diện mẫu có thể bị khai thác theo những cách mà con người không thể dự đoán được.防

Những thay đổi nhỏ trên biển báo dừng (như sticker hoặc dấu hiệu tinh tế) có thể đánh lừa hệ thống thị giác AI đọc sai – trong một thí nghiệm, biển báo dừng được chỉnh sửa liên tục bị hiểu nhầm là biển giới hạn tốc độ. Điều này minh họa cách các cuộc tấn công đối kháng có thể lừa AI bằng cách khai thác những điểm đặc thù trong cách mô hình xử lý dữ liệu.

• Rủi ro chuỗi cung ứng dữ liệu: Các nhà phát triển AI thường dựa vào nguồn dữ liệu bên ngoài hoặc bên thứ ba (ví dụ: bộ dữ liệu thu thập từ web, dữ liệu mở, hoặc các nhà tổng hợp dữ liệu). Điều này tạo ra lỗ hổng chuỗi cung ứng – nếu dữ liệu nguồn bị xâm phạm hoặc đến từ nguồn không đáng tin cậy, nó có thể chứa các mối đe dọa tiềm ẩn.
  Ví dụ, một bộ dữ liệu công khai có thể bị cố ý cấy các mục độc hại hoặc lỗi tinh vi, sau đó làm suy yếu mô hình AI sử dụng nó. Việc đảm bảo nguồn gốc dữ liệu (biết dữ liệu đến từ đâu và không bị can thiệp) là rất quan trọng.

  Hướng dẫn chung của các cơ quan an ninh khuyến nghị áp dụng các biện pháp như chữ ký số và kiểm tra tính toàn vẹn để xác thực dữ liệu khi dữ liệu di chuyển qua các giai đoạn trong chuỗi AI. Nếu không có các biện pháp bảo vệ này, kẻ tấn công có thể chiếm quyền chuỗi cung ứng AI bằng cách thay đổi dữ liệu ở thượng nguồn (ví dụ, thao túng dữ liệu huấn luyện mô hình tải về từ kho công khai).

• Sự trôi dạt dữ liệu và suy giảm mô hình: Không phải tất cả các mối đe dọa đều do ác ý – một số phát sinh tự nhiên theo thời gian. Sự trôi dạt dữ liệu là hiện tượng các đặc tính thống kê của dữ liệu thay đổi dần dần, khiến dữ liệu mà hệ thống AI gặp phải khi vận hành không còn phù hợp với dữ liệu huấn luyện. Điều này có thể dẫn đến giảm độ chính xác hoặc hành vi không dự đoán được.
  Mặc dù sự trôi dạt dữ liệu không phải là một cuộc tấn công, nó trở thành mối quan ngại về an ninh khi mô hình hoạt động kém có thể bị kẻ thù lợi dụng. Ví dụ, hệ thống phát hiện gian lận AI được huấn luyện trên các mẫu giao dịch năm ngoái có thể bỏ sót các thủ đoạn gian lận mới năm nay, đặc biệt nếu tội phạm điều chỉnh để né tránh mô hình cũ.

  Kẻ tấn công thậm chí có thể cố ý giới thiệu các mẫu mới (một dạng trôi dạt khái niệm) để gây nhầm lẫn cho mô hình. Việc huấn luyện lại mô hình định kỳ với dữ liệu cập nhật và giám sát hiệu suất là cần thiết để giảm thiểu trôi dạt. Giữ mô hình luôn mới và liên tục xác thực kết quả giúp đảm bảo chúng vẫn vững chắc trước cả môi trường thay đổi và các nỗ lực khai thác kiến thức lỗi thời.

• Các cuộc tấn công mạng truyền thống vào hạ tầng AI: Cần nhớ rằng các hệ thống AI chạy trên phần mềm và phần cứng tiêu chuẩn, vẫn dễ bị tổn thương trước các mối đe dọa mạng truyền thống. Kẻ tấn công có thể nhắm vào máy chủ, lưu trữ đám mây hoặc cơ sở dữ liệu chứa dữ liệu huấn luyện và mô hình AI.
  Việc xâm nhập này có thể làm lộ dữ liệu nhạy cảm hoặc cho phép can thiệp vào hệ thống AI. Ví dụ, đã có các vụ rò rỉ dữ liệu của các công ty AI – trong một trường hợp, danh sách khách hàng nội bộ của một công ty nhận diện khuôn mặt bị lộ sau khi kẻ tấn công truy cập, tiết lộ hơn 2.200 tổ chức đã sử dụng dịch vụ của họ.

  Những sự cố này nhấn mạnh rằng các tổ chức AI phải tuân thủ các thực hành bảo mật mạnh mẽ (mã hóa, kiểm soát truy cập, an ninh mạng) như bất kỳ công ty phần mềm nào. Ngoài ra, việc đánh cắp hoặc trích xuất mô hình cũng là mối quan tâm mới nổi: kẻ tấn công có thể đánh cắp các mô hình AI độc quyền (qua hack hoặc truy vấn dịch vụ AI công khai để phân tích ngược). Mô hình bị đánh cắp có thể bị lạm dụng hoặc phân tích để tìm thêm điểm yếu. Do đó, bảo vệ mô hình AI (ví dụ, mã hóa khi lưu trữ và kiểm soát truy cập) quan trọng không kém việc bảo vệ dữ liệu.

Tóm lại, các hệ thống AI phải đối mặt với sự kết hợp giữa các cuộc tấn công tập trung vào dữ liệu đặc thù (đầu độc, né tránh đối kháng, can thiệp chuỗi cung ứng) và các rủi ro mạng truyền thống (hack, truy cập trái phép). Điều này đòi hỏi một cách tiếp cận toàn diện về an ninh, bao gồm tính toàn vẹn, bảo mật và khả năng sẵn sàng của dữ liệu và mô hình AI ở mọi giai đoạn.

Như Trung tâm An ninh mạng Quốc gia Anh và các đối tác đã lưu ý, các hệ thống AI mang đến “các điểm yếu bảo mật mới mẻ” và an ninh phải là yêu cầu cốt lõi trong suốt vòng đời AI, không phải là điều được nghĩ đến sau cùng.

AI: Con dao hai lưỡi trong bảo mật

Trong khi AI mang lại những rủi ro bảo mật mới, nó cũng là công cụ mạnh mẽ để nâng cao bảo mật dữ liệu khi được sử dụng một cách đạo đức. Điều quan trọng là nhận thức được bản chất hai mặt này. Một mặt, tội phạm mạng tận dụng AI để tăng cường các cuộc tấn công; mặt khác, các chuyên gia phòng thủ sử dụng AI để củng cố an ninh mạng.

• AI trong tay kẻ tấn công: Sự phát triển của AI tạo sinh và học máy tiên tiến đã hạ thấp rào cản để thực hiện các cuộc tấn công mạng tinh vi. Các tác nhân độc hại có thể dùng AI để tự động hóa các chiến dịch lừa đảo và kỹ thuật xã hội, khiến các chiêu trò lừa đảo trở nên thuyết phục và khó phát hiện hơn.
  Ví dụ, AI tạo sinh có thể soạn thảo email lừa đảo hoặc tin nhắn giả mạo cực kỳ cá nhân hóa bắt chước phong cách viết của một cá nhân, tăng khả năng nạn nhân bị lừa. Chatbot AI thậm chí có thể trò chuyện trực tiếp với mục tiêu trong thời gian thực, giả danh bộ phận hỗ trợ khách hàng hoặc đồng nghiệp, nhằm đánh cắp mật khẩu hoặc thông tin tài chính.

  Một mối đe dọa khác là deepfake – các video hoặc âm thanh tổng hợp do AI tạo ra. Kẻ tấn công đã sử dụng âm thanh deepfake để giả giọng các CEO hoặc quan chức nhằm thực hiện các giao dịch ngân hàng gian lận trong hình thức gọi là “lừa đảo bằng giọng nói”. Tương tự, video deepfake có thể được dùng để lan truyền thông tin sai lệch hoặc tống tiền. Khả năng mở rộng của AI khiến các cuộc tấn công này có thể diễn ra với quy mô và độ tin cậy chưa từng có trước đây.

  Các chuyên gia an ninh nhận thấy AI đã trở thành vũ khí trong kho vũ khí của tội phạm mạng, được dùng từ việc phát hiện lỗ hổng phần mềm đến tự động tạo mã độc. Xu hướng này đòi hỏi các tổ chức phải tăng cường phòng thủ và nâng cao nhận thức người dùng, vì “yếu tố con người” (như việc tin vào email lừa đảo) thường là mắt xích yếu nhất.

• AI cho phòng thủ và phát hiện: May mắn thay, chính những khả năng AI này cũng có thể cải thiện đáng kể an ninh mạng ở phía phòng thủ. Các công cụ bảo mật sử dụng AI có thể phân tích lượng lớn lưu lượng mạng và nhật ký hệ thống để phát hiện các bất thường có thể báo hiệu xâm nhập mạng.
  Bằng cách học được hành vi “bình thường” trong hệ thống, các mô hình học máy có thể cảnh báo các mẫu bất thường theo thời gian thực – có thể bắt kịp hacker khi họ đang tấn công hoặc phát hiện rò rỉ dữ liệu ngay khi xảy ra. Phát hiện bất thường đặc biệt hữu ích để nhận diện các mối đe dọa mới, tinh vi mà các bộ lọc dựa trên chữ ký có thể bỏ sót.

  Ví dụ, hệ thống AI có thể giám sát các mẫu đăng nhập hoặc truy cập dữ liệu trong công ty và cảnh báo đội ngũ an ninh nếu phát hiện truy cập bất thường hoặc người dùng tải xuống lượng dữ liệu lớn bất thường (có thể là dấu hiệu của mối đe dọa nội bộ hoặc sử dụng thông tin đăng nhập bị đánh cắp). AI cũng được dùng để lọc thư rác và nội dung độc hại, học cách nhận diện email lừa đảo hoặc mã độc dựa trên đặc điểm của chúng.

  Trong lĩnh vực phát hiện gian lận, các ngân hàng và tổ chức tài chính sử dụng AI để đánh giá giao dịch ngay lập tức dựa trên hành vi điển hình của khách hàng và chặn các giao dịch khả nghi, ngăn chặn gian lận theo thời gian thực. Một ứng dụng phòng thủ khác là dùng AI cho quản lý lỗ hổng – học máy có thể ưu tiên các lỗ hổng phần mềm nghiêm trọng nhất để sửa chữa bằng cách dự đoán những lỗ hổng có khả năng bị khai thác cao nhất, giúp tổ chức vá hệ thống trước khi bị tấn công.

  Quan trọng là AI không thay thế chuyên gia an ninh mạng mà hỗ trợ họ, xử lý khối lượng lớn dữ liệu và nhận diện mẫu để các nhà phân tích tập trung vào điều tra và phản ứng. Sự phối hợp giữa công cụ AI và chuyên môn con người đang trở thành nền tảng của chiến lược an ninh mạng hiện đại.

Tóm lại, AI vừa mở rộng bề mặt mối đe dọa vừa cung cấp các phương thức mới để củng cố phòng thủ. Cuộc chạy đua vũ trang này đòi hỏi các tổ chức phải cập nhật liên tục về tiến bộ AI ở cả hai phía. Điều đáng mừng là nhiều nhà cung cấp an ninh mạng hiện tích hợp AI trong sản phẩm của họ, và các chính phủ đang đầu tư nghiên cứu phòng thủ mạng dựa trên AI.

Tuy nhiên, cần thận trọng: cũng như kiểm tra bất kỳ công cụ bảo mật nào, các hệ thống phòng thủ AI cần được đánh giá nghiêm ngặt để đảm bảo chúng không bị đánh lừa bởi kẻ thù (ví dụ, kẻ tấn công có thể cố tình cung cấp dữ liệu sai lệch cho AI phòng thủ để làm nó “mù” trước một cuộc tấn công đang diễn ra – một dạng đầu độc nhằm vào hệ thống bảo mật). Do đó, việc triển khai AI cho an ninh mạng cần đi kèm với kiểm tra và giám sát chặt chẽ.

Những thực hành tốt nhất để bảo vệ dữ liệu AI

Trước hàng loạt mối đe dọa, các tổ chức có thể làm gì để bảo vệ AI và dữ liệu đằng sau nó? Các chuyên gia khuyến nghị một cách tiếp cận đa lớp, tích hợp an ninh vào từng bước của vòng đời hệ thống AI. Dưới đây là một số thực hành tốt nhất được chắt lọc từ các cơ quan an ninh mạng uy tín và các nhà nghiên cứu:

• Quản trị dữ liệu và kiểm soát truy cập: Bắt đầu với việc kiểm soát nghiêm ngặt ai có thể truy cập dữ liệu huấn luyện AI, mô hình và kết quả nhạy cảm. Sử dụng xác thực và phân quyền mạnh mẽ để đảm bảo chỉ nhân sự hoặc hệ thống đáng tin cậy mới được phép chỉnh sửa dữ liệu. Tất cả dữ liệu (dù lưu trữ hay truyền tải) phải được mã hóa để ngăn chặn việc đánh cắp hoặc chặn bắt.
  Ghi nhật ký và kiểm tra truy cập dữ liệu rất quan trọng để đảm bảo trách nhiệm – nếu có sự cố, các bản ghi có thể giúp truy tìm nguồn gốc. Ngoài ra, áp dụng nguyên tắc quyền ít nhất: mỗi người dùng hoặc thành phần chỉ được truy cập dữ liệu tối thiểu cần thiết cho chức năng của mình.

• Xác thực dữ liệu và nguồn gốc: Trước khi sử dụng bất kỳ bộ dữ liệu nào để huấn luyện hoặc đưa vào AI, hãy kiểm tra tính toàn vẹn của nó. Các kỹ thuật như chữ ký số và kiểm tra tổng kiểm có thể đảm bảo dữ liệu không bị thay đổi kể từ khi thu thập. Việc duy trì nguồn gốc rõ ràng (ghi lại xuất xứ) giúp tăng độ tin cậy – ví dụ, ưu tiên dữ liệu từ các nguồn đáng tin cậy, đã được kiểm duyệt hoặc đối tác chính thức.
  Nếu sử dụng dữ liệu thu thập từ cộng đồng hoặc web, hãy cân nhắc đối chiếu với nhiều nguồn khác nhau (phương pháp “đồng thuận”) để phát hiện bất thường. Một số tổ chức áp dụng môi trường kiểm thử riêng biệt cho dữ liệu mới – dữ liệu được phân tích riêng biệt để phát hiện các dấu hiệu cảnh báo (như mã độc hoặc điểm ngoại lai rõ ràng) trước khi đưa vào huấn luyện.

• Thực hành phát triển AI an toàn: Tuân thủ các quy trình mã hóa và triển khai an toàn dành riêng cho AI. Điều này không chỉ giải quyết các lỗ hổng phần mềm thông thường mà còn các vấn đề đặc thù của AI. Ví dụ, áp dụng các nguyên tắc “bảo mật theo thiết kế” và “bảo vệ quyền riêng tư theo thiết kế”: xây dựng mô hình AI và chuỗi dữ liệu với các biện pháp bảo vệ ngay từ đầu, thay vì thêm vào sau.
  Hướng dẫn của Anh/Mỹ về phát triển AI an toàn đề xuất sử dụng mô hình hóa mối đe dọa trong giai đoạn thiết kế để dự đoán cách kẻ tấn công có thể nhắm vào hệ thống AI. Trong quá trình phát triển mô hình, áp dụng các kỹ thuật giảm thiểu tác động của dữ liệu bị đầu độc – một cách là phát hiện điểm ngoại lai trong bộ dữ liệu huấn luyện, để nếu 5% dữ liệu báo hiệu điều bất thường hoặc có hại, có thể phát hiện trước khi huấn luyện.

  Cách tiếp cận khác là huấn luyện mô hình vững chắc: có các thuật toán giúp mô hình giảm nhạy cảm với điểm ngoại lai hoặc nhiễu đối kháng (ví dụ, bằng cách tăng cường dữ liệu huấn luyện với các biến đổi nhỏ để mô hình học cách chịu đựng). Việc rà soát mã nguồn định kỳ và kiểm thử bảo mật (bao gồm bài tập đội đỏ – nơi các chuyên gia cố gắng phá vỡ hệ thống AI) cũng quan trọng như với bất kỳ phần mềm quan trọng nào.

• Giám sát và phát hiện bất thường: Sau khi triển khai, liên tục giám sát đầu vào và đầu ra của hệ thống AI để phát hiện dấu hiệu bị can thiệp hoặc trôi dạt. Thiết lập cảnh báo cho các mẫu bất thường – ví dụ, nếu đột nhiên có một lượng lớn truy vấn bất thường tương tự đến mô hình AI (có thể là dấu hiệu của tấn công đầu độc hoặc trích xuất), hoặc nếu mô hình bắt đầu cho kết quả rõ ràng là sai lệch. Hệ thống phát hiện bất thường có thể chạy nền để đánh dấu các sự kiện này.
  Giám sát cũng nên bao gồm các chỉ số chất lượng dữ liệu; nếu độ chính xác của mô hình trên dữ liệu mới bắt đầu giảm bất ngờ, đó có thể là dấu hiệu của trôi dạt dữ liệu hoặc tấn công đầu độc âm thầm, cần được điều tra. Việc huấn luyện lại hoặc cập nhật mô hình định kỳ với dữ liệu mới giúp giảm thiểu trôi dạt tự nhiên và áp dụng bản vá nếu phát hiện lỗ hổng mới trong thuật toán AI.

• Kế hoạch ứng phó sự cố và phục hồi: Dù đã nỗ lực, sự cố hoặc thất bại vẫn có thể xảy ra. Các tổ chức nên có kế hoạch ứng phó sự cố rõ ràng dành riêng cho hệ thống AI. Nếu xảy ra rò rỉ dữ liệu, bạn sẽ cách ly và thông báo cho các bên liên quan như thế nào?
  Nếu phát hiện dữ liệu huấn luyện bị đầu độc, bạn có bộ dữ liệu dự phòng hoặc phiên bản mô hình trước đó để phục hồi không? Lập kế hoạch cho các tình huống xấu nhất giúp đảm bảo một cuộc tấn công vào AI không làm gián đoạn hoạt động lâu dài. Sao lưu định kỳ dữ liệu quan trọng và cả các phiên bản mô hình – như vậy, nếu mô hình AI trong sản xuất bị xâm phạm, bạn có thể quay lại trạng thái an toàn đã biết.

  Trong các ứng dụng quan trọng, một số tổ chức duy trì mô hình AI dự phòng hoặc tổ hợp mô hình; nếu một mô hình bắt đầu có dấu hiệu bất thường, mô hình phụ có thể kiểm tra chéo kết quả hoặc tiếp quản xử lý cho đến khi sự cố được giải quyết (tương tự cơ chế an toàn dự phòng).

• Đào tạo và nâng cao nhận thức cho nhân viên: An ninh AI không chỉ là vấn đề kỹ thuật; con người đóng vai trò quan trọng. Đảm bảo đội ngũ khoa học dữ liệu và phát triển được đào tạo về các thực hành an toàn. Họ cần nhận thức về các mối đe dọa như tấn công đối kháng và không nên mặc định dữ liệu đưa vào AI luôn vô hại.
  Khuyến khích văn hóa hoài nghi, nơi các xu hướng dữ liệu bất thường được đặt câu hỏi thay vì bỏ qua. Đồng thời, giáo dục toàn bộ nhân viên về rủi ro của kỹ thuật xã hội dựa trên AI (ví dụ, dạy họ cách nhận biết giọng nói deepfake hoặc email lừa đảo, vì những hình thức này đang gia tăng nhờ AI). Sự cảnh giác của con người có thể phát hiện những điều mà hệ thống tự động bỏ sót.

Việc áp dụng những thực hành này có thể giảm đáng kể rủi ro sự cố AI và bảo mật dữ liệu. Thực tế, các cơ quan quốc tế như Cơ quan An ninh mạng và Cơ sở hạ tầng Hoa Kỳ (CISA) và các đối tác đã khuyến nghị các bước tương tự – từ áp dụng các biện pháp bảo vệ dữ liệu mạnh mẽ và quản lý rủi ro chủ động, đến tăng cường giám sát và khả năng phát hiện mối đe dọa cho các hệ thống AI.

Trong một khuyến cáo chung gần đây, các cơ quan kêu gọi các tổ chức “bảo vệ dữ liệu nhạy cảm, độc quyền và quan trọng trong các hệ thống AI” bằng cách sử dụng các biện pháp như mã hóa, theo dõi nguồn gốc dữ liệu và kiểm thử nghiêm ngặt. Điều quan trọng là an ninh phải là một quá trình liên tục: đánh giá rủi ro liên tục là cần thiết để theo kịp các mối đe dọa đang phát triển.

Cũng như kẻ tấn công luôn tìm cách mới (đặc biệt với sự trợ giúp của chính AI), các tổ chức phải không ngừng cập nhật và nâng cao phòng thủ của mình.

Nỗ lực toàn cầu và phản ứng pháp lý

Các chính phủ và tổ chức quốc tế trên toàn thế giới đang tích cực giải quyết các vấn đề bảo mật dữ liệu liên quan đến AI nhằm xây dựng niềm tin vào công nghệ AI. Chúng ta đã đề cập đến Đạo luật AI sắp tới của EU, sẽ áp đặt các yêu cầu về minh bạch, quản lý rủi ro và an ninh mạng đối với các hệ thống AI có rủi ro cao. Châu Âu cũng đang xem xét cập nhật luật trách nhiệm để buộc các nhà cung cấp AI chịu trách nhiệm về các lỗi bảo mật.

Tại Hoa Kỳ, Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) đã tạo ra Khung Quản lý Rủi ro AI để hướng dẫn các tổ chức đánh giá và giảm thiểu rủi ro AI, bao gồm cả rủi ro bảo mật và quyền riêng tư. Khung này, phát hành năm 2023, nhấn mạnh xây dựng các hệ thống AI đáng tin cậy bằng cách xem xét các vấn đề như độ bền, khả năng giải thích và an toàn ngay từ giai đoạn thiết kế.

Chính phủ Mỹ cũng đã hợp tác với các công ty AI lớn về các cam kết tự nguyện trong an ninh mạng – ví dụ, đảm bảo các mô hình được kiểm thử bởi các chuyên gia độc lập (đội đỏ) để phát hiện lỗ hổng trước khi phát hành, và đầu tư vào các kỹ thuật làm cho kết quả AI an toàn hơn.

Hợp tác quốc tế trong lĩnh vực an ninh AI rất mạnh mẽ. Một sự kiện hợp tác quan trọng diễn ra năm 2023 khi NCSC Anh, CISA, FBI và các cơ quan từ hơn 20 quốc gia cùng phát hành hướng dẫn phát triển AI an toàn. Khuyến cáo toàn cầu chưa từng có này nhấn mạnh rằng an ninh AI là thách thức chung và cung cấp các thực hành tốt nhất (phù hợp với nguyên tắc bảo mật theo thiết kế đã đề cập) cho các tổ chức trên toàn thế giới.

Nó nhấn mạnh rằng “an ninh phải là yêu cầu cốt lõi… xuyên suốt vòng đời” của AI, không chỉ là điều được nghĩ đến sau cùng. Những nỗ lực chung này thể hiện sự nhận thức rằng các mối đe dọa AI không biên giới, và một điểm yếu trong hệ thống AI được sử dụng rộng rãi ở một quốc gia có thể gây ảnh hưởng lan tỏa toàn cầu.

Hơn nữa, các tổ chức như UNESCO đã tăng cường vai trò bằng cách tạo ra tiêu chuẩn đạo đức AI toàn cầu đầu tiên (2021), mặc dù phạm vi rộng hơn nhưng bao gồm các điểm mạnh về an ninh và quyền riêng tư. Khuyến nghị của UNESCO kêu gọi các quốc gia thành viên và doanh nghiệp đảm bảo “các tác hại không mong muốn (rủi ro an toàn) cũng như các điểm yếu dễ bị tấn công (rủi ro an ninh) được tránh và xử lý bởi các bên liên quan AI”. Nó cũng củng cố yêu cầu bảo vệ dữ liệu và quyền con người trong bối cảnh AI.

Chúng ta cũng thấy các chủ đề tương tự trong các nguyên tắc AI của OECD và tuyên bố AI của G7: tất cả đều nhấn mạnh an ninh, trách nhiệm và quyền riêng tư người dùng là trụ cột chính cho AI đáng tin cậy.

Trong khu vực tư nhân, hệ sinh thái tập trung vào an ninh AI đang phát triển mạnh. Các liên minh ngành chia sẻ nghiên cứu về học máy đối kháng, và các hội nghị thường xuyên có các phiên về “Đội đỏ AI” và an ninh học máy. Các công cụ và khung làm việc đang xuất hiện để giúp kiểm thử mô hình AI tìm lỗ hổng trước khi triển khai. Ngay cả các tổ chức tiêu chuẩn cũng tham gia – ISO được cho là đang phát triển các tiêu chuẩn an ninh AI có thể bổ sung cho các tiêu chuẩn an ninh mạng hiện có.

Đối với các tổ chức và chuyên gia, việc tuân thủ các hướng dẫn và tiêu chuẩn toàn cầu này đang trở thành một phần của quy trình thẩm định. Điều này không chỉ giảm rủi ro sự cố mà còn chuẩn bị cho tổ chức tuân thủ pháp luật và xây dựng niềm tin với người dùng và khách hàng. Trong các lĩnh vực như y tế và tài chính, chứng minh AI của bạn an toàn và tuân thủ có thể là lợi thế cạnh tranh.

>>> Có thể bạn quan tâm:

Những Rủi Ro Khi Sử Dụng AI

Lợi ích của AI đối với Cá nhân và Doanh nghiệp

Tiềm năng chuyển đổi của AI đi kèm với những thách thức bảo mật dữ liệu không kém phần quan trọng. Đảm bảo an ninh và tính toàn vẹn của dữ liệu trong các hệ thống AI là không thể tùy chọn – mà là nền tảng cho sự thành công và sự chấp nhận các giải pháp AI. Từ việc bảo vệ quyền riêng tư dữ liệu cá nhân đến bảo vệ mô hình AI khỏi sự can thiệp và khai thác đối kháng, cần có một cách tiếp cận toàn diện, đặt an ninh làm trọng tâm.

Các vấn đề này bao trùm công nghệ, chính sách và yếu tố con người: các bộ dữ liệu lớn phải được xử lý có trách nhiệm theo luật bảo vệ quyền riêng tư; các mô hình AI cần được bảo vệ trước các kỹ thuật tấn công mới; và người dùng cũng như nhà phát triển phải luôn cảnh giác trong thời đại các mối đe dọa mạng do AI thúc đẩy.

Tin vui là nhận thức về các vấn đề AI và bảo mật dữ liệu chưa bao giờ cao đến thế. Chính phủ, tổ chức quốc tế và các nhà lãnh đạo ngành đang tích cực xây dựng các khung pháp lý và quy định để hướng dẫn phát triển AI an toàn. Trong khi đó, các nghiên cứu tiên tiến tiếp tục nâng cao khả năng chống chịu của AI – từ các thuật toán chống lại các ví dụ đối kháng đến các phương pháp AI bảo vệ quyền riêng tư mới (như học liên kết và bảo mật khác biệt) cho phép khai thác thông tin hữu ích mà không tiết lộ dữ liệu thô.

Bằng cách áp dụng các thực hành tốt nhất – mã hóa mạnh mẽ, xác thực dữ liệu, giám sát liên tục và nhiều hơn nữa – các tổ chức có thể giảm thiểu đáng kể rủi ro.

Cuối cùng, AI nên được phát triển và triển khai với tư duy “an ninh là ưu tiên hàng đầu”. Như các chuyên gia đã lưu ý, an ninh mạng là điều kiện tiên quyết để AI phát huy đầy đủ lợi ích. Khi các hệ thống AI được bảo mật, chúng ta có thể tận hưởng hiệu quả và đổi mới của chúng với sự tin tưởng.

Nhưng nếu bỏ qua cảnh báo, các vụ rò rỉ dữ liệu, thao túng độc hại và vi phạm quyền riêng tư có thể làm suy giảm niềm tin công chúng và gây ra thiệt hại thực sự. Trong lĩnh vực phát triển nhanh này, việc chủ động và cập nhật liên tục là chìa khóa. AI và bảo mật dữ liệu là hai mặt của cùng một đồng tiền – và chỉ khi giải quyết đồng thời, chúng ta mới có thể khai mở tiềm năng AI một cách an toàn, có trách nhiệm cho mọi người.