Những Rủi Ro Khi Sử Dụng AI

Trí tuệ nhân tạo (AI) hiện nay đã thâm nhập vào mọi lĩnh vực từ trợ lý trên điện thoại thông minh, các trang mạng xã hội đến y tế và giao thông vận tải. Những công nghệ này mang lại lợi ích chưa từng có, nhưng cũng đi kèm với những rủi ro và thách thức đáng kể.

Trong bài viết này, hãy cùng INVIAI khám phá các rủi ro khi sử dụng AI trên mọi lĩnh vực và loại hình AI – từ chatbot, thuật toán đến robot – dựa trên những hiểu biết từ các nguồn chính thức và quốc tế.

Định Kiến và Phân Biệt Đối Xử Trong Hệ Thống AI

Một rủi ro lớn của AI là việc củng cố các định kiến và phân biệt đối xử không công bằng. Các mô hình AI học từ dữ liệu có thể phản ánh các thành kiến hoặc bất bình đẳng lịch sử; do đó, hệ thống AI có thể đối xử khác biệt với con người dựa trên chủng tộc, giới tính hoặc các đặc điểm khác theo cách duy trì bất công.

AI đa năng bị lỗi có thể gây hại thông qua các quyết định thiên vị liên quan đến các đặc điểm được bảo vệ như chủng tộc, giới tính, văn hóa, tuổi tác và khuyết tật.

— Báo cáo An toàn AI Quốc tế

Các tổ chức toàn cầu như UNESCO cảnh báo rằng nếu không có các biện pháp công bằng, AI có nguy cơ "tái tạo các định kiến và phân biệt đối xử trong thế giới thực, làm gia tăng chia rẽ và đe dọa các quyền và tự do cơ bản của con người". Đảm bảo hệ thống AI được đào tạo trên dữ liệu đa dạng, đại diện và được kiểm toán để phát hiện thiên vị là điều thiết yếu nhằm ngăn chặn phân biệt đối xử tự động.

Định Kiến và Phân Biệt Đối Xử Trong Hệ Thống AI

Nguy Cơ Thông Tin Sai Lệch và Deepfake

Khả năng tạo ra văn bản, hình ảnh và video siêu thực của AI đã làm dấy lên nỗi lo về một làn sóng thông tin sai lệch. AI tạo sinh có thể sản xuất các bài báo tin giả thuyết phục, hình ảnh giả mạo hoặc video deepfake khó phân biệt với thực tế.

Thực tế, thông tin sai lệch và tin giả do AI thúc đẩy là một trong "những thách thức lớn nhất đối với tiến trình dân chủ" – đặc biệt khi hàng tỷ người chuẩn bị đi bầu cử. Các phương tiện tổng hợp như video deepfake và giọng nói nhân tạo có thể bị lợi dụng để tuyên truyền, giả mạo nhân vật công chúng hoặc thực hiện gian lận.

Các quan chức cảnh báo rằng những kẻ xấu có thể lợi dụng AI cho các chiến dịch tin giả quy mô lớn, khiến mạng xã hội tràn ngập nội dung giả mạo và gây hỗn loạn. Rủi ro là một môi trường thông tin hoài nghi, nơi công dân không thể tin vào những gì họ thấy hoặc nghe, làm suy yếu diễn đàn công cộng và nền dân chủ.

Nguy Cơ Thông Tin Sai Lệch và Deepfake Trong AI

Đe Dọa Quyền Riêng Tư và Giám Sát Đại Trà

Việc sử dụng AI rộng rãi đặt ra những mối lo ngại về quyền riêng tư nghiêm trọng. Hệ thống AI thường cần lượng lớn dữ liệu cá nhân – từ khuôn mặt, giọng nói đến thói quen mua sắm và vị trí – để hoạt động hiệu quả. Nếu không có các biện pháp bảo vệ mạnh mẽ, dữ liệu này có thể bị lạm dụng hoặc khai thác.

Ví dụ, nhận diện khuôn mặt và thuật toán dự đoán có thể cho phép giám sát toàn diện, theo dõi mọi chuyển động của cá nhân hoặc đánh giá hành vi mà không có sự đồng ý.

Quyền riêng tư là quyền thiết yếu để bảo vệ phẩm giá, quyền tự chủ và năng lực của con người, cần được tôn trọng trong suốt vòng đời của hệ thống AI.

— Các Cơ Quan Bảo Vệ Dữ Liệu

Nếu phát triển AI vượt quá quy định về quyền riêng tư, cá nhân có thể mất kiểm soát thông tin của chính mình. Xã hội phải đảm bảo có các cơ chế quản trị dữ liệu chặt chẽ, cơ chế đồng thuận và kỹ thuật bảo vệ quyền riêng tư để công nghệ AI không trở thành công cụ giám sát không kiểm soát.

Đe Dọa Quyền Riêng Tư và Giám Sát Đại Trà

Sự Cố An Toàn và Tác Hại Không Mong Muốn

Dù AI có thể tự động hóa các quyết định và nhiệm vụ vật lý với hiệu quả siêu phàm, nó cũng có thể gặp lỗi theo những cách không thể đoán trước, dẫn đến hậu quả nghiêm trọng trong thực tế. Chúng ta giao phó cho AI nhiều trách nhiệm quan trọng về an toàn – như lái xe, chẩn đoán bệnh hay quản lý lưới điện – nhưng các hệ thống này không phải lúc nào cũng hoàn hảo.

Lỗi kỹ thuật, dữ liệu đào tạo sai hoặc tình huống bất ngờ có thể khiến AI đưa ra quyết định nguy hiểm. AI trong xe tự lái có thể nhận diện sai người đi bộ, hoặc AI y tế có thể đề xuất điều trị sai, gây hậu quả nghiêm trọng.

Các tác hại không mong muốn (rủi ro an toàn), cũng như các điểm yếu dễ bị tấn công (rủi ro bảo mật) cần được tránh và xử lý trong suốt vòng đời của hệ thống AI để đảm bảo an toàn và bảo mật cho con người, môi trường và hệ sinh thái.

— Hướng Dẫn AI Quốc Tế

Nói cách khác, hệ thống AI phải được kiểm tra, giám sát nghiêm ngặt và xây dựng các cơ chế dự phòng để giảm thiểu nguy cơ sự cố. Việc quá phụ thuộc vào AI cũng tiềm ẩn rủi ro – nếu con người tin tưởng mù quáng vào các quyết định tự động, họ có thể không can thiệp kịp thời khi có sự cố.

Do đó, đảm bảo sự giám sát của con người là rất quan trọng. Trong các lĩnh vực quan trọng (như y tế hay giao thông), quyết định cuối cùng nên do con người phán xét. Duy trì an toàn và độ tin cậy của AI là thách thức liên tục, đòi hỏi thiết kế cẩn trọng và văn hóa trách nhiệm từ các nhà phát triển AI.

Sự Cố An Toàn và Tác Hại Không Mong Muốn Trong AI

Thay Thế Việc Làm và Rối Loạn Kinh Tế

Tác động biến đổi của AI đối với nền kinh tế là con dao hai lưỡi. Một mặt, AI có thể tăng năng suất và tạo ra các ngành nghề hoàn toàn mới; mặt khác, nó đặt ra nguy cơ thay thế hàng triệu lao động thông qua tự động hóa.

Nhiều công việc – đặc biệt là những công việc lặp đi lặp lại hoặc phân tích dữ liệu đơn giản – dễ bị AI và robot chiếm lĩnh.

Mặc dù nền kinh tế có thể tạo ra các vai trò mới (có thể nhiều hơn số việc làm mất đi về lâu dài), quá trình chuyển đổi sẽ gây khó khăn cho nhiều người. Các công việc mới thường đòi hỏi kỹ năng khác biệt, cao cấp hơn hoặc tập trung ở các trung tâm công nghệ, khiến nhiều lao động bị thay thế khó tìm được chỗ đứng mới.

Sự không tương thích giữa kỹ năng hiện có của người lao động và yêu cầu kỹ năng của các vai trò mới do AI tạo ra có thể dẫn đến tỷ lệ thất nghiệp và bất bình đẳng cao hơn nếu không được giải quyết. Thực tế, các nhà hoạch định chính sách và nhà nghiên cứu cảnh báo rằng sự phát triển nhanh chóng của AI có thể gây ra "rối loạn thị trường lao động và bất bình đẳng quyền lực kinh tế" trên quy mô hệ thống.

Nếu không có các biện pháp chủ động (như chương trình đào tạo lại, giáo dục kỹ năng AI và mạng lưới an sinh xã hội), AI có thể làm gia tăng khoảng cách kinh tế xã hội, tạo ra nền kinh tế do AI dẫn dắt mà lợi ích chủ yếu thuộc về những người sở hữu công nghệ.

Chuẩn bị lực lượng lao động đối phó với tác động của AI là điều then chốt để đảm bảo lợi ích của tự động hóa được chia sẻ rộng rãi và ngăn ngừa bất ổn xã hội do mất việc làm hàng loạt.

Thay Thế Việc Làm và Rối Loạn Kinh Tế Trong AI

Lạm Dụng Hình Sự, Gian Lận và Mối Đe Dọa An Ninh

AI là công cụ mạnh mẽ có thể được sử dụng cho mục đích xấu cũng như tốt. Tội phạm mạng và các đối tượng xấu đã tận dụng AI để nâng cao hiệu quả tấn công.

Ví dụ, AI có thể tạo ra các email hoặc tin nhắn thoại lừa đảo cá nhân hóa cao (bằng cách nhân bản giọng nói) để đánh lừa người dùng tiết lộ thông tin nhạy cảm hoặc chuyển tiền. AI cũng có thể tự động hóa việc tấn công bằng cách tìm lỗ hổng phần mềm quy mô lớn hoặc phát triển phần mềm độc hại thích ứng để tránh bị phát hiện.

Các đối tượng xấu có thể sử dụng AI cho các chiến dịch tin giả, thao túng, gian lận và lừa đảo quy mô lớn.

— Báo cáo do Chính phủ Anh ủy quyền

Trung tâm An toàn AI xác định việc sử dụng AI cho mục đích xấu là mối quan tâm chính, với các kịch bản như hệ thống AI được tội phạm dùng để thực hiện gian lận và tấn công mạng quy mô lớn.

Tốc độ, quy mô và độ tinh vi mà AI mang lại có thể làm cho các biện pháp phòng thủ truyền thống bị quá tải – tưởng tượng hàng nghìn cuộc gọi lừa đảo do AI tạo ra hoặc video deepfake nhắm vào an ninh của một công ty chỉ trong một ngày.

Khi các công cụ AI trở nên dễ tiếp cận hơn, rào cản để thực hiện các hoạt động xấu này giảm xuống, có thể dẫn đến sự gia tăng tội phạm được hỗ trợ bởi AI.

Điều này đòi hỏi các phương pháp mới trong an ninh mạng và thực thi pháp luật, như hệ thống AI có thể phát hiện deepfake hoặc hành vi bất thường và các khung pháp lý cập nhật để xử lý người vi phạm. Về cơ bản, chúng ta phải chuẩn bị rằng bất kỳ khả năng nào AI mang lại cho người dùng hợp pháp cũng có thể bị tội phạm lợi dụng – và cần chuẩn bị kỹ lưỡng.

Lạm Dụng Hình Sự, Gian Lận và Mối Đe Dọa An Ninh Trong AI

Quân Sự Hóa và Vũ Khí Tự Động

Có lẽ rủi ro đáng sợ nhất của AI xuất hiện trong bối cảnh chiến tranh và an ninh quốc gia. AI đang nhanh chóng được tích hợp vào các hệ thống quân sự, đặt ra viễn cảnh về vũ khí tự động ("robot sát thủ") và quyết định chiến đấu do AI điều khiển.

Các công nghệ này có thể phản ứng nhanh hơn con người, nhưng việc loại bỏ sự kiểm soát của con người trong việc sử dụng lực lượng sát thương tiềm ẩn nhiều nguy hiểm. Có nguy cơ vũ khí do AI kiểm soát có thể chọn sai mục tiêu hoặc làm leo thang xung đột theo cách không lường trước được.

Nếu các quốc gia chạy đua trang bị vũ khí thông minh, điều này có thể kích hoạt một cuộc chạy đua vũ trang gây mất ổn định. Hơn nữa, AI có thể được sử dụng trong chiến tranh mạng để tấn công hạ tầng quan trọng hoặc lan truyền tuyên truyền, làm mờ ranh giới giữa hòa bình và xung đột.

Việc phát triển AI trong chiến tranh, nếu tập trung trong tay một số ít, có thể bị áp đặt lên người dân mà không có tiếng nói về cách sử dụng, làm suy yếu an ninh và đạo đức toàn cầu.

— Liên Hợp Quốc

Hệ thống vũ khí tự động cũng đặt ra những vấn đề pháp lý và đạo đức – ai sẽ chịu trách nhiệm nếu drone AI vô tình giết dân thường? Các hệ thống này tuân thủ luật nhân đạo quốc tế như thế nào?

Những câu hỏi chưa có lời giải này đã dẫn đến các kêu gọi cấm hoặc quy định nghiêm ngặt một số loại vũ khí AI. Đảm bảo sự giám sát của con người đối với bất kỳ AI nào có thể đưa ra quyết định sống còn được xem là ưu tiên hàng đầu. Nếu không, rủi ro không chỉ là sai sót bi thảm trên chiến trường mà còn là sự suy giảm trách nhiệm con người trong chiến tranh.

Quân Sự Hóa và Vũ Khí Tự Động Trong AI

Thiếu Minh Bạch và Trách Nhiệm

Hầu hết các hệ thống AI tiên tiến ngày nay hoạt động như "hộp đen" – logic bên trong thường không rõ ràng ngay cả với người tạo ra chúng. Sự thiếu minh bạch này tạo ra rủi ro rằng các quyết định của AI không thể giải thích hoặc phản biện, điều này là vấn đề nghiêm trọng trong các lĩnh vực như tư pháp, tài chính hoặc y tế, nơi việc giải thích có thể là yêu cầu pháp lý hoặc đạo đức.

Nếu AI từ chối cho ai đó vay tiền, chẩn đoán bệnh hoặc quyết định ai được ân xá, chúng ta tự nhiên muốn biết lý do tại sao. Với một số mô hình AI (đặc biệt là mạng nơ-ron phức tạp), việc cung cấp lý do rõ ràng là rất khó.

Thiếu minh bạch cũng có thể làm suy yếu khả năng phản biện hiệu quả các quyết định dựa trên kết quả do hệ thống AI tạo ra, và do đó có thể vi phạm quyền được xét xử công bằng và quyền được khắc phục hiệu quả.

— UNESCO

Nói cách khác, nếu người dùng và cơ quan quản lý không thể hiểu cách AI đưa ra quyết định, gần như không thể buộc ai đó chịu trách nhiệm về sai sót hoặc thiên vị phát sinh.

Để khắc phục, các chuyên gia đề xuất các kỹ thuật AI có thể giải thích được, kiểm toán nghiêm ngặt và yêu cầu pháp lý để các quyết định AI có thể truy nguyên đến quyền hạn con người.

Thực tế, các hướng dẫn đạo đức toàn cầu nhấn mạnh rằng phải "luôn có thể quy trách nhiệm đạo đức và pháp lý" cho hành vi của hệ thống AI cho một cá nhân hoặc tổ chức. Con người phải luôn chịu trách nhiệm cuối cùng, và AI nên hỗ trợ chứ không thay thế phán đoán con người trong các vấn đề nhạy cảm. Nếu không, chúng ta có nguy cơ tạo ra một thế giới nơi các quyết định quan trọng được đưa ra bởi những cỗ máy không thể hiểu được, điều này là công thức cho bất công.

Thiếu Minh Bạch và Trách Nhiệm Trong Việc Sử Dụng AI Tại Nơi Làm Việc

Tập Trung Quyền Lực và Bất Bình Đẳng

Cách mạng AI không diễn ra đồng đều trên toàn thế giới – một số ít tập đoàn và quốc gia chi phối việc phát triển AI tiên tiến, điều này mang theo những rủi ro riêng.

Các mô hình AI tiên tiến đòi hỏi lượng dữ liệu, nhân lực và tài nguyên tính toán khổng lồ mà chỉ các tập đoàn công nghệ lớn (và chính phủ có nguồn lực tốt) mới sở hữu.

Điều này dẫn đến một chuỗi cung ứng tích hợp toàn cầu tập trung cao độ, ưu tiên một số ít công ty và quốc gia.

— Diễn đàn Kinh tế Thế giới

Sự tập trung quyền lực AI như vậy có thể dẫn đến kiểm soát độc quyền công nghệ AI, hạn chế cạnh tranh và lựa chọn của người tiêu dùng. Nó cũng làm tăng nguy cơ ưu tiên của một số ít công ty hoặc quốc gia sẽ định hình AI theo cách không tính đến lợi ích công cộng rộng lớn hơn.

Sự mất cân bằng này có thể làm trầm trọng thêm bất bình đẳng toàn cầu: các quốc gia và công ty giàu có tiến xa nhờ tận dụng AI, trong khi cộng đồng nghèo hơn thiếu tiếp cận công cụ mới và chịu thiệt hại việc làm mà không hưởng lợi từ AI.

Thêm vào đó, ngành công nghiệp AI tập trung có thể kìm hãm đổi mới sáng tạo (nếu người mới không thể cạnh tranh với nguồn lực của các ông lớn) và gây rủi ro an ninh (nếu hạ tầng AI quan trọng chỉ do vài thực thể kiểm soát, trở thành điểm yếu dễ bị tấn công hoặc thao túng).

Giải quyết rủi ro này đòi hỏi hợp tác quốc tế và có thể là các quy định mới để dân chủ hóa phát triển AI – ví dụ, hỗ trợ nghiên cứu mở, đảm bảo tiếp cận công bằng dữ liệu và tài nguyên tính toán, và xây dựng chính sách (như Đạo luật AI của EU) để ngăn chặn các hành vi lạm dụng của "người gác cổng AI". Một môi trường AI bao trùm hơn sẽ giúp đảm bảo lợi ích của AI được chia sẻ toàn cầu, thay vì làm rộng thêm khoảng cách giữa người có và người không có công nghệ.

Tập Trung Quyền Lực và Bất Bình Đẳng

Tác Động Môi Trường của AI

Thường bị bỏ qua trong các cuộc thảo luận về rủi ro của AI là dấu chân môi trường của nó. Việc phát triển AI, đặc biệt là đào tạo các mô hình học máy lớn, tiêu thụ lượng điện năng và tài nguyên tính toán rất lớn.

Các trung tâm dữ liệu chứa hàng nghìn máy chủ tiêu thụ nhiều điện năng được sử dụng để xử lý lượng dữ liệu khổng lồ mà hệ thống AI học hỏi. Điều này có nghĩa AI gián tiếp góp phần vào phát thải carbon và biến đổi khí hậu.

Với đầu tư vào AI ngày càng tăng, phát thải từ vận hành các mô hình AI dự kiến sẽ tăng mạnh – báo cáo dự đoán các hệ thống AI hàng đầu có thể phát thải hơn 100 triệu tấn CO₂ mỗi năm, gây áp lực lớn lên hạ tầng năng lượng.

Để so sánh, các trung tâm dữ liệu phục vụ AI đang làm tăng tiêu thụ điện "nhanh gấp bốn lần so với mức tăng tổng thể của tiêu thụ điện".

Bên cạnh phát thải carbon, AI còn tiêu thụ nhiều nước để làm mát và tạo ra rác thải điện tử khi phần cứng được nâng cấp nhanh chóng. Nếu không kiểm soát, tác động môi trường của AI có thể làm suy yếu các nỗ lực bền vững toàn cầu.

Rủi ro này đòi hỏi AI phải tiết kiệm năng lượng hơn và sử dụng các nguồn năng lượng sạch hơn. Các nhà nghiên cứu đang phát triển kỹ thuật AI xanh để giảm tiêu thụ điện, và một số công ty đã cam kết bù đắp chi phí carbon của AI. Tuy nhiên, đây vẫn là mối quan tâm cấp bách khi cuộc đua AI có thể mang theo cái giá môi trường rất lớn. Cân bằng tiến bộ công nghệ với trách nhiệm sinh thái là thách thức xã hội phải đối mặt khi AI được tích hợp rộng rãi.

Tác Động Môi Trường của AI

Rủi Ro Tồn Tại và Dài Hạn

Bên cạnh các rủi ro tức thời, một số chuyên gia cảnh báo về các rủi ro dài hạn, mang tính suy đoán từ AI – bao gồm khả năng AI tiên tiến vượt ngoài tầm kiểm soát của con người. Trong khi các hệ thống AI hiện nay còn hạn chế về khả năng, các nhà nghiên cứu đang tích cực phát triển AI tổng quát có thể vượt trội con người trong nhiều lĩnh vực.

Điều này đặt ra các câu hỏi phức tạp: nếu AI trở nên thông minh hoặc tự chủ vượt bậc, liệu nó có thể hành động theo cách đe dọa sự tồn tại của nhân loại? Mặc dù nghe như khoa học viễn tưởng, nhiều nhân vật nổi bật trong cộng đồng công nghệ đã bày tỏ lo ngại về các kịch bản "AI nổi loạn", và các chính phủ đang nghiêm túc xem xét vấn đề này.

Các chuyên gia có quan điểm khác nhau về nguy cơ nhân loại mất kiểm soát AI dẫn đến hậu quả thảm khốc.

— Báo cáo An toàn AI Quốc tế

Đồng thuận khoa học chưa đồng nhất – một số cho rằng AI siêu thông minh còn cách xa hàng thập kỷ hoặc có thể được giữ phù hợp với giá trị con người, trong khi số khác thấy có khả năng nhỏ nhưng không bằng không về hậu quả thảm khốc.

Tóm lại, có sự thừa nhận rằng rủi ro tồn tại từ AI, dù nhỏ, không thể hoàn toàn loại trừ. Kết quả này có thể là AI theo đuổi mục tiêu gây hại cho con người (ví dụ kinh điển là AI nếu lập trình sai có thể làm điều gì đó nguy hiểm trên quy mô lớn vì thiếu hiểu biết hoặc giới hạn đạo đức).

Dù hiện nay chưa có AI nào có năng lực như vậy, tốc độ phát triển AI nhanh và khó đoán tự nó đã là một yếu tố rủi ro.

Chuẩn bị cho rủi ro dài hạn nghĩa là đầu tư vào nghiên cứu căn chỉnh AI (đảm bảo mục tiêu AI phù hợp với giá trị con người), thiết lập các hiệp định quốc tế về nghiên cứu AI quan trọng (giống như các hiệp ước về vũ khí hạt nhân hoặc sinh học), và duy trì giám sát con người khi hệ thống AI ngày càng mạnh.

Tương lai của AI đầy hứa hẹn, nhưng cũng đầy bất định – và sự thận trọng yêu cầu chúng ta cân nhắc cả những rủi ro có xác suất thấp nhưng tác động lớn trong kế hoạch dài hạn.

Rủi Ro Tồn Tại và Dài Hạn Trong AI

Điều Hướng Tương Lai AI Một Cách Có Trách Nhiệm

AI thường được ví như một động cơ mạnh mẽ có thể thúc đẩy nhân loại tiến lên – nhưng nếu không có phanh và tay lái, động cơ đó có thể đi lệch hướng. Như chúng ta đã thấy, các rủi ro khi sử dụng AI rất đa diện: từ các vấn đề tức thời như thuật toán thiên vị, tin giả, xâm phạm quyền riêng tư và biến động việc làm, đến các thách thức xã hội rộng lớn hơn như mối đe dọa an ninh, quyết định "hộp đen", độc quyền công nghệ lớn, áp lực môi trường, và thậm chí là viễn cảnh xa về mất kiểm soát trước AI siêu thông minh.

Chính phủ, tổ chức quốc tế, lãnh đạo ngành và nhà nghiên cứu ngày càng hợp tác để giải quyết các mối quan ngại này – ví dụ, thông qua các khuôn khổ như:

• Khuôn khổ Quản lý Rủi ro AI của NIST Hoa Kỳ (để nâng cao độ tin cậy AI)
• Khuyến nghị Đạo đức AI toàn cầu của UNESCO
• Đạo luật AI của Liên minh Châu Âu

Các nỗ lực này nhằm tối đa hóa lợi ích AI đồng thời giảm thiểu các tác động tiêu cực, đảm bảo AI phục vụ nhân loại chứ không phải ngược lại.