使用人工智慧的風險

人工智慧（AI）如今已融入從智慧型手機助理、社群媒體動態到醫療與交通等各個領域。這些技術帶來前所未有的好處，但同時也伴隨重大風險與挑戰。

本文將與 INVIAI 一起探討基於官方與國際資訊，涵蓋聊天機器人、演算法到機器人等各類AI的 使用風險。

AI系統中的偏見與歧視

AI的一大風險是偏見與不公平歧視的根深蒂固。AI模型從可能反映歷史偏見或不平等的資料中學習，導致系統可能基於種族、性別或其他特徵差別對待人們，延續不公正現象。

功能失常的通用AI可能因種族、性別、文化、年齡及身心障礙等受保護特徵而做出偏頗決策，造成傷害。

— 國際AI安全報告

聯合國教科文組織等全球機構警告，若無公平措施，AI風險包括 「複製現實世界偏見與歧視，激化分裂並威脅基本人權與自由」。確保AI系統以多元且具代表性的資料訓練，並進行偏見審核，是防止自動化歧視的關鍵。

AI系統中的偏見與歧視

錯誤資訊與深偽技術危機

AI生成超逼真文字、影像與影片的能力，引發錯誤資訊氾濫的恐懼。生成式AI能製作令人信服的假新聞、偽造圖片或深偽影片，難以與真實區分。

事實上，AI助長的錯誤與錯誤資訊是 「民主程序面臨的最大挑戰之一」，尤其在即將舉行的選舉中，數十億選民將投票。合成媒體如深偽影片與AI克隆聲音可被用作宣傳、冒充公眾人物或詐騙工具。

官員警告，惡意人士可利用AI發動大規模錯誤資訊攻勢，輕易在社群網絡散布假內容，製造混亂。風險是形成一個公民無法信任所見所聞的犬儒資訊環境，破壞公共討論與民主。

AI中的錯誤資訊與深偽危機

隱私威脅與大規模監控

AI的廣泛應用引發嚴重的 隱私疑慮。AI系統通常需要大量個人資料——從臉部、聲音到購物習慣與位置——才能有效運作。若無強力保障，這些資料可能被濫用或剝削。

例如，臉部辨識與預測演算法可能實現 無所不在的監控，追蹤個人行蹤或在未經同意下評價行為。

隱私是保護人類尊嚴、自主與行動力的基本權利，必須在AI系統生命週期中受到尊重。

— 資料保護機構

若AI發展超越隱私法規，個人可能失去對自身資訊的控制。社會必須確保健全的資料治理、同意機制與隱私保護技術，避免AI成為無限制監控的工具。

隱私威脅與大規模監控

安全失效與非預期傷害

AI能以超人效率自動化決策與實體任務，但也可能 以不可預測方式失效，造成現實傷害。我們將越來越多關鍵安全責任交給AI——如駕駛、診斷或電網管理——但這些系統並非萬無一失。

故障、訓練資料缺陷或意外情況可能導致AI做出危險錯誤。自駕車AI可能誤判行人，醫療AI可能建議錯誤治療，後果可能致命。

應避免並解決AI系統生命週期中的不良傷害（安全風險）及攻擊漏洞（安全風險），以確保人類、環境與生態系統的安全。

— 國際AI指導原則

換言之，AI系統必須經嚴格測試、監控並設置安全防護，以降低故障機率。過度依賴AI也有風險——若人類盲目信任自動決策，可能無法及時介入錯誤發生時。

因此，確保 人類監督 是關鍵。在高風險應用（如醫療或交通）中，最終決策應由人類判斷。維持AI安全與可靠性是持續挑戰，需AI開發者謹慎設計與負責任文化。

AI中的安全失效與非預期傷害

工作取代與經濟動盪

AI對經濟的變革影響是雙面刃。一方面，AI能提升生產力並創造全新產業；另一方面，透過自動化，可能取代數百萬工作崗位。

許多工作，尤其是涉及例行、重複性任務或易於分析的資料，容易被AI演算法與機器人取代。

雖然經濟可能創造新職位（長期甚至可能超過失去的工作數量），但轉型過程對許多人來說將十分艱難。新職位通常需要不同且更高階的技能，或集中於特定科技中心，導致許多被取代的勞工難以重新就業。

這種 勞工現有技能與AI驅動新職位需求間的不匹配，若未妥善處理，可能導致失業率與不平等加劇。政策制定者與研究者警告，快速的AI發展可能帶來 「勞動市場動盪與經濟權力不均」 的系統性問題。

若無積極措施（如再培訓計畫、AI技能教育與社會安全網），AI可能擴大社會經濟差距，形成由技術擁有者主導的經濟。

為AI影響做好勞動力準備，對確保自動化利益廣泛共享及防止大規模失業引發社會動盪至關重要。

AI中的工作取代與經濟動盪

犯罪濫用、詐騙與安全威脅

AI是一把雙刃劍，既可用於正當目的，也可能被惡意利用。網路犯罪者與其他不法分子已開始利用AI強化攻擊手法。

例如，AI能生成高度個人化的釣魚郵件或語音訊息（透過聲音克隆），誘使受害者洩露敏感資訊或匯款。AI也可自動化駭客行為，大規模尋找軟體漏洞，或開發能自我調整以躲避偵測的惡意軟體。

惡意人士可利用AI發動大規模錯誤資訊、影響行動、詐騙與詐騙活動。

— 英國政府委託報告

人工智慧安全中心指出，AI惡意使用是主要關切，包含犯罪分子利用AI進行 大規模詐騙與網路攻擊 的情境。

AI帶來的速度、規模與複雜度可能壓倒傳統防禦——想像一天內數千通AI生成的詐騙電話或深偽影片攻擊企業安全。

隨著AI工具更易取得，執行這些惡意行為的門檻降低，可能導致AI輔助犯罪激增。

這需要新的網路安全與執法方法，如能 偵測深偽或異常行為 的AI系統，以及更新法律框架以追究違法者責任。基本上，我們必須預期AI帶給善意者的能力，也可能被不法分子利用，並做好相應準備。

AI中的犯罪濫用、詐騙與安全威脅

軍事化與自主武器

AI最令人不安的風險或許出現在戰爭與國家安全領域。AI正快速整合進軍事系統，帶來 自主武器（「殺手機器人」）與AI驅動戰鬥決策的可能性。

這些技術反應速度可能超越人類，但移除人類對致命武力使用的控制充滿危險。AI控制武器可能誤選目標或以不可預見方式升級衝突。

若各國競相裝備智慧武器，可能引發破壞性軍備競賽。此外，AI也可能用於網路戰，自主攻擊關鍵基礎設施或散布宣傳，模糊和平與衝突界線。

若AI軍事發展集中於少數手中，可能強加於人民而無法參與決策，破壞全球安全與倫理。

— 聯合國

自主武器系統也帶來 法律與道德困境——若AI無人機誤殺平民，誰應負責？這類系統如何遵守國際人道法？

這些未解問題促使呼籲禁止或嚴格管制某些AI武器。普遍認為，對任何能做出生死決策的AI維持人類監督至關重要。否則，風險不僅是戰場上的悲劇錯誤，更是戰爭中人類責任的流失。

AI中的軍事化與自主武器

透明度與問責缺失

當今多數先進AI系統運作如「黑盒子」——即使是開發者也難以完全理解其內部邏輯。這種缺乏透明度的情況，造成AI決策無法解釋或質疑的風險，在司法、金融或醫療等領域尤為嚴重，因為解釋性可能是法律或倫理要求。

若AI拒絕貸款、診斷疾病或決定假釋，我們理所當然想知道原因。但部分AI模型（尤其是複雜神經網路）難以提供明確理由。

缺乏透明度也可能削弱有效質疑AI系統決策結果的可能性，進而侵犯公平審判與有效救濟權利。

— 聯合國教科文組織

換言之，若使用者與監管者皆無法理解AI如何做決策，幾乎無法追究錯誤或偏見的責任。

為此，專家主張採用 可解釋AI 技術、嚴格審計與規範要求，使AI決策可追溯至人類權威。

全球倫理指導方針強調，應 「始終能將AI系統行為的倫理與法律責任歸屬於個人或組織」。人類必須保持最終責任，AI應輔助而非取代敏感領域的人類判斷。否則，我們將面臨由難以理解的機器做出重要決策，導致不公的局面。

職場中AI使用的透明度與問責缺失

權力集中與不平等

AI革命並非全球均勻發生——少數企業與國家主導先進AI的開發，這本身就帶來風險。

尖端AI模型需要龐大資料、人才與運算資源，僅有科技巨頭（及資金充裕的政府）能掌握。

這導致高度集中、單一且全球整合的供應鏈，偏袒少數公司與國家。

— 世界經濟論壇

這種AI權力集中可能轉化為對AI技術的 壟斷控制，限制競爭與消費者選擇。也增加少數企業或國家優先考量自身利益，忽視更廣泛公共利益 的風險。

這種不平衡可能加劇全球不平等：富裕國家與企業透過AI快速領先，貧困社群則缺乏最新工具，失業卻無法享受AI帶來的利益。

此外，集中產業可能抑制創新（新進者無法與既有資源競爭），並帶來安全風險（若關鍵AI基礎設施由少數實體控制，成為單點故障或操控目標）。

應對此風險需國際合作與新規範，促進AI開發民主化——例如支持開放研究、確保公平資料與運算資源取得，以及制定政策（如歐盟擬議的AI法案）防止「AI守門人」濫權。更包容的AI生態將有助於全球共享AI利益，而非擴大科技鴻溝。

權力集中與不平等

AI的環境影響

AI風險討論中常被忽略的是其 環境足跡。AI開發，尤其是 訓練大型機器學習模型，消耗大量電力與運算資源。

資料中心擠滿數千台耗電伺服器，處理AI系統學習所需的海量資料。這意味著AI間接促成了 碳排放與氣候變遷。

隨著AI投資增加，運行AI模型的排放預計將急劇上升——報告預測 頂尖AI系統每年可能排放超過一億噸二氧化碳，對能源基礎設施造成重大壓力。

換句話說，支撐AI的資料中心電力使用增速是整體電力消耗增長的 「四倍」。

除了碳排放，AI還大量耗水冷卻並產生電子廢棄物。若不加以控制，AI的環境影響可能破壞全球永續發展努力。

此風險呼籲提升AI 能源效率，並使用更潔淨能源。研究者正開發綠色AI技術以降低耗能，部分企業也承諾抵銷AI碳足跡。然而，AI快速發展帶來的 環境代價依然嚴峻。在全面整合AI的同時，社會必須在科技進步與生態責任間取得平衡。

AI的環境影響

存在性與長期風險

除了眼前風險，部分專家警告AI可能帶來更 推測性、長期的風險——包括先進AI超越人類控制的可能性。雖然當前AI系統能力有限，研究者正積極開發更具 通用性AI，未來可能在多領域超越人類。

這引發複雜問題：若AI變得極度智慧或自主，是否可能以威脅人類存在的方式行動？雖聽似科幻，科技界知名人士已表達對 「失控AI」情境 的擔憂，政府也開始重視此議題。

專家對人類失控AI導致災難性後果的風險看法不一。

— 國際AI安全報告

科學共識尚未統一——部分人認為超智慧AI尚需數十年，且可與人類價值保持一致；另一些人則認為存在小但非零的災難風險。

總之，雖然存在性風險可能性低，但不可完全排除。此類風險可能涉及AI追求目標時，因缺乏常識或道德約束，做出大規模有害行為的經典案例。

目前尚無AI具備此等自主性，但AI發展速度快速且難以預測，本身即為風險因素。

準備長期風險意味著投資AI目標對齊研究（確保AI目標與人類價值一致）、建立國際協議（類似核武或生物武器條約），並隨著AI能力增強維持人類監督。

AI未來充滿巨大潛力，但也伴隨 不確定性——謹慎態度要求我們在長期規劃中考慮低概率、高影響的風險。

AI的存在性與長期風險

負責任地引領AI未來

AI常被比喻為推動人類前進的強大引擎——但若無剎車與方向盤，這引擎可能偏離軌道。如前所述，使用AI的風險 多面向：從偏見演算法、假新聞、隱私侵犯與工作動盪等即時問題，到安全威脅、「黑盒」決策、大型科技壟斷、環境負擔，甚至失控超智慧AI的遠期陰影。

政府、國際組織、產業領袖與研究者正日益合作應對這些挑戰——例如透過以下框架：

• 美國NIST AI風險管理框架（提升AI可信度）
• 聯合國教科文組織全球AI倫理建議
• 歐盟AI法案

這些努力旨在 最大化AI利益，同時降低負面影響，確保AI服務於人類，而非相反。