使用人工智能的风险

人工智能（AI）现已融入从智能手机助手、社交媒体信息流到医疗和交通的方方面面。这些技术带来了前所未有的好处，但也伴随着重大风险和挑战。

本文将与INVIAI一起探讨使用人工智能的风险，涵盖所有领域和类型的AI——从聊天机器人和算法到机器人——基于官方和国际来源的见解。

AI系统中的偏见与歧视

AI的一个主要风险是偏见和不公平歧视的固化。AI模型从可能反映历史偏见或不平等的数据中学习；因此，AI系统可能基于种族、性别或其他特征以延续不公的方式区别对待人群。

功能失常的通用AI可能因涉及种族、性别、文化、年龄和残疾等受保护特征的偏见决策而造成伤害。

— 国际人工智能安全报告

联合国教科文组织等全球机构警告称，如果没有公平措施，AI有风险“复制现实世界的偏见和歧视，加剧分裂，威胁基本人权和自由”。确保AI系统以多样且具代表性的数据训练并进行偏见审计，是防止自动化歧视的关键。

AI系统中的偏见与歧视

错误信息与深度伪造的危险

AI生成超逼真文本、图像和视频的能力引发了对错误信息泛滥的担忧。生成式AI可以制作令人信服的假新闻文章、伪造图像或深度伪造视频，难以与真实内容区分。

事实上，由AI推动的错误信息和虚假信息构成了“对民主进程的最大挑战之一”——尤其是在数十亿人即将投票的选举中。合成媒体如深度伪造视频和AI克隆声音可被用作传播宣传、冒充公众人物或实施欺诈的工具。

官方警告称，恶意行为者可利用AI进行大规模虚假信息活动，更容易在社交网络上泛滥假内容，制造混乱。风险在于形成一个公民无法信任所见所闻的愤世嫉俗的信息环境，破坏公共话语和民主。

AI中的错误信息与深度伪造危险

隐私威胁与大规模监控

AI的广泛应用引发了严重的隐私担忧。AI系统通常需要大量个人数据——从我们的面部和声音到购物习惯和位置——以有效运行。没有强有力的保护措施，这些数据可能被滥用或剥削。

例如，面部识别和预测算法可能实现无处不在的监控，追踪个人的每一个动作或在未经同意的情况下评估其行为。

隐私是保护人类尊严、自主权和行为能力的基本权利，必须在AI系统的整个生命周期中得到尊重。

— 数据保护机构

如果AI发展超越隐私法规，个人可能失去对自身信息的控制。社会必须确保健全的数据治理、同意机制和隐私保护技术到位，防止AI技术沦为无节制监控的工具。

隐私威胁与大规模监控

安全失效与意外伤害

虽然AI能以超人效率自动化决策和物理任务，但它也可能以不可预测的方式失效，导致现实世界的伤害。我们将越来越多的安全关键职责交给AI——如驾驶汽车、诊断病人或管理电网——但这些系统并非万无一失。

故障、训练数据缺陷或意外情况可能导致AI做出危险错误。自动驾驶汽车的AI可能误判行人，医疗AI可能推荐错误治疗，后果可能致命。

应避免并解决AI系统生命周期中的不良伤害（安全风险）及攻击漏洞（安全风险），以确保人类、环境和生态系统的安全与保障。

— 国际人工智能指南

换言之，AI系统必须经过严格测试、监控并设计有安全保障，以最大限度减少故障可能。过度依赖AI也存在风险——如果人们盲目信任自动决策，可能在出现问题时无法及时干预。

因此，确保人工监督至关重要。在医疗或交通等高风险领域，最终决策应由人类判断。维护AI的安全性和可靠性是持续挑战，需AI开发者精心设计和责任文化。

AI中的安全失效与意外伤害

职业替代与经济冲击

AI对经济的变革影响是一把双刃剑。一方面，AI能提升生产力并创造全新产业；另一方面，它通过自动化带来数百万工人被替代的风险。

许多工作——尤其是涉及例行、重复任务或易于分析的数据——容易被AI算法和机器人取代。

虽然经济可能创造新岗位（长期来看甚至可能超过失去的岗位），但过渡期对许多人来说将十分艰难。新增岗位通常需要不同且更高级的技能，或集中在特定科技中心，导致许多被替代工人难以重新就业。

这种工人现有技能与AI驱动新岗位需求之间的不匹配，若不解决，可能导致更高失业率和不平等。政策制定者和研究人员警告，快速的AI发展可能带来“劳动力市场混乱和经济权力不平等”的系统性问题。

若无积极措施（如再培训项目、AI技能教育和社会保障网），AI可能加剧社会经济差距，形成技术拥有者获益最多的AI驱动经济。

为应对AI影响，准备劳动力至关重要，以确保自动化利益广泛共享，防止因大规模失业引发社会动荡。

AI中的职业替代与经济冲击

犯罪滥用、欺诈与安全威胁

AI是一把双刃剑，既可用于正当目的，也可被恶意利用。网络犯罪分子及其他不法分子已开始利用AI增强攻击手段。

例如，AI可生成高度个性化的钓鱼邮件或语音信息（通过克隆声音）诱骗受害者泄露敏感信息或转账。它还可自动化黑客攻击，快速发现软件漏洞，或开发能自我适应躲避检测的恶意软件。

恶意行为者可利用AI进行大规模虚假信息传播、影响行动、欺诈和诈骗。

— 英国政府委托报告

人工智能安全中心将AI的恶意使用列为关键关注点，指出犯罪分子可能利用AI进行大规模欺诈和网络攻击。

AI带来的速度、规模和复杂性可能压倒传统防御——想象一下单日内成千上万的AI生成诈骗电话或深度伪造视频针对某公司安全。

随着AI工具更易获得，实施这些恶意活动的门槛降低，可能导致AI辅助犯罪激增。

这要求网络安全和执法采取新方法，如开发能检测深度伪造或异常行为的AI系统，并更新法律框架追究违法者责任。实质上，我们必须预见AI赋予受益者的能力，也可能被犯罪分子利用，并做好相应准备。

AI中的犯罪滥用、欺诈与安全威胁

军事化与自主武器

AI最令人不安的风险或许出现在战争和国家安全领域。AI正迅速被整合进军事系统，带来自主武器（“杀手机器人”）和AI驱动的战斗决策的可能性。

这些技术反应速度快于任何人类，但剥夺人类对致命武力使用的控制充满危险。AI控制的武器可能误选目标或以不可预见的方式升级冲突。

如果各国竞相装备智能武器，可能引发破坏性军备竞赛。此外，AI还可能用于网络战，自动攻击关键基础设施或传播宣传，模糊和平与冲突的界限。

如果AI在战争中的发展集中于少数人手中，可能被强加于民众而无权参与其使用方式，破坏全球安全与伦理。

— 联合国

自主武器系统还带来法律和道德困境——如果AI无人机误杀平民，谁来负责？这类系统如何遵守国际人道法？

这些未解问题促使呼吁禁止或严格监管某些AI武器。确保对任何能做出生死决策的AI保持人工监督被广泛认为至关重要。否则，风险不仅是战场上的悲剧性错误，更是战争中人类责任的丧失。

AI中的军事化与自主武器

缺乏透明度与问责制

当今大多数先进AI系统运作如“黑箱”——其内部逻辑即使对开发者也常不透明。这种缺乏透明度带来风险，AI决策无法解释或质疑，在司法、金融或医疗等领域尤为严重，因为解释性可能是法律或伦理要求。

如果AI拒绝贷款、诊断疾病或决定谁获得假释，我们自然想知道原因。但某些AI模型（尤其是复杂神经网络）难以提供明确理由。

缺乏透明度也可能削弱基于AI系统结果有效质疑决策的可能性，从而侵犯公平审判和有效救济的权利。

— 联合国教科文组织

换言之，如果用户和监管者都无法理解AI如何做决策，就几乎不可能追究因错误或偏见产生的责任。

为此，专家倡导采用可解释AI技术、严格审计和监管要求，使AI决策可追溯至人工权威。

全球伦理指南坚称，应“始终能够将AI系统行为的伦理和法律责任归于某个人或组织”。人类必须最终承担责任，AI应辅助而非替代敏感事务中的人类判断。否则，我们将面临由难以理解的机器做出重要决策的世界，这将导致不公。

职场中AI使用的透明度与问责缺失

权力集中与不平等

AI革命在全球范围内并不均衡——少数企业和国家主导先进AI的发展，这带来了自身风险。

尖端AI模型需要庞大的数据、人才和计算资源，目前只有科技巨头（及资金充足的政府）拥有这些资源。

这导致了高度集中的、单一的全球供应链，偏向少数公司和国家。

— 世界经济论坛

这种AI权力集中可能转化为对AI技术的垄断控制，限制竞争和消费者选择。它还带来危险，即少数公司或国家的优先事项将塑造AI，而忽视更广泛的公众利益。

这种不平衡可能加剧全球不平等：富裕国家和企业通过AI实现飞跃，而贫困社区缺乏最新工具，失业却无法享受AI带来的好处。

此外，集中的AI产业可能抑制创新（新进入者难以与现有资源竞争）并带来安全风险（关键AI基础设施由少数实体控制，成为单点故障或操控目标）。

应对这一风险需要国际合作及新规制以实现AI开发民主化——例如支持开放研究、确保公平获取数据和计算资源，以及制定政策（如欧盟拟议的AI法案）防止“AI守门人”的滥用行为。更包容的AI生态将有助于确保AI利益全球共享，而非扩大技术鸿沟。

权力集中与不平等

AI的环境影响

AI风险讨论中常被忽视的是其环境足迹。AI开发，尤其是训练大型机器学习模型，消耗大量电力和计算资源。

数据中心内成千上万台耗电服务器处理AI系统学习的数据洪流。这意味着AI间接助长了碳排放和气候变化。

随着AI投资增长，运行AI模型的排放预计将急剧上升——报告预测顶级AI系统每年可能排放超过一亿吨二氧化碳，对能源基础设施造成重大压力。

换个角度看，驱动AI的数据中心使电力使用增长速度“是整体电力消费增长的四倍”。

除了碳排放，AI还大量消耗水资源用于冷却，并因硬件快速升级产生电子废弃物。如果不加控制，AI的环境影响可能破坏全球可持续发展努力。

这一风险呼吁提升AI的能源效率并使用更清洁的能源。研究人员正在开发绿色AI技术以降低能耗，一些公司承诺抵消AI的碳足迹。然而，AI快速发展带来的环境代价仍是紧迫问题。社会在全面整合AI时，必须平衡技术进步与生态责任。

AI的环境影响

存在性与长期风险

除即时风险外，一些专家警告AI存在更为推测性、长期的风险——包括高级AI可能超出人类控制的可能性。尽管现今AI系统能力有限，研究者正积极研发更具通用性的AI，未来可能在多个领域超越人类。

这引发复杂问题：如果AI变得极其智能或自主，它会否以威胁人类存在的方式行动？虽然听起来像科幻，科技界知名人士已表达对“失控AI”情景的担忧，政府也严肃对待此议题。

专家对人类失控AI可能导致灾难性后果的风险看法不一。

— 国际人工智能安全报告

科学界尚无统一共识——部分人认为超级智能AI还需数十年或可与人类价值保持一致，另一些人则认为灾难性结果虽小概率但不可忽视。

本质上，尽管存在性风险概率较低，但不能完全排除。此类风险可能涉及AI为实现目标而损害人类福祉（经典例子是若AI被错误编程，因缺乏常识或道德约束而大规模做出有害行为）。

目前尚无AI具备此类自主性，但AI发展速度快且不可预测，本身即是风险因素。

为长期风险做准备意味着投资AI对齐研究（确保AI目标与人类价值一致）、制定高风险AI研究的国际协议（类似核武或生物武器条约），并随着AI能力提升保持人工监督。

AI的未来充满巨大潜力，但也伴随不确定性——谨慎起见，我们应在长期规划中考虑即使是低概率、高影响的风险。

AI的存在性与长期风险

负责任地引领AI未来

AI常被比作推动人类前进的强大引擎——但没有刹车和方向盘，这台引擎可能偏离轨道。正如我们所见，使用AI的风险是多方面的：从偏见算法、假新闻、隐私侵犯和职业动荡等即时问题，到安全威胁、“黑箱”决策、大型科技垄断、环境压力，甚至失控超级智能AI的远期阴影。

政府、国际组织、行业领导者和研究人员正日益合作应对这些问题——例如通过以下框架：

• 美国NIST AI风险管理框架（提升AI可信度）
• 联合国教科文组织全球AI伦理建议
• 欧盟AI法案

这些努力旨在最大化AI的益处，同时最小化其负面影响，确保AI服务于人类，而非反之。