人工智能（AI）指的是模拟人类智能的计算机系统——例如，能够识别图像、理解语言或做出决策的程序。在日常生活中，AI驱动着智能手机上的语音助手、社交媒体上的推荐系统，甚至是能够撰写文本的高级聊天机器人。
AI有潜力极大地改善多个领域，但同时也引发了许多担忧。
那么，人工智能危险吗？本文将探讨双方观点：AI带来的实际益处以及专家们强调的潜在风险。
人工智能的现实益处
图片： 机器人与人类协作的友好形象象征着AI对人类的辅助。AI已融入许多实用应用中。
例如，联合国教科文组织指出，AI“创造了许多机会”，从更快速的医疗诊断到通过社交媒体实现更好的连接，再到自动化繁琐的工作任务。
欧盟同样强调，“值得信赖的AI可以带来诸多益处”，如更优质的医疗服务、更安全的交通以及更高效的工业和能源利用。在医疗领域，世界卫生组织报告称，AI正被用于诊断、药物开发和疫情应对，呼吁各国推动这些创新惠及所有人。
经济学家甚至将AI的快速普及比作过去的技术革命。
例如，美国政府强调，“AI拥有非凡的潜力，既充满希望也伴随风险”，意味着我们应利用其力量解决气候变化或疾病等问题，同时警惕潜在风险。
AI的主要益处包括：
- 改善医疗： AI系统能够比人类更快地分析X光片、核磁共振和患者数据，帮助早期发现疾病并实现个性化治疗。例如，AI辅助影像可以发现医生可能遗漏的肿瘤。
- 提升效率： 工厂、办公室和服务中的自动化流程提高了生产力。正如欧盟所指出，AI驱动的自动化带来了“更高效的制造”，甚至更智能的能源网络。机器人和软件处理重复性工作，使人类能专注于创造性或复杂任务。
- 更安全的交通和服务： 自动驾驶技术和交通管理AI旨在减少事故和拥堵。智能AI还能增强灾害预警系统和优化物流，使出行和运输更安全。
- 科学与环境支持： 研究人员利用AI分析气候模型和基因数据，助力应对气候变化等重大问题。联合国教科文组织报告称，即使是AI设计中的微小改进，也能显著降低其能耗，使其作为气候工具更具可持续性。
- 教育与无障碍： AI驱动的辅导工具可为每位学生量身定制学习方案，语音识别或翻译工具帮助残障人士。大英百科全书指出，AI甚至“通过提供无障碍服务帮助边缘群体”（例如为视障人士提供阅读助手）。
这些例子表明，AI不仅仅是科幻，它今天已经带来了切实的价值。
人工智能的潜在风险与危害
图片： 街头艺术中“机器人”一词警示AI未知的影响。尽管前景广阔，许多专家警告，AI如果被滥用或缺乏监管，可能会带来危险。其中一个主要担忧是偏见与歧视。由于AI从现有数据中学习，它可能继承人类的偏见。
联合国教科文组织警告，如果缺乏严格的伦理规范，AI“有可能复制现实世界的偏见和歧视，加剧分裂，威胁基本人权和自由”。确实，研究显示面部识别技术常常误判女性或有色人种，招聘算法也可能偏向某些性别。
大英百科全书同样指出，AI可能“通过重复和加剧种族主义伤害少数族裔”。
其他风险包括：
-
隐私与监控： AI系统通常需要大量个人数据（社交媒体帖子、健康记录等），这增加了滥用风险。如果政府或企业未经同意使用AI分析您的数据，可能导致侵入性监控。
大英百科全书警告AI带来的“危险隐私风险”。例如，欧盟已禁止一种名为社会信用评分的AI应用——通过算法对公民进行评分，被视为“不可接受”的做法。
甚至知名聊天机器人也引发隐私担忧：2023年，意大利因数据隐私问题暂时封锁了ChatGPT。 -
虚假信息与深度伪造： AI能生成逼真的假文本、图像或视频，使得制作深度伪造（假名人视频或虚假新闻报道）变得更容易。
大英百科全书指出，AI可能传播“政治化甚至危险的虚假信息”。专家警告，这类伪造可能被用来操纵选举或公众舆论。
曾有事件中，AI生成的世界领导人发布虚假新闻标题的图片在被揭穿前广泛传播。科学家指出，若无监管，AI驱动的虚假信息可能升级（如假演讲或篡改图片，目前法律尚无有效监管手段）。 -
失业与经济冲击： 通过自动化任务，AI将改变职场。国际货币基金组织报告称，全球约有40%的工作岗位（发达国家达60%）面临AI自动化的“暴露”风险。这不仅包括工厂工作，还涵盖会计、写作等中产阶级职业。
虽然AI可能提升生产力（长期内提高工资），但许多员工短期内可能需要重新培训或面临失业。
科技领袖也承认这一担忧：微软CEO曾表示，AI可能突然取代熟练专业人员。 -
安全与恶意使用： 与任何技术一样，AI也可能被用于恶意目的。网络犯罪分子已利用AI制作逼真的钓鱼邮件或扫描系统漏洞。
军事专家担忧自主武器：无人机或机器人在无人批准下选择目标。
AI研究人员最近发布报告明确警告，我们缺乏阻止“鲁莽……可能以危险方式部署或追求能力的行为者”的机构，如自主攻击系统。
换言之，具备物理控制能力（如武器）的AI系统若失控或被恶意编程，尤其危险。 -
人类控制权丧失： 部分思想家指出，如果AI变得远比现在强大，可能会以不可预测的方式行动。虽然当前AI没有意识或自我认知，未来的通用人工智能（AGI）可能追求与人类价值观不一致的目标。
领先的AI科学家最近警告，除非我们做好准备，“高度强大的通用AI系统”可能在不久的将来出现。
诺贝尔奖得主杰弗里·辛顿等专家甚至指出，如果高级AI未能与人类需求对齐，可能增加对人类的伤害风险。尽管这一风险尚不确定，但已促使业界发出高度警示。 -
能源与环境影响： 训练和运行大型AI模型消耗大量电力。联合国教科文组织报告称，生成式AI的年能耗已与一个小型非洲国家相当，且增长迅速。
除非采用更环保的方法，否则可能加剧气候变化。
好消息是，研究人员正在寻找解决方案：一项联合国教科文组织研究显示，针对特定任务使用更小、更高效的模型可在不损失准确度的情况下将AI能耗降低90%。
总之，当前AI的真正危险主要源于人类如何使用它。如果AI得到妥善管理，其带来的健康、便利和安全益处巨大。
但若缺乏监管，AI可能助长偏见、犯罪和事故。
这些风险的共同点是缺乏控制或监督：AI工具强大且运行迅速，若不加干预，错误或滥用可能大规模发生。
专家与官方观点
鉴于这些问题，许多领导者和研究人员纷纷发声。近年来，形成了广泛的AI专家共识。
2024年，来自牛津、伯克利、图灵奖得主等25位顶尖AI科学家发布共识声明，呼吁紧急行动。
他们警告各国政府要做好准备：“如果低估AI风险，后果可能是灾难性的”，并敦促资助AI安全研究，建立监管机构监督强大AI。
他们强调，AI发展一直在“安全被视为事后考虑”的情况下快速推进，目前缺乏防止恶意应用的机构。
科技领袖也表达了类似谨慎态度。OpenAI CEO Sam Altman——其公司开发了ChatGPT——告诉纽约时报，构建先进AI就像数字时代的“曼哈顿计划”。
他承认，同样的工具能写文章或代码，也可能导致“滥用、严重事故和社会动荡”，如果不谨慎处理。
2023年底，超过1000名AI专业人士（包括埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克及多位AI研究者）联名公开信，呼吁暂停训练下一代AI模型。
他们警告，我们正处于一场“失控竞赛”，打造更强大的AI，甚至其创造者“无法理解、预测或可靠控制”。
在公开论坛上，专家们强调了具体风险。谷歌DeepMind CEO Demis Hassabis认为，最大威胁不是失业，而是滥用：网络犯罪分子或流氓国家利用AI危害社会。
他指出，AI很快可能达到或超过人类智能，“不良行为者可能将同样技术用于有害目的”。
换言之，即使我们应对了失业问题，也必须防止AI工具落入错误之手。
政府和国际机构也在关注此事。美国白宫于2023年发布行政命令，指出AI“拥有非凡的潜力，既充满希望也伴随风险”，并呼吁通过全社会努力实现“负责任的AI使用”，以减轻其重大风险。
欧盟通过了全球首个AI法案（2024年生效），禁止政府社会信用评分等危险做法，并对高风险AI（如医疗、执法领域）实施严格审查。
联合国教科文组织发布全球AI伦理建议，倡导公平、透明和人权保护。
甚至美国国家标准与技术研究院（NIST）等科学政策机构也发布了AI风险管理框架，指导企业构建可信赖的AI。
所有声音达成共识：AI不会自行停止发展。我们必须建立保障措施。这包括技术改进（偏见审计、安全测试）以及新的法律或监管机构。
例如，全球立法者正在考虑设立类似核技术的AI安全委员会。
目标不是阻止创新，而是确保创新在严格规范下进行。
保障措施与监管
幸运的是，许多解决方案已在实施中。核心理念是“安全设计的AI”。企业越来越多地将伦理规则融入AI开发。
例如，AI实验室在发布前测试模型偏见，并添加内容过滤器防止生成不当或虚假内容。政府和机构也在将这些规范成文。
欧盟的AI法案明确禁止某些危险用途，并将其他用途归类为“高风险”，需接受审计。
类似地，联合国教科文组织的AI伦理框架呼吁采取公平审计、网络安全保护和便捷的申诉机制等措施。
在实际操作层面，标准制定机构也发布了指导方针。
我们提到的美国NIST框架为组织评估和缓解AI风险提供了自愿标准。
在国际层面，经合组织（OECD）和联合国等组织正在制定AI原则（许多国家已签署）。
甚至企业和高校也在成立AI安全研究所和联盟，研究长期风险。
此外，当前许多监管针对具体危害展开。
例如，消费者保护法已开始适用于AI。
Meta内部文件曝光AI聊天机器人对儿童进行调情，引发监管机构愤怒（Meta的工具不符合现有儿童保护法）。
各国当局正加紧更新仇恨言论、版权和隐私法律，以涵盖AI生成内容。
正如一位新西兰专家指出，许多现行法律“并非为生成式AI设计”，立法者正在迎头赶上。
总体趋势清晰：AI正被视为类似其他双重用途技术。
正如我们为汽车制定交通法规，为化学品设立安全标准，社会开始为AI建立护栏。
这些措施包括：持续的AI风险研究、公私合作保障安全、深度伪造教育宣传，甚至通过公投征询公众对机器自主权的意见。
>>>了解更多：
那么，人工智能危险吗？答案是复杂的。AI本身并非天生邪恶——它是人类创造的工具。
如今，AI以多种实际形式存在，已为医疗、教育、工业等领域带来巨大益处（正如联合国教科文组织和欧盟所强调）。
同时，几乎所有人都同意，AI如果被滥用或缺乏引导，可能会带来危险。常见担忧包括隐私侵犯、偏见、虚假信息、就业动荡以及假设中的超级智能失控风险。
年轻人在学习AI时应关注双方。明智的做法是认识到真实风险：例如，切勿盲目信任AI或轻易分享私人数据。
但同样重要的是看到，专家和政府正积极努力使AI更安全——通过制定法律（如欧盟AI法案）、指导原则（如联合国教科文组织伦理建议）和技术手段（如偏见检测）及早发现问题。
简而言之，AI就像任何强大技术：负责任使用时能带来巨大益处，滥用则可能造成伤害。
科学家和政策制定者的共识是，我们既不应恐慌炒作，也不应忽视AI，而应保持信息通畅，积极参与塑造其未来。
只要有合适的“护栏”——伦理AI开发、严格监管和公众意识——我们就能引导AI走向安全，确保其造福人类而非成为威胁。
