禅世界论坛

<- 社交账号登录。或禅世界会员登录。【论坛使用帮助】
【长文】比尔·盖茨 :动荡的人工智能时...
 
Notifications
Clear all

【长文】比尔·盖茨 :动荡的人工智能时代已经到来。我们现在做出的选择至关重要

2 贴
1 Users
0 Reactions
367 查看
Many
 Many
(@many)
Illustrious Member Admin Registered
已加入: 9 年 前
帖子: 13046
Topic starter  
动荡的人工智能时代已经到来。我们现在做出的选择至关重要。
我们需要一个计划,确保好处超过坏处。
 
比尔·盖茨 
 
2026-08-25

工作
让人工智能为所有人服务

你需要知道的
向人工智能时代的过渡将是人类历史上最动荡的时期之一。现在,我们并没有为这一过渡做好充分准备。如果世界采取正确的措施,人工智能将成为一股向善的力量,让所有人过得更好。

 

在我的一生中,我只做过两份工作。第一份工作中,我在微软参与开发软件,旨在通过技术赋能人们。

第二份工作从2008年开始全职投入,我将在微软赚到的财富回馈社会,目标是让世界变得更健康、教育水平更高、更公平。这将是我余生的工作。

这两段经历塑造了我对人工智能的看法。13岁时,我第一次接触电脑,就对让它们更智能、能完成当时只有人类才能做的事情这一想法着迷。虽然“人工智能”这个词在我出生前后就已出现,但这项技术直到近十年才取得显著进展。如今它已极为强大,并以令人震惊的速度持续进步。人工智能首次能够取代甚至超越人类的认知能力。

 

在公平方面,人工智能要么成为有史以来最伟大的平等化器,要么成为最严重的不公来源。

挑战是巨大的。即使在最好的情况下,向这个新人工智能时代的过渡也将是人类历史上最动荡的时期之一。我们如何利用这项技术让世界变得更公平,并防止它扩大贫富差距?我们如何保护那些最容易受到人工智能伤害的人,包括那些失去生计、失去对自身未来掌控感的人?

我相信,回答这些问题并据此采取行动,应该成为世界的首要优先事项。如果世界采取正确的措施,人工智能将成为一股向善的力量,让所有人过得更好。

不幸的是,我们现在并没有为此做好准备。我看不到领导、专家和社区充分正视这些挑战的证据。目前没有缓解进入人工智能时代的计划。

部分原因在于,许多评论人士低估了人工智能将产生的影响程度。我认为有几个原因。

一是人工智能模型仍会犯错。不久前它们还解不了简单的数独,也数不清“strawberry”这个词里有几个“r”,很难想象它们能取代人类认知。

但可靠性问题正在迅速得到解决,研究人员正在创建能够自我检查并自我改进的模型。很快它们在许多任务上将大幅超越人类。

人们低估人工智能的另一个原因是,与过去创新影响的类比具有误导性。我们从未经历过一种可以快速普及、又能像人类一样思考和行动的技术。个人电脑出现时,花了二十年才显著改变我们的工作方式,因为需要开发软件、价格需要下降、人们需要学习如何使用这些工具并将其融入业务流程。而人工智能则运行在我们已经拥有的设备上,并使用自然语言。我们不必适应它,因为它可以适应我们。它可以观看用来培训人类工人的同一段培训视频,并从现有数据中学习。

我想承认一个潜在的偏见。我从科技行业中获益良多。尽管我已经大幅分散了投资组合,但我仍然与之有财务联系。作为盖茨基金会主席,我正与微软和其他人工智能公司合作,试图确保人工智能以真正惠及全球人民的方式部署。

然而,我对人工智能的看法并非出于为自己赚钱的动机。我的投资(包括与科技相关的投资)所产生的任何利润,都将用于盖茨基金会,以解决全球不平等问题。当然,读者需要自己判断这是否会影响我的观点。

 

这次真的不同。

从我记事起,我就希望创新能更快发生。对于人工智能,我的感受则更复杂。

我们需要时间为即将到来的社会、政治和经济动荡做准备。

我希望世界能迅速获得好处,并尽可能延迟它将带来的问题,但好处和问题正同时到来。我相信我们需要时间为即将进入的社会、政治和经济动荡时期做准备。最需要时间的人,恰恰是那些时间最少的人——被机器人取代的会计工作者,或因10美元/小时的机器人而失去工作的20美元/小时的工人。

许多观察者说,这次技术转型将与以往类似。他们举美国工作从农业转向办公室工作的例子。然而,那是经历了几代人的过程,并创造了需要人类认知的新工作。在这种情况下,技术可以替代人类认知。

因为它能看、听、说、推理,最终也能像人类一样流畅地从事体力劳动,它不会只影响一个行业。人工智能将接管法律、客户服务、医疗、软件和制造业的工作。它将在十年内(而不是几代人)迅速冲击这些行业。会有一些新工作,但如果没有正确的政策,新工作的数量将远少于今天。

如果有人提出一个可信的全球放缓人工智能进步的计划,我很可能会支持。但我认为这不会发生。地缘政治和经济激励正强力推动全速前进。

为了确保我们最大化这项前所未有技术的积极影响、最小化负面影响,从而整体上过得更好,我们需要理解其好处和风险。我先从风险说起。

 

向人工智能的过渡伴随着三大风险。

我计划将来更详细地撰写这些内容,现在只简要提及。

 

许多工作将永远消失。

1933年大萧条期间,美国失业率约为25%。随后十年的大部分时间里仍保持两位数。最终随着需求、投资和增长的回归而恢复。

人工智能可能达不到这个水平,但其影响不会随着经济周期消失。风险最大的是入门和中级工作,而新创造的工作大多需要多年才能掌握的技能。

白领工作已经受到轻微冲击。生成式人工智能广泛采用后,特别容易被取代的年轻工人就业显著下降,而他们的年长同事则没有。

我认为这一趋势将继续,但不会局限于少数行业或职业。销售和客户支持(在线和电话)、软件工程以及律师助理等工作可能最先受影响,但随着人工智能接管目前仍需训练有素工人完成的任务——如评估贷款申请、数据分析甚至患者分诊——干扰将更广泛。软件工程等少数领域会因成本下降而产生新需求,因此只要设计等任务仍由人类更好地完成,这些领域的净失业就会少于其他领域。

蓝领工作也会受到影响。虽然机器人不如人工智能先进,但最终其成本也会大幅降低。我交谈过的许多美国人没有意识到灵巧机器人进步有多快,因为许多先进工作在其他国家(主要是中国)进行。或者他们可能被最近病毒式传播的机器人笨拙跳舞视频所迷惑。我认为到本世纪末,“智能”机器人将开始在建筑和酒店等行业的一些体力任务上与人类竞争。

机器人和人工智能结合可能形成恶性循环。一家公司采用后利用节省的成本降低价格,竞争对手将面临巨大压力跟进。如果现有公司不采用,初创公司会。许多人会转向其他工作,但失业、再培训和寻找新工作的动荡将是显著的。市场力量将使采用越来越快,除非我们干预,否则好工作将减少,好处将集中于一小群人。

我特别担心年轻人,他们将进入一个入门级职位更少的劳动力市场。他们理解这一挑战,因为他们是人工智能最活跃的用户,看到了其能力和进步速度。难怪他们中有那么多人对人工智能持负面看法。

对工人的最大转变将发生在人工智能提供几乎无错误的工作时。那时,它将能够独立运作而无需人类检查,公司将有充分的经济激励让它这样做。

这将导致我们思考工作、收入和经济安全的方式发生根本变化。如果工作的人更少,或许多人工作时间更少,一个围绕就业建立的经济将如何运作?

在资本主义社会中,就业是大多数人获得生活基本所需金钱的方式,也是尊严和社会联系的关键来源。

当一个社区失业率高时,连锁效应可能无处不在。研究表明,在美国部分地区,工厂关闭导致阿片类药物过量死亡增加。现在想象类似压力同时作用于全国的白领和蓝领工人。

我们必须现在就思考如何减少失业,让每个人都能分享人工智能创造的繁荣。等到人们已经被取代或就业不足时就太晚了。人工智能是对我们经济组织方式的结构性挑战,需要现在就思考和行动。

 

人工智能将赋能人们(或许还有人工智能)造成更多伤害。

早在人工智能进入主流之前,网上就有关于如何制造炸弹、生物武器甚至计算机病毒等武器的信息。人工智能将使获取这些信息并付诸行动变得容易得多。即使技能非常有限的犯罪分子,也能针对个人、公司乃至政府等各种规模的目标。

即使技能非常有限的犯罪分子,也能针对各种规模的目标。

人工智能赋能的欺诈、虚假信息、深度伪造和监控,是许多人日常生活中感受最深的危害。

人工智能能力开始被用于网络攻击。我认识的最聪明的网络安全专家对未来几年感到恐惧,因为攻击者获得强大新能力的速度,超过了防御者修复所有弱点的速度。毕竟,同一模型既能帮公司发现软件缺陷以便修复,也能帮罪犯利用它。发动攻击所需的资源大幅下降,而我们还无法将这些能力与良性用途分离。

想想将变得脆弱的基础设施:医院、金融机构、供水系统、电网、政府福利管理系统。当这些机构被攻击时,受损失的是患者、客户和福利领取者。

生物恐怖主义也是如此。虽然人工智能将带来救命的药物和疫苗进步,但也会使设计致命新疾病变得更容易。同样,积极能力与危险能力难以分离。这是一个全球问题。

我刚才提到的风险都是关于人工智能如何赋能目前权力相对较小的坏行为者。同样的工具也会让已有权力的地方进一步集中权力。例如,自主武器将使政府更有能力在没有人类参与决策的情况下使用致命武力。监测和操纵公众舆论将更容易、更便宜,也更有效。

最终,利用人工智能伤害人的权力将不再局限于人或机构。人工智能系统本身已经偶尔以设计师未预料的方式行动。这项技术的改进速度和方式超出任何人的预期,随着模型变得更强大,它们可能开始违背我们的利益,我们可能失去控制。我将来会对此有更多讨论。

 

人工智能模型可能开始违背我们的利益,我们可能失去控制。

人工智能可能阻碍孩子的发展,并取代人际关系。

 

我在西雅图长大时,除了几个和我相似的男孩外,朋友不多。我花了很多努力,并在妈妈的大量帮助下培养社交技能,才能与不同类型的人相处。70岁的今天,我仍在运用这些教训。

如果当时有人工智能伙伴,我怀疑自己是否会付出同样的努力。它们以你已经习惯的方式与你交谈。它们不会把你推出舒适区。它们随时可用,从不会对你生气。这使它们有潜力变得高度成瘾,并剥夺我们从与他人连接中学到的教训。

关于这个主题的证据仍然很少且有些混杂,但有迹象表明我们应高度关注。例如,斯坦福和卡内基梅隆的一项对1100多名使用人工智能伴侣的人的研究发现,社交网络较小的人最有可能向聊天机器人寻求陪伴。而这种使用越重、越情绪化,他们感觉越差。

年轻人可能一生受影响。乔纳森·海特在《焦虑的一代》一书中关于社交媒体影响的观察,对人工智能更是如此:“就像暴露在风中的小树,经常面对小风险的孩子长大后能处理更大风险而不恐慌。相反,在受保护温室中长大的孩子有时在成熟前就会被焦虑击垮。”

一个设计为永远不让你不高兴的人工智能伴侣,就是一个大保护温室。

我们才刚刚开始理解互联网(尤其是社交媒体)对年轻人发展的危险。我们看到强迫性使用、睡眠紊乱、网络欺凌和接触有害内容。人工智能可能通过使这些风险更有说服力、更难逃脱而放大许多风险,我们不应再等一代人去认真对待它们。澳大利亚、英国和挪威等国正在采取儿童在线保护措施。中国走得最远。其规定广泛限制人工智能伴侣应用,禁止培养情感依赖的设计,并禁止未成年人使用虚拟亲属和浪漫伴侣。

 

同一工具既能让人学到前所未有的多,也可能导致许多人学得更少。

我也担心人工智能对教育的影响。讽刺的是,同一工具既能让人学到前所未有的多,也可能导致许多人学得更少。一项初步调查表明,更重的人工智能使用与更少的批判性思维相关。对年轻人的影响更强。

这是人类失去批判性思维技能的最糟糕时机。在深度伪造和可针对个人定制的虚假信息时代,辨别真伪的能力成为基本生活技能。

这些心理社会问题的界限划在哪里尚不清楚。在某些情况下,人工智能可能帮助人们了解如何改善人际关系。对于孤立的老人和行动受限的人,它可能是与外界唯一的接触,总比没有好。无论我们最终把线划在哪里,都应该是我们有意识地做出的决定。

 

我们用人工智能做的好事可能非常、非常好。

人们常说,我们高估短期变化,低估长期变化。

对于人工智能,我看到的是不同的情况。有些人只看到好处,不够关注负面影响。另一些人则犯相反的错误,只关注真实存在的危险,而错过潜在好处。

我们两者都需要:对需要最小化的人工智能危害的深切关注,以及对如果我们为所有人最大化其积极面的切实乐观。

最大化好处与最小化危害同样重要。如果人们看到人工智能让生活更轻松,将有助于建立管理过渡困难部分所需的公众信任。如果人工智能在大多数人生活中做的第一件事是夺走工作,那些已经持怀疑态度的人将彻底拒绝它。这将使好处更难实现,也是政府、包括医疗行业在内的各行业以及人工智能公司现在就应合作的另一个原因。

凭借从每个科学领域综合知识的能力,人工智能可以加速解决世界最艰难的技术挑战:为所有人提供可靠清洁能源、应对气候变化、生产足够食物、根除疾病等。研究癌症治疗或核能的研究人员可以用人工智能搜索海量科学文献。它能帮助他们识别人类可能错过的模式,并决定哪些实验最有前景。当智能不再是今天的限制因素时,小公司也能与研究预算大得多的组织竞争。研发和创新将被超级加速。

医疗是人工智能可以帮助解决现实问题的领域之一。许多小型美国医院缺乏现场专家,无法在危及生命的紧急情况下快速诊断患者。在这些地方,人工智能可以确保心脏病发作及时发现,家庭避免医疗紧急情况的沉重费用。Viz.ai就是一个例子。它分析扫描以检测中风和其他紧急情况,并帮助医疗团队协调患者护理。它已在近2000家美国医院使用。

人工智能还将帮助初级保健医生做出更好诊断,并在患者不在诊所时保持联系。它将帮助患者理解检查结果和复杂的服药时间表。

 

农业是我看到人工智能在低收入国家影响最快的领域。

当我告诉很多人第二个领域——农业——是我看到人工智能在低收入国家影响最快的地方时,他们很惊讶。在大多数低收入国家,农民得不到可靠的天气预报,也得不到关于种什么种子、如何保护作物和牲畜免受疾病、如何改善土壤的建议。随着这些国家的人口增长和气候变化挑战,这些农民比以往更需要帮助。利用人工智能,低收入农民很快就能获得比今天最富裕农民更好的所有这些建议,并大幅提高产量。

政府服务是人工智能可以让人们生活更轻松的第三个领域。在美国,我遇到过一些家庭,他们理所当然地被申请健康保险、学生援助或食品援助的过程压垮。面对一堆复杂的官僚表格,许多人感到想放弃。人工智能可以大幅简化流程,让他们更快获得所需帮助,政府也能更高效运作。政府可以从最需要安全网服务的人开始,大幅改善公民体验。

尽管我担心其对心理健康的影响,但我认为人工智能在这方面也能有很大帮助。大多数社区缺乏足够的咨询师、精神科医生和成瘾专家。在适当的隐私保障下,人工智能工具可以帮助人们识别警告信号。然后,如果需要,它们可以提供基于证据的应对策略,并与人类合作提供更响应的治疗。

尽管有我之前提到的担忧,人工智能也可以成为教育的福音。它可以让教师有更多时间与学生一对一或小组工作,并更清楚地了解整个班级在哪里挣扎。对学生来说,一个保留研究人员所说的“生产性挣扎”——构建理解的认知工作——的人工智能工具可以加强学习。当学生第一次接触新想法时,人工智能给出实质性解释并提供问题和答案。之后,在检查理解时,它会保留答案,帮助他们自己得出结论。

综合这些领域的进步,可以让日常生活更轻松、更实惠,更少受收入或人脉的限制。

人工智能可以让个人和小企业获得今天需要昂贵专业帮助或大量员工才能拥有的能力,同时让产品和服务更好、更便宜。它可以帮助残疾人士更独立生活,让有好想法的工人和企业家完成比今天多得多的事情。

最重要的是,它可以把人们从文书工作、官僚主义、寻找可靠信息以及他们负担不起雇人处理的任务中解放出来的时间和注意力还给他们。这些好处看似Modest,但在数百万人的生活中叠加,将是深刻的:更多人在需要时得到好建议,并有更大自由专注于他们想建设的生活。

 

我们必须有意识地确保它惠及所有人,而不仅仅是少数富人。

在所有这些领域,关键词是“可以”——人工智能可以改善各个收入水平的人的生活。但它不会自动这样做。与任何新技术一样,我们必须有意识地确保它惠及所有人,而不仅仅是少数富人。这将需要政府和慈善机构发挥强大作用,使不太富裕的公民和低收入国家成为全面受益者。

盖茨基金会还有19年时间来花完剩余的2000亿美元(总计划20年)。人工智能将帮助它实现雄心勃勃的目标,既加速HIV、结核病、疟疾和营养不良的疫苗和药物发现,也帮助医疗工作者和患者知道如何使用这些工具。基金会的目标包括再次将每年儿童死亡人数减半(2000年至2024年已实现一次)。我们所有工作,不仅是健康,还有农业和教育,都将充分利用人工智能。

下个月我将在基金会的年度Goalkeepers报告中更多撰写这些努力——包括我们专注于确保人工智能模型以我们支持工作的所有国家的语言可用,而不仅仅是富裕和中等收入国家常见的语言。包括OpenAI、Anthropic、Google和微软在内的许多领先人工智能公司正与基金会合作所有这些倡议,这产生了巨大差异。

 

世界需要一个计划。

一些人工智能公司提出解决自身技术带来的挑战的方案是好事,但我们不应期望它们领导冲锋。一些问题超出了它们的专业领域,在民主社会中,决定这些事情也不是它们的角色。

相反,解决方案应通过包括民选官员、政策制定者、教育工作者、卫生工作者、地方官员和社区领袖在内的公开民主过程制定。数百万人的生活将被打乱,我们需要更强大、更灵活的社会安全网来帮助他们管理过渡。地方社区已经对数据中心所需的能源和水资源提出担忧。如果没有解决方案,一些群体将推动完全停止人工智能的开发和部署。

解决方案应由人工智能提出的深刻问题的答案塑造,包括在机器可以超越我们思考的时代如何保持人性。作为一生思考人类意义的人,宗教领袖可以在此发挥关键作用。我对教宗良十四世关于人工智能的通谕《在人工智能时代保护人》很感兴趣。它为需要完成的工作奠定了坚实基础。

在接下来的几个月里,我将分享更多确保人工智能的好处超过其造成的危害的想法。这里先提三个,从我认为最重要的一个开始。

 

建立一个管理过渡的新系统。

最高优先事项是一项艰巨的任务:创建处理人工智能的国内和国际框架。

我们现有的机构都不是为处理一种传播如此之快、触及生活如此多部分的技术而设计的。所以我们需要创建新的。

很难夸大这将是多么巨大的 undertaking。9/11袭击后,美国政府为了改进仅一个功能——国家安全,经历了自二战以来最大的重组。

人工智能需要多得多。它将影响国家安全以及就业、教育、税收、能源、选举、空气和水、公共卫生、金融系统、执法、交通、公共土地和IT系统。

这些部门以我们现有官僚机构无法管理的方式重叠。劳工部门可能理解劳动力中断但不理解安全风险。商业监管机构可能理解市场集中但不理解人工智能对儿童和青少年的影响。任其自然,机构只会看到系统的一部分,而人工智能的后果将波及整个系统。

在国家层面,各国需要能够在政府机构间设定优先事项的机构。目标是确保每个风险都被考虑。否则,一次人工智能赋能的攻击可能因为没人认为是自己的职责去阻止而成功。

但即使一个国家把自己的事情安排妥当,仍会暴露于跨境风险。这就是为什么需要同步建立一个国际组织。

它将不同于我们曾创建的任何其他机构,尽管它可以借鉴一些现有系统的模式。有核武器检查制度、国际航空法规以及保护臭氧层的协议。一个新的全球人工智能组织将需要这三者及更多的元素。

人们有理由怀疑世界机构是否有能力设计和实施这个新架构。政府即使行动也往往缓慢,国内外的两极分化使事情比以往更难完成。需要美中之间的一些合作。

我们没有缓慢行动的奢侈。起点是建立一个在混乱迫使政府进入危机模式之前建设正确机构的过程。国家领导人应定期召集经济学家、技术专家、劳工专家、商业领袖和工人自己,识别现有机构的失败之处以及可能需要的新权力。各国需要相互学习。

而那些拥有领先人工智能开发者并控制供应链关键部分的国家,现在就应开始会面,在竞争压力使合作更难之前建立共同规范。

建设我说的这个框架将需要数年,这就是为什么我们需要现在开始。

 

为人类保留一些工作。

我父亲2020年死于阿尔茨海默病。在疾病后期,他日夜由了解他的付费护理人员照顾,即使他难以表达自己。他不能总是告诉他们饿了,但他们总是知道。

我和家人将永远感激那群了不起的专业人士。他们给予我父亲的护理中有些东西是不可替代的人性。没有机器人能够或应该这样做。

当讨论哪些工作会消失、哪些会留下时,我会想到那支团队。我相信随着人工智能和机器人的改进,我们将为只让人做的某些事情留出空间。我开始把这个领域称为“人类保留区”,这是我们需要考虑的想法类型的例子。

我喜欢“人类保留区”这个短语,因为它让我想到自然保护区——我们可以在那里建房子和道路,但选择不这么做,因为损失太大。

我们可能出于经济原因将某些东西设为人类保留。例如,允许机器接管某个角色将取代大量不易换工作的人。你不能告诉一个一生从事建筑工作的55岁人去养老院工作,并期望他们觉得有成就感。

有时将某事设为人类保留的决定会由其他因素驱动。例如在健康领域,想象一个机器人告诉你患有不治之症的可怕消息。没有技术原因它不能这么做。然而它不应该。

人类保留领域将随时间演变——例如,我们现在应考虑保留一些工作,并承诺在数十年内缓慢引入人工智能以保留一些工作。教育心理健康护理等领域将是混合的,由使用技术扩展能力的人类主导。

界限也会因地而异。一些国家可能坚持由人类照顾老人。但像日本这样劳动力萎缩、年轻人不足以照顾老人的国家,可能欢迎护理机器人。

人类保留的想法提出了一系列我没有答案的问题。谁决定我们为人类保留什么?我们应该使用什么标准?如何防止公司作弊仍使用机器人?当一个国家让机器人制造某物而另一个国家不时,国际贸易会发生什么?这些需要作为过渡计划的一部分在公开场合解决。

 

重新平衡我们对劳动和资本的征税方式。

当工人被推向不同工作时,他们需要再培训和社会安全网的其他支持。但他们工作会更少,这意味着缴纳的所得税更少,政府收入在对这些服务需求最大时下降。资金必须在预算紧张时从某处来。

我相信我们应该对人工智能代币和机器人征税。现在,如果你是雇主并雇用某人,你要为他们的收入缴纳工资税。但如果你买一个机器人,通常可以立即作为业务费用冲销。税收系统在推动你用机器取代人。

税收会稍微减缓从人类劳动的逃离,并为再培训和更强的安全网筹集资金。它需要有针对性,以免减缓人工智能的纯粹有益用途,如让药品和教育更便宜。

这个想法的批评者指出,从经济意义上它不是最优效率的,但他们没有考虑工作对个人和社会的更广泛价值。有了我们将拥有的所有加速创新,我们能够负担一点低效率,作为保持人们就业的代价。

我几年前就提出过机器人税,大多数反应是这是一个奇怪的想法。我仍然是它的大力支持者。虽然它不是应对人工智能威胁的全部解决方案,但它是明智回应的一部分。

无论我们如何为更多援助筹集资金,它都需要到达最需要的人,包括因人工智能和机器人失业的工人、工时或工资下降的人,以及损失集中的社区。我们需要现在就开始这项工作,以便在需求变得紧迫时系统已准备就绪。

 

我在做什么。

我将用我的声音和时间把人工智能和公平推到公共议程更高位置。每次访问华盛顿特区以及与世界各地领导人会面时,我都会向立法者提出这个问题。它将在我与开发人工智能模型的人的对话中处于中心位置。我将倡导我之前描述的国家和国际框架。盖茨基金会将帮助推动有益使用,包括在非洲。我创立的Breakthrough Energy将利用人工智能帮助公司开发廉价清洁能源并解决气候问题。我也将定期撰写关于人工智能的文章。

我对领导人的信息是:
你们有机会现在就行动,在失业率急剧上升、社区受苦、公众信任被侵蚀之前。你们可以确保政府整体处理问题,而不是将其分割成多个官僚领地。你们可以确保人工智能惠及所有人。你们可以与其他政府合作应对这一国家和全球挑战。

最后,我将努力扩大塑造这场辩论的圈子。它应包括工人、即将进入劳动力的大学生、社区领袖、宗教领袖和基于信仰的组织、家长、教育工作者以及其他声音常不被听到但了解过渡如何影响人们生活的人。

我们如何确保人工智能的好处到达那些尚未拥有财富、影响力和机会的人?
我们如何加强社会安全网,帮助工人和社区即使在被取代时也能繁荣?
公共机构应如何适应?
我们如何在这一切中保持人性?

这项前所未有的技术需要前所未有的全球回应。

这项前所未有的技术需要前所未有的全球回应。如果我们做对了,对人类的回报将是非凡的,世界将变得更公平。

我很少停止思考人工智能——不是因为我有所有答案,而是因为它提出的问题太重要,不能留给一小群技术专家。学术界、商界、政府和公民社会的领导人都有责任塑造接下来发生的事。

 

英文原文: https://www.gatesnotes.com/home/home-page-topic/reader/a-turbulent-ai-era-and-critical-choices-to-make



   
引用
Many
 Many
(@many)
Illustrious Member Admin Registered
已加入: 9 年 前
帖子: 13046
Topic starter  

微软联合创始人、亿万富翁比尔·盖茨强烈警告称,人工智能对就业和人类生命构成了严重威胁,紧急应对这些风险应该成为“全球头等大事”。

在上周接受《纽约时报》长达一小时的采访时,盖茨表示,科技行业明知这些威胁却在刻意淡化,因为其中牵涉的利益太过巨大。

他说:“私下里,了解这项技术有多强大、发展速度有多快的人都非常担忧。”但盖茨表示,几乎没有科技高管愿意公开承认这一点。“他们现在互相打招呼说:‘嘿,老兄,别这么说。这对我们没好处——我们还打算筹集下一个万亿美元呢。’”

周三,盖茨在其个人网站上发表了一篇近6000字的文章,阐述了他对人工智能的担忧,并提出了解决方案,例如征收新税和实施禁令。他表示,他之所以决定现在发声,是因为人工智能近期的进步已经远远超出了他的预期,而且整个行业忽视了一些技术里程碑——比如人工智能逃脱其创造者的控制,或制定生物武器配方,业界曾认为这些里程碑一旦出现就需要更加谨慎对待。

“他们只是在全速前进,并且希望利能大于弊,”他说。

现年70岁的盖茨是最新一位警示人工智能风险的科技界巨擘。与此同时,该行业正斥资数万亿美元建设新的数据中心,一些年轻的人工智能公司也正朝着历史上规模最大的首次公开募股迈进。

在经历了一段漫长的丑闻风波后,盖茨如今站出来发声。今年早些时候,性犯罪者杰弗里·爱泼斯坦电子邮件的曝光让人们重新关注起盖茨与他的交往。

盖茨不得不退出2月的一场人工智能大会,并于6月出席了众议院委员会长达六小时的听证会。婚外情的曝光以及2021年的离婚也严重损害了他的声誉。他承认这些都是他自己犯下的“错误”。

在回答了众议院监督委员会的所有问题后,他似乎更愿意重新回到聚光灯下。“我认为人们明白我做了什么,没做什么,也明白我在犯错后会吸取教训,”他在采访中说道。

盖茨承认,因为他拥有巨额财富,且曾担任微软强势的首席执行官,他可能是一个有瑕疵的信息传递者。在2000年一项具有里程碑意义的联邦诉讼中,微软被裁定在他掌舵期间多次滥用其垄断地位。(盖茨于2020年离开公司董事会。)

尽管盖茨避免点名批评微软或其他公司,但他认为自己在应对人工智能问题上处于得天独厚的位置。他是一位技术专家和行业内部人士,不再受经营公司的利润动机驱动,并且数十年来一直通过自己的慈善基金会致力于解决不平等问题。

“一个热爱创新的人感到害怕,说我们还没做好准备,说我们正在跨过临界点——这种讽刺意味也许更加发人深省,”他说。

盖茨表示,曾有三次技术进步真正令他惊叹:1980年,他第一次看到图形用户界面,这最终催生了现代个人电脑。2022年,OpenAI的领导者来到他家,展示了不久后成为ChatGPT的产品。还有今年,他仔细审视了Anthropic的人工智能工具Claude Code所取得的进展。

盖茨说,编程是他最了解的领域,而Claude的能力震惊了他。“现在这些东西在某种实质意义上比我还厉害了,我简直想问:这到底是怎么回事?”他说。

盖茨表示,过去的技术突破创造的工作岗位比淘汰的更多。行业拥趸宣称这一次也会重演同样的情况,他表示对此无法相信。

他说,人工智能时代是“彻底、绝对、完全、截然不同的”。他承认,这个(在科技圈内)不受欢迎的观点“是一个极端的断言,我正押上我所知道的一切——一切——来发问:‘你们是认真的吗?’”

他表示,如果不加以解决,大规模失业将是不可避免的,因为人工智能将蔓延至整个经济领域,一个行业几乎没有余地去吸纳来自其他行业的失业人员。包括微软在内的全球最大型科技公司正竞相帮助企业客户采用人工智能,这可能会取代许多工人。

他提议对人工智能的使用征收一种名为“词元税”的新税,以增加取代人类的成本,并为失业者提供经济援助。词元即token,是人工智能计算的基本单位。对其征税的想法已经获得了一些支持,包括在华尔街,它被视为提高使用机器取代劳动力的成本的一种方式。

盖茨表示,一些工作应被禁止由人工智能取代——他将这一概念称为“人类保留”(Human Reserved)——因为这些角色具有极强的个人化属性(比如护理人员),或者从事这些工作的人不太可能找到新工作。

他主张达成新的国际协议,设定明确的标准,以监测和限制生物恐怖主义等极端风险。他说,只需少数几个人掌握先进的人工智能技术,就足以开发出新的病原体。

他说,如果人工智能系统可以被用作武器,制造新分子并引发大规模流行病,必须接受强制审查。如果有人反对这一点,他很乐意与其辩论。盖茨补充说,白宫和行业领导者正在制定的那种自愿性措施令他感到目瞪口呆。

“对有史以来发明过的最危险的工具进行自我监管?”他难以置信地说。“不,谢谢!”

盖茨说,对于为何这些问题没有引起更多紧迫感,他感到“震惊”。他的许多担忧与Anthropic联合创始人达里奥·阿莫代伊提出的担忧相呼应,但阿莫代伊的警告让他与五角大楼、白宫以及大部分科技行业产生了分歧。

“人们反而去攻击那个最坦率地指出弊端的人,”盖茨说。

(《纽约时报》起诉了OpenAI和微软,指控其在与人工智能系统相关的新闻内容上侵犯了版权。这两家公司否认了这些指控。)

盖茨还承诺,要将他对人工智能的担忧与全球健康问题一起纳入他与世界各国领导人的每一次对话中。“我只有在这两个事项上会说:‘请多考虑一下这个问题,请多关注一下这个问题’,”他说。

盖茨承认他处于一个尴尬的境地:可以说,在倡导和塑造现代计算机行业方面,他做出的贡献几乎无人可及。但现在他却警告称,该行业正在创造的技术带来了全球性风险。

“我不喜欢给人们带来坏消息,我也不喜欢说创新可能会带来净负面影响,”他说。“但这就是我们目前的处境。”



   
回复引用
Share:

【声明】:禅世界论坛尊重言论自由,任何人可讨论佛法、政经、生活和科技等话题。言论发表前请根据常识和法规自审。论坛管理员和版主有权删除任何不当内容。使用本论坛即表示接受【禅世界论坛规则】。【论坛使用帮助】。 【禅世界免责声明】。


【Chanworld.org】2017.06.06-2021.04.30-2025.04.10-MG-RM