被大型科技公司迷住了，英国的人工智能峰会忽略了重要的问题
被大型科技公司迷惑，英国的人工智能峰会忽略了关键问题
世界领导人和科技巨头们目前正在南英格兰参加一场人工智能安全峰会，但这场耀眼的活动并未打动所有人。
接下来两天，约有100位大佬将参加这场活动，地点是历史悠久的布莱切利公园，在伦敦以北约90公里的一个乡村庄园。在第二次世界大战期间，这个地方是打破纳粹德国臭名昭著的恩尼格玛加密设备的编码员的家园。80年后，英国政府希望展示英国仍然是一个科技超级大国，但这些计划引起了警惕。
批评者有各种担忧。他们担心峰会组织者被“前沿人工智能”、著名人物和遥远的恐惧所迷住，而忽视了更紧迫和包容性的问题。
日程安排中惹人关注的一个晚期加入加剧了他们的疑虑。周一，首相Rishi Sunak透露，他将与Elon Musk进行“对话”。
Musk为星光熠熠的嘉宾名单增添了额外光彩。
邀请者中有几位政界重量级人物，包括美国副总统卡玛拉·哈里斯、欧盟委员会主席乌苏拉·冯·德莱恩、联合国秘书长安东尼奥·古特雷斯和中国副部长吴兆晖。
各种科技巨头也参加了活动，例如微软总裁布拉德·史密斯、OpenAI首席执行官萨姆·奥尔特曼和Meta AI首席Yann LeCun。但这个活动并非适合所有人。
“我担心峰会将集中关注抢占头条的存在威胁。”
许多科技行业人士认为，只有行业巨头和政治领袖才能在Sunak的会议桌旁就座。
健康科技初创公司牛津免疫算法的创始人Hector Zenil担心，这个活动将被生成式人工智能和大型科技公司所主导。他呼吁Sunak让商业界和学术界更加平衡地参与其中。
“如果人工智能安全峰会要被认为是一个成功的峰会，或者至少在AI安全、监管和伦理方面走在正确的道路上，那么英国政府必须努力为所有各方创建一个公平竞争的环境，讨论该技术的未来应用场景，” Zenil说道。
“如果这个峰会由那些有特定议程和关于他们商业利益的叙述的公司主导，那么这个星期的活动将被视为一次昂贵且误导性的营销活动。”
https://twitter.com/RishiSunak/status/1719055211451306003?ref_src=twsrc%5Etfw
Zenil的观点在整个行业中很普遍。分享他的不安情绪的行业内部人士包括奥斯陆初创公司Iris.ai的CTO和共同创始人Victor Botev。
Botev曾是查尔默斯大学的AI研究员，现在是一名商业领导者，他希望会议能有更广泛的学术界和产业界代表参与。
“对于任何关于AI监管的咨询来说，除了科技巨头之外，包括其他视角是至关重要的，”他说。“较小的AI公司和开源开发者往往是新创新的先锋，然而他们对于监管的发声被忽视。峰会错过了一个很好的机会，只包括100位主要由世界领导人和大型科技公司组成的嘉宾。”
创业投资者提出了类似的担忧。
“未来，我们也必须多听取创业公司的声音。人工智能安全峰会的关注重点在大科技公司上，对人工智能创业社群的大部分封锁令人失望，”欧洲风险投资公司OpenOcean的普通合伙人Ekaterina Almasque说。
“在塑造将直接影响技术发展的监管时，包容产业声音至关重要。”
前沿人工智能的末日
华丽的嘉宾名单伴随着一项引人注意的议程。批评者说，这种组合让人忽视了更紧迫的问题。
他们指出该议程将独家关注“前沿”人工智能系统，这是一个模糊的术语，指的是先进的通用AI模型。在最近的一份政府报告中，术语“前沿人工智能”几乎完全适用于大型语言模型（LLM），尤其是OpenAI的ChatGPT。
Zenil怀疑政府主要受到在这个领域投资的首席执行官的影响。他希望政府能够采取更全面的视角。
他说：“英国必须制定一项涵盖技术和不同的模式的AI战略，这是至关重要的。最重要的是，这很重要，因为没有一种方法能成为AI采用的‘灵丹妙药’。”
“如果布莱切利公园的AI峰会和AI咨询委员会被具有特定研究或商业重心的个人主导，那么制定反映所有潜在用例的监管框架将变得更加困难。”
另一个令人担忧的原因是峰会对“极端”假设性威胁和世界末日场景的关注。苏纳克个人已经强调了这些灾难性的可能性。
他上周说：“在最不可能但最极端的情况下，甚至有可能通过被称为超级智能的AI彻底失去对AI的控制。”
批评人士认为，这些世界末日的展望被夸大了。一些人将媒体责怪为夸大了危险，而另一些人认为技术老板夸大了风险，以掩盖他们正在创造的真正存在的问题。
他们更关心气候变化、对弱势群体的偏见和网络攻击等具体威胁。他们指出，最近的一项研究发现，谷歌的人工智能很快将消耗与爱尔兰相当的电力。
来自风险投资公司OpenOcean的Almasque担心峰会的重点是有偏差的。
她说：“看起来它主要集中在AI的更大、更长期的风险上，而远没有关注到今天需要做的事情，即构建一个蓬勃发展的AI生态系统。”她说：“这就像一家初创企业在获得种子资金之前担心其IPO价格一样。”
这些担忧也被数据公司Profusion的首席执行官Natalie Cramp共享，该公司曾向英国政府提供咨询。她对幻想的未来警惕。
她说：“我担心AI安全峰会将专注于抢眼的存在威胁，而忽视了那些现在有能力造成大量损害的更平凡问题。”
峰会前的准备活动加剧了异议。在活动前，苏纳克透露，他计划的核心组成部分将是一个新的“世界首个”人工智能安全研究所。
布鲁内尔大学伦敦分校的AI高级讲师Asress Gikay对此并不感冒。Gikay对该研究所旨在促进国际协议的目标持持怀疑态度。她怀疑苏纳克有别的动机。
她说：“首相似乎更关注通过不现实和难以实现的议程来发表政治声明，而不是解决更紧迫和可实现的问题，比如国内人工智能投资和建立坚实的国家级负责任人工智能政策和监管框架。”
把握机遇
在怀疑声中，也有人对人工智能峰会的潜力表示乐观。大名鼎鼎的与会者和国际媒体的关注表明英国可以成为全球发展的关键参与者。
该国蓬勃发展的人工智能行业增加了这一活动的可信度，而其对创新的监管方法可以区别于欧盟治理。英国独特的国际地位也可以在美国、欧盟和中国之间搭建桥梁。
Stability AI首席执行官Emad Mostaque（开发稳定扩散文本到图像模型）是这次峰会的高调支持者之一。
他说：“英国有一次千载难逢的机会成为人工智能超级大国，并确保人工智能使所有人受益，而不仅仅是大型科技公司。”
Botev，Iris.ai的联合创始人，更持谨慎乐观态度。他对峰会的潜力感到乐观，但担心政府可能会为了头版新闻做出草率的决定。
“在全球AI社区的关注下，英国应该抵制这种冲动，”他说。“这次峰会是英国为AI治理制定全球方向的机会，确保在不损害安全的前提下取得进展。英国可以通过谨慎和智慧制定前瞻性的法规，促进创新并建立信任。”
