全球十多个国家，包括美国和英国，共同签署人工智能安全协议：你必须了解的要点

　　在周日，美国、英国及其他十几个国家宣布了一项具有里程碑意义的国际协议，旨在解决人工智能（AI）安全不被非法使用的问题。一名美国高级官员称该协议为首份全面的国际协议，主张将安全措施整合到人工智能系统的设计中。周日公布的20页文件概述了18个参与国达成的共识，强调从事人工智能设计和利用的公司必须确保客户和更广泛公众的安全，以防范潜在的滥用。尽管该协议不具约束力，但主要包括一般性建议，如监控人工智能系统的滥用、保护数据不被篡改，以及审查软件供应商。

　　美国网络安全和基础设施安全局局长珍·伊斯特利（Jen Easterly）指出，许多国家支持将人工智能系统的安全放在首位这一原则具有重要意义。她强调，该指导方针标志着对创新功能和快速市场部署的单一关注的转变，表示：“这是我们第一次看到这些功能不应该仅仅是关于酷的功能，我们可以多快地将它们推向市场，或者我们如何通过竞争降低成本。”她补充道，该协议体现了一种共识，即安全应成为设计阶段的首要考虑因素。

　　该协议是各国政府影响人工智能发展轨迹的一系列全球努力中的最新举措。尽管不具约束力且主要是咨询性质，但该协议涉及美国、英国、德国、意大利、捷克共和国、爱沙尼亚、波兰、澳大利亚、智利、以色列、尼日利亚和新加坡等有影响力的国家。

　　为了解决对人工智能技术可能被滥用的担忧，该框架侧重于防止黑客未经授权的访问，并提出了一些措施，如在发布模型之前对其进行严格的安全测试。然而，这些指导方针并未深入探讨人工智能的伦理使用或这些模型数据的伦理来源等有争议的问题。

　　人工智能的扩散引发了许多担忧，包括其可能破坏民主进程、助长欺诈行为以及导致大量失业。尽管欧洲在制定人工智能法规方面处于领先地位，但美国在制定全面立法方面面临挑战，国会的两极分化使得进展有限。

　　拜登政府一直在积极倡导对人工智能的监管，旨在减轻对消费者、工人和少数群体的风险，同时加强国家安全。今年10月，白宫发布了一项新的行政命令，旨在应对人工智能风险，促进负责任的人工智能发展。