在其首席执行官山姆-阿尔特曼（Sam Altman）被解雇并随后被重新聘用一个月后，OpenAI 发布了一套指导方针，用于衡量哪些人工智能模型可能会给人类带来 "灾难性风险"。防备框架 "旨在解决人工智能风险科学研究与现实现状之间的差距。开放人工智能的监测和评估团队计划对每个新模型进行审查，将其划分为低、中、高或危急四个风险等级。第一类与网络安全有关，第二类与模型帮助人类对他人造成大范围伤害的能力有关（如通过病毒或核武器），第三类与模型对人类行为的潜在影响有关，第四类与模型的潜在自主性有关，尤其是在无束缚的情况下。根据该公司的框架，只有被视为低度或中度风险的模型才应发布。
风险评估结束后，团队将向 OpenAI 的安全顾问小组提交评估结果。有关降低风险的最终决定将由 OpenAI 负责，而否决权则掌握在董事会手中。从上下文来看，OpenAI 董事会解雇奥特曼的部分原因是他赞成加速人工智能的发展，却很少考虑人工智能可能带来的威胁。在员工和投资者对这一决定提出抗议后，他在几天后被重新聘用，此后董事会成员也被替换。
在Techxplore 上阅读更多内容。
无独有偶，一家名为 Verses 的人工智能公司在人工生成智能（AGI）方面取得 "重大内部突破 "后，在《纽约时报》上发表了一封公开信，寻求 OpenAI 的支持。Verses 特别提到了在 "主动推理"（Active Inference）方面取得的突破，这一概念旨在提供一个数学框架，用于理解活生生的知觉。Verses 认为，这种进化有助于使大型语言模型（LLM）更加可靠，对人类更加有益，并最终实现 AGI。在公开信中，Verses 声称自己有资格获得 OpenAI 对其项目的援助，同时还宣称自己致力于 "一个具有安全意识的项目"。
与竞争对手 Deepmind、Anthropic 等公司一样，OpenAI 也毫不掩饰其开发 AGI 的意图。在其网站上发布的使命宣言中，该公司表示："创造安全的 AGI，造福全人类"。目前的人工智能模型往往是针对一系列特定任务而设计的，与之不同的是，AGI 理论上可以与人类智能相媲美，甚至超越人类智能。一些专家担心，AGI 的出现将意味着奇点已经到来（即达到类似人类的人工智能），届时即使没有人类的干预，算法也将不可避免地进化为超级智能。其他专家则对能否实现 AGI 表示怀疑。与此同时，只有时间才能证明 Verses 的公开信是真正的合作呼吁......还是纯粹的宣传噱头。
了解更多信息，请访问《鼓声》。
经过近 40 个小时的谈判，欧盟代表在布鲁塞尔就一套历史性的人工智能（AI）使用规则达成一致：人工智能法案。这项协议标志着一个新时代的开始，在此之前，人工智能的发展多年来一直肆无忌惮，充斥着潜在的滥用，引起了包括比尔-盖茨、埃隆-马斯克和萨姆-奥特曼（如上所述）在内的有影响力人物的警告。"来自意大利的欧洲议会议员布兰多-贝内菲说："我们的目标只有一个，那就是制定一项立法，确保欧洲的人工智能生态系统将以人为本，尊重基本权利和人类价值观，建立信任，树立如何才能从这场正在我们眼前发生的人工智能革命中获得最佳效益的意识。
通过为该行业定义一个基于风险的分级系统，以及与之相匹配的监管级别，《人工智能法》旨在促进合乎道德的人工智能发展。它包括一个针对生成式人工智能模型、人工智能驱动的监控、生物识别技术和透明度标准等的强有力的管理框架。人工智能法案》有望为其他尚未制定人工智能法规的政府设定基准，其影响可能会波及非欧盟市场。正如哥伦比亚大学法学教授阿努-布拉德福德（Anu Bradford）对美联社所说："毕竟，针对不同市场重新训练不同的模型是没有效率的。"这项协议是欧盟在《数字市场法》和《数字服务法》等一系列监管科技行业的强有力裁决之后达成的。
更多信息，请访问Tech Portal和《卫报》。
近年来，数字隐私一直是个热门话题--消费者明确要求保护隐私，但科技巨头却很少给予保护。然而，在 2023 年，随着各大科技公司最近纷纷改进其隐私保护措施，情况似乎已经发生了有利于消费者的转变。
对于消费者隐私，苹果公司并不陌生，它进一步加强了设备的隐私保护，并在 iOS 17.2 中引入了 "联系人密钥验证 "功能，允许用户验证 Messenger 聊天记录，从而避免可能的仿冒者诈骗。谷歌宣布，谷歌地图的位置历史记录即将直接保存在个人设备上，而不是云端，以加强隐私保护。值得注意的是，Meta 开始为 Facebook Messenger 聊天推出端到端加密，这是其迄今为止最大的隐私改进之一。
阅读Fast Company了解更多信息。
发现最新资讯、深度文章、网络研讨会视频，以及55数据的各项活动。
%20(1).png)
.svg)
.jpg)
