不到一年，营利AI安全研究公司又获5.8亿美元B轮融资

当下，AI大框架仍要踏入一些餐饮业驱动的中层体系结构，同时体现借助于的一般规则是“该系统越好稳固，就越好难为解释其蓄意”。

像OpenAI的GPT-3非标准句法框架仅仅可以以任何风格和任何主轴生成非常自然的文档。但在它写作时，它是如何做到的？它在“希望”什么？什么样的调整让它来得忧郁来得怀旧，或者以特定的作法容许它的措辞和词汇？我们仅仅一无所知。

“当今的大型非标准该系统可以带来显著的效用，但也似乎无法预测、不可靠和不透明：我们的目的是在这些弊端上赢得进展。”此前OpenAI深入研究副总裁Dario Amodei此此前曾说，“Anthropic的目的是阻截坚实深入研究，让我们都能构建来得稳固、来得非标准、来得可靠的计算机该系统，然后以造福生命体的作法地面部队这些该系统，”

当地时间4月29日，AI深入研究该机构Anthropic年初完成5.8亿美元B轮担保，由身份验证汇率证券市场FTX高级顾问执行官Sam Bankman-Fried领投。

Anthropic在创立时从未有明确的盈利目的，所以在其A轮担保1.24亿美元时就惠被研讨，被科技媒体TechCrunch称“有1.24亿美元可以吊”。在此轮担保，Anthropic称将利用这笔担保建立大规模的深入研究小组坚实设施，以探求和改进计算密集型AI框架的相容性性和可靠性。

“通过这次筹款，我们将探求机器研习该系统的可预测构建连续性，同时慎重深入研究大规模借助于现功能性和相容性弊端的不可预测的作法，”Amodei在公告之此前说。

据Anthropic的公告：本深入研究的目的是共同开发构建大型框架所必需的应用子系统，这些框架有着来得好的隐性必要措施并且情况下较少的锻炼后干预，以及共同开发必要的方法来全面深入研究这些框架以相信保障措施其实有效。该Corporation还在建立设计团队和合作亲密关系，致力探求这些的系统的政策和社会变迁冲击。

如果我们不洞察AI该系统的工作法则，那么就情况下在它借助于现弊端时做借助于催化。例如，在AI人脸识别时体现借助于偏见，或者在AI被问及CEO时倾向于描述未成年。目此前这样的蓄意已溶入框架，应用细节是过滤其输借助于，而不是首先不必要它有着那些不仍要确的“种概念”。

目此前，Anthropic已赢得一些进展。在可解释性不足之处，它在对小型句法框架的自然科学逆向工程不足之处赢得了进展，并开始洞察大句法框架之此前的系统匹配蓄意的来源。“他们在简化版框架之此前发现的的路可以迁移到来得大的框架之此前”，ConjectureCorporation和深入研究小组Connor Leahy声称。

在可操纵性和鲁棒性不足之处，它共同开发了两条线应用（baseline techniques），使大型句法框架来得加“有用和非人类”，随后通过强化研习全面改善这些属性，并发布新闻了一个数据集来试图其他深入研究深入研究小组室锻炼来得符合标准生命体偏好的框架。它还发布新闻了对大型句法框架稳定性的突然变化以及这种现象的社会变迁冲击的统计分析，这证明情况下大规模深入研究相容性弊端。

“我们在理解和依靠计算机该系统的蓄意不足之处赢得了初步进展，并且悄悄逐步拼装所必需的部件，以制造有益于社会变迁的需用、内嵌的计算机该系统。”Amodei声称。