Anthropic的员工群体被其他人形容像「邪教」。

在所有AI模型开发商中，Anthropic可能是员工意识形态最狂热的公司，一些研究人员甚至用「邪教」来形容它。

这背后的原因很多。

据The Information报道，CEO Dario Amodei每月都会举办「Dario愿景探索」活动，跟员工畅谈AI的未来（带着明显的宗教色彩）；高管们经常公开谈论超级智能AI的危险。

但还有一个很少被讨论的因素：Anthropic独特的招聘流程。

道德拷问

和其他AI实验室一样，Anthropic会通过一系列测试来检验候选人的技术能力。

展开剩余79%

但不同的是，他们的「行为面试」权重特别大，而且明显偏向道德伦理。

一位在Anthropic面试过的工程师透露，招聘人员告诉他，只有很小一部分申请者能通过行为面试。

对许多候选人，Anthropic的招聘人员会联系他们的前同事和朋友，然后询问他们的人品如何。

Anthropic行为面试的问题也很不寻常。

不是那种典型的「讲讲你如何克服挑战」或「讲讲你如何领导团队」，候选人经常被问到如何处理棘手的道德困境。

比如，有候选人被问到：说出一个你尊重或钦佩但在价值观上有分歧的人。

另一个候选人被问到：讲讲你做过什么违背公司盈利目标但符合你道德观的事。

怎么讲，快接近「你妈和你媳妇同时掉进河里先救谁」的难度了。

这些问题反映了Anthropic长期以来一直将公共安全置于利润之上的理念。

2022年，从OpenAI出走的Anthropic创始人因为安全顾虑推迟发布AI聊天机器人。

结果，只能眼睁睁看着OpenAI在几周后发布了ChatGPT。

理想与现实的挣扎

虽然Anthropic现在已经是营收巨头，但它仍在这个问题上纠结。

今年早些时候，Amodei在给员工的备忘录中写道，公司将接受来自阿联酋和卡塔尔的资金，而此前他们拒绝了沙特阿拉伯的钱。

Amodei在备忘录中承认，接受中东领导人的资金可能会让「独裁者」受益，但他说「永远不让坏人从我们的成功中获益，这个原则很难用来经营企业」。

Anthropic还是面临着和OpenAI一样的版权侵权指控。见前文：

本周二，Anthropic宣布与一群知名作家达成和解，这些作家声称Anthropic未经许可就用他们的数据训练模型。见前文：

留人秘诀

这种注重招聘价值观相似员工的做法，或许能解释为什么Anthropic能够留住工程师和研究人员，即使Meta等公司开出了丰厚的薪酬待遇。

根据VC公司SignalFire今年5月发布的报告，Anthropic过去两年招聘的员工留存率达到80%.

相比之下，Google DeepMind是78%，OpenAI只有67%。

当然，Anthropic估值虽然飙升，但员工出售股份的机会不如OpenAI多，这也可能解释了更高的留存率。

在快速扩张的创业公司中保持这种文化很困难，OpenAI近年来经历的成长阵痛就是明证。

但对于那些想复制Anthropic留存成功的公司来说，行为面试或许是个好的起点。

Claude被用来干坏事

这周三上午，Anthropic发布了威胁情报报告，其中包含了Claude模型被滥用的几个例子。

报告显示：

黑客使用Claude Code窃取个人数据；

朝鲜人使用Claude冒充IT工作者，在美国财富500强公司找到工作；

黑客使用Claude开发、营销和分发勒索软件。

黑客使用Claude Code窃取个人数据；

朝鲜人使用Claude冒充IT工作者，在美国财富500强公司找到工作；

黑客使用Claude开发、营销和分发勒索软件。

这份报告提供了罪犯如何利用对话式AI模型提高效率的首批具体案例。

Anthropic威胁情报主管Jacob Klein表示：

我们真的第一次看到，AI让老练的攻击者能够扩大自己的规模。以前可能需要五个人做的事，现在一个人就能完成。

我们真的第一次看到，AI让老练的攻击者能够扩大自己的规模。以前可能需要五个人做的事，现在一个人就能完成。

这些案例或也解释了Anthropic为什么如此重视价值观和道德：

当技术可以被用来做坏事时，其开发者更需要确保开发它的人有正确的价值观。

虽然Anthropic身上拧巴得有些像个「邪教」，但相较其他AI公司而言，其确实似乎一直在坚守着AI安全底线的道德信仰。

[1]

发布于：北京市