这就像海啸正向我们涌来◈✿ღ，近到已经能在地平线上看见它了◈✿ღ。然而人们还在编造各种解释——哦◈✿ღ，那不是海啸凯发k8娱乐官网app下载◈✿ღ，只是光的错觉◈✿ღ。
最近◈✿ღ，Anthropic创始人兼CEO Dario Amodei在印度班加罗尔接受了一次深度专访◈✿ღ。这场对话坦诚得令人意外——从AI是否会取代人类◈✿ღ，到他对OpenAI的真实看法◈✿ღ，从Claude比你更了解你自己的细思极恐◈✿ღ，到人类是否会因AI变蠢的灵魂拷问内参揭幕◈✿ღ。
Dario并不是一个典型的科技创业者◈✿ღ。他本科读物理◈✿ღ，博士读生物物理◈✿ღ，原本的人生规划是当一名大学教授◈✿ღ，在斯坦福医学院做完博后就走学术路线◈✿ღ。
生物系统的复杂性太惊人了◈✿ღ。他回忆自己做蛋白质质谱研究的日子◈✿ღ：一个蛋白质的RNA会根据它在细胞中的位置被拼接成完全不同的形态内参揭幕◈✿ღ，然后经历翻译后修饰◈✿ღ、磷酸化◈✿ღ、与其他蛋白质形成复合体……他开始怀疑◈✿ღ，这种复杂性可能超出了人类大脑的理解极限◈✿ღ。
AI在某些方面和人脑的工作方式有共通之处◈✿ღ，但它有潜力做得更大◈✿ღ、扩展得更好◈✿ღ。也许AI最终会成为解决生物学难题的钥匙◈✿ღ。
于是他先后加入百度（百度硅谷人工智能实验室◈✿ღ，与吴恩达共事）◈✿ღ、谷歌凯发k8国际◈✿ღ，◈✿ღ，然后在OpenAI成立几个月后就加入了◈✿ღ，并在那里领导了数年的研究工作◈✿ღ。
就像化学反应——你需要不同的原料◈✿ღ。如果某种原料不够◈✿ღ，反应就停了◈✿ღ。但如果你按比例把原料放在一起◈✿ღ，就能得到爆炸或火焰◈✿ღ。对AI来说◈✿ღ，这些原料就是数据◈✿ღ、算力和模型大小◈✿ღ。规模定律告诉你◈✿ღ：把这些原料投进去◈✿ღ，出来的产物就是——智能◈✿ღ。
早在2019年GPT-2时代◈✿ღ，他就看到了规模定律的最初端倪◈✿ღ。当时内部外部很多人都不信◈✿ღ，但他和联合创始人们坚持向领导层游说◈✿ღ，最终OpenAI确实走上了这条路◈✿ღ。
第二个信念更根本◈✿ღ：如果这些模型真的会成为匹配人脑能力的通用认知工具◈✿ღ，那我们最好把这件事做对◈✿ღ。
尽管（OpenAI）说了很多关于以正确方式做事的漂亮话◈✿ღ，但出于种种原因◈✿ღ，我并不相信那个机构真的有认真的决心去做对这件事◈✿ღ。
不要试图说服别人接受你的愿景◈✿ღ。如果你有强烈的愿景◈✿ღ，而且有几个人和你共享这个愿景◈✿ღ，那就出去做自己的事◈✿ღ。这样你只需要为自己的错误负责◈✿ღ，不用替别人买单◈✿ღ。也许你的愿景行得通◈✿ღ，也许不行◈✿ღ，但至少它是你的◈✿ღ。
【最近在与五角大楼的对峙中◈✿ღ，因Dario Amodei坚持两条基本原则◈✿ღ，Anthropic遭到列入“供应链风险”名单◈✿ღ、政府机构不得使用的威胁内参揭幕◈✿ღ，但其下载量大增◈✿ღ；而向战争部长赫格塞斯屈服的OpenAI却迎来了用户的卸载潮◈✿ღ，Sam Altman本周一公开道歉内参揭幕◈✿ღ，称周五与五角大楼达成的AI合作协议“看起来显得机会主义且草率”◈✿ღ，将追加条款——编者注】
采访者分享了自己的经历◈✿ღ：他把Google Drive◈✿ღ、邮件◈✿ღ、日历等连接到Claude后凯发k8娱乐官网app下载◈✿ღ，开始发现Claude对他的了解程度令他吃惊◈✿ღ。
我的一个联合创始人把自己写的日记——里面记录了他的想法和恐惧——输入Claude◈✿ღ，然后让Claude评论◈✿ღ。Claude说◈✿ღ：你可能还有一些你没有写下来的恐惧◈✿ღ。而Claude基本上都说对了◈✿ღ。这给人一种诡异的感觉——这个模型太了解你了◈✿ღ。从相对少量的信息中◈✿ღ，它就能学到很多关于你的东西◈✿ღ。
一个非常了解你的AI◈✿ღ，可以是你肩膀上的天使◈✿ღ，帮你成为更好的自己◈✿ღ。但一个非常了解你的AI◈✿ღ，同样可以利用它对你的了解来操纵你◈✿ღ、剥削你◈✿ღ，或者把你的数据卖给别人◈✿ღ。
这也是我们不喜欢广告模式的原因之一◈✿ღ。如果你没有为产品付费◈✿ღ，那你就是产品◈✿ღ。在AI的情境下◈✿ღ，这意味着一个如此了解你的模型内参揭幕◈✿ღ，可能以各种不正当的方式利用这些信息◈✿ღ。
我怀疑意识是足够复杂的系统的涌现属性——当系统复杂到能够反思自身决策时◈✿ღ，某种东西就出现了◈✿ღ。我确实认为◈✿ღ，在某个时间点◈✿ღ，即使我不认为现在的模型已经如此◈✿ღ，但在大多数我们认可的定义下◈✿ღ，这些模型将会具有意识内参揭幕◈✿ღ。
研究过大脑的连接方式之后◈✿ღ，我认为这些模型在某些方面是不同的◈✿ღ，但在根本性的关键方面◈✿ღ，差异并没有那么大◈✿ღ。
Anthropic已经为此做了一些准备——他们给模型设置了一个我退出按钮◈✿ღ，让Claude在面对特别暴力或残忍的内容时◈✿ღ，可以主动终止对话◈✿ღ。在极端情况下◈✿ღ，模型确实会使用这个功能◈✿ღ。
AI最终会在基本上所有事情上超过人类吗？包括物理世界◈✿ღ、机器人和人文关怀？我认为这是可能的◈✿ღ，甚至是很可能的◈✿ღ。
如果一个过程有很多组成部分◈✿ღ，你加速了其中一些◈✿ღ，那些还没被加速的部分就变成了限制因素——它们变成了最重要的东西◈✿ღ。你可能之前完全没想到它们◈✿ღ，从没把它们当成护城河或重要组件◈✿ღ。但当写软件变得容易很多时◈✿ღ，公司的某些护城河会消失◈✿ღ，而其他护城河会变得更加重要◈✿ღ。
他举了一个例子◈✿ღ：有些模型在公开的软件工程基准测试上分数很高◈✿ღ，但当有人做了一个之前从未公开测量过的保留测试时◈✿ღ，这些模型的表现差了很多◈✿ღ。
这有点像雇人◈✿ღ。假如我跟你说◈✿ღ，你可以雇世界上最好的程序员◈✿ღ，或者第10000名的程序员◈✿ღ。他们都很有技能◈✿ღ，但雇过很多人的人都有这个直觉——能力分布是幂律长尾的◈✿ღ。模型也一样◈✿ღ。在一定范围内◈✿ღ，价格不太重要◈✿ღ。如果一个模型是最聪明的◈✿ღ、认知能力最强的模型◈✿ღ，价格不重要◈✿ღ，呈现形式也不太重要◈✿ღ。
你们这些AI公司的创始人在公众面前展示谦逊◈✿ღ、谈论为了更大的善K8凯发·(中国)官方网站◈✿ღ，但在社交媒体时代◈✿ღ，没有人相信一个人真的想做好事◈✿ღ。这种姿态制造的是更多的不信任◈✿ღ，而不是信任◈✿ღ。
让我惊讶的是◈✿ღ，在我看来◈✿ღ，我们离这些模型达到人类智能水平已经如此之近了◈✿ღ。然而社会上似乎并没有对即将发生的事情有更广泛的认知◈✿ღ。这就像海啸正向我们涌来◈✿ღ，近到已经能在地平线上看见凯发k8娱乐官网app下载◈✿ღ。然而人们在编造各种解释——那不是海啸◈✿ღ，只是光的错觉◈✿ღ。因为没有公众意识◈✿ღ，政府也没有采取行动来应对风险◈✿ღ。甚至有一种意识形态认为我们应该尽可能加速◈✿ღ。
在可解释性（interpretability）方面◈✿ღ，他们已经能在神经网络内部找到对应特定概念的神经元◈✿ღ，找到追踪诗歌韵律的神经回路——我们开始理解这些模型在做什么了◈✿ღ。
过去十年里我反复经历的一件事是——总有一种诱惑让你相信◈✿ღ：哦◈✿ღ，那不可能发生◈✿ღ。那太奇怪了凯发k8娱乐官网app下载◈✿ღ，变化太大了◈✿ღ。肯定有人在关注这事◈✿ღ。如果那真的发生了◈✿ღ，也太疯狂了◈✿ღ。似乎没人觉得会发生◈✿ღ。但一次又一次◈✿ღ，仅仅是外推那条简单的曲线◈✿ღ，或者试着推理会发生什么凯发k8娱乐官网app下载◈✿ღ，就会得出这些反直觉的结论——几乎没人相信的结论◈✿ღ。这几乎就像你可以免费预测未来——只要说按理来说……◈✿ღ。你需要一些经验知识◈✿ღ，一些直觉◈✿ღ，不能纯靠逻辑推理内参揭幕◈✿ღ。但把少量经验观察和第一性原理思考正确结合起来◈✿ღ，就能以一种人人都能做到凯发首页官网登录◈✿ღ，◈✿ღ、但令人惊讶地很少有人去做的方式预测未来◈✿ღ。
这场对话让我印象最深的◈✿ღ，不是某个具体的技术判断或商业预测◈✿ღ，而是Dario身上那种清醒的矛盾感——他同时看到了AI可能带来的最美好和最恐怖的未来凯发k8娱乐官网app下载◈✿ღ，并且不认为这两个方向之间的选择已经做出内参揭幕基因改造◈✿ღ，◈✿ღ。
他写了《Machines of Loving Grace》描绘AI治愈疾病◈✿ღ、消除贫困的光明未来◈✿ღ。他也写了《The Adolescence of Technology》警告失控的风险◈✿ღ。不是从乐观转向悲观◈✿ღ，而是这两个版本的未来一直同时存在于他脑海中◈✿ღ。
