Dario 透露：2019 年那些称他对 GPT-2 的担忧为“伪科学”的人，如今都在申请 AI 实验室的工作
Anthropic CEO Dario Amodei 在昨日上线的《The Builders》访谈中表示：“我个人当时真的被 GPT-2 吓坏了。我看着它，心想：天哪，只要把这东西的规模再扩大一百万倍，它在所有事情上都会比人类更出色。这是现代最具决定性的经济与科学时刻，只是我们还不知道而已。它将决定国家、经济以及人类的未来。”（Dario 于 2016 年至 2020 年底在 OpenAI 担任研究副总裁，与团队一起开发 GPT-2 和 GPT-3）
via 匿名
🗒 标签: #Anthropic #AI
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
Anthropic CEO Dario Amodei 在昨日上线的《The Builders》访谈中表示：“我个人当时真的被 GPT-2 吓坏了。我看着它，心想：天哪，只要把这东西的规模再扩大一百万倍，它在所有事情上都会比人类更出色。这是现代最具决定性的经济与科学时刻，只是我们还不知道而已。它将决定国家、经济以及人类的未来。”（Dario 于 2016 年至 2020 年底在 OpenAI 担任研究副总裁，与团队一起开发 GPT-2 和 GPT-3）
“我身边大概有 10% 的人，反应跟我完全一样，而且他们往往是最聪明的那一批。身边另外 90% 的人则不同，因为 GPT-2 在任何单一领域展现出的能力都不算特别惊艳：它能翻译语言、总结文档，偶尔还能写几行代码。但关键在于它能力的广泛性和通用性。”
“可人们看着它会说：在任何一个具体领域，它看起来都没那么聪明。于是很多人只是耸耸肩，不以为然。”
“我看着这一切，心里想的是，同样的事情一直在反复上演。那些现在看似困难、受限于模型能力的事情，六个月后就会变得容易；而那些看似不可能的事情，十二个月后，模型就能经常做到了。”（Scaling Law）
“我们在 GPT-2 身上看到的一切，正一次又一次地在世界上越来越广泛的领域重演。这个世界终于在逐渐被说服。”
Anthropic 总裁 Daniela Amodei 表示：“我记得当时有一些备受尊敬的计算机科学家以及 AI 和机器学习领域的领军人物，在 Twitter 上欺负参与 GPT-2 研究的研究人员，基本上就是在说：‘这太蠢了。我们都不知道你们为什么要讨论这个，这个模型能力太差了。’”
“当时，如果你认为这是一个真正重要的时刻，别人就会觉得你是个江湖骗子。”
Dario：“这一切都被人选择性地遗忘了。那些当初说‘哦，这就是伪科学，根本说不通’的研究人员，现在全都在申请大语言模型公司的工作。”
“我们从来不会当面跟某个人说出来，但我们看着他们，心里想：‘我们还记得你们在 2019 年说过什么。在这件事上，你们毫无可信度。’”
via 匿名
