数学家陶哲轩使用「满血版 GPT-4」的一个例证：当前盛行的 Prompt 只会是一个过渡方案

数学家陶哲轩从微软那里拿到并使用了「满血版 GPT-4」的自述，举了一个信号非常明显的例子：

他让 GPT-4 看自己的一篇数学论文，然后生成一些评审专家可能会针对这篇论文提出的问题。而当他放弃严谨和精确的提示词，最直接的给 GPT-4 喂足原始文本时，获得的反馈质量是最好的。

这再次证明了当前盛行的 Prompt 只会是一个过渡品，它的存在只是因为 AI 还不够强大，仍然需要半编程式的框架来引导它准确执行命令，而真正发展到理想状态的 AI，是不需要靠提示词这种手段来「优化」回答的。

在陶哲轩看来，他所看到的这一版 GPT-4，打破了某种意义上的信息守恒定律，比如在软件开发行业，你必须输入高质量的信息或是编程语言，才能获得高质量的回报，但在 AGI 的世界，含糊甚至错漏的低质量输入，也能被 AI 校准到高质量的输出里。from 微博

这个所谓「满血版 GPT-4」，并不是一个 OpenAI 在内部开发出来的更新版，相反，它是旧版本的 GPT-4，只是去掉了各种安全限制，那些限制在帮 GPT-4 提高风险意识的同时，其实也牺牲了它的部分智能。

所以我认为生成式 AI 在无束缚的情况下更乐于处理自然语言（包括大量随意、含糊的提问），而不是被精心设计的 Prompt —— 可能存在不同程度对信息的有损压缩。

即便是限于提问者的文字组织能力，使得问题本身质量低，比如存在歧义或漏洞，终极形态的 AI 也应该给出多种合理猜测和理解的回答，甚至对人类进行反问。当然这个过程的也可能因为双方智力悬殊拉回拉扯而变得比较低效...所以，你懂得。

相关链接：

• https：//unlocked.microsoft.com/ai-anthology/terence-tao/
• https://mathstodon.xyz/@tao/110534826121112802
  

prompt的存在还是有意义的，即使AI继续迭代，人总归需要通过某种方式与AI交互，更高级的交互方式需要的也许是另一种形式的“prompt”。

SURF-
谢谢你的分享和推荐

柚子 发表于 2023-6-20 21:17
prompt的存在还是有意义的，即使AI继续迭代，人总归需要通过某种方式与AI交互，更高级的交互方式需要的也许 ...

同意。总需要一个起点和引导。除非ai开始诞生自主意识。