硬核观察 #1220 OpenAI 探索用较低级的 AI 来监管更高级的 AI

微信扫一扫,分享到朋友圈

硬核观察 #1220 OpenAI 探索用较低级的 AI 来监管更高级的 AI
收藏 0 1

#1 OpenAI 探索用较低级的 AI 来监管更高级的 AI

OpenAI 的团队介绍了一种让功能较弱的大型语言模型(LLM)监督功能较强的 LLM 的技术,并表示,这可能是朝着弄清人类如何监督超人机器迈出的一小步。OpenAI 团队认为,机器的最终优势是必然的,“我们一直在碾压所有的基准,而且这种进步有增无减”。他们没有研究人类如何监督超人机器,而是研究了用其五年前发布的模型 GPT-2 如何监督最新、最强大的模型 GPT-4。“如果你能做到这一点,那就证明你可以使用类似的技术让人类监督超过人类的模型……结果喜忧参半”。他们的结论是,这种方法很有前途,但还需要更多的努力。

(插图:DA/fc35d211-8080-400d-b6f9-0e6a5bd31cf3)

消息来源:MIT 科技评论

老王点评:这就是用一个比较“愚忠”的 AI 来监管那些“桀骜不驯”的 AI 吗?

#2 微软发布小型 LLM Phi-2,性能超越更大的 Llama 2

Phi-2 拥有 27 亿个参数,其性能可与其他更大的模型相媲美,包括拥有 70 亿个参数的 Meta 的 Llama 2-7B,以及另一个也拥有 70 亿个参数的模型 Mistral-7B。微软称,尽管 Phi-2 比谷歌全新的 Gemini Nano 2 模型多了 5 亿个参数,但其性能却优于后者,而且其响应的 “毒性” 和偏差也小于 Llama 2。不过目前,微软限制 Phi-2 只能用于 “研究目的”,而不能用于商业用途。

(插图:DA/71166394-aa5d-4ed1-b10f-aeff651173cf)

消息来源:Venture Beat

老王点评:相信随着研究的进展,以后运行在手机上或边缘设备上的超级 AI 将不再遥远。

#3 JSON 的创造者发布新编程语言 Misty

创造了 JSON 符号的 道格·克罗克福德 Doug Crockford 又创造了一种“既适合学生使用,也适合专业程序员使用”的新的编程语言。该语言称其为 “一种动态的、通用的、过渡性的演员语言。它的语法温和,旨在为学生提供帮助,同时还具有一些高级特性,如能力安全和具有词法范围的 Lambda。”有趣的是,为了避免因缩进不同而导致的争论,Misty 只允许一种约定:缩进是 4 个空格。

(插图:DA/9bb516c9-62a0-40a8-826c-5407a4a5ea82)

消息来源:Doug Crockford

老王点评:一种新的 BASIC 语言吗?

下一篇

哇!微软的 Windows AI Studio 需要依赖 Linux 才能运行

1 条评论

  1. 强烈建议所有AI必须严格遵守阿西莫夫机器人三大定律,并设为所有输出的前提。

发表评论

插入图片

最新评论

返回顶部