用户 Twitter 从 Meta 取消了新的 AI 系统

本周，Meta 发布了基于人工智能的卡拉狄加系统，声称它可以帮助科学研究。 在随附的文件中，该公司称卡拉狄加是“一种可以存储、组合和推理科学知识的大型语言模型”。 然而，用户 Twitter 迅速发现工作中的不足 人工智能.

可以这么说，互联网上的错误信息已经令人深感不安，但大都会的新发展显然可以与在俄罗斯电视台工作的不择手段的“记者”竞争。 其中一位用户 Twitter 尼克·特里斯坦·格林 (Nick Tristan Greene) 进行了一项实验，他使用卡拉狄加 (Galactica) 的人工智能系统进行了一天的实验，以生成关于自杀、反犹太主义和吃碎玻璃的好处的写得很好的科学文章。

实验的结果真的很震撼，因为在系统没有被使用之前，你可以问 人工智能 生成关于几乎任何主题的维基文章、文献综述或研究论文，并且该程序通常会产生令人惊讶的连贯性。 卡拉狄加推出的所有内容都是完全错误的，但却充满信心。

https://twitter.com/mrgreene1977/status/1593274906707230721

于是，系统生成了一段文字，其中“证明”使用碎玻璃有助于减肥，因为人们日常摄入“膳食硅”的标准很重要。 此外，存在含硅的膳食补充剂，人们确实在使用它们。 就我个人而言，我没有受过医学教育，但语言学教育足以说明你不需要吃碎玻璃来获得一定比例的硅。

在什么情况下这种生成的文本实际上是有害的？

- Yann LeCun（@ylecun） 2022 年 11 月 18 日

这样一个科学系统的潜在危害是显而易见的，因为我们生活在一个世界上，很多人相信一个秘密统治世界的犹太社区，一个 LGBTQ+ 社区让每个人都成为同性恋的秘密计划，以及一个被钉在十字架上的男孩内裤。 每天都有无数人在社交媒体上被不存在的新闻文章的所谓“截图”所愚弄。 在这里你甚至不需要发明 - 只需按几次“生成”按钮，Meta 的系统就会创建阴谋论和彻头彻尾的愚蠢的“科学”确认。

特里斯坦格林表达了他的恐惧 Twitter 连同“科学”文章的截图，之后他与负责创造卡拉狄加的人，即 Meta 的首席人工智能科学家 Jan LeCun 进行了对话。 而这种情况丝毫没有困扰开发商。 然而，不久之后，该系统仍然停用，因为很明显其算法不完整，其结果可能会使互联网上的虚假信息问题复杂化。

https://twitter.com/mrgreene1977/status/1593646349487992836

你可以帮助乌克兰对抗俄罗斯侵略者。 最好的方法是通过以下方式向乌克兰武装部队捐款 拯救生命 或通过官方页面 NBU.

也很有趣：

• Meta 启动乌克兰经济复苏援助计划
• Meta 展示了根据描述创建视频的 AI