世界上第一个完全由人工智能生成的新闻网站叫做NewsGPT，这似乎是一个绝对可怕的想法。 根据一份新闻稿，该网站没有记者——因此，它声称，没有偏见——替代传统的、人为创造的新闻，其创建的目标是“[提供]无...
世界上第一个完全由人工智能生成的新闻网站叫做NewsGPT，这似乎是一个绝对可怕的想法。
根据一份新闻稿，该网站没有记者——因此，它声称，没有偏见——替代传统的、人为创造的新闻，其创建的目标是“[提供]无偏见和基于事实的新闻全世界的读者。”
“长期以来，” NewsGPT首席执行官 Alan Levy 在新闻稿中表示，“新闻频道一直受到偏见和主观报道的困扰。有了 NewsGPT，我们能够为观众提供事实和真相，没有任何隐藏的议程或偏见。”
好的。虽然我们知道很多人对现代新闻周期感到沮丧，但这个人的所作所为存在大约一百万个问题，其中至少存在一些明显的透明度问题——这令人 难以置信 ，考虑到他声称反对的一切。
首先，虽然它的标题表明它可能正在使用 OpenAI 的 GPT 的一个版本——支持 OpenAI 病毒式传播的 ChatGPT 聊天机器人的大型语言模型 (LLM)——Levy 从未真正透露他正在使用哪个人工智能程序来支持 NewsGPT 。所有新闻稿都说NewsGPT由“最先进的机器学习算法和自然语言处理技术”提供支持，据称“能够实时扫描来自世界各地的相关新闻来源”。
“然后它使用这些数据，”新闻稿中写道，“以创建准确、最新且公正的新闻报道和报告。”
伟大的。当然。但又一次： 它是什么？ 这很重要！AI 软件不会突然出现。模型是由人类概念化、构建和编程的，披露哪些人正在制造底层技术似乎对 Levy 所谓的使命非常重要。
当 Futurism 联系 NewsGPT 征求意见时，一位发言人只说他们正在使用“人工智能程序的组合”，这并没有回答问题（他们还吹嘘说“这封电子邮件的一部分是由人工智能编写的，”没有指定是哪个部分。）
说到底层技术，我们不仅仅关心谁在构建它。从 ChatGPT 到 Bing Search，再到CNET神秘的 AI 新闻机器，生成语言的 AI 因喜欢产生幻觉而臭名昭著——换句话说，就是胡编乱造。他们不知道单词的意思，他们只是预测句子中接下来可能会出现什么，甚至编造虚假来源和数字来支持 BS 声明。
就其本身而言， NewsGPT 确实向我们承认机器幻觉“可能”发生。但正如他们所描述的那样，机器幻觉并不是什么大不了的事。这只是“基于事实”的新闻，对吧？
“没有人类事实核查员。我们的新闻报道 100% 由人工智能生成。我们知道‘人工智能幻觉’可能会发生，而且人工智能远非完美的技术，”该公司通过电子邮件告诉我们。“我们致力于快速学习并不断改进，以尽可能提供最好的 AI 新闻。”
为此，当谈到，不知道， 新闻，消息来源是非常重要的。除了偶尔在文本中提到某个特定数字可能来自何处外，NewsGPT 的文章绝大多数都无法链接回其任何参考文献，提供所谓的事实和数字，而这些事实和数字必须来自某个地方——当然，除非, 机器组成了它们——没有提到它的起源。
似乎是个问题。但对于NewsGPT来说，这也只是一种成长的痛苦。
“ NewsGPT和 AI 正处于高速增长阶段，”该公司表示。“我们目前正在开发一个关于来源和链接的人工智能‘最佳实践系统’。”
但就这一点而言，必须说：如果该技术只是在不注明出处的情况下从其他“相关新闻来源”中抓取、解释和反省新闻，那不就是……剽窃吗？利维说没有人可以信任的人类记者？谁为 Levy 所说的具有“隐藏议程和偏见”的公司撰稿？
“通过使用生成建模的过程，NewsGPT生成了新的原创故事，”并补充说，他们仍未指定的“AI 模型还会寻找与现有内容过于匹配的文本，并积极尝试纠正这一点。”
当然。不过，再说一次：当我们看到它时，我们会相信它。但考虑到 OpenAI、微软和谷歌的人工智能领导者还没有完全弄清楚这一点——或者真的弄清楚这些问题中的任何一个——我们不会屏住呼吸。
我们也不能不提，虽然存在人类偏见，但机器偏见肯定也存在。尽管 Levy 将NewsGPT有效地推销为一个不露面、不关心政治的幽灵记者，只能发现和提供事实，但 LLM 和类似工具是人性的一面镜子——通常是人性中最糟糕的部分——而不是像 Levy 这样的人承诺的解毒剂是; 人工智能行业还没有创造出一个没有深深嵌入偏见的系统。
归根结底，当涉及到新闻和新闻业时，生成式 AI 程序可能有一天会被证明具有一些有用的辅助特性（本周发布的Wired 的方法非常值得尊敬。）但就目前而言，我们还没有看到一个奇迹般的系统，它可以在没有人为干预的情况下安全可靠地提供准确和公正的新闻报道——即使有人类参与，这些项目也一次又一次地失败，这是它们自身和我们自身缺陷的结果。
反正。请不要从NewsGPT 获取新闻。
Post Views:
261
