AI是如何看待世界的…克服…ChatGPT自己回答错误的方法

※照片为示意图※本文是野口悠纪雄《ChatGPT“超”学习法》( president公司)的一部分重新编辑而成。

■人和AI对事物的“理解”方式不同AI的理解与人类的理解不同。

“符号接地(幻觉)问题”是指人和AI如何将符号(语言、数字、图像等)与现实世界的具体对象和概念联系起来理解的问题。

人类通过从出生开始的各种实际体验和观察，来理解语言和概念的含义。

例如，“热”这个词是根据实际感受到高温的经历来理解的。也就是说，“热”这个词和概念，与现实世界的对象和状况，或者体验“接地”(在日语中，与此相反的状态被表现为“无法立足”)。

或者，“月亮”这个词的意思是根据被告知“那就是月亮啊”时仰望月亮的经历来理解的。抽象的概念也是如此。例如，“无限”这一概念的含义，是结合走了漫长海岸线的体验来理解的。

■AI理解“语言与语言的关系”，但AI没有身体，所以无法进行这样的理解。

AI的理解就是理解词语和词语的关系。

以上所述，与数学和自然科学规律等理解这一问题的本质有关。这作为关于AI (人工智能)的基本问题，从以前开始就被讨论过。

■无法根除光晕的原因AI引起光晕(幻觉)的原因有各种各样。例如，学习数据不充分或错误可能是原因。但是，不仅如此。

晕映的主要原因被认为多是基于AI的理解方式。也就是说，AI不能进行符号接地被认为是造成故障的一大原因。

符号接地问题的解决对于AI正确理解现实世界的对象和概念，基于此生成适当的信息是必要的。如果这个问题得不到解决，AI就不能正确地“接地”符号的意思，结果会增加产生不正确的信息和光晕的风险。

■由于无法完全避免光晕，关于符号接地问题，有各种各样的研究。

例如，有一项名为“MathQA”的研究。但是，目前还没有得到满意的结果。 AI要完全理解符号的含义并在现实世界的语境中正确使用它，是当前技术中一个难题。

因此，我们在使用ChatGPT等生成AI时，必须以AI不能接地符号为前提。

也就是说，有必要在不能完全避免光晕的前提下使用。

■能不能想办法处理生成AI的缺点？用ChatGPT学习真是一件快乐的事情。

野口悠纪雄《ChatGPT“超”学习法》( President公司)可以准确地询问想知道的事情和之前抱有疑问的事情，对此会给出简洁的回答。所以，可以不失去兴趣地进行学习。

我一定要活用这样的优点。如果在各种学习中使用ChatGPT的话，会非常有效。

正因为如此有趣，在各种科目中，已经有很多学生和学生使用ChatGPT进行学习。但是，他们不知道，有学习错误知识的危险。

不能做点什么解决这个问题吗？

■经常意识到“错误”可能性的光晕的存在，并不意味着不能把ChatGPT用于学习。重要的是，ChatGPT是全新的结构，所以不能把它和之前的教科书、参考书、或者教师的课等当成一样来使用。

ChatGPT有时会给出错误的答案，但另一方面，知识渊博得令人难以置信。如果能在避免错误的同时利用这一点，ChatGPT就会成为非常优秀的家庭教师。需要的是充分理解错误的可能性，经常在注意的同时使用。

这个问题不是那么简单的。

为了找出正确的方向，需要各种各样的探究和尝试错误吧。只是，关于什么样的使用方法有效，无法给出大致的方向。关于那个，以下叙述一下。

■限定用途①:在有用于确认模糊和忘记的事项的光晕的前提下，安全的使用方法是对某种程度上知道的内容确认模糊的部分，或者询问大概知道的内容。或者，在忘记了正确的语言的情况下，向ChatGPT确认。

如果知道一定程度的话，大多数情况下都会知道ChatGPT是否回答错误。如果你想起忘记的话，你确实会知道答案是否正确。

例如，虽然根据历史事实等大致知道，但有时地名和人名的一部分并不清楚。在这种情况下，如果向ChatGPT说明周围的情况，就会详细说明想知道的事情吧。

写文章时常常产生这样的必要性。而且，在搜索引擎上，很多时候并不马上知道答案。在这种情况下，ChatGPT会提供有用的帮助。

■限定用途②:用于即使弄错也不会产生问题的用途中应对光晕的另一种方法是用于不受事实错误影响的用途中。

例如，写文章找不到合适的表达方式时，或者想举例但想不到合适的东西时，询问ChatGPT。

另外，也有“让人提出想法”的使用方法。在这种情况下，事实和数据错误的问题很少发生吧。而且，答案是否合适，很容易判断。

■关于如何在避免直接询问ChatGPT的情况下灵活运用的方法，在《ChatGPT“超”学习法》中进行了详细验证，其中之一是直接询问了ChatGPT自身。

最初，ChatGPT没有网络浏览功能，但2023年5月通过收费的GPT-4，增加了网络浏览功能。但是，由于发生了收费网站无法浏览等问题，7月份暂时停止使用。之后，9月复活了。

之后虽然也有不稳定的状况，但还在继续。如果适当使用这一点，也许可以在相当程度上避免光晕。

于是，请ChatGPT浏览了一下。

■ChatGPT的回答是……“为了避免光晕，可以向提供的信息寻求网络上的支持吗？ ”对于我的问题，ChatGPT回答说:“为了避免故障，参考来自多个可靠来源的信息也很重要。”

另外，现在的ChatGPT的网络浏览功能无法访问需要付费报道和订阅的内容。另外，也不能直接访问统计等在线数据库来提取数据。

但是，“虽然不能直接访问付费新闻网站的内容，但可以根据公开的信息回答问题。”“如果您对IMF的WEO或其他公开的经济数据有任何疑问，我将一直锻炼到2023年4月。” 另外，如果用户上传数据库的特定部分，也可以据此进行分析和解释”，ChatGPT的回答是。

———-野口悠纪雄一桥大学名誉教授1940年生于东京。 63年毕业于东京大学工学部，64年进入大藏省，72年获得耶鲁大学Ph.D.(经济学博士学位)。历任一桥大学教授、东京大学教授、斯坦福大学客座教授、早稻田大学研究生院金融研究科教授、早稻田大学商务金融研究中心顾问。一桥大学名誉教授。专业是金融理论，日本经济论。著作中除了《“超”整理法》、《“超”文章法》(都是中公新书)、《财政危机的构造》(东洋经济新报社)、《泡沫经济学》(日本经济报社)、《日本从发达国家脱离的日子》( President公司)以外，还有很多。 ———-

这里有个小tips~1296334825 备注：汇汇圈！

本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请发送邮件至 1296334825@qq.com 举报，一经查实，本站将立刻删除。
如若转载，请注明出处：https://www.fx002.com/15805.html

AI是如何看待世界的…克服…ChatGPT自己回答错误的方法

相关推荐