关于人工智能当前问题的一点想法
现在人工智能的两个典型问题是:1.智能程度差 2.信息输入不够简单
先谈谈第二个问题:目前常见的人工智能IO是文字输入和语音输入,文字输出和多媒体输出。但是不能直接输入图片或视频。而是先做图片识别和视频处理,再将文字转发。好处是专人干专事和节省带宽,降低开销,坏处是信息损失。我是喜欢x86不喜欢arm的人(You know what I mean.) 说实话力大砖飞是我的期望。
再看第一个问题:一个广泛接受的理论是智力同模型大小成正比。而更大的模型和显卡显存直接相关,不可避免的导致cost++。
我有时候在想,低参数的模型能不能和幼年的儿童做类比(期望上)它们的一些结果不合或部分合逻辑。chatGPT3.5就像一个没意识到自己错误的小孩。一心觉得自己逻辑正确。更进一步的,这些差错,是否是想象力的一种可能,甚至是创新的源泉。
我认为这并不是不可能。我们总是对各种东西持怀疑态度,推动了人类科学进步。但是,循规蹈矩会让我们对大部分自然现象熟视无睹。想象一颗往天上掉的苹果可能是很多孩童梦中的情景。这种对想象和现实的差错的仔细研究是怀疑和探究的关键。
当然,想要利用这种“差错”,首先需要想办法让其“大量”起来。然后需要一个能判断正误的东西(GPT-4?)和一个能做探究的东西(大概只有人了(悲,我果然是牛马))
注意,这只是对GPT3.5的外特性的一些遐想和延申。我知道其内部就是一个做接龙的鹦鹉,不过,我还是希望多保留一种想法。