为什么说今天的AI不是科学,是炼金术?

图片:CTOCIO/Midjourney

近日,《纽约时报》发表了一篇题为“如何判断你的AI是否有意识”的文章,称在一份新报告中,“科学家们提供了一系列可量化指标,并声称(AI)是基于意识的“全新”科学。机器伦理学家Thomas Krendl Gilbert最近推出了一个名为“The Retort”的新播客,与Hugging Face研究员Nathan Lambert一起探讨科学与政治的交集。在播客的首集中,他们质疑今天的AI是否真的是一种科学实践(还是一种权力技术)。

在接受Venturebeat的采访时,Gilbert坚称,今天的大部分AI研究实际并非真正的科学,更接近于一种现代化的炼金术——即化学的中世纪前身,也可以被定义为一种“看似神奇的转化过程”。

与炼金术一样,AI也深深植根于“魔法”的隐喻中。Gilbert指出,包括那些开发AI技术的人在内的许多深度学习和大型语言模型的批评者有时会将AI称为一种炼金术。他们的意思是,它不是科学的,因为它既没有科学的严谨逻辑也缺乏实验性。但他补充说,当他说AI是炼金术时,他实际上的意思更为字面。

他说:“制造AI的人们实际上认为他们所做的是魔法。”这根植于过去几个月来已经渗透到公共话语中的许多隐喻和观念,如AGI和超级智能。他解释说,普遍的观念是,智能本身是标量的——只取决于投入模型的数据量和模型本身的计算限制。

但Gilbert强调,与炼金术一样,今天的大部分AI研究并不一定试图成为我们所知的科学。历史上的炼金术没有同行评审或公开分享结果。今天的封闭AI研究也没有。

他说:“它是非常秘密的,坦率地说,这就是AI现在的工作方式。”“这主要是假设互联网结构中隐含的智能的神奇属性,然后构建计算并结构化它,以便你可以提取我们几十年来一直在建设的知识网络,然后看看结果如何。”

Gilbert澄清说,他并不是说将AI视为炼金术是错误的,但是它缺乏科学严谨性需要被称为它真正的样子。他解释说:“他们正在开发的系统是任意智能的,不是像人类那样的智能——不管那意味着什么——而只是任意智能的。”“这不是一个明确的问题,因为它假设了关于智能的某些东西,我们几乎没有或没有证据,那是一个固有的神秘或超自然的主张。”

总之,Gilbert认为,AI作为炼金术的当前状态可以被视为“悲剧”。他说:“在预言中有一种才华,但它并没有明确地与问责制相匹配。”“没有问责制,你既得不到好的政治,也得不到好的科学。”


他进一步解释说,当AI作为炼金术而不是科学成为一个政治项目时,这是一个关键问题。他说:“这是公共严谨性的放松,结合了一种…愿意紧紧握住你的牌,但然后在公众面前随便说你的牌,没有一个健壮的界面来相互关联这两者。”

这种对AI的“魔法”观念与政治的交集尤为明显,正如Gilbert所说,目前在美国和欧盟关于AI监管的讨论中。他说:“在政治中,我们试图阐述什么是好的,建立共识的基础——这基本上是现在听证会的关键。”“我们有一个非常稀有的AI建设者和工程师的世界,他们正在阐述他们在做什么,为什么这对我们选出来代表我们的政治利益的人们很重要。”

问题是,我们只能猜测大型科技公司AI建设者的工作。他解释说:“我们生活在一个奇怪的时刻,”其中将AI与人类智能进行比较的隐喻仍在使用,但机制“远非”被很好地理解。他说:“在AI中,我们真的不知道这些模型的机制是什么,但我们仍然像它们一样谈论它们是智能的。我们仍然像…有某种人类学基础正在被揭示…而且真的没有这样的基础。”

但是,尽管许多关于AI的存在风险的声明没有严格的科学证据支持,这并不意味着它们不值得调查,他警告说。他说:“事实上,我认为它们在科学上是非常值得调查的——[但]当这些事情开始被框架为一个政治项目或一个政治优先事项时,这是一个不同的意义领域。”

与此同时,开源生成AI运动——由Meta Platforms及其Llama模型等领导,以及其他较小的初创公司如Anyscale和Deci——为研究人员、技术人员、政策制定者和潜在客户提供了一个更清晰的窗口,以了解技术的内部工作。但将研究成果翻译成非技术性的术语,使普通人——包括立法者——能够理解,仍然是一个重大的挑战。

总的来说,Gilbert认为,AI作为炼金术而不是科学的现状是一个问题。他说:“这是公共严谨性的放松,结合了一种特定的…愿意紧紧握住你的牌,但然后在公众面前随便说你的牌,没有一个健壮的界面来相互关联这两者。”他总结说:“没有问责制,你既得不到好的政治,也得不到好的科学。”

第一时间获取面向IT决策者的独家深度资讯,敬请关注IT经理网微信号:ctociocom

   

除非注明,本站文章均为原创或编译,未经许可严禁转载。

相关文章:
标签:


关于作者

X