有关人工智能Artificial Intelligence AI的若干认识问题-3

-loading-

2021-08-01 , 2980 , 104 , 150

听音频 🔊 . 看视频 🎦

（接续）
符号主义与联结主义融合的前景如何？
能否使用符号是人和动物的本质区别。早在19世纪，德国哲学家恩斯特·卡西勒（Ernst Cassirer，1874—1945）就指出人是会使用符号的动物。从动物向智人进化的分界线是发明符号和使用符号。
纽厄尔（Newell）和西蒙（Simon）提出的物理符号系统假设：对于一般智能而言，具备物理符号系统是一个充分必要的条件。所谓必要，就是任何表现出智能的系统都可以经过分析被证明是一个物理符号系统；所谓充分，就是任何足够大的物理符号系统都可以通过组织而表现出智能。
物理符号系统假设是符号主义的理论基础，符号主义确实为人工智能发展做出了历史性的贡献，但这一假设没有得到人工智能界的公认，人脑是不是 “物理符号系统”至今也说不清楚。智能系统涉及信号、亚符号和符号的处理和转化，符号处理应该不是智能处理的全部内容。经过几十亿年的进化，我们的大脑最终形成了很多不同的应对环境的机制。
进化选择了生命的杂乱而非逻辑的严谨。历史已证明，只靠基于人类知识和特定规则创建人工智能，往往会失败。要真正实现基于知识的推理，需要万亿级的常识知识库支持，现在可以实现更大规模的常识知识图谱，用大规模的常识知识图谱来支撑深度学习，有可能实现更通用的人工智能。

-loading-

目前基于数据驱动的机器学习不能举一反三，鲁棒性差（易受噪声的影响），不能在使用过程中自动进行学习。机器学习与人类学习的机制和方法存在巨大的差异。为了提高机器学习的水平，需要与心理学、认知科学和神经科学结合，借鉴人类的学习机制，在学习中融入常识和推理，改变目前机器学习的方法与机制。
人工智能已经两起两落，第一波的主流是逻辑推理，第二波是基于人工神经网络的机器学习。普遍认为，未来的第三波将是机器学习与逻辑推理的有机融合，追求更加通用、更鲁棒、更具有可解释性的人工智能。希望两种有互补性的技术结合起来是人们习惯的想法，但联结主义和符号主义的结合比常人想象的要困难得多。
联结主义和符号主义结合的困难在于，深度神经网络中隐结点上发生的事情是不可言传的，因为隐结点可能并不表达我们使用的任何概念或概念组合，可能只有把认知过程分解成远比我们的概念体系细得多的碎片，再按另一种方式重新组合才能得到一点语义的蛛丝马迹。符号主义到联结主义再到可解释的联结主义是否定之否定螺旋式上升。简单地用符号逻辑解释深度神经网络，可能是走回头路。
人脑的智慧是感知到认知的 “涌现”（emerge），之所以用“涌现”这个词，是因为它过于复杂而无法用公式或任何确定的方式来表达。但理解从低层次的感知到高层次的逻辑推理，必须明白“涌现”如何发生。简单地互相借用另一个层次的某些思路或方法，难以实现真正的结合。
涌现的特征是混沌性，理解它如何形成可能已超越目前人类的智力。人工智能的下一步发展要更加解放思想，跳出现有的符号主义和联结主义的框框，从神经科学、生物科学、人文科学等更广泛的领域获取灵感。

UfqiLong

发展人工智能应有更理性的态度

1991年，在第一届全国人工智能与智能计算机学术会议上，我（李国杰院士）代表国家863计划 “智能计算机”主题（863-306主题）专家组提出发展智能计算机的“顶天立地”战略。我认为，今天发展人工智能技术仍要坚持这个战略，采取“弱人工智能” 和“强人工智能”两条腿走路的方针。“强人工智能”还处在基础研究阶段，要解放思想，争取“广种奇收”。
要毫不犹豫地大力发展和推广“弱人工智能”技术，以计算机和控制设备（系统）的智能化为重点，将人工智能技术融入数字经济和智慧社会之中。人工智能要获得根本性的重大突破还要付出艰苦的努力，但每年都要争取获得几项像GPT-3和GoldFold2一样的明显进展，积小胜为大胜。
研究一项智能技术，在某个单项智能水平上超过人不是发展人工智能产业的目的。一定要时刻问自己： “如果我的研究成果是答案，那么，要解决的问题是什么？”
不能把人工智能当作 “锤子”，把所有要解决的问题都看成“钉子”。人工智能不是万能药，必须了解目前人工智能技术究竟能解决哪些实际问题。
在机器翻译等领域，深度学习做得非常好，可以达到90%以上的准确率。问题是最后的10%的提升，可能需要完全不同的方法。在自动驾驶系统中，机器做出的决策必须非常准确，容不得一丝马虎，这样才能确保乘客的安全。所以对于最后的1%的提升，甚至百万分之一的提升，都需要做大量的科研攻关，也许最终还是要人机结合。

-loading-

UfqiLong

人工智能的效果不局限于自动化，不能将替代人工当成发展智能技术的唯一目标。要不要用智能技术替代现在的人工要做全面分析，应考虑整体成本和就业、稳定等社会问题。韩国是工业机器人使用密度最高的国家，考虑大量使用机器人可能增加失业率，韩国政府决定对投资工业自动化设备的企业取消税收减免，变相征收 “机器人税”。
这一政策反映出政府不能不顾一切地支持发展替代人工的自动化技术。对在发展智能技术的过程中可能失业的工作人员要未雨绸缪，有计划地做新职业培训，对任意解雇劳动者的企业要有适当的约束措施。
现在大家做人工智能研发大都基于国外大企业的开发平台，如谷歌、脸书、亚马逊、微软等，这些开源程序都放在GitHub中（现在是微软下面的托管平台）。按照美国法律，GitHub要受美国法律管辖，存在断供的风险。我国一定要建立自主可控的人工智能开源平台。
企业牵头的人工智能开放创新平台是一条路，但企业的开发工具不一定开源，数据和模型不一定能共享。国家科研机构和大学要花更多精力打造培育人工智能开源软件和开源开发工具。
技术本身的发展和监管必须齐头并进，不能等风险已不可收拾时才想到要监管。一定要把科技关进伦理和法律的笼子里。越是先进的技术越需要监管。社会各界都十分担心人工智能的风险，要像监管核武器一样加强人工智能技术的监管。人工智能伦理和人工智能监管是我国明显的短板，应立即加强有关布局和规划。未来的智慧社会中， “智警”和有关智能业务的“法务工程师”应成为重要的从业人员，从现在起，就要着手培养“智警”和熟悉智能业务的“法务工程师”。

我国学术界习惯于随大流，辩论风气不浓。中国计算机学会（CCF）启智会已开始对人工智能的局限和未来发展趋势展开激烈辩论，希望国内人工智能界在会议和期刊中多开展辩论，弘扬百家争鸣的自由探索精神。