国家发展改革委发展战略和规划司2024年第二批研究课题征集公告】

Ooops, Data read error for 3735240, Try new one ( 读取异常, 请尝试搜索关键词 ) ....

-loading-

听音频 🔊 . 看视频 🎦

... 2024-03-29 11:50 .. 提出“十五五”时期深化医药卫生体制改革、促进医保医疗医药协同发展的总体思路、目标要求和政策举措建议。
    6.完善特殊困难群体兜底保障和关爱服务体系研究评估当前流动留守儿童、孤儿、残疾人、孤寡老人等特殊困难群体社会兜底保障和关爱服务工作成效和存在问题不足，聚焦补齐基本实现社会主义现代化的兜底性短板，研究进一步完善社会兜底保障和关爱服务体系的总体思路、目标对象、管理机制、保障标准和改革路径等，提出“十五五”时期的重点任务和政策举措。
    7.完善社会治理体系研究梳理坚持和发展新时代“枫桥经验”、完善社会治理体系的实践经验，研判社会治理面临的突出风险和挑战，围绕更好处理政府和社会关系、优化社会治理机制、提升社会治理效能等，研究提出“十五五”时期完善社会治理体系的总体思路和政策举措建议。
    8.深入推进环境污染防治的重点任务和举措研究总结梳理“十四五”时期打好污染防治攻坚战的进展 .. UfqiNews ↓ 0

... 10-11 14:54 , 214 , 218 ..
1 引子在本系列的2，3，4季中，我们分别介绍了神经网络的生物学背景，最早的关于神经元的数学模型，以及具有学习功能的感知机.
    我们现在已经知道，如何学习神经网络的参数是最为关键的问题，这个问题从宏观上看实际上跟求解2的平方根并没有本质不同，即需要一个迭代过程(梯度下降)不断更新模型的参数.
    在一个著名的Adaline模型(第4季)的基础上，我们首次看到了激活函数、代价函数，梯度(导数)这些概念在求解模型参数中的核心作用，梯度下降法首次被运用到神经元模型中.
    接下来的第5季则专门介绍了导数的概念以及求解方法.
    逆向求导由于其极高的性能，看起来极具吸引力.
    从现在的眼光来看，在上个世纪80年代的时候，所有的基础几乎已经准备妥当，只是在等一个适当的机会，一些零星的在当时并不那么惹眼的研究，逐渐将神经网络以一种更加高大上外表包裹起来，深度学习开始了它的统治时代.
    本主要介绍从神经网络到深度学习发 ... 理解计算：从根号2到AlphaGo -20: 第8季深度学习发展简史 ⟶

...

02-08 06:16 , 7434 , 127 ..
迈向通用人工智能AGI之路：大型语言模型LLM技术精要-8

智慧之光：如何增强LLM的推理能力
目前很多研究已证明LLM对于知识具有强大的记忆能力，但是，一般我们不会因为一个人记忆能力强，就说这人很聪明，是否具有强大的推理能力，往往是我们判断一个人是否聪明的重要标准.
    类似的，如果LLM的效果想让人觉得很惊艳，强大的推理能力是必备的.
    推理能力本质上是综合运用很多相关知识点，去推导出新知识或新结论.

关于LLM的推理能力，是最近一年来LLM里最重要和热门的研究领域之一.
    于是，我们关心的问题就是：LLM具备推理能力吗？如果具备，那么它的推理能力够强吗？
这两个问题目前的答案似乎应该是：当模型规模足够大的时候，LLM本身是具备推理能力的，在简单推理问题上，LLM已经达到了很好的能力，但是复杂推理问题上，还需要更多深入的研究.

如果梳理现有LLM推理相关工作的话，我把它们归到两大类，体现出挖掘或促进LLM推理能力不同的技术思路：第一类研究比较多，可以统称为基于Prompt的方法，核心思想是通过合适的提示语或提示样本，更好地激发出LLM本身就具备的推理能力，Google在这个方向做了大量很有成效的工作.
    第二类做法是在预训练过程中引入程序代码，和文本一起参与预训练，以此进一步增强LLM的推理能力，这应该是OpenAI实践出的思路.
    比如ChatGPT肯定具备很强的推理能力，但它并不要求用户必须提供一些推理示例，所以ChatGPT强大的推理能力，大概率来源于使用代码参与GPT 3.5的预训练.


这两种思路其实大方向是迥异的：利用代码增强LLM推理能力，这体现出一种通过增加多样性的训练数据，来直接增强LLM推理能力的思路；而基于Prompt的方法，它并不会促进LLM本身的推理能力，只是让LLM在解决问题过程中更好地展示出这种能力的技术方法.
    可以看出，前者（代码方法）治本，后者治标.
     ... 迈向通用人工智能AGI之路：大型语言模型LLM技术精要-8 ⟶