中共中央政治局召开会议决定召开二十届三中全会分析研究当前经济形势和经济工作审议《关于持续深入推进长三角一体化高质量发展若干政策措施的意见》中共中央总书记习近平主持会议

-loading-

听音频 🔊 . 看视频 🎦

... 2024-05-20 06:00 .. 是解决大党独有难题、建设更加坚强有力的马克思主义政党的必然要求。
全党必须自觉把改革摆在更加突出位置，紧紧围绕推进中国式现代化进一步全面深化改革。
会议强调，进一步全面深化改革要坚持马克思列宁主义、毛泽东思想、邓小平理论、“三个代表”重要思想、科学发展观，全面贯彻习近平新时代中国特色社会主义思想，深入学习贯彻习近平总书记关于全面深化改革的一系列新思想、新观点、新论断，完整、准确、全面贯彻新发展理念，坚持稳中求进工作总基调，进一步解放思想、解放和发展社会生产力、解放和增强社会活力，统筹国内国际两个大局，统筹推进“五位一体”总体布局，协调推进“四个全面”战略布局，以经济体制改革为牵引，以促进社会公平正义、增进人民福祉为出发点和落脚点，更加注重系统集成，更加注重突出重点，更加注重改革实效，推动生产关系和生产力、上层建筑和经济基础、国家治理和社会发展更好相适应，为中国式 .. UfqiNews ↓ 2

... 09-15 06:58 , 4272 , 189 ..
[编按：转载于纽约时报中文网/荣剑，中国独立学者.
    2020-01-15. 中共的阿喀琉斯之踵：接班人怪圈.
     ] 引子----通过1949年新中国政权建立以来的实践来看，接班人问题始终随着时间的推移伴随这政权更替的每一轮次，无法回避，也不好解决.
    如果渐次地将党内斗争的血酬温和起来，争取不死人，不从肉体上消灭，和平地进行权力更替是有可能实现.
    个人独裁是不行，寡头分赃也是不行的.
    也许适合中国土壤的，或许就是党内民主选举，类似于精英群体治国一样.
    通过入党把关将精英人才选拔出来，然后在精英之间通过选举产生领导层.
    现代政治文明所需要的开放党争，媒体自由，什么时候才能来临？正文----
（2020年）1月1日，《求是》杂志刊登了习近平在（2019年）10月中共十九届四中全会的讲话，海外媒体普遍注意到，习近平在这次会议上提到了 “国家领导层能否依法有序更替”的问题，让中共接班人问题再度浮出水面.
    从会议提出的总体目标来看，中共未来力求完成两个“百年”计划，即建党百年和建国百年.
    建党百年指日可待，而建国百年则还需要30年.

以中共自十四届至十七届的执政规则和时间来看，至少需要经历三次最高权力的代际更替，这也就意味着在现任中共最高领导人之后，还将产生三任总书记.

但是，出乎人们预料的是，中共现任最高领导人习近平在2018年主导通过党的决议，进而在全国人大通过宪法修正案，对党和国家的最高权力安排作出重大改变：取消国家主席任期制.
    基于这项制度变革，中共现任最高领导人没有任期限制，终身执政没有宪法约束，在理论上可以执政到建国百年时刻——2049年.

在四中全会召开之前，外界对中共内部权力斗争与会议所谓的 “延迟”有诸多猜测，但是会议闭幕之后， ... 中国执政党中共的阿喀琉斯之踵：接班人怪圈 ⟶

... 02-08 06:19 , 7437 , 161 ..
迈向通用人工智能AGI之路：大型语言模型LLM技术精要-11

取经之路：复刻ChatGPT时要注意些什么
如果希望能复刻类似ChatGPT这种效果令人惊艳的LLM模型，综合目前的各种研究结论，在做技术选型时需要重点权衡如下问题：
首先，在预训练模式上，我们有三种选择：GPT这种自回归语言模型，Bert这种双向语言模型，以及T5这种混合模式(Encoder-Decoder架构，在Encoder采取双向语言模型，Decoder采取自回归语言模型，所以是一种混合结构，但其本质仍属于Bert模式).
    我们应选择GPT这种自回归语言模型，其原因在本文范式转换部分有做分析.
    目前看，国内LLM在做这方面技术选型的时候，貌似很多都走了Bert双向语言模型或T5混合语言模型的技术路线，很可能方向走偏了.

第二，强大的推理能力是让用户认可LLM的重要心理基础，而如果希望LLM能够具备强大的推理能力，根据目前经验，最好在做预训练的时候，要引入大量代码和文本一起进行LLM训练.
    至于其中的道理，在本文前面相关部分有对应分析.

第三，如果希望模型参数规模不要那么巨大，但又希望效果仍然足够好，此时有两个技术选项可做配置：要么增强高质量数据收集、挖掘、清理等方面的工作，意思是我模型参数可以是ChatGPT/GPT 4的一半，但是要想达到类似的效果，那么高质量训练数据的数量就需要是ChatGPT/GPT 4模型的一倍（Chinchilla的路子）；另外一个可以有效减小模型规模的路线是采取文本检索（Retrieval based）模型+LLM的路线，这样也可以在效果相当的前提下，极大减少LLM模型的参数规模.
    这两个技术选型不互斥，反而是互补的，也即是说，可以同时采取这两个技术，在模型规模相对比较小的前提下，达到超级大模型类似的效果.


... 迈向通用人工智能AGI之路：大型语言模型LLM技术精要-11 ⟶