清华大学智能产业研究院院长张亚勤：将人工智能红线作为社会风险共同应对

Ooops, Data read error for 3082172, Try new one ( 读取异常, 请尝试搜索关键词 ) ....

-loading-

听音频 🔊 . 看视频 🎦

... 2024-03-29 07:00 .. 二是未来五年要在整个架构上有大的突破，追随尺度定律(ScalingLaw)，但未必是transformer模型结构；三是智能逐渐向“人工智能手机”“人工智能PC”边缘侧延伸；四是可以实现定义任务、规划路径、自我升级、自我编码等的自主智能；五是信息式智能逐渐走向物理世界；六是大模型与生物体连结的生物智能。
    张亚勤认为，未来五年随着各大领域大规模应用人工智能技术，将带来三方面风险，包括：信息世界的风险，包含错误、虚假信息的风险；已经出现的大模型幻觉问题，随着信息智能大规模应用延伸至物理智能、生物智能时，风险也会规模化；大模型与经济体系、金融体系、军事系统、电力网络相连接的风险。
    如何防范这些风险问题，张亚勤提出五个长期建议。
    一是像标识广告一样，对人工智能生产的数字人等智能体进行标识。
    二是设立映射和注册机制。
    明确机器人作为从属体，必须映射到主体，这个主体可以是人或公司 .. UfqiNews ↓ 0

...

02-02 05:32 , 7349 , 204 ..
[编按：转载于腾讯微信/高茂源 CODEX国际创新, 2023-02-01. ]
引言
从2022年11月20号到现在整个科技界最火爆的话题莫过于ChatGPT，没有之一.

首先就是让中国的从业者感受到的就是绝望.

这种绝望，我在曾经写程序的时候体验过，当我对自己的代码效率自信满满的时候，不小心看了一段俄罗斯人写的正则表达式，当时感觉我的程序生涯都被毁了，那是一种无法超越的大山.

这种绝望，在美伊战争的时候，中国的军队体验过，那种短时间内摧毁伊拉克百万大军的军事能力所带来的绝望感，引发了过去20年中国国防的知耻后勇，拼命追赶.

这种绝望感，野球场的球星参加职业选拔的时候体验过，所有业界就有了一句糙话：去XXX的篮球梦！
中国现在的AI从业者别说超越，唯一能做的也只是根据OpenAI的产品来判断一下自己目前努力的方向是否正确而已.
    从2020年到现在，目前世界上没有任何一个AI可以重现GPT3.0的性能.
    国内的什么百度文心之流，简直不要被比的太渣.

其次， ChatGPT将会引发一场重大的生产力革命，这种革命直接影响所有脑力工作者的工作效率.
    就像人类曾经对待汽车、微信这些产品的态度一样，你喜欢不喜欢真的不重要，接受还是拒绝也不重要，你要做的只是去适应.
    因为你周围的一切都将被重构.
    这就是奇点革命，人类将进入新的发展纪元，拭目以待！唯一的变数，就是和干细胞让人类长寿、永生一样，管理者到底要如何限制它的发展？
最后，作为平行世界的人类思维，是否还可以进化.
    最低，我们增强自身思维能力的途径到底是什么？
第一部分
ChatGPT的前世今生：一个大力出奇迹的故事，more is different!
我们今天抛开专 ... 美国OpenAI的ChatGPT预示人类思维探索的极大进步 ⟶

... 05-13 06:25 , 712 , 196 ..
3.4走上歧路 在前文中，我们论述了互联网对元叙事的解构，并简要地说明了由此可能带来的危机.
    但在互联网解构元叙事的过程中，亦有另外一种趋势抬头，即道德的代码化.

由于我们不安于越来越无法令人信服的元叙事，技术乐观主义者与保守主义者妥协出的一个结果，是用技术本身来固化与强调我们已有的某些叙事——比如道德.
     但这没有解决任何问题，并且会让我们陷入更被动的境地.
    一个清晰定义且具有强大控制力的道德标准（或其他元叙事）是可怕的，因为它往往会会在各种维度上阻碍人类社会的进步.
    用更通俗的话来说，2019 可以说是人工智能的凶年.
    AI 这一词汇在大众心目中的形象与一年前相比急转直下.
    我们开始讨论推荐算法带来的信息茧房、无处不在的摄像头、换脸 App 的滥用、智能推荐广告对我们隐私的剥削、智能课堂对小学生的控制、脑波监测让心理罪成为潜在的可能.
     如果我们 ... 互联网是人类历史的一段弯路吗？-9 ⟶